\n<\/p>\n
El CEO de OpenAI, Sam Altman<\/strong>, advirti\u00f3 este lunes sobre dos escenarios en los que <\/strong>el avance de la inteligencia artificial podr\u00eda \u201csalir muy mal\u201d<\/strong><\/a> y asegur\u00f3 que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro. Adem\u00e1s, reclam\u00f3 reglas de seguridad comunes para las empresas<\/a> que desarrollan los modelos m\u00e1s avanzados y sostuvo que \u201cninguna cantidad de presi\u00f3n competitiva estadounidense deber\u00eda justificar la imprudencia\u201d<\/strong>.<\/p>\n \u201cHay dos formas en que el progreso de la IA podr\u00eda salir muy mal y que debemos evitar<\/strong>\u201d, plante\u00f3 Altman en una serie de publicaciones en X, difundidas despu\u00e9s de anunciar que OpenAI no saldr\u00e1 a bolsa este a\u00f1o.<\/a><\/p>\n El empresario se\u00f1al\u00f3 como primer riesgo la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez m\u00e1s capaces<\/strong>. \u201cPodr\u00edamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas\u201d, afirm\u00f3.<\/p>\n Para evitar ese escenario, Altman consider\u00f3 necesario que las t\u00e9cnicas destinadas a garantizar la alineaci\u00f3n y la seguridad de los sistemas avancen al mismo ritmo o incluso por delante de las capacidades de los modelos<\/strong>. \u201cNecesitamos formas de asegurar que las t\u00e9cnicas de alineaci\u00f3n y seguridad se mantengan por delante del progreso en las capacidades de los modelos\u201d, sostuvo.<\/p>\n El segundo peligro se\u00f1alado por el CEO de OpenAI es una excesiva concentraci\u00f3n de poder<\/strong> en manos de quienes controlen las tecnolog\u00edas m\u00e1s avanzadas. Seg\u00fan advirti\u00f3, una inteligencia artificial extraordinariamente poderosa podr\u00eda convertirse en una herramienta para que una persona, una empresa o incluso un pa\u00eds impongan sus intereses sobre el resto.<\/p>\n \u201cPodr\u00edamos terminar en un mundo con demasiada concentraci\u00f3n de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visi\u00f3n del mundo a todos los dem\u00e1s, los resultados podr\u00edan ser extremadamente dist\u00f3picos<\/strong>\u201d, dijo.<\/p>\n Altman reconoci\u00f3, sin embargo, que evitar simult\u00e1neamente esos dos escenarios plantea un desaf\u00edo. \u201cEvitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un pa\u00eds podr\u00eda ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder\u201d, agreg\u00f3. <\/p>\n En otra publicaci\u00f3n, el empresario profundiz\u00f3 sobre las medidas que considera necesarias para controlar los riesgos asociados con los modelos de IA m\u00e1s avanzados<\/strong>. All\u00ed sostuvo que las compa\u00f1\u00edas estadounidenses que trabajan en el sector deben ofrecer garant\u00edas de que actuar\u00e1n responsablemente, especialmente ante la aceleraci\u00f3n que experiment\u00f3 la tecnolog\u00eda.<\/p>\n \u201cEl mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez m\u00e1s capaz actuar\u00e1n de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado<\/strong>\u201d, afirm\u00f3.<\/p>\n En ese sentido, Altman se mostr\u00f3 a favor de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada IA de frontera<\/strong>, es decir, los modelos ubicados en el l\u00edmite de las capacidades actuales. Tambi\u00e9n respald\u00f3 la posibilidad de incorporar auditores independientes<\/strong> como parte de los mecanismos de control.<\/p>\n \u201cDamos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera\u201d, se\u00f1al\u00f3. Sin embargo, consider\u00f3 que las empresas no deber\u00edan esperar la aprobaci\u00f3n de nuevas leyes para comenzar a implementar esas medidas<\/strong>.<\/p>\n Finalmente, Altman sostuvo que el gobierno estadounidense tendr\u00e1 un papel particularmente importante en la coordinaci\u00f3n internacional<\/strong> de las medidas de seguridad, aunque insisti\u00f3 en que las compa\u00f1\u00edas no deber\u00edan esperar una intervenci\u00f3n estatal para comenzar a actuar. \u201cDonde necesitaremos la ayuda de nuestro gobierno es para la coordinaci\u00f3n internacional. Pero primero debemos hacer lo que podamos nosotros mismos\u201d, concluy\u00f3.<\/p>\n Tres de las figuras m\u00e1s poderosas de la carrera global por la inteligencia artificial \u2014los jefes de Anthropic y OpenAI y Elon Musk\u2014 coincidieron el s\u00e1bado en una advertencia poco habitual dentro de una industria marcada por la competencia feroz<\/a>: es necesario bajar el ritmo en el desarrollo de los modelos m\u00e1s avanzados <\/strong>para ganar tiempo y reforzar las medidas de seguridad.<\/p>\n El primero en plantearlo fue Dario Amodei<\/strong>, director ejecutivo y cofundador de Anthropic<\/a>, la empresa detr\u00e1s del chatbot Claude. Horas despu\u00e9s, Altman \u2014uno de sus principales rivales\u2014 respald\u00f3 p\u00fablicamente su propuesta<\/strong> y anunci\u00f3 que su compa\u00f1\u00eda adoptar\u00e1 una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.<\/p>\n \u201cCoincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA<\/strong>\u201d, escribi\u00f3 Altman. El empresario asegur\u00f3 que el asunto hab\u00eda sido uno de los principales temas de discusi\u00f3n dentro de OpenAI durante las \u00faltimas semanas y calific\u00f3 como \u201cuna gran idea\u201d la incorporaci\u00f3n de supervisores externos. \u201cNosotros haremos lo mismo. Pronto tendremos m\u00e1s para compartir\u201d<\/strong>, agreg\u00f3.<\/p>\n Poco despu\u00e9s se sum\u00f3 Elon Musk<\/strong>, due\u00f1o de xAI y creador del chatbot Grok, quien tambi\u00e9n respald\u00f3 el planteo de Amodei. \u201cDario tiene raz\u00f3n\u201d, escribi\u00f3 escuetamente en X.<\/p>\n El pronunciamiento conjunto supone una se\u00f1al llamativa en un sector en el que las principales compa\u00f1\u00edas compiten por lanzar modelos cada vez m\u00e1s poderosos. OpenAI ya hab\u00eda informado en agosto que hab\u00eda desacelerado temporalmente parte del entrenamiento de sus modelos de frontera<\/strong> para reforzar sus sistemas de monitoreo, alineaci\u00f3n y seguridad despu\u00e9s de una serie de incidentes y ante indicios de que sus pr\u00f3ximos sistemas podr\u00edan alcanzar capacidades cr\u00edticas en materia de ciberseguridad.<\/p>\n En su ensayo, publicado este s\u00e1bado, Amodei fue m\u00e1s lejos y pidi\u00f3 que las compa\u00f1\u00edas act\u00faen con mayor cautela frente a una tecnolog\u00eda cuyos riesgos, advirti\u00f3, crecen a medida que aumenta su poder.<\/p>\n Advirti\u00f3, adem\u00e1s, que \u201cun liderazgo chino en IA supondr\u00eda un grave peligro para Estados Unidos y el mundo\u201d. Pidi\u00f3 mantener las restricciones a la venta a China de chips de IA de \u00faltima generaci\u00f3n y de equipos para fabricar chips, con el fin de preservar la ventaja de Estados Unidos en IA.<\/p>\n Las acciones vinculadas a la inteligencia artificial se desplomaban<\/a> el lunes en todo el mundo, despu\u00e9s de que los l\u00edderes de las principales empresas del sector advirtieran sobre <\/strong>los riesgos derivados del r\u00e1pido desarrollo<\/strong><\/a> de esta tecnolog\u00eda<\/strong>.<\/p>\n Se trata de la amenaza m\u00e1s contundente hasta ahora para los miles de millones de d\u00f3lares que se est\u00e1n volcando en una industria que ha llevado a los mercados mundiales a niveles r\u00e9cord<\/strong>.<\/p>\n Varios incidentes en los que agentes de IA de desarrolladores como OpenAI \u2014rival de Anthropic\u2014 vulneraron o intentaron acceder a sistemas externos agravaron la preocupaci\u00f3n <\/strong>por la creciente capacidad de los modelos \u200cde IA y la capacidad de los desarrolladores \u200bpara controlarlos.<\/p>\n Con informaci\u00f3n de AP y Reuters<\/em><\/p>\nPedido de los gigantes<\/span><\/h2>\n<\/p>\n
Ca\u00edda en los mercados<\/span><\/h2>\n<\/p>\n