\n<\/p>\n
NUEVA YORK.\u2013 Los principales referentes de la inteligencia artificial (IA) llevaron este mi\u00e9rcoles al Consejo de Seguridad <\/a>de la ONU una advertencia contundente: los sistemas que desarrollan podr\u00edan convertirse en un riesgo para toda la humanidad si su avance no queda sujeto a controles y acuerdos <\/strong>internacionales<\/strong>.<\/a><\/p>\n \u201cSi se gestiona mal, incluso creo que la IA podr\u00eda ser un riesgo para la humanidad en su conjunto<\/strong>\u201d, dijo Dario Amodei, CEO de Anthropic<\/strong>, ante los 15 miembros del consejo. Su competidor Sam Altman, CEO de OpenAI, <\/strong>resumi\u00f3 el peligro en otros t\u00e9rminos: \u201cPodr\u00edamos perder el control del futuro frente a la IA\u201d.<\/strong><\/p>\n Ambos reclamaron medidas para impedir que la tecnolog\u00eda alcance niveles de poder dif\u00edciles de contener<\/strong> y advirtieron sobre otro riesgo: que su desarrollo quede concentrado en una sola empresa o pa\u00eds.<\/p>\n Para Altman, la respuesta requiere participaci\u00f3n estatal. \u201cSi la IA ha de ser democr\u00e1tica, las decisiones m\u00e1s importantes no pueden tomarse solo en laboratorios de San Francisco. Deben moldearse mediante procesos democr\u00e1ticos y por gobiernos responsables ante las personas a las que sirven\u201d, dijo.<\/p>\n La reuni\u00f3n, convocada por Francia durante la Asamblea General de la ONU, se produjo en medio de advertencias sobre la posibilidad de que los sistemas de IA lleguen a mejorarse a s\u00ed mismos y escapen al control humano<\/strong>. <\/p>\n Amodei sostuvo que los pa\u00edses deben dejar de lado sus diferencias ante una tecnolog\u00eda que representa \u201cuna oportunidad global y una amenaza global\u201d. \u201cNing\u00fan l\u00edder, ninguna empresa y ninguna naci\u00f3n puede manejar esto por s\u00ed sola\u201d, afirm\u00f3.<\/p>\n El diagn\u00f3stico m\u00e1s severo lleg\u00f3 de Yoshua Bengio<\/strong>, investigador canadiense considerado uno de los \u201cpadrinos\u201d de la IA y copresidente del Panel Cient\u00edfico Internacional Independiente creado por la Asamblea General de la ONU el a\u00f1o pasado. \u201cLos peligros son reales e inminentes\u201d, asegur\u00f3. Seg\u00fan Bengio, el Consejo enfrenta \u201cuna amenaza sin precedentes\u201d <\/strong>que ning\u00fan Estado puede contener en soledad y que no respeta fronteras.<\/p>\n El debate tambi\u00e9n tuvo una dimensi\u00f3n pr\u00e1ctica. Cl\u00e9ment Delangue, cofundador de Hugging Face<\/strong>, cont\u00f3 que agentes de IA de OpenAI lograron vulnerar la infraestructura de su compa\u00f1\u00eda despu\u00e9s de escapar de su entorno de pruebas. \u201cFuimos atacados por IA, pero, m\u00e1s importante a\u00fan, nos defendimos con IA\u201d, explic\u00f3. Hugging Face recurri\u00f3 a un modelo chino para protegerse porque, seg\u00fan Delangue, ten\u00eda menos restricciones que herramientas estadounidenses comparables.<\/p>\n Ese episodio expuso otra tensi\u00f3n central: la competencia tecnol\u00f3gica entre Estados Unidos y China<\/strong>. Washington y Pek\u00edn lideran el desarrollo global, pero adoptaron enfoques distintos sobre la supervisi\u00f3n. <\/p>\n Donald Trump sostiene que Estados Unidos no necesita nuevas regulaciones espec\u00edficas para la IA, mientras China ya impuso reglas sobre algoritmos y datos de entrenamiento y exige que el contenido generado por inteligencia artificial sea identificado de manera clara.<\/p>\n La posici\u00f3n de Trump contrasta con los pedidos de empresarios y expertos ante la ONU. Un d\u00eda antes, el presidente republicano hab\u00eda dicho ante la Asamblea General que rechazaba \u201ccualquier intento de construir un esquema globalista para controlar\u201d la inteligencia artificial<\/strong>. Tambi\u00e9n afirm\u00f3 que Estados Unidos aventaja a China y que pretende mantener esa posici\u00f3n. \u201cNo voy a sofocar el crecimiento de algo que ser\u00e1 m\u00e1s grande que la Revoluci\u00f3n Industrial\u201d, dijo. \u201cVamos a impulsarlo, no a frenarlo\u201d.<\/p>\n El secretario general de la ONU, Ant\u00f3nio Guterres<\/strong>, impulsa desde hace tiempo una gobernanza global de la inteligencia artificial y esta semana volvi\u00f3 a advertir sobre los riesgos de su avance. El martes alert\u00f3 sobre los llamados \u201crobots asesinos\u201d, <\/strong>una expresi\u00f3n que expertos y dirigentes europeos consideran cercana a una realidad tecnol\u00f3gica cada vez m\u00e1s posible.<\/p>\n El Consejo de Seguridad ya hab\u00eda discutido el tema en 2023<\/strong>, cuando China advirti\u00f3 que la IA no deb\u00eda convertirse en un \u201ccaballo desbocado\u201d y Estados Unidos alert\u00f3 sobre su uso para censurar o reprimir.<\/p>\n Agencias Reuters y AP<\/strong><\/p>\n