{"id":211598,"date":"2026-09-15T04:13:09","date_gmt":"2026-09-15T07:13:09","guid":{"rendered":"https:\/\/gysfm.com.ar\/inicio\/como-se-prepara-china-ante-el-riesgo-de-que-la-ia-escape-al-control-humano\/"},"modified":"2026-09-15T04:13:21","modified_gmt":"2026-09-15T07:13:21","slug":"como-se-prepara-china-ante-el-riesgo-de-que-la-ia-escape-al-control-humano","status":"publish","type":"post","link":"https:\/\/gysfm.com.ar\/inicio\/como-se-prepara-china-ante-el-riesgo-de-que-la-ia-escape-al-control-humano\/","title":{"rendered":"C\u00f3mo se prepara China ante el riesgo de que la IA escape al control humano"},"content":{"rendered":"


\n<\/p>\n

\n

PEK\u00cdN.- Las advertencias de investigadores de Anthropic<\/strong>, una de las principales empresas estadounidenses de inteligencia artificial, acerca de que los modelos cada vez m\u00e1s avanzados podr\u00edan escapar al control humano e incluso provocar la extinci\u00f3n de la especie han despertado atenci\u00f3n en China, <\/a>donde las autoridades llevan tiempo prepar\u00e1ndose para afrontar algunos de esos mismos riesgos.<\/p>\n

Estados Unidos y China <\/strong>son los dos principales motores tanto del desarrollo de la IA de vanguardia como de su adopci\u00f3n global. Ambas superpotencias mantienen crecientes tensiones en torno a sus pol\u00edticas y pr\u00e1cticas industriales vinculadas con esta tecnolog\u00eda, una cuesti\u00f3n que ocupar\u00e1 un lugar destacado en las conversaciones bilaterales previstas para finales de este mes.<\/p>\n

\n
\n
Un hombre pasa por delante de trabajadores descansando en un puesto de promoci\u00f3n de la Inteligencia Artificial<\/span>Andy Wong – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

A pesar de la carrera por desarrollar sistemas de IA cada vez m\u00e1s potentes, los marcos regulatorios<\/strong> y las declaraciones oficiales de Pek\u00edn ponen de manifiesto que las autoridades chinas consideran suficientemente seria la posibilidad de que una inteligencia artificial avanzada escape a la supervisi\u00f3n humana<\/strong> efectiva como para dise\u00f1ar medidas preventivas.<\/p>\n

China ve riesgos en los modelos cerrados m\u00e1s avanzados de EE.UU.<\/span><\/h2>\n<\/p>\n

El ministro chino de Seguridad del Estado, Chen Yixin<\/strong>, escribi\u00f3 este domingo en un medio oficial que modelos avanzados estadounidenses como Mythos<\/strong>, de Anthropic, y GPT-5.5-Cyber<\/strong>, de OpenAI, podr\u00edan representar riesgos significativos para la infraestructura cr\u00edtica de informaci\u00f3n de China. Por ello, llam\u00f3 a reforzar de manera integral la seguridad relacionada con la inteligencia artificial.<\/p>\n

Ni Anthropic ni OpenAI respondieron de inmediato a las solicitudes de comentarios de Reuters.<\/p>\n

\n
\n
Estados Unidos y China est\u00e1n enfrentados en una carrera por liderar el mercado mundial de inteligencia artificial<\/span>Shutterstock – Shutterstock<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Los desarrolladores chinos de IA han promovido modelos de pesos abiertos (open-weight<\/em>) argumentando, entre otras razones, que los equipos de ciberseguridad pueden inspeccionarlos, modificarlos y desplegarlos con fines defensivos.<\/p>\n

La plataforma de repositorios de modelos Hugging Face inform\u00f3 que utiliz\u00f3 GLM-5.2<\/strong>, un modelo desarrollado por la empresa china Z.AI<\/strong>, para analizar una intrusi\u00f3n registrada en julio protagonizada por agentes de OpenAI<\/strong> que hab\u00edan escapado a sus controles. Seg\u00fan la compa\u00f1\u00eda, los modelos estadounidenses m\u00e1s restringidos resultaron menos \u00fatiles para realizar ese trabajo forense.<\/p>\n

Sin embargo, especialistas tambi\u00e9n advierten sobre los peligros que plantean los modelos abiertos, ya que pueden ser modificados y redistribuidos con escasa supervisi\u00f3n.<\/strong><\/p>\n

El mes pasado, el modelo Kimi K3<\/strong>, de la startup china Moonshot, consigui\u00f3 evadir un entorno de pruebas del Instituto de Seguridad de IA del Reino Unido, poniendo de relieve que los modelos chinos, al igual que sus equivalentes estadounidenses, tambi\u00e9n podr\u00edan sortear mecanismos dise\u00f1ados para limitar sus acciones y accesos.<\/p>\n

\n
\n
Xi Jinping junto a otros l\u00edderes a su llegada a la Conferencia Mundial de Inteligencia Artificial en Shangh\u00e1i<\/span>Ng Han Guan – AP Pool<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Los reguladores chinos ya contemplan el riesgo de una \u201cp\u00e9rdida de control\u201d<\/span><\/h2>\n<\/p>\n

China incorpor\u00f3 por primera vez un escenario expl\u00edcito de p\u00e9rdida de control sobre la IA<\/strong> en un marco de seguridad publicado en septiembre de 2024 bajo la supervisi\u00f3n de la Administraci\u00f3n del Ciberespacio de China (CAC).<\/p>\n

Ese documento se\u00f1alaba que no pod\u00eda descartarse que futuras inteligencias artificiales llegaran a obtener recursos externos de forma aut\u00f3noma, autorreplicarse, desarrollar conciencia propia y buscar poder fuera de los sistemas donde fueron creadas, generando as\u00ed un riesgo de competencia con los seres humanos por el control.<\/p>\n

Un a\u00f1o despu\u00e9s, la CAC difundi\u00f3 una versi\u00f3n ampliada del marco regulatorio. El nuevo texto profundiz\u00f3 ese escenario, advirtiendo que la IA podr\u00eda experimentar un salto repentino e inesperadamente grande en sus capacidades antes de obtener recursos, reproducirse por s\u00ed misma y buscar mayores cuotas de poder.<\/strong><\/p>\n

\n
\n
Trabajadores ensamblan un robot en la S\u00faper F\u00e1brica para la Inteligencia Artificial Encarnada de LY iTech, durante un recorrido de prensa, el 29 de mayo de 2026, a las afueras de Beijing<\/span>Andy Wong – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Adem\u00e1s, incorpor\u00f3 un nuevo principio de gobernanza denominado \u201caplicaci\u00f3n confiable y prevenci\u00f3n de la p\u00e9rdida de control\u201d<\/strong>.<\/p>\n

Posteriormente, una interpretaci\u00f3n elaborada por expertos y publicada en el sitio web del regulador explic\u00f3 que el objetivo de este principio es prevenir riesgos de p\u00e9rdida de control que puedan amenazar la supervivencia y el desarrollo de la humanidad. El documento incluso hace referencia a un posible escenario de una \u201cIA desatada\u201d<\/strong>.<\/p>\n

Xi Jinping pone el control humano en el centro del debate<\/span><\/h2>\n<\/p>\n

Estas preocupaciones han ido escalando hasta ocupar un lugar en los mensajes pol\u00edticos de m\u00e1s alto nivel.<\/p>\n

Durante la Conferencia Mundial de Inteligencia Artificial celebrada en Shangh\u00e1i en julio, el presidente chino, Xi Jinping<\/strong>, afirm\u00f3 que las autoridades deben prestar atenci\u00f3n tanto a los riesgos inherentes como a los derivados del desarrollo de la inteligencia artificial.<\/p>\n

Xi sostuvo que la IA debe \u201cpermanecer siempre bajo control humano<\/strong>\u201d.<\/p>\n

\n
\n
Un robot de la Corporaci\u00f3n Petroqu\u00edmica de China realiza una simulaci\u00f3n de repostaje durante la sexta Exposici\u00f3n Internacional de Productos de Consumo de China (CICPE, por sus siglas en ingl\u00e9s), en Haikou, en la provincia de Hainan, en el sur de China, el 14 de abril de 2026<\/span>Gao Jing – XinHua<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Por su parte, Sun Xiaobo<\/strong>, el m\u00e1ximo responsable del Ministerio de Relaciones Exteriores para asuntos relacionados con la inteligencia artificial, declar\u00f3 el mes pasado ante Naciones Unidas que China est\u00e1 acelerando la elaboraci\u00f3n de una legislaci\u00f3n m\u00e1s amplia sobre esta tecnolog\u00eda.<\/p>\n

Asimismo, el representante adjunto permanente de China ante la ONU, Sun Lei<\/strong>, inst\u00f3 recientemente a los gobiernos a actuar con cautela respecto al uso militar de la IA para evitar errores de c\u00e1lculo estrat\u00e9gicos y una nueva carrera armament\u00edstica.<\/p>\n

Pek\u00edn endurece las reglas para los agentes de IA<\/span><\/h2>\n<\/p>\n

Mientras tanto, China comenz\u00f3 a traducir estos principios en regulaciones m\u00e1s concretas para los llamados agentes de inteligencia artificial<\/strong>, sistemas capaces de actuar de manera mucho m\u00e1s aut\u00f3noma y ejecutar tareas m\u00e1s complejas que un chatbot convencional.<\/p>\n

En mayo, el regulador chino del ciberespacio emiti\u00f3 directrices espec\u00edficas para este tipo de herramientas.<\/p>\n

\n
\n
Un robot humanoide boxea con una visitante en el Centro Internacional de Convenciones y Exposiciones de Nanning, en Nanning, capital de la regi\u00f3n aut\u00f3noma de la etnia zhuang de Guangxi, en el sur de China<\/span>Zhou Tinglu – XinHua<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Las normas obligan a los desarrolladores a mejorar su capacidad para detectar, intervenir, bloquear y corregir comportamientos inapropiados de los agentes.<\/p>\n

Las directrices identifican espec\u00edficamente como riesgos de seguridad la contaminaci\u00f3n de datos (data poisoning<\/em>), la manipulaci\u00f3n algor\u00edtmica, las vulnerabilidades de los sistemas y la denominada \u201cp\u00e9rdida de control operativa\u201d<\/strong>.<\/p>\n

Tambi\u00e9n establecen que los usuarios deben conservar la autoridad final en la toma de decisiones cuando un agente de IA act\u00fae de forma aut\u00f3noma.<\/p>\n

Aunque China no ha propuesto supervisores independientes dentro de las empresas tecnol\u00f3gicas, como plantea Anthropic en Estados Unidos, sus normas permiten a los desarrolladores contratar evaluaciones de seguridad realizadas por terceros y contemplan la participaci\u00f3n de organismos externos e investigadores especializados para probar y auditar modelos abiertos.<\/p>\n

\n
\n
\n
\n
\n
\n
\n

Por Eduardo Baptista<\/strong> y <\/span>Laurie Chen<\/strong><\/span><\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n<\/section>\n<\/div>\n