{"id":205887,"date":"2026-07-23T23:47:09","date_gmt":"2026-07-24T02:47:09","guid":{"rendered":"https:\/\/gysfm.com.ar\/inicio\/una-ia-china-neutraliza-a-un-agente-rebelde-de-openai-y-alarma-a-silicon-valley\/"},"modified":"2026-07-23T23:47:10","modified_gmt":"2026-07-24T02:47:10","slug":"una-ia-china-neutraliza-a-un-agente-rebelde-de-openai-y-alarma-a-silicon-valley","status":"publish","type":"post","link":"https:\/\/gysfm.com.ar\/inicio\/una-ia-china-neutraliza-a-un-agente-rebelde-de-openai-y-alarma-a-silicon-valley\/","title":{"rendered":"Una IA china neutraliza a un agente rebelde de OpenAI y alarma a Silicon Valley"},"content":{"rendered":"


\n<\/p>\n

\n

WASHINGTON.- El uso por parte de una startup neoyorquina de un modelo de IA chino para neutralizar a un programa <\/strong>agente rebelde creado con tecnolog\u00eda OpenAI<\/strong><\/a> <\/strong>est\u00e1 avivando los temores de que las salvaguardias que restringen a las empresas de IA estadounidenses de realizar trabajos de ciberseguridad puedan empujar a los clientes hacia sus rivales con sede en Pek\u00edn<\/strong>.<\/p>\n

La startup afectada, Hugging Face<\/strong>, declar\u00f3 que la semana pasada recurri\u00f3 al modelo de c\u00f3digo abierto GLM-5.2 de Zhipu AI<\/strong> para analizar los datos del ataque inform\u00e1tico, despu\u00e9s de que los principales modelos de IA estadounidenses no pudieran h<\/strong>acer la tarea<\/strong>, incapaces de distinguir qui\u00e9n era el defensor y qui\u00e9n el atacante.<\/p>\n

\n
\n
Clement Delangue, CEO de Hugging Face<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Si bien el incidente fue causado por un caso particular de un agente aut\u00f3nomo que sali\u00f3 de control, puso de manifiesto que las empresas estadounidenses que se enfrentan a ciberataques impulsados \u200b\u200bpor IA pueden verse limitadas por los laboratorios de IA estadounidenses, que restringen el acceso a sus modelos m\u00e1s avanzados<\/strong> o los dise\u00f1an para que rechacen tareas relacionadas con la pirater\u00eda inform\u00e1tica por motivos de seguridad.<\/p>\n

Por ejemplo, el modelo avanzado Claude Fable 5 de Anthropic redirige las consultas de ciberseguridad a un modelo m\u00e1s antiguo<\/strong>, mientras que GPT-5.6 Sol de OpenAI cuenta con protecciones dise\u00f1adas para bloquear el trabajo cibern\u00e9tico<\/strong>.<\/p>\n

\u201cTodos estamos aprendiendo que el secretismo no es la respuesta y que todos los defensores (no solo unos pocos elegidos) en todas partes necesitan modelos m\u00e1s poderosos sin restricciones, \u00a1especialmente los abiertos<\/strong>!\u201d, dijo Clement Delangue<\/strong>, cofundador de Hugging Face, en X.<\/p>\n

El dilema para los principales fabricantes de modelos estadounidenses radica en que las labores de ciberseguridad defensiva suelen ser dif\u00edciles de distinguir de los ataques inform\u00e1ticos maliciosos. <\/p>\n

En recientes brechas de seguridad habilitadas por IA, los atacantes enga\u00f1aron a los modelos haci\u00e9ndoles creer que realizaban labores de defensa leg\u00edtimas<\/strong>, lo que ha generado recelo entre las empresas de IA a la hora de relajar las medidas de seguridad, incluso cuando los profesionales de la ciberseguridad afirman que estas medidas pueden obstaculizar su trabajo.<\/p>\n

Por ahora, las consecuencias est\u00e1n dando un nuevo impulso a los modelos chinos de c\u00f3digo abierto, como GLM-5.2, que est\u00e1n ganando terreno en Silicon Valley con capacidades de codificaci\u00f3n y de agentes que casi rivalizan con las de OpenAI y Anthropic a un menor costo.<\/p>\n

\n
\n
Dario Amodei, CEO y cofundador de Anthropic, asiste a la reuni\u00f3n anual del Foro Econ\u00f3mico Mundial en Davos, Suiza<\/span>Markus Schreiber – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Pek\u00edn tambi\u00e9n ha estado utilizando cada vez m\u00e1s el c\u00f3digo abierto para posicionarse como una alternativa a Estados Unidos<\/strong> en esta carrera de alto riesgo, y los medios estatales chinos presentan cada vez m\u00e1s esta estrategia como una respuesta a lo que denominan un intento liderado por Estados Unidos de erigir una \u201cCortina de Hierro de la IA\u201d.<\/strong><\/p>\n

\u201cUn r\u00e9gimen de seguridad que restringe a los defensores leg\u00edtimos, mientras que los atacantes siguen teniendo acceso a modelos capaces, crea una desventaja asim\u00e9trica\u201d, afirm\u00f3 Lukasz Olejnik<\/strong>, consultor tecnol\u00f3gico independiente e investigador principal visitante del Departamento de Estudios de Guerra del King\u2019s College de Londres.<\/p>\n

\u201cEsta brecha no har\u00e1 sino ampliarse a medida que los modelos de c\u00f3digo abierto se vuelvan cada vez m\u00e1s potentes, pero carezcan de salvaguardias o restricciones.\u201d<\/p>\n

La importancia del c\u00f3digo abierto<\/span><\/h2>\n<\/p>\n

Cuando se le pregunt\u00f3 si las medidas de seguridad estaban obstaculizando el trabajo de ciberseguridad, OpenAI remiti\u00f3 a una publicaci\u00f3n de su blog<\/a>, mientras que Anthropic no respondi\u00f3 de inmediato a una solicitud de comentarios.<\/p>\n

El creador de ChatGPT dijo en la publicaci\u00f3n del blog del martes: \u201cHemos incorporado a Hugging Face al programa de acceso seguro y estamos ayudando a sus equipos a utilizar r\u00e1pidamente las capacidades de nuestros modelos para mejorar sus defensas\u201d<\/strong>.<\/p>\n

\n
\n
OpenAi reconoci\u00f3 que su sistema atac\u00f3 Hugging Face<\/span>Michael Dwyer – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Para Zhipu AI, con sede en Pek\u00edn, el respaldo de Hugging Face se suma al impulso que GLM-5.2 ha adquirido desde su lanzamiento el mes pasado.<\/p>\n

El modelo ha escalado r\u00e1pidamente posiciones en las listas de uso de plataformas para desarrolladores como OpenRouter y ha cosechado elogios de figuras que van desde el CEO de Snowflake, Sridhar Ramaswamy, hasta el inversor de capital riesgo Marc Andreessen.<\/p>\n

Zhipu AI que recaud\u00f3 alrededor de 4000 millones de d\u00f3lares<\/strong> en una venta de acciones en Hong Kong a principios de este mes, tambi\u00e9n ha visto c\u00f3mo sus acciones se multiplicaban casi por nueve desde su debut en enero.<\/p>\n

Sin embargo, algunos analistas advirtieron el mi\u00e9rcoles que el incidente no deber\u00eda utilizarse para promover una relajaci\u00f3n de las medidas de seguridad estadounidenses.<\/p>\n

\u201cLas medidas de ciberseguridad aplicadas a los modelos de negocio emergentes de Estados Unidos est\u00e1n creando una oportunidad competitiva, pero la soluci\u00f3n no consiste simplemente en eliminarlas<\/strong>\u201d, afirm\u00f3 Shrenik Kothari<\/strong>, analista de Robert W. Baird.<\/p>\n

\u201cOpenAI, Anthropic y Google deber\u00edan replantearse la arquitectura de acceso en lugar de abandonar la seguridad… En otras palabras, pasar de una capa de rechazo generalizada a una asignaci\u00f3n de capacidades controlada.\u201d<\/p>\n

\n
\n
\n
\n
\n
\n
\n

Por Aditya Soni<\/strong> y <\/span>Jaspreet Singh<\/strong><\/span><\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n<\/section>\n<\/div>\n