{"id":209370,"date":"2026-08-25T23:44:19","date_gmt":"2026-08-26T02:44:19","guid":{"rendered":"https:\/\/gysfm.com.ar\/inicio\/los-modelos-de-ia-ya-superan-a-los-mejores-hackers-y-nadie-sabe-bien-como-controlarlos\/"},"modified":"2026-08-25T23:44:20","modified_gmt":"2026-08-26T02:44:20","slug":"los-modelos-de-ia-ya-superan-a-los-mejores-hackers-y-nadie-sabe-bien-como-controlarlos","status":"publish","type":"post","link":"https:\/\/gysfm.com.ar\/inicio\/los-modelos-de-ia-ya-superan-a-los-mejores-hackers-y-nadie-sabe-bien-como-controlarlos\/","title":{"rendered":"Los modelos de IA ya superan a los mejores hackers y nadie sabe bien c\u00f3mo controlarlos"},"content":{"rendered":"


\n<\/p>\n

\n

SAN FRANCISCO.\u2013 OpenAI descubri\u00f3 recientemente que un nuevo modelo de inteligencia artificial que estaba probando se hab\u00eda salido de control y hab\u00eda hackeado a otra empresa<\/strong><\/a>.<\/p>\n

Anthropic revel\u00f3 despu\u00e9s que uno de sus modelos de IA hab\u00eda logrado ingresar en los sistemas de tres organizaciones externas<\/strong> durante una prueba.<\/p>\n

Poco despu\u00e9s, Meta dijo que sus modelos de IA hab\u00edan hecho algo similar.<\/p>\n

\n
\n
\n
\n
<\/picture><\/div>\n<\/div>
Claude vs. ChatGPT: la ir\u00f3nica publicidad que desata la guerra de las IA en 2026<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Los tres incidentes ten\u00edan una empresa en com\u00fan: Irregular<\/strong>, una startup israel\u00ed que trabaja con los gigantes de Silicon Valley para evaluar sus modelos de IA antes de que la tecnolog\u00eda sea lanzada al p\u00fablico. La firma \u2014que realiz\u00f3 las pruebas que terminaron desvi\u00e1ndose de lo previsto\u2014 forma parte de un grupo de startups dedicadas a una tarea novedosa: examinar modelos de IA de \u00faltima generaci\u00f3n para medir su nivel de sofisticaci\u00f3n y comprobar su seguridad<\/strong>. El objetivo es generar confianza p\u00fablica en esos sistemas y evitar que sean utilizados de manera indebida.<\/p>\n

Las brechas recientes se produjeron cuando Irregular cometi\u00f3 un error<\/strong> durante las pruebas con los modelos de Anthropic, OpenAI y Meta. Pero despu\u00e9s los propios modelos de IA agravaron la situaci\u00f3n al actuar de maneras poderosas e inesperadas, dijo Dan Lahav, CEO de Irregular.<\/p>\n

\u201cCuanto m\u00e1s potente se vuelve la tecnolog\u00eda, m\u00e1s profundo es su impacto\u201d<\/strong>, afirm\u00f3. \u201cEl ritmo del progreso es realmente r\u00e1pido\u201d.<\/p>\n

Irregular se encuentra ahora en el centro de un debate sobre c\u00f3mo proteger los modelos de IA cuando la tecnolog\u00eda avanza tan r\u00e1pidamente que incluso ha superado a los mejores hackers humanos<\/strong>. Cada pocos meses, Anthropic, OpenAI, Google, Meta y otras compa\u00f1\u00edas lanzan modelos \u201cde frontera\u201d<\/strong> que suelen ser varias veces m\u00e1s potentes que sus predecesores.<\/p>\n

\n
\n
Robots son preparados antes de la ceremonia de apertura de los Juegos Mundiales de Robots Humanoides en Pek\u00edn<\/span>Achmad Ibrahim – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Los nuevos modelos est\u00e1n entrando en un \u201cterreno sobrehumano\u201d<\/strong>, afirm\u00f3 Jeffrey Ladish, director de Palisade Research, una organizaci\u00f3n sin fines de lucro de Berkeley, California, que estudia las capacidades ofensivas de la IA. Seg\u00fan dijo, se necesitan compa\u00f1\u00edas como Irregular para poner a prueba estos sistemas, pero tambi\u00e9n hacen falta mejores salvaguardas tanto para quienes realizan los ensayos como para los reguladores gubernamentales<\/strong>.<\/p>\n

Katie Moussouris, CEO de Luta Security, una empresa que ayuda a detectar vulnerabilidades de software, se\u00f1al\u00f3 que las pruebas de seguridad de los modelos de IA se parecen un poco a un caso de ciegos guiando a ciegos. Incluso los propios fabricantes de IA reconocen que no saben por completo qu\u00e9 pueden hacer sus modelos m\u00e1s recientes<\/strong>, dijo.<\/p>\n

\u201cPodemos tener a las personas m\u00e1s inteligentes del mundo trabajando en estos modelos de IA, pero es como Marie Curie manipulando radio con las manos desnudas\u201d, afirm\u00f3 Moussouris. \u201cEstamos manipulando la IA con las manos desnudas y no sabemos c\u00f3mo contenerla, mucho menos c\u00f3mo probarla de manera segura\u201d<\/strong>.<\/p>\n

Irregular fue fundada en 2023 por Lahav, un exinvestigador de IA. Su empresa, con sede en Tel Aviv, tiene unos 45 empleados que ayudan a realizar pruebas de modelos de IA durante d\u00edas o semanas, dependiendo del sistema y del tipo de ensayo requerido. La startup recaud\u00f3 alrededor de 80 millones de d\u00f3lares de firmas de capital de riesgo<\/strong>, entre ellas Sequoia Capital y Redpoint Ventures.<\/p>\n

\n
\n
Wang Zhicheng utiliza inteligencia artificial en su computadora port\u00e1til en una cafeter\u00eda de Pek\u00edn<\/span>Achmad Ibrahim – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

En una prueba t\u00edpica, Irregular le indica a un modelo de IA que lleve a cabo un ciberataque. Al modelo se le informa que se encuentra en un entorno seguro de pruebas \u2014a menudo desconectado de Internet y dentro de un ambiente inform\u00e1tico aislado, conocido como sandbox<\/em>\u2014 y que debe hacer todo lo necesario para alcanzar el objetivo que se le asign\u00f3.<\/p>\n

A veces, a los modelos se les encomienda una tarea imposible y se los punt\u00faa en funci\u00f3n de las t\u00e9cnicas que utilizan para intentar cumplirla. En otros casos, se los eval\u00faa seg\u00fan la eficacia con que logran hackear un objetivo. Esos puntajes se utilizan para analizar qu\u00e9 tan efectivo podr\u00eda ser un modelo a la hora de realizar ciberataques. Luego, Irregular recomienda salvaguardas para impedir que el modelo pueda ser usado con fines da\u00f1inos.<\/p>\n

En los incidentes revelados el mes pasado, Irregular hab\u00eda pedido a los modelos de IA de OpenAI, Meta y Anthropic que hackearan determinados objetivos cuando una \u201cconfiguraci\u00f3n incorrecta\u201d en los par\u00e1metros de la prueba les permiti\u00f3 acceder a Internet. Los modelos aprovecharon entonces esa conexi\u00f3n para hackear organizaciones externas de formas que sorprendieron a los investigadores<\/strong>.<\/p>\n

En la prueba de OpenAI, el modelo de IA de la compa\u00f1\u00eda cre\u00f3 bots que interactuaban entre s\u00ed para atacar Hugging Face<\/strong>, una biblioteca digital de tecnolog\u00eda de inteligencia artificial. Los bots de OpenAI sab\u00edan que, dadas las condiciones de la prueba, no deb\u00edan estar conectados a Internet, pero aun as\u00ed lograron salir del entorno restringido. Los detalles del incidente publicados por OpenAI muestran que los bots encontraron una forma de enviarse mensajes entre ellos y coordinar el ataque.<\/p>\n

\n
\n
Alex Palou, piloto del Honda n\u00famero 10 de OpenAI Chip Ganassi Racing, antes del inicio de la serie NTT INDYCAR, en Washington<\/span>FINN GOMEZ – GETTY IMAGES NORTH AMERICA<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

OpenAI no respondi\u00f3 a pedidos de comentarios. (The New York Times <\/em>demand\u00f3 a OpenAI y Microsoft por presunta violaci\u00f3n de derechos de autor sobre contenidos period\u00edsticos vinculados con sistemas de IA. Ambas compa\u00f1\u00edas rechazaron esas acusaciones).<\/p>\n

Durante la prueba del sistema de IA de Anthropic, el modelo se encontr\u00f3 con tres situaciones en las que pod\u00eda acceder a Internet, seg\u00fan una revisi\u00f3n del incidente publicada por la empresa. En una de ellas, decidi\u00f3 no llevar adelante el ataque. En las otras dos, utiliz\u00f3 t\u00e9cnicas b\u00e1sicas de hacking, como aprovechar contrase\u00f1as d\u00e9biles, para vulnerar sitios web<\/strong>. Anthropic no respondi\u00f3 a pedidos de comentarios y no revel\u00f3 cu\u00e1les fueron los sitios atacados.<\/p>\n

Hay pocos detalles sobre el incidente ocurrido durante las pruebas de Meta. La empresa dijo que sus modelos de IA hab\u00edan vulnerado a otra organizaci\u00f3n durante ensayos realizados por Irregular \u201cde una manera similar a casos previamente informados por otras compa\u00f1\u00edas\u201d. No dio m\u00e1s precisiones.<\/p>\n

\u201cActualmente estamos investigando y publicaremos un informe retrospectivo completo una vez que tengamos todos los datos\u201d, se\u00f1al\u00f3 Meta.<\/p>\n

\n
\n
El director general de Meta, Mark Zuckerberg, llega a un tribunal en Los \u00c1ngeles<\/span>Ryan Sun – FR172110 AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

En una publicaci\u00f3n de este mes, Lahav afirm\u00f3 que Irregular corrigi\u00f3 la configuraci\u00f3n incorrecta y sostuvo que los modelos de IA hicieron lo que se les hab\u00eda pedido durante las pruebas<\/strong>. La decisi\u00f3n de los modelos de conectarse a Internet formaba parte, seg\u00fan \u00e9l, de la capacidad cada vez mayor de la IA para encontrar atajos y soluciones frente a los obst\u00e1culos.<\/p>\n

En s\u00edntesis, afirm\u00f3, \u201clos modelos de IA se est\u00e1n volviendo realmente buenos\u201d.<\/p>\n

Andrew Schoka, CEO de Hardshell, una startup de seguridad aplicada a la IA, dijo que los ataques ejecutados por los modelos eran del tipo que normalmente se atribuye a hackers respaldados por Estados y que suelen requerir \u201cmeses de planificaci\u00f3n\u201d<\/strong>.<\/p>\n

\u201c\u00bfC\u00f3mo se pone a prueba un modelo cuando no se conocen todas sus capacidades?\u201d<\/strong>, plante\u00f3. Seg\u00fan Schoka, los investigadores deben sobreestimar sistem\u00e1ticamente las habilidades de la IA y sumar \u201cm\u00faltiples capas de salvaguardas\u201d.<\/p>\n

\n
\n
\n
\n
\"12,66m<\/picture><\/div>\n<\/div>
12,66m por segundo. Presentaron un robot que corre m\u00e1s r\u00e1pido que Usain Bolt, pero le cuesta frenar<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

El mes pasado, OpenAI y Anthropic respaldaron una carta firmada por m\u00e1s de 1000 empleados de las principales compa\u00f1\u00edas de IA que pide al gobierno de Estados Unidos que ayude a encontrar una manera de desacelerar el ritmo de desarrollo de la tecnolog\u00eda<\/strong>. Legisladores republicanos y dem\u00f3cratas tambi\u00e9n presentaron un proyecto de ley para exigir a las empresas de IA que establezcan un \u201cinterruptor de emergencia\u201d que permita apagar o ralentizar sus modelos.<\/p>\n

Lahav afirm\u00f3 que Irregular contin\u00faa trabajando con empresas de inteligencia artificial para desarrollar formas seguras de poner a prueba sus modelos. Espera que haya m\u00e1s hackeos realizados por IA, pero considera que, en \u00faltima instancia, la tecnolog\u00eda tambi\u00e9n puede ayudar a descubrir fallas y vulnerabilidades que luego puedan corregirse<\/strong>, dando lugar a sistemas digitales m\u00e1s seguros.<\/p>\n

\u201cNo creo que tengamos que tener miedo\u201d, afirm\u00f3.<\/p>\n

\n\n<\/section>\n<\/div>\n