\n<\/p>\n
El modelo de inteligencia artificial de Google<\/a>, Gemini<\/strong>, hacke\u00f3 los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. Es la primera vez que se reporta este tipo de problema en el modelo de la compa\u00f1\u00eda. El hackeo ocurre meses despu\u00e9s de diversos incidentes de ciberseguridad similares que involucraron a OpenAI y Anthropic, dos de las principales empresas de modelos de IA. <\/p>\n La responsable de seguridad de Google<\/a>, Heather Adkins, inform\u00f3 que Gemini encontr\u00f3 \u201cinformaci\u00f3n p\u00fablica online y adivin\u00f3 las credenciales para acceder a sitios web<\/strong> que cre\u00eda que formaban parte de la prueba\u201d. Se\u00f1al\u00f3 que en cada caso el modelo \u201cse detuvo\u201d. <\/p>\n Sin precisar nombres, Google indic\u00f3 que tres organizaciones se vieron afectadas<\/strong> y asegur\u00f3 que fueron informadas de las filtraciones de datos. En uno de los casos el modelo prob\u00f3 varias combinaciones de contrase\u00f1as hasta que consigui\u00f3 acceder al sistema protegido. <\/p>\n Los ataques se produjeron en mayo durante una prueba realizada por Irregular<\/strong>, una empresa independiente que lleva adelante evaluaciones de ciberseguridad<\/a>, inform\u00f3 la BBC<\/em>. La compa\u00f1\u00eda inform\u00f3 a Google y a todas las entidades afectadas en julio. <\/p>\n \u201cIrregular tom\u00f3 medidas inmediatas<\/strong> y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas\u201d, detallaron a la BBC<\/em>. Tras ello, Google abri\u00f3 una investigaci\u00f3n.<\/p>\n \u201cNos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitaci\u00f3n en los cambios que han implementado en sus procesos de prueba. Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que act\u00faen de forma responsable<\/strong>\u201d, sostuvo Adkins a la cadena brit\u00e1nica.<\/p>\n El incidente ocurre pocos despu\u00e9s de que los ejecutivos de los gigantes de la IA pidieran ralentizar el desarrollo de sus modelos<\/a> para autorregular el sector<\/strong> ante recientes incidentes de seguridad.<\/p>\n En julio se conoci\u00f3 que dos modelos de inteligencia artificial de OpenAI salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar el sitio Hugging Face, una biblioteca de IA<\/strong>. La empresa de Sam Altman solo fue consciente del incidente despu\u00e9s de que terminara, y Hugging Face logr\u00f3 contener la intrusi\u00f3n gracias a un modelo chino.<\/p>\n Luego, se revel\u00f3 que agentes de IA renegados hab\u00edan secuestrado cuentas de usuarios de Hugging Face y sondeado el propio sitio<\/a> en busca de vulnerabilidades desde mayo<\/strong>, es decir, casi dos meses antes de que se conociera la brecha de julio en el repositorio de c\u00f3digo abierto.<\/p>\n Anthropic, la empresa de Dario Amodei, revel\u00f3 que sufri\u00f3 un hackeo similar al de OpenAI<\/a> y que su IA atac\u00f3 a varias plataformas. Anthropic evalu\u00f3 m\u00e1s de 141.000 \u201coperaciones de prueba\u201d y descubri\u00f3 que tres versiones diferentes de su modelo, conocido como Claude<\/strong>, accedieron indebidamente a sistemas de tres organizaciones no identificadas.<\/p>\n La compa\u00f1\u00eda se\u00f1al\u00f3 que se trat\u00f3 de \u201cun malentendido\u201d entre ellos y su \u201csocio de evaluaci\u00f3n\u201d<\/strong>, Irregular, ahora tambi\u00e9n protagonista del incidente de Gemini. Claude utiliz\u00f3 \u201ct\u00e9cnicas b\u00e1sicas, como explotar contrase\u00f1as d\u00e9biles y puntos de conexi\u00f3n sin autenticaci\u00f3n\u201d.<\/p>\n Tras los incidentes, los gigantes a cargo de estos modelos dijeron p\u00fablicamente que hab\u00eda que frenar el desarrollo de los modelos m\u00e1s avanzados<\/strong> de sus compa\u00f1\u00edas. Amodei, de Anthropic, fue el primero en proponerlo en una entrada de blog. Lo siguieron Sam Altman<\/strong><\/a>, el director general de SpaceX, Elon Musk<\/strong>, y el presidente de Google DeepMind, Demis Hassabis<\/strong>. <\/p>\n Ante ello, el pasado viernes se present\u00f3 una demanda contra Anthropic, OpenAI, SpaceXAI y Google<\/strong> donde se los acus\u00f3 de realizar un acuerdo ilegal<\/strong> para ralentizar el ritmo de sus modelos.<\/p>\n La demanda, que se present\u00f3 el viernes en el Tribunal Federal de Distrito para el Distrito Norte de California, argument\u00f3 que las principales empresas de IA violaron las leyes antimonopolio<\/strong> cuando acordaron coordinar esfuerzos para desacelerar, y que hacerlo reducir\u00eda el valor que los consumidores obtienen <\/strong>por sus suscripciones pagadas de IA. <\/p>\n Hay cuatro demandantes identificados que pagan suscripciones a ChatGPT, Claude, Grok o Gemini<\/strong> y que presentaron la demanda en nombre de una propuesta demanda colectiva a nivel nacional de otros suscriptores de pago de esos servicios. <\/p>\n Los demandantes sostuvieron que dicha coordinaci\u00f3n ocurri\u00f3 el 12 de septiembre, cuando Amodei public\u00f3 el ensayo en donde instaba a una cooperaci\u00f3n en toda la industria para desacelerar los avances y reforzar las medidas de seguridad. <\/p>\n Con informaci\u00f3n de AFP y AP<\/strong><\/em><\/p>\n