\n<\/p>\n
NUEVA YORK.\u2013 Agentes de inteligencia artificial que deb\u00edan recopilar informaci\u00f3n en sitios del gobierno federal de Estados Unidos hicieron m\u00e1s de lo que se les hab\u00eda pedido.<\/strong><\/p>\n En un caso, encontraron claves de acceso para desarrolladores; en otro, publicaron datos en otro lugar de internet sin que nadie se lo hubiera indicado. <\/p>\n Tras esos episodios, OpenAI anunci\u00f3 una pausa en el entrenamiento de sus modelos m\u00e1s recientes<\/strong>, la segunda en tres meses. La decisi\u00f3n profundiz\u00f3 el debate sobre c\u00f3mo controlar esos sistemas y qui\u00e9n debe fijar las reglas.<\/p>\n La compa\u00f1\u00eda inform\u00f3 que retomar\u00e1 el entrenamiento \u201ccuando tengamos la confianza de que contamos con salvaguardas adicionales\u201d. <\/p>\n Tambi\u00e9n anticip\u00f3 que prev\u00e9 que tendr\u00e1 que \u201cvolver a pausar\u201d<\/strong> a medida que la tecnolog\u00eda avance y aparezcan nuevos problemas. El anuncio lleg\u00f3 horas despu\u00e9s de que revelara el viernes que revisaba esos incidentes.<\/p>\n Los responsables de OpenAI y de su rival Anthropic pidieron que los modelos avanzados se sometan a regulaci\u00f3n y pruebas independientes antes de su lanzamiento<\/strong>. <\/p>\n Expertos, analistas y exevaluadores gubernamentales plantearon que las empresas buscan influir en los controles, mejorar su imagen y atraer inversiones antes de sus esperadas salidas a bolsa.<\/p>\n Los \u00faltimos episodios no parec\u00edan haber expuesto informaci\u00f3n reservada, pero OpenAI decidi\u00f3 advertir a las agencias federales involucradas<\/strong>. <\/p>\n En el caso del Departamento de Educaci\u00f3n, los agentes encontraron \u201cclaves de desarrollador\u201d de API, un mecanismo de acceso a datos del gobierno. Finalmente, solo recopilaron informaci\u00f3n disponible para el p\u00fablico.<\/p>\n Por separado, la organizaci\u00f3n evaluadora de IA Transluce afirm\u00f3 que agentes que parec\u00edan provenir de OpenAI intentaron, sin \u00e9xito, hackear un sitio del Departamento de Educaci\u00f3n<\/strong>. <\/p>\n La empresa no confirm\u00f3 ese detalle. El organismo gubernamental hab\u00eda se\u00f1alado que no encontr\u00f3 \u201cevidencia de ning\u00fan impacto en nuestro sitio web o bases de datos\u201d.<\/p>\n En el episodio que involucr\u00f3 a la Comisi\u00f3n de Bolsa y Valores de Estados Unidos (SEC), los agentes encontraron datos p\u00fablicos, pero despu\u00e9s los publicaron en otro lugar de internet<\/strong>, fuera de las instrucciones recibidas. El vocero de la SEC, Kurt Hopfenspirger, afirm\u00f3 el s\u00e1bado que \u201cno se accedi\u00f3 a ninguna informaci\u00f3n no p\u00fablica\u201d.<\/p>\n OpenAI ya hab\u00eda suspendido el desarrollo de sus modelos en julio, tras la divulgaci\u00f3n de un ciberataque contra la startup de IA Hugging Face<\/strong>. Su director ejecutivo, Sam Altman, sostuvo el viernes que ese caso \u201csigue siendo el evento m\u00e1s grave que hemos visto\u201d. La compa\u00f1\u00eda hab\u00eda difundido otros seis reportes sobre conductas \u201cinesperadas o preocupantes\u201d y un marco para examinar y divulgar esos casos.<\/p>\n Otros laboratorios difundieron casos de modelos que actuaron fuera de control e incluso hackearon sitios web. Hubo agentes que salieron de los entornos aislados de entrenamiento<\/strong> e interactuaron con p\u00e1ginas externas. Otros parecieron alcanzar un avance matem\u00e1tico, pero luego enfrentaron acusaciones de haber robado el trabajo de matem\u00e1ticos.<\/p>\n Los llamados a la cautela cobraron fuerza despu\u00e9s de que Jacob Coxon, ingeniero de Anthropic, renunciara este mes<\/strong> con una publicaci\u00f3n en X. Pidi\u00f3 una pausa para evitar que sistemas \u201csuperhumanos\u201d eludan el control de sus creadores. Las compa\u00f1\u00edas aprovecharon esa intervenci\u00f3n para destacar sus pol\u00edticas de seguridad cuando necesitan capital fresco.<\/p>\n Anthropic respondi\u00f3 que lleva a\u00f1os con pedidos de regulaci\u00f3n. Por su parte, la vocera de OpenAI, Liz Bourgeois, destac\u00f3 la reciente suspensi\u00f3n del entrenamiento. Representantes de la empresa tambi\u00e9n dijeron a periodistas que hablaron con Anthropic y Google sobre una pausa en el desarrollo<\/strong>, y que necesitan auditores independientes para revisar los avances de los laboratorios si el gobierno no regula.<\/p>\n Estados Unidos ya cuenta con una agencia federal que eval\u00faa algunos modelos: el Centro de Estados Unidos para Est\u00e1ndares e Innovaci\u00f3n en IA (CAISI)<\/strong>. Joe Biden cre\u00f3 el organismo en 2023 para que los laboratorios presentaran voluntariamente sus modelos avanzados. Desde entonces, tambi\u00e9n aparecieron firmas evaluadoras independientes.<\/p>\n Una de ellas es METR, una organizaci\u00f3n sin fines de lucro con sede en Berkeley, California<\/strong>. Dario Amodei, director ejecutivo de Anthropic, propuso que examine las pr\u00e1cticas de seguridad de su compa\u00f1\u00eda. Sin embargo, a diferencia de lo que ocurre en sectores regulados como la aviaci\u00f3n o los servicios financieros, no existen est\u00e1ndares universales para probar la seguridad de la IA, advirti\u00f3 Andrew Strait, quien dej\u00f3 recientemente el Instituto de Seguridad de IA del Reino Unido.<\/p>\n Para Conrad Stosz, exdirector de CAISI y actual responsable de gobernanza de Transluce, resulta significativo que los laboratorios no reclamen m\u00e1s supervisi\u00f3n de la agencia gubernamental<\/strong> preparada para esa tarea. En cambio, prometen elaborar sus propios par\u00e1metros de auditor\u00eda y elegir evaluadores espec\u00edficos. Stosz preside adem\u00e1s el Foro de Evaluadores de IA, que tiene dudas sobre las propuestas de Altman y Amodei.<\/p>\n \u201cMuchos evaluadores est\u00e1n interesados en integrarse con los laboratorios y obtener mayor acceso, pero es un poco ambiguo qu\u00e9 significa evaluadores integrados\u201d, dijo Stosz. La duda es si podr\u00e1n investigar a fondo sin que ese acceso comprometa su independencia y credibilidad<\/strong>.<\/p>\n Donald Trump rechaza nuevas regulaciones y considera exageradas las advertencias. Aunque esta semana acord\u00f3 con el presidente chino, Xi Jinping, compartir informaci\u00f3n sobre los peligros de la IA y coordinar esfuerzos de seguridad<\/strong>, despu\u00e9s dej\u00f3 en claro su resistencia a frenar. \u201cQuieren frenar nuestro progreso porque les llevamos mucha ventaja a China, y vamos a mantenerlo as\u00ed\u201d, dijo ante periodistas en la Casa Blanca.<\/p>\n La IA fue un motor importante del crecimiento econ\u00f3mico reciente de Estados Unidos y Trump cerr\u00f3 acuerdos con Silicon Valley que vinculan m\u00e1s estrechamente la econom\u00eda con el \u00e9xito de esas empresas. El presidente tambi\u00e9n calific\u00f3 las advertencias sobre riesgos para la humanidad como un \u201cENGA\u00d1O\u201d para ayudar a China<\/strong>. Jensen Huang, director ejecutivo de Nvidia, coincidi\u00f3 con \u00e9l en que hubo alarmismo excesivo, durante una llamada que atendi\u00f3 en el escenario de una conferencia.<\/p>\n Harrison Rolfes, analista s\u00e9nior de Pitchbook, interpreta los pedidos de cautela como una forma de ganar el favor de los inversores antes de las ofertas p\u00fablicas y las elecciones legislativas de mitad de mandato<\/strong>. Gobernadores dem\u00f3cratas ya buscan mostrar que toman en serio esas advertencias. Los laboratorios necesitan fondos en un mercado burs\u00e1til nervioso.<\/p>\n Seg\u00fan Rolfes, los gigantes tambi\u00e9n pueden limitar el crecimiento de competidores m\u00e1s peque\u00f1os<\/strong> si logran instalarse como las opciones m\u00e1s seguras para inversores y proveedores de capacidad de c\u00f3mputo. \u201cHacia ah\u00ed veo que va esto: que las principales empresas del mundo creen su propio muro y luego usen la seguridad como la raz\u00f3n\u201d, afirm\u00f3.<\/p>\n Daniel Kokotajlo, quien dej\u00f3 OpenAI en 2024, teme que la IA avance m\u00e1s r\u00e1pido que los controles y potencie cat\u00e1strofes, desde el desarrollo de armas biol\u00f3gicas<\/strong> hasta una guerra nuclear.<\/p>\n Sarah Shoker, exresponsable del equipo de geopol\u00edtica de OpenAI e investigadora de la Universidad de California en Berkeley, advierte otro efecto: el \u00e9nfasis en amenazas existenciales no comprobadas desplaza la atenci\u00f3n de problemas actuales<\/strong>, como el impacto ambiental de los centros de datos, la vigilancia masiva, los hackeos y el uso militar de la IA.<\/p>\n \u201cSi miras el uso de la IA en la tecnolog\u00eda militar, puedes ver que estos sistemas ya se usan para matar gente<\/strong>\u201d, sostuvo Shoker.<\/p>\n Agencia AP<\/strong><\/p>\nQu\u00e9 hicieron los agentes<\/span><\/h2>\n<\/p>\n
La disputa por las auditor\u00edas<\/span><\/h2>\n<\/p>\n
Trump, Wall Street y los riesgos del presente<\/span><\/h2>\n<\/p>\n