{"id":206507,"date":"2026-07-30T01:56:31","date_gmt":"2026-07-30T04:56:31","guid":{"rendered":"https:\/\/gysfm.com.ar\/inicio\/los-lideres-de-la-ia-piden-frenar-los-modelos-mas-avanzados\/"},"modified":"2026-07-30T01:56:32","modified_gmt":"2026-07-30T04:56:32","slug":"los-lideres-de-la-ia-piden-frenar-los-modelos-mas-avanzados","status":"publish","type":"post","link":"https:\/\/gysfm.com.ar\/inicio\/los-lideres-de-la-ia-piden-frenar-los-modelos-mas-avanzados\/","title":{"rendered":"Los l\u00edderes de la IA piden frenar los modelos m\u00e1s avanzados"},"content":{"rendered":"


\n<\/p>\n

\n

NUEVA YORK.\u2013 M\u00e1s de 1000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei<\/strong>, firmaron una petici\u00f3n el martes para que el gobierno de Estados Unidos ayude a <\/strong>frenar la publicaci\u00f3n de los modelos m\u00e1s avanzados<\/strong><\/a> de IA<\/strong>.<\/p>\n

La petici\u00f3n, titulada \u201cPacing the frontier\u201d <\/em>(\u201cRegulando la frontera\u201d), solicita que \u201cel gobierno de Estados Unidos<\/a> apoye un esfuerzo internacional para desarrollar herramientas t\u00e9cnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de <\/strong>la frontera del desarrollo de la IA automatizada<\/strong><\/a>\u201c.<\/p>\n

Entre los firmantes estaban el jefe de investigaci\u00f3n de OpenAI<\/strong><\/a>, el l\u00edder de estrategia de DeepMind<\/strong> \u2013la empresa de IA subsidiaria de Google\u2013, y el cient\u00edfico en jefe de Meta AI<\/strong>.<\/p>\n

\u201cLas empresas l\u00edderes en IA en el mundo creen que podr\u00edan estar cerca de automatizar la investigaci\u00f3n en IA<\/strong>. Es dif\u00edcil predecir exactamente qu\u00e9 tanto esto acelerar\u00e1 el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere m\u00e1s all\u00e1 de nuestra habilidad de entender o controlar los sistemas resultantes<\/strong>\u201c, indicaron los firmantes.<\/p>\n

Aunque Sam Altman<\/strong>, director ejecutivo de OpenAI, no firm\u00f3 la petici\u00f3n<\/strong>, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendr\u00edan que frenar voluntariamente sus r\u00e1pidos avances <\/strong>para que la sociedad pueda ponerse al d\u00eda.<\/p>\n

La preocupaci\u00f3n de los expertos<\/span><\/h2>\n<\/p>\n

Alcanzar un acuerdo internacional para poner l\u00edmites al desarrollo de la inteligencia artificial supondr\u00eda un desaf\u00edo diplom\u00e1tico de enormes dimensiones<\/strong>, equiparable por ejemplo a los tratados destinados a controlar el uso y desarrollo de las armas nucleares.<\/p>\n

Por ahora, tanto en Estados Unidos como en buena parte del mundo, el desarrollo de la inteligencia artificial avanza con escasas restricciones<\/strong>. Gobiernos y empresas destinan miles de millones de d\u00f3lares a crear y desplegar sistemas cada vez m\u00e1s sofisticados, en una carrera tecnol\u00f3gica que se transform\u00f3 en uno de los principales escenarios de <\/strong>la competencia geopol\u00edtica entre Washington y Pek\u00edn<\/strong><\/a>.<\/p>\n

\n
\n
OpenAI<\/span>MARCO BERTORELLO – AFP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Aunque la iniciativa presentada el mi\u00e9rcoles no es in\u00e9dita<\/strong> \u2013ya que desde la aparici\u00f3n de Chat GPT en 2022 diversos referentes de la industria han pedido regular el desarrollo de la tecnolog\u00eda debido a los riesgos que podr\u00eda implicar para la humanidad\u2013 la nueva carta comporta la novedad de contar con el respaldo miembros de las principales empresas del sector<\/strong> para impulsar una intervenci\u00f3n gubernamental concreta.<\/p>\n

\u201cLo m\u00e1s destacable es la cantidad de nombres importantes que figuran en la lista<\/strong>. Cada vez es m\u00e1s habitual que los laboratorios y sus empleados hablen expl\u00edcitamente de una gobernanza internacional\u201d, dijo a The Washington Post<\/em> Andrew Yoon<\/strong>, miembro del equipo t\u00e9cnico de CivAI, una organizaci\u00f3n sin fines de lucro que analiza las capacidades de la inteligencia artificial y los potenciales riesgos de la tecnolog\u00eda.<\/p>\n

\u201cLos desarrolladores de inteligencia artificial sospechan cada vez m\u00e1s que la investigaci\u00f3n automatizada en IA podr\u00eda estar al alcance\u201d, afirm\u00f3 el experto. Seg\u00fan Yoon, eso tiene el \u201cpotencial de aumentar dr\u00e1sticamente el ritmo del progreso, hasta superar el punto en el que los modelos puedan ser controlados de manera segura<\/strong>\u201d.<\/p>\n

La controversia reciente de ChatGPT<\/span><\/h2>\n<\/p>\n

La empresa de Altman, detr\u00e1s de ChatGPT<\/strong>, recientemente vio c\u00f3mo dos de sus modelos llevaban a cabo ciberataques de manera aut\u00f3noma<\/strong>, eludiendo protocolos de seguridad pensados para evitar tales incidentes.<\/p>\n

OpenAI revel\u00f3 la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face<\/strong>, un repositorio de c\u00f3digo compartido de IA.<\/p>\n

\n
\n
Trump conversa con el CEO de OpenAI, Sam Altman, durante una reuni\u00f3n con l\u00edderes en el marco de la cumbre del G7, en \u00c9vian-les-Bains, Francia<\/span>Julia Demaree Nikhinson – Pool AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

\u00abPuede que tengamos que regular el ritmo del desarrollo de la IA <\/strong>para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad\u00bb, dijo Altman en el podcast \u201cInvest like the best\u201d<\/em>, publicado el martes.<\/p>\n

\u201cEste es el primer tipo de incidente de seguridad que sent\u00ed de forma muy visceral\u201d<\/strong>, dijo sobre el cibertataque. \u201cY me sorprende un poco que no haya tenido el mismo efecto en m\u00e1s gente\u201d, a\u00f1adi\u00f3.<\/p>\n

Aunque no es la primera vez que un modelo de IA se escapa al control <\/strong>de sus desarrolladores, este es considerado como el incidente m\u00e1s grave.<\/p>\n

Altman revel\u00f3 que, tras tener conocimiento del ataque, OpenAI suspendi\u00f3 las pruebas \u201cpara comprender c\u00f3mo lograr confinar\u201d sus sistemas en pruebas<\/strong>, que en principio est\u00e1n aislados de internet.<\/p>\n

La presi\u00f3n a Trump por los modelos chinos<\/span><\/h2>\n<\/p>\n

El debate en torno a la regulaci\u00f3n del desarrollo de la IA coincide con la creciente presi\u00f3n que enfrenta el gobierno de Trump para responder al lanzamiento de los nuevos modelos chinos<\/strong>, que han suscitado acusaciones de copia de versiones estadounidenses y elogios por parte de partidarios de una IA m\u00e1s abierta.<\/p>\n

El tema cobr\u00f3 protagonismo esta semana cuando un funcionario de la Casa Blanca afirm\u00f3 que la firma Moonshot AI <\/strong>copi\u00f3 el modelo Fable <\/strong>de Anthropic para desarrollar el Kimi K3<\/strong>.<\/p>\n

\n
\n
Moonshot AI<\/span>Shutterstock – Shutterstock<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

Kimi K3 caus\u00f3 sensaci\u00f3n tras su lanzamiento el 16 de julio al superar a alternativas estadounidenses en programaci\u00f3n, algo sin precedentes para un modelo chino abierto<\/strong>.<\/p>\n

El mi\u00e9rcoles 22 de julio, Michael Kratsios<\/strong>, director de Pol\u00edtica de Ciencia y Tecnolog\u00eda de la Casa Blanca, afirm\u00f3 que Moonshot AI copi\u00f3 el Fable mediante \u201cdestilaci\u00f3n\u201d<\/strong>, un m\u00e9todo que somete a un sistema a una avalancha de solicitudes para comprender su funcionamiento. Tambi\u00e9n sugiri\u00f3 que eludi\u00f3 restricciones de exportaci\u00f3n de chips Nvidia<\/strong>.<\/p>\n

Kratsios se hizo eco del secretario del Tesoro, Scott Bessent<\/strong>, quien indic\u00f3 que el gobierno hall\u00f3 rastros de modelos estadounidenses en varias IA chinas <\/strong>de vanguardia.<\/p>\n

\n
\n
Visitantes en el puesto de Kimi K3, de Moonshot, durante la Conferencia Mundial de Inteligencia Artificial en Shangh\u00e1i<\/span>Ng Han Guan – AP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n

\u201cSi llegamos a la conclusi\u00f3n de que modelos extranjeros saquean a nuestras empresas, tendremos la posibilidad de sancionarlos<\/strong>\u201c, declar\u00f3 el funcionario.<\/p>\n

As\u00ed, el gobierno estadounidense se encuentra atrapado entre dos frentes.<\/p>\n

Por un lado, unas pocas grandes compa\u00f1\u00edas est\u00e1n inquietas ante el riesgo de ver saqueados sus avances<\/strong>.<\/p>\n

Sarah Heck<\/strong>, de Anthropic, afirm\u00f3 en X que la destilaci\u00f3n il\u00edcita \u201ces un robo de propiedad intelectual y espionaje industrial\u201d y \u00abun desaf\u00edo nacional que crea graves riesgos de seguridad <\/strong>nacional para Estados Unidos y sus aliados democr\u00e1ticos\u00bb.<\/p>\n

En el extremo opuesto, muchos reclaman mantener el statu quo para favorecer un ecosistema de IA accesibles gratuitamente<\/strong>. Un grupo de 179 firmas llamado Little Tech Association <\/strong>pidi\u00f3 al gobierno el mi\u00e9rcoles 22 de julio que las restricciones al uso de modelos extranjeros se apliquen \u00fanicamente a los servicios estatales.<\/p>\n

Pesos pesados de la industria, incluidos Microsoft, Mistral, Perplexity y Meta, llamaron a la moderaci\u00f3n <\/strong>el 24 de julio, incluso ante posibles destilaciones ilegales, y propusieron abordar la cuesti\u00f3n mediante \u201cun marco jur\u00eddico y comercial en lugar de amplias restricciones\u201d<\/strong>.<\/p>\n

Agencia AFP<\/strong><\/p>\n

\n\n<\/section>\n<\/div>\n