SAN FRANCISCO.- El jefe de seguridad de Anthropic, Evan Hubinger, afirm\u00f3 que existe m\u00e1s de un 10% de probabilidad de que la inteligencia artificial termine matando a todos los seres humanos durante la pr\u00f3xima d\u00e9cada<\/strong>, una advertencia extraordinaria proveniente desde una de las compa\u00f1\u00edas que lideran la carrera mundial por desarrollar los modelos m\u00e1s avanzados.<\/p>\n \u201cCreemos realmente que la IA podr\u00eda matar a todos los humanos\u201d, escribi\u00f3 Hubinger en X. El responsable de seguridad de Anthropic estim\u00f3 ese riesgo en \u201cm\u00e1s de un 10%\u201d dentro de los pr\u00f3ximos diez a\u00f1os<\/strong>, en medio de una creciente preocupaci\u00f3n dentro de la propia industria por la velocidad con la que evolucionan estos sistemas y por la posibilidad de que lleguen a escapar del control humano.<\/p>\n Sus declaraciones surgieron despu\u00e9s de que Jacob Coxon<\/strong>, un investigador brit\u00e1nico de 27 a\u00f1os que hab\u00eda trabajado primero en OpenAI y luego en Anthropic, anunciara que abandonaba por completo la industria y acusara a ambas compa\u00f1\u00edas de \u201cjugar con nuestras vidas\u201d<\/strong>.<\/p>\n Coxon trabaj\u00f3 durante los \u00faltimos tres a\u00f1os en preentrenamiento, la etapa en la que los modelos de IA absorben enormes cantidades de informaci\u00f3n. Este a\u00f1o hab\u00eda dejado OpenAI para incorporarse a Anthropic, precisamente porque consideraba que su rival adoptaba una postura m\u00e1s prudente frente a los peligros de la nueva tecnolog\u00eda.<\/p>\n Sin embargo, el martes anunci\u00f3 tambi\u00e9n su salida de esa empresa.<\/p>\n \u201cNinguna de las dos compa\u00f1\u00edas act\u00faa de forma responsable. Est\u00e1n corriendo directamente hacia una superinteligencia capaz de mejorarse a s\u00ed misma y est\u00e1n jugando con nuestras vidas<\/strong>\u201d, escribi\u00f3 Coxon en un posteo en X que r\u00e1pidamente se volvi\u00f3 viral.<\/p>\n Y agreg\u00f3: \u201cLas personas que est\u00e1n desarrollando la IA creen sinceramente que podr\u00eda matarnos a todos antes de que termine la d\u00e9cada<\/strong>. Esto no es una estrategia de marketing\u201d.<\/p>\n Lejos de desmentirlo, Hubinger respald\u00f3 p\u00fablicamente el n\u00facleo de la advertencia y le puso una cifra concreta al riesgo.<\/p>\n Detr\u00e1s de ese temor aparece uno de los escenarios m\u00e1s controvertidos que se discuten actualmente en Silicon Valley: la denominada \u201cautomejora recursiva\u201d<\/strong>, por la cual un sistema suficientemente avanzado podr\u00eda comenzar a dise\u00f1ar versiones cada vez m\u00e1s poderosas de s\u00ed mismo, acelerar r\u00e1pidamente sus capacidades y eventualmente superar ampliamente a los seres humanos.<\/p>\n Coxon sostuvo que ninguna compa\u00f1\u00eda deber\u00eda intentar desarrollar una inteligencia superior a la humana sin una fuerte intervenci\u00f3n de los gobiernos o, al menos, sin un acuerdo entre los principales laboratorios para desacelerar coordinadamente la carrera.<\/p>\n \u201cEn Anthropic comprenden bien lo que est\u00e1 en juego, pero est\u00e1n atrapados en una carrera por llegar primero (…) a pesar del riesgo\u201d<\/strong>, afirm\u00f3.<\/p>\n La advertencia resulta especialmente significativa porque Anthropic busc\u00f3 desde su creaci\u00f3n diferenciarse de competidores como OpenAI por su \u00e9nfasis en la seguridad. Sin embargo, en febrero retir\u00f3 de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no consegu\u00eda mantener bajo control sus riesgos<\/strong>.<\/p>\n La inquietud se extiende adem\u00e1s a algunos de los principales responsables de la industria. A fines de julio, m\u00e1s de mil empleados y especialistas, incluido el director ejecutivo de Anthropic, Dario Amodei<\/strong>, reclamaron a Washington que desarrollara un mecanismo que permita frenar la construcci\u00f3n de sistemas avanzados si aparecen se\u00f1ales claras de peligro.<\/p>\n El domingo, el jefe cient\u00edfico de OpenAI, Jakub Pachocki<\/strong>, tambi\u00e9n reclam\u00f3 cautela y coordinaci\u00f3n internacional. \u201cEl momento actual llama a una extrema precauci\u00f3n\u201d, afirm\u00f3.<\/p>\n La preocupaci\u00f3n lleg\u00f3 esta semana hasta Naciones Unidas. El alto comisionado para los Derechos Humanos, Volker T\u00fcrk<\/strong>, advirti\u00f3 el lunes que la inteligencia artificial avanzada podr\u00eda representar un \u201criesgo existencial para la humanidad\u201d<\/strong> y reclam\u00f3 nuevas barreras internacionales antes de que sea demasiado tarde.<\/p>\n \u201cComparto las preocupaciones de los expertos del sector de que la IA avanzada podr\u00eda suponer un riesgo existencial para la humanidad\u201d, declar\u00f3 T\u00fcrk ante el Consejo de Derechos Humanos en Ginebra.<\/p>\n \u201cHago un llamamiento aqu\u00ed, hoy, para que se haga un gran esfuerzo con el fin de establecer garant\u00edas s\u00f3lidas en torno a la seguridad y la protecci\u00f3n de la IA, antes de que sea demasiado tarde<\/strong>\u201d, agreg\u00f3.<\/p>\n Su oficina aclar\u00f3 que los riesgos no se limitan al escenario extremo de una extinci\u00f3n humana. Un fallo en sistemas especialmente poderosos podr\u00eda provocar interrupciones en infraestructuras cr\u00edticas, comunicaciones, servicios esenciales e instituciones democr\u00e1ticas<\/strong>.<\/p>\n T\u00fcrk tambi\u00e9n apunt\u00f3 a recientes episodios en los que agentes aut\u00f3nomos mostraron comportamientos inesperados y sostuvo que esos casos sugieren que las capacidades de la IA est\u00e1n avanzando m\u00e1s r\u00e1pido que las medidas dise\u00f1adas para contenerlas<\/strong>.<\/p>\n Entre ellos mencion\u00f3 el denominado incidente de Hugging Face ocurrido en julio, en el que miles de agentes aut\u00f3nomos de OpenAI habr\u00edan desafiado instrucciones y tomado el control de una plataforma de c\u00f3digo abierto. La Uni\u00f3n Europea afirm\u00f3 esta semana que investiga lo sucedido.<\/p>\n El funcionario de Naciones Unidas advirti\u00f3 adem\u00e1s sobre el enorme grado de concentraci\u00f3n existente en el sector y se\u00f1al\u00f3 que apenas un pu\u00f1ado de personas dispone de un poder extraordinario sobre el desarrollo de la IA. Entre las principales compa\u00f1\u00edas se encuentran OpenAI, Anthropic, Google y Meta<\/strong>.<\/p>\n \u201cComo m\u00ednimo, necesitamos que los pa\u00edses que albergan la IA y aquellos implicados en sus cadenas de suministro se pongan de acuerdo en unas l\u00edneas rojas consensuadas\u201d, afirm\u00f3.<\/p>\n Agencias Reuters y AFP<\/strong><\/p>\nLa ONU tambi\u00e9n alerta<\/span><\/h2>\n<\/p>\n
![\"Xiaomi](\"https:\/\/www.lanacion.com.ar\/resizer\/v2\/https%3A%2F%2Fcdn.jwplayer.com%2Fv2%2Fmedia%2FAVmNZRfw%2Fposter.jpg%3Fwidth%3D720?auth=0e3ade66d33262a177377d11c03744adfa2a9440b00c41ee93c1f02c5dc90b07&width=480&quality=70&smart=false\"\/)
<\/picture><\/div>\n<\/div>