\n<\/p>\n
LONDRES.\u2013 Un exempleado de Google DeepMind <\/strong>se convirti\u00f3 el lunes en el \u00faltimo investigador en inteligencia artificial <\/strong>(IA) en advertir que la tecnolog\u00eda podr\u00eda \u201cmatar a todos los seres humanos\u201d<\/strong><\/a> <\/strong>y afirm\u00f3 que podr\u00eda estar acab\u00e1ndose el tiempo para evitar ese desenlace.<\/p>\n La alarma p\u00fablica sobre el posible peligro que representa la IA<\/a> crece despu\u00e9s de que el investigador de Anthropic Jacob Coxon<\/strong><\/a> <\/strong>dijera la semana pasada que hab\u00eda renunciado, en parte, porque \u201clas personas que desarrollan IA creen sinceramente que podr\u00eda matarnos a todos antes de que termine la d\u00e9cada\u201d<\/strong>.<\/p>\n El cient\u00edfico de Anthropic Evan Hubinger <\/strong>respondi\u00f3 entonces a los comentarios de Coxon y dijo que ten\u00eda raz\u00f3n, y que consideraba que hab\u00eda m\u00e1s de un 10% de probabilidades <\/strong>de que la IA pudiera matar a todos los seres humanos durante la pr\u00f3xima d\u00e9cada.<\/p>\n \u201cRecientemente renunci\u00e9 a Google DeepMind, donde trabajaba en investigaci\u00f3n sobre seguridad y alineaci\u00f3n de la inteligencia artificial general (AGI)\u201d, escribi\u00f3 Bilal Chughtai <\/strong>en X. \u201cCreo sinceramente que la IA tiene el potencial de matarnos a todos <\/strong>y que podr\u00edamos estar qued\u00e1ndonos sin tiempo para evitar ese desenlace\u201d.<\/p>\n Chughtai, quien fue coautor de trabajos de investigaci\u00f3n durante su paso por Google DeepMind, se desempe\u00f1\u00f3 all\u00ed como ingeniero de investigaci\u00f3n y dej\u00f3 la compa\u00f1\u00eda en julio de 2026<\/strong>, seg\u00fan su perfil de LinkedIn.<\/p>\n Google no respondi\u00f3 a una solicitud de comentarios fuera del horario laboral habitual.<\/p>\n Tras las recientes preocupaciones, el CEO de Anthropic, Dario Amodei<\/strong><\/a>, pidi\u00f3 durante el fin de semana que se desacelerara el ritmo de desarrollo de la IA avanzada<\/strong>, una postura que recibi\u00f3 el inusual respaldo de Elon Musk<\/strong>, de SpaceXAI, y del CEO de OpenAI, Sam Altman<\/strong>.<\/p>\n En un ensayo publicado en X, Amodei escribi\u00f3 que, en un plazo de seis a 12 meses, los agentes de inteligencia artificial \u201cpodr\u00edan ser capaces de tomar el control de toda internet <\/strong>y causar potencialmente cientos de miles de millones de d\u00f3lares en da\u00f1os\u201d.<\/p>\n Seg\u00fan el CEO, los modelos m\u00e1s avanzados de Anthropic<\/a> ya empezaron a desarrollar la siguiente generaci\u00f3n de inteligencia artificial, en un proceso conocido como \u201cautomejora recursiva\u201d. Esto aumenta el riesgo de que la tecnolog\u00eda se convierta en una amenaza cibern\u00e9tica aut\u00f3noma e incluso provoque \u201cgraves alteraciones econ\u00f3micas\u201d<\/strong>.<\/p>\n \u201cUna carrera hacia el abismo, impulsada por incentivos comerciales, puede agudizar estos riesgos\u201d<\/strong>, dijo Amodei. Como una posible soluci\u00f3n, propuso contratar \u201cevaluadores\u201d externos que \u201cverifiquen el cumplimiento de las pr\u00e1cticas y los compromisos de seguridad\u201d.<\/p>\n La empresa Anthropic, con sede en San Francisco, public\u00f3 el jueves un informe de inteligencia sobre amenazas en el que detall\u00f3 c\u00f3mo distintos actores hab\u00edan utilizado sus modelos de IA Claude para actividades que van desde el desarrollo de armas y operaciones cibern\u00e9ticas hasta tareas de vigilancia y fraude<\/strong>. <\/p>\n El lunes, el propio Altman volvi\u00f3 a encender las alarmas cuando anunci\u00f3 que OpenAI no saldr\u00eda a bolsa este a\u00f1o debido a preocupaciones relacionadas con la seguridad<\/strong>. El CEO advirti\u00f3 sobre dos escenarios en los que el avance de la inteligencia artificial podr\u00eda \u201csalir muy mal\u201d y asegur\u00f3 que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro<\/strong>.<\/p>\n En su mensaje en X, Chughtai tambi\u00e9n dijo que era posible desarrollar la IA de manera segura, pero que para ello ser\u00eda necesario coordinar esfuerzos \u201cpara evitar esta carrera desenfrenada entre las empresas de IA\u201d<\/strong>.<\/p>\n \u201cNecesitamos llevar el desarrollo de la IA <\/strong>a un ritmo que la sociedad pueda manejar<\/strong><\/a>, de modo que los riesgos emergentes puedan abordarse antes de que se produzcan da\u00f1os extremos\u201d, agreg\u00f3 el experto.<\/p>\nEl debate por la desaceleraci\u00f3n<\/span><\/h2>\n<\/p>\n