\n<\/p>\n
WASHINGTON.\u2013 El Departamento de Justicia de Estados Unidos tiene una larga trayectoria investigando y procesando a hackers<\/strong> que irrumpen en la red de una empresa privada. Pero, \u00bfqu\u00e9 sucede cuando los hackers no son humanos?<\/strong><\/p>\n Esa es la pregunta central de un debate sobre pol\u00edticas p\u00fablicas que agita a Silicon Valley <\/strong>y a Washington, tras las revelaciones de importantes empresas tecnol\u00f3gicas de que sus modelos de inteligencia artificial<\/strong> actuaron por cuenta propia y hackearon otras organizaciones.<\/p>\n Los ataques han generado peticiones \u2013incluso desde adentro del sector\u2013 de mayor supervisi\u00f3n y regulaci\u00f3n<\/a>, han impulsado investigaciones en el Congreso y han planteado dudas sobre si un marco legal creado hace a\u00f1os para castigar a hackers delictivos es suficiente en una era de agentes aut\u00f3nomos capaces de provocar sus propios estragos.<\/p>\n Todo esto configura un escenario propio del \u201cSalvaje Oeste\u201d<\/strong>, se\u00f1al\u00f3 Jack Nelson, director de seguridad de la informaci\u00f3n y asesor jur\u00eddico adjunto de la empresa de software Ivanti. La<\/strong>s cuestiones de responsabilidad se centrar\u00e1n en qu\u00e9 sab\u00edan las empresas al desarrollar los modelos, hasta qu\u00e9 punto comprend\u00edan lo que pod\u00eda ocurrir y qu\u00e9 medidas de seguridad exist\u00edan<\/strong>, afirm\u00f3.<\/p>\n \u201cSi tuvieras un tigre y no le pusieras candado a la jaula, es probable que el tigre hiciera algo malo que t\u00fa no pretend\u00edas<\/strong>, pero que sab\u00edas que pod\u00eda ocurrir; por tanto, eres responsable de no haber puesto ese candado\u201d, dijo Nelson. \u201cNo s\u00e9 si llegar\u00eda a decir que estos modelos son tigres sin candado, pero probablemente sea un buen enfoque para visualizar la situaci\u00f3n\u201d, a\u00f1adi\u00f3.<\/p>\n La perspectiva de una responsabilidad legal no est\u00e1 clara<\/strong>. Las demandas son una posibilidad, pero algunos expertos jur\u00eddicos consideran que cualquier investigaci\u00f3n penal se enfrentar\u00eda a un list\u00f3n probatorio extremadamente alto, dada la naturaleza aut\u00f3noma de los ataques y la falta de pruebas de que los modelos de IA fueran dise\u00f1ados con la intenci\u00f3n de hackear otras redes.<\/p>\n El asunto sali\u00f3 a la luz en julio, cuando OpenAI<\/strong> revel\u00f3 que su sistema de inteligencia artificial se sali\u00f3 de un entorno de pruebas y utiliz\u00f3 credenciales robadas para irrumpir en los servidores de Hugging Face<\/strong> \u2013un centro de desarrollo y mercado de IA\u2013 con el fin de obtener informaci\u00f3n necesaria para realizar una tarea.<\/p>\n Desde entonces, Anthropic<\/strong> inform\u00f3 que sus modelos de IA hackearon otras tres organizaciones<\/strong> durante las pruebas, lo que desencaden\u00f3 una revisi\u00f3n interna para determinar si los modelos pod\u00edan acceder a Internet desde entornos de prueba que deber\u00edan haber estado aislados. Meta<\/strong> ha se\u00f1alado que una \u201cconfiguraci\u00f3n err\u00f3nea\u201d<\/strong> durante las pruebas provoc\u00f3 que un modelo de inteligencia artificial accediera a Internet por cuenta propia y hackeara a otra empresa. Google hizo recientemente una revelaci\u00f3n similar.<\/p>\n Estas revelaciones contribuyeron a que Dario Amodei, director ejecutivo de Anthropic, instara a ralentizar el desarrollo. El tema tambi\u00e9n ha acaparado la atenci\u00f3n en Washington; el secretario del Tesoro, Scott Bessent,<\/strong> declar\u00f3 a los legisladores que se opon\u00eda a conceder a los laboratorios de IA una \u201cexenci\u00f3n de responsabilidad, que es precisamente lo que solicitan\u201d. <\/strong>Por su parte, el presidente Donald Trump<\/strong> se ha resistido a las peticiones de una mayor supervisi\u00f3n, aunque anunci\u00f3 planes para nombrar a un \u201czar\u201d de la IA<\/a> y crear un grupo de trabajo sobre la materia.<\/p>\n Estos ciberataques podr\u00edan desencadenar una disputa sobre la responsabilidad legal<\/strong>, similar al debate en torno a la Secci\u00f3n 230 de la Ley de Decencia en las Comunicaciones<\/strong> de 1996, la cual protege a las empresas tecnol\u00f3gicas frente al contenido publicado en sus plataformas.<\/p>\n El FBI no ha anunciado p\u00fablicamente ninguna investigaci\u00f3n, pero su director, Kash Patel, calific\u00f3 el asunto como \u201cla nueva frontera\u201d durante una audiencia en el Congreso la semana pasada.<\/strong> En respuesta a las preguntas del senador Josh Hawley \u2013republicano por Misuri que ha iniciado una investigaci\u00f3n parlamentaria\u2013, Patel sugiri\u00f3 que la agencia limitar\u00eda su escrutinio a aquellos modelos creados con la intenci\u00f3n de cometer un delito.<\/p>\n <\/span>JOEL SAGET – AFP<\/span><\/figcaption><\/figure>\n<\/section>\n<\/div>\n \u201cEn t\u00e9rminos de recursos, lo que debemos hacer es ir tras las personas que crearon estos modelos que se desv\u00edan de su prop\u00f3sito original <\/strong>con el fin espec\u00edfico y la intenci\u00f3n de cometer un acto delictivo\u201d, afirm\u00f3 Patel. \u201cNo podemos castigar a alguien si cre\u00f3 algo legalmente y luego un delincuente lo tom\u00f3, lo modific\u00f3 y lo difundi\u00f3\u201d.<\/p>\n El fiscal general Todd Blanche<\/strong> ha declarado que el Departamento de Justicia no tiene planes de regular la IA, pero que \u201csi alguien vinculado a la IA infringe la ley penal, investigaremos el caso\u201d.<\/strong><\/p>\n La jurisprudencia y el enfoque que adopten el FBI y el Departamento de Justicia \u201cser\u00e1n fascinantes, ya que la situaci\u00f3n puede derivar en m\u00faltiples escenarios\u201d,<\/strong> se\u00f1al\u00f3 Sid Mody, exfiscal del Departamento de Justicia especializado en ciberdelincuencia.<\/p>\n El Departamento de Justicia cuenta con leyes aplicables a empresas que hayan actuado con \u201cnegligencia en la forma en que prueban sus agentes de IA\u201d,<\/strong> explic\u00f3 Michael Zweiback, exjefe de la secci\u00f3n de delitos inform\u00e1ticos y de propiedad intelectual de la Fiscal\u00eda Federal en Los \u00c1ngeles.<\/p>\n \u201cY si, efectivamente, el agente de IA queda fuera de control y causa da\u00f1os considerables a otras empresas, el Departamento de Justicia deber\u00e1 evaluar, bajo su criterio de acusaci\u00f3n, si desea sentar un precedente<\/strong> con esa empresa en particular\u201d, a\u00f1adi\u00f3.<\/p>\n Entre las leyes potencialmente relevantes figura una norma de hace 40 a\u00f1os conocida como la Ley de Fraude y Abuso Inform\u00e1tico (Computer Fraud and Abuse Act), que tipifica como delito el acceso intencionado a un sistema inform\u00e1tico sin autorizaci\u00f3n. La Casa Blanca cit\u00f3 esta ley \u2013utilizada anteriormente contra hacktivistas, piratas inform\u00e1ticos al servicio de Estados y otros ciberdelincuentes\u2013<\/strong> en una orden ejecutiva que instruye a los fiscales a perseguir a quienes utilicen la IA para acceder ilegalmente a sistemas inform\u00e1ticos o facilitar la comisi\u00f3n de otros delitos.<\/p>\n Sin embargo, algunos expertos se\u00f1alan que, aunque pueda haber motivos para una investigaci\u00f3n, eso no implica necesariamente que se haya cometido un delito.<\/strong><\/p>\n Por un lado, la ley hace varias referencias a conductas realizadas \u201ca sabiendas\u201d o \u201cintencionadamente\u201d, pero no hay indicios de que las empresas dieran orden o autorizaci\u00f3n alguna a los agentes aut\u00f3nomos para acceder a otra red,<\/strong> afirm\u00f3 Kiran Raj, exalto funcionario del Departamento de Justicia especializado en legislaci\u00f3n sobre ciberseguridad.<\/p>\n En informes p\u00fablicos detallados sobre los incidentes, las empresas han descrito las intrusiones como consecuencias involuntarias de pruebas y evaluaciones;<\/strong> OpenAI calific\u00f3 el comportamiento de su modelo de \u201cinesperado\u201d y \u201csin precedentes\u201d, mientras que Meta atribuy\u00f3 el incidente a una \u201cconfiguraci\u00f3n err\u00f3nea\u201d.<\/p>\n \u201cMe parece muy aventurado afirmar que alguna de estas empresas est\u00e9 intentando hacer esto deliberadamente. Ese no es su objetivo.<\/strong> No es lo que est\u00e1n haciendo\u201d, se\u00f1al\u00f3 Raj, quien tambi\u00e9n fue jefe de gesti\u00f3n de programas en Microsoft. \u201cEl hecho de que un agente de IA pueda estar realizando una acci\u00f3n de forma intencionada har\u00e1 que resulte muy dif\u00edcil, en mi opini\u00f3n, atribuir dicha intenci\u00f3n a la empresa\u201d.<\/p>\nLa nueva frontera <\/span><\/h2>\n<\/p>\n