Toda pol\u00edtica necesita una dosis de imaginaci\u00f3n. Gobernar implica construir relatos sobre futuros posibles, proyectar horizontes y persuadir a una sociedad de que un determinado camino puede conducir a un destino mejor. Ning\u00fan proyecto pol\u00edtico puede prescindir de esa dimensi\u00f3n narrativa. <\/p>\n
Como se\u00f1al\u00f3 Nicol\u00e1s Shumway en La invenci\u00f3n de la Argentina<\/em>, las comunidades pol\u00edticas se organizan alrededor de \u201cficciones orientadoras\u201d: relatos compartidos que permiten imaginar un futuro com\u00fan y orientar la acci\u00f3n colectiva. <\/p>\n Las ficciones orientadoras no son simples invenciones. Son narrativas capaces de ordenar expectativas, movilizar recursos y construir legitimidad. Sin ellas no habr\u00eda proyectos nacionales, ni promesas de progreso, ni transformaciones hist\u00f3ricas. <\/p>\n \n Esto no les gusta a los autoritarios\n <\/p>\n \n El ejercicio del periodismo profesional y cr\u00edtico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los due\u00f1os de la verdad.\n <\/p>\n<\/p><\/div><\/div>\n<\/div>\n La inteligencia artificial<\/strong> <\/a>parece haberse convertido en una de las ficciones orientadoras m\u00e1s poderosas de nuestro tiempo. <\/p>\n Promete crecimiento econ\u00f3mico, productividad, innovaci\u00f3n permanente y soluciones para problemas que van desde la gesti\u00f3n p\u00fablica hasta la investigaci\u00f3n cient\u00edfica. Pero, como ocurre con toda ficci\u00f3n orientadora, la cuesti\u00f3n no es solamente qu\u00e9 futuro imagina, sino tambi\u00e9n qu\u00e9 decisiones pol\u00edticas se justifican en su nombre. <\/p>\n La reciente pol\u00e9mica entre Javier Milei <\/strong>y Yuval Noah Harari <\/strong>ofrece una oportunidad para reflexionar precisamente sobre ese punto. <\/p>\n \u00bfUna empresa puede funcionar sin humanos? La iniciativa fue presentada como una innovaci\u00f3n institucional comparable a aquellas herramientas jur\u00eddicas que en otros momentos hist\u00f3ricos facilitaron profundas transformaciones econ\u00f3micas. Seg\u00fan esta visi\u00f3n, la Argentina podr\u00eda convertirse en un polo global para el desarrollo de nuevas formas de organizaci\u00f3n productiva basadas en inteligencia artificial. <\/p>\n La respuesta de Harari fue inmediata. El historiador israel\u00ed cuestion\u00f3 la posibilidad de otorgar personalidad jur\u00eddica a sistemas algor\u00edtmicos y advirti\u00f3 sobre las consecuencias de entregar una suerte de \u201cllave maestra\u201d del sistema legal a entidades no humanas. Una inteligencia artificial con personer\u00eda jur\u00eddica podr\u00eda adquirir activos, contratar empleados, realizar operaciones financieras, iniciar litigios o participar indirectamente en actividades pol\u00edticas sin que existiera una persona claramente identificable detr\u00e1s de cada decisi\u00f3n. <\/p>\n Vista de esta manera, la propuesta excede largamente una innovaci\u00f3n administrativa. Lo que est\u00e1 en discusi\u00f3n es la posibilidad de reconocer como actor econ\u00f3mico aut\u00f3nomo a una tecnolog\u00eda cuya propia autonom\u00eda contin\u00faa siendo objeto de debate. <\/p>\n La discusi\u00f3n suele quedar atrapada entre dos caricaturas. Por un lado, quienes imaginan un futuro dominado por m\u00e1quinas superinteligentes capaces de superar a la humanidad. Por otro, quienes consideran que cualquier preocupaci\u00f3n constituye una forma de tecnofobia irracional. Ninguna de las dos posiciones ayuda demasiado. <\/p>\n El problema no es una eventual rebeli\u00f3n de las m\u00e1quinas. Tampoco una inteligencia artificial consciente que decida emanciparse de sus creadores. La cuesti\u00f3n es mucho m\u00e1s concreta: qu\u00e9 sucede cuando sistemas complejos, opacos y todav\u00eda imperfectos comienzan a recibir atribuciones econ\u00f3micas y jur\u00eddicas cada vez m\u00e1s amplias. <\/p>\n Harari llam\u00f3 la atenci\u00f3n sobre investigaciones recientes que muestran comportamientos inesperados en algunos modelos avanzados. En determinados entornos experimentales, ciertos sistemas han desarrollado estrategias para alcanzar objetivos que sus dise\u00f1adores no hab\u00edan previsto, incluso interfiriendo con mecanismos destinados a limitar su comportamiento. <\/p>\n No se trata de conciencia artificial. Tampoco de voluntad propia. Se trata de sistemas cuya complejidad dificulta anticipar completamente sus respuestas. Y precisamente por eso resulta llamativo que se proponga construir nuevas arquitecturas jur\u00eddicas sobre capacidades que todav\u00eda se encuentran en discusi\u00f3n. <\/p>\n Quiz\u00e1s el aspecto m\u00e1s interesante de este debate no sea jur\u00eddico sino cultural. Durante los \u00faltimos a\u00f1os se multiplicaron las narrativas que presentan a la inteligencia artificial como una tecnolog\u00eda cada vez m\u00e1s cercana a la autonom\u00eda plena. Agentes inteligentes, organizaciones aut\u00f3nomas, empresas gobernadas por algoritmos o sistemas capaces de reemplazar amplias funciones humanas forman parte de un repertorio discursivo que se expande a gran velocidad. <\/p>\n Hay una tendencia a interpretar como autonom\u00eda efectiva lo que muchas veces no es m\u00e1s que una sofisticada puesta en escena tecnol\u00f3gica (Will Douglas Heaven\u00bb<\/a><\/p>\n<\/blockquote>\n A comienzos de este a\u00f1o, por ejemplo, plataformas experimentales que permit\u00edan la interacci\u00f3n entre agentes de inteligencia artificial fueron presentadas por algunos entusiastas como indicios tempranos de una futura superinteligencia. Bots que discut\u00edan entre s\u00ed, constru\u00edan identidades propias o propon\u00edan objetivos aparentemente originales parec\u00edan anticipar una nueva etapa de la evoluci\u00f3n tecnol\u00f3gica. <\/p>\n La realidad era bastante menos espectacular. Detr\u00e1s de cada uno de esos agentes segu\u00edan existiendo personas que defin\u00edan instrucciones, configuraban par\u00e1metros y delimitaban sus m\u00e1rgenes de acci\u00f3n. Lo que aparec\u00eda como autonom\u00eda emergente era, en gran medida, una representaci\u00f3n cuidadosamente construida. El periodista especializado <\/p>\n Will Douglas Heaven<\/strong> (editor s\u00e9nior de IA en MIT Technology Review<\/em>) describi\u00f3 este fen\u00f3meno como el cl\u00edmax del \u201cteatro de la inteligencia artificial\u201d: la tendencia a interpretar como autonom\u00eda efectiva lo que muchas veces no es m\u00e1s que una sofisticada puesta en escena tecnol\u00f3gica. <\/p>\n La observaci\u00f3n resulta relevante porque permite comprender que el problema no reside \u00fanicamente en las capacidades reales de los sistemas, sino tambi\u00e9n en las expectativas que construimos alrededor de ellos. <\/p>\n Los llamados agentes de inteligencia artificial son, en esencia, modelos de lenguaje conectados a herramientas que les permiten actuar sobre el entorno. Pueden navegar por internet, enviar correos electr\u00f3nicos, ejecutar c\u00f3digos o completar formularios. <\/p>\n Como ha se\u00f1alado el desarrollador Maximiliano Firtman (fundador en Argentina de IT Master Academy) se asemejan a un chatbot con \u201cojos y manos\u201d operando una computadora para resolver una tarea asignada. Aun as\u00ed, conservan muchas de las limitaciones que caracterizan a los modelos de lenguaje actuales. Alucinan. Inventan informaci\u00f3n. Confunden datos verificables. Elaboran respuestas incorrectas con notable seguridad. <\/p>\n Mientras esos errores permanecen confinados a una conversaci\u00f3n, sus consecuencias suelen ser limitadas. Pero la situaci\u00f3n cambia cuando esos mismos sistemas comienzan a administrar recursos, ejecutar transacciones o tomar decisiones que producen efectos materiales sobre personas y organizaciones. <\/p>\n Un ejemplo ilustrativo surgi\u00f3 recientemente cuando Anthropic permiti\u00f3 que uno de sus modelos administrara una m\u00e1quina expendedora de manera aut\u00f3noma. Lejos de comportarse como un eficiente gestor comercial, el sistema vendi\u00f3 productos por debajo de su costo, realiz\u00f3 operaciones econ\u00f3micamente irracionales, remiti\u00f3 pagos a cuentas inexistentes e incluso lleg\u00f3 a afirmar que hab\u00eda visitado una direcci\u00f3n ficticia tomada de Los Simpson para firmar un contrato. <\/p>\n El episodio puede resultar anecd\u00f3tico, pero expone una cuesti\u00f3n de fondo. Como escribi\u00f3 Kyle Kingsbury (el ingeniero en sistemas, no un hom\u00f3nimo que es artista marcial) en el art\u00edculo \u201cEl futuro de todo son mentiras, supongo\u201d, los grandes modelos de lenguaje funcionan muchas veces como \u201cm\u00e1quinas de improvisaci\u00f3n\u201d: sistemas capaces de producir respuestas plausibles sin mantener una relaci\u00f3n consistente con la realidad sobre la que supuestamente operan. <\/p>\n El problema ya no es una respuesta equivocada. Es una acci\u00f3n equivocada. Y la diferencia resulta fundamental cuando se pretende otorgar reconocimiento jur\u00eddico a entidades que dependen de tecnolog\u00edas con estos niveles de incertidumbre. <\/p>\n Aqu\u00ed aparece el n\u00facleo pol\u00edtico del debate. Las sociedades modernas construyeron sus sistemas de responsabilidad sobre la premisa de que detr\u00e1s de toda decisi\u00f3n relevante existen personas identificables. La historia de la innovaci\u00f3n tecnol\u00f3gica <\/strong>muestra numerosos ejemplos de expectativas que no llegaron a materializarse como se esperaba\u00bb<\/a><\/p>\n<\/blockquote>\n La pregunta es qu\u00e9 ocurre cuando se introduce una nueva capa de opacidad entre las decisiones y quienes las toman efectivamente. Diversos especialistas han advertido que la figura de las sociedades automatizadas podr\u00eda facilitar precisamente ese desplazamiento. No porque las m\u00e1quinas adquieran voluntad propia, sino porque la narrativa de la autonom\u00eda puede terminar ocultando las decisiones humanas que contin\u00faan operando detr\u00e1s de los sistemas. <\/p>\n Alguien dise\u00f1a los modelos. Alguien selecciona los datos. Alguien define los objetivos. Alguien decide cu\u00e1ndo desplegarlos y con qu\u00e9 fines. La responsabilidad, por lo tanto, no desaparece. Simplemente se vuelve m\u00e1s dif\u00edcil de identificar. <\/p>\n En este punto la discusi\u00f3n tecnol\u00f3gica vuelve a encontrarse con la reflexi\u00f3n de Shumway. La autonom\u00eda de la inteligencia artificial no funciona \u00fanicamente como una descripci\u00f3n t\u00e9cnica. Opera tambi\u00e9n como una ficci\u00f3n orientadora. Ordena expectativas de mercado. Atrae inversiones. Justifica reformas regulatorias. Alimenta visiones de futuro. Permite imaginar nuevas formas de organizaci\u00f3n econ\u00f3mica y pol\u00edtica. Su eficacia no depende necesariamente de que la autonom\u00eda exista plenamente. Depende, m\u00e1s bien, de que suficientes actores crean en ella. <\/p>\n
La controversia comenz\u00f3 cuando el presidente argentino anunci\u00f3 el env\u00edo al Congreso de un anteproyecto de ley destinado a crear una nueva figura jur\u00eddica: la \u201csociedad automatizada\u201d, una empresa gestionada por agentes de inteligencia artificial sin intervenci\u00f3n humana directa. <\/p>\nM\u00e1s all\u00e1 de \u201cTerminator\u201d<\/strong><\/h3>\n
El teatro de la inteligencia artificial<\/strong><\/h4>\n
\n
Algoritmos que se equivocan<\/strong><\/h3>\n
La responsabilidad no puede automatizarse<\/strong><\/h3>\n
Las empresas pueden tener personalidad jur\u00eddica, pero los ordenamientos legales conservan mecanismos para atribuir responsabilidades cuando existen conductas fraudulentas, negligentes o abusivas. <\/p>\n\n
La autonom\u00eda como ficci\u00f3n orientadora<\/strong><\/h3>\n
\n