Por qué los oligarcas tecnológicos están dispuestos a arriesgar el apocalipsis

NUEVA YORK.– En una serie de discursos privados el año pasado, Peter Thiel, el inversor multimillonario en tecnología y referente intelectual de Silicon Valley, dijo que la joven activista Greta Thunberg representaba el espíritu del Anticristo. No fue solo un insulto hiperbólico. Thiel expresaba una teología prometeica, que santifica la tecnología y la expansión.

En su visión del mundo, las fuerzas del dinamismo deben luchar contra los males del estancamiento, representados por el ambientalismo de izquierda de Thunberg. “En el siglo XXI, el Anticristo es un ludita que quiere detener toda la ciencia”, dijo Thiel.

Los supuestos filosóficos de Thiel pueden sonar extraños para quienes están fuera de ese mundo, pero parecen estar ampliamente compartidos entre la élite tecnológica. “La IA y sus capacidades representan algo análogo a la Segunda Venida”, dijo en mayo Jeremy Nixon, fundador de un centro de IA llamado A.G.I. House.

Algunos magnates tecnológicos creen que esta tecnología permitirá a los humanos —al menos a algunos— escapar de los límites de la Tierra e incluso, tal vez, de la inevitabilidad de la muerte. Representa una liberación frente a la desesperanza y el deterioro.

Vale la pena tener presente esta nueva y extraña cuasirreligión al considerar las advertencias de personas de dentro de la industria de la IA que sostienen que sus inventos podrían provocar muertes masivas. Como probablemente ya sepa, esta semana Jacob Coxon renunció a su puesto de investigador en Anthropic y advirtió en X: “Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década”.

Sus palabras fueron amplificadas por Evan Hubinger, jefe de ciencia de alineación de Anthropic, cuyo trabajo consiste en intentar que la tecnología se mantenga alineada con los objetivos humanos. “Jacob tiene razón”, escribió Hubinger, quien estimó en más de 10% la probabilidad de que la IA extinga a los humanos en los próximos diez años.

Estas advertencias conducen a una pregunta evidente: si esta tecnología puede destruir la vida humana en la Tierra, ¿por qué seguir desarrollándola? A menudo, la respuesta es que, dado que su avance es inevitable, los actores responsables deben llegar primero. No es un argumento absurdo: si realmente se cree en las capacidades asombrosas de la IA, nadie querría cederles el control exclusivo a sus adversarios.

Pero, como explicación de la extrañamente despreocupada actitud de la industria ante el apocalipsis, resulta incompleta, porque no contempla los sueños mesiánicos de los líderes tecnológicos.

Sus fantasías de trascendencia adoptan formas distintas. Sam Altman, director ejecutivo de OpenAI, dijo alguna vez: “Supongo que mi cerebro será cargado a la nube”. Elon Musk planea escapar a Marte. “Queremos avanzar hacia un camino que convierta en realidad las cosas que leemos en libros de ciencia ficción y vemos en las películas”, dice en imágenes incluidas en el nuevo y contundente documental de Alex Gibney, Musk.

“Un futuro en el que quedemos confinados para siempre a la Tierra, hasta algún eventual evento de extinción, es menos inspirador”. Jeff Bezos, quien dejó en 2021 su puesto como director ejecutivo de Amazon para dedicar más tiempo a su empresa espacial, escribió: “No queremos enfrentar una civilización de estancamiento, y ese es el verdadero problema si nos quedamos en este planeta”.

Algunos se imaginan como Übermenschen, superhombres potenciados digitalmente. En 2023, el inversor multimillonario Marc Andreessen publicó el “Manifiesto tecno-optimista”, con una sección titulada “Convertirnos en superhombres tecnológicos”.

Allí retomó el lenguaje del futurista —y fascista— italiano Filippo Tommaso Marinetti: “La tecnología debe ser un asalto violento contra las fuerzas de lo desconocido, para obligarlas a inclinarse ante el hombre”. Citó a Friedrich Nietzsche para sostener que, sin ese asalto, la vida se vuelve insignificante y pequeña. En una sección titulada “El enemigo”, Andreessen enumeró las ideas que restringirían el impulso de la tecnología, entre ellas la “ética tecnológica” y el concepto de “riesgo existencial”.

Parte de la razón por la que la opinión pública se volvió tan rápida y decididamente contra la IA es el extraño desajuste entre los costos que se le pide asumir y las recompensas que espera recibir. Los centros de datos arruinan el paisaje, la basura generada por IA degrada la cultura, los chatbots ayudan a los chicos a hacer trampa en la escuela y, en ocasiones, llevan a las personas a la locura; mientras tanto, los ejecutivos tecnológicos profetizan desempleo masivo.

A cambio, la gente común obtiene mejores motores de búsqueda y ayuda para redactar correos electrónicos. Podrían aparecer grandes beneficios —se nos asegura constantemente que la IA permitirá enormes avances médicos—, pero todavía no están aquí como para justificar los riesgos.

Sin embargo, para quienes más invierten en IA, el riesgo intolerable consiste en no avanzar con la tecnología y, así, quedar confinados a una existencia ordinaria, finita y asfixiante.

“Durante décadas, las grandes empresas tecnológicas han insistido en que las tecnologías que poseen y controlan son ‘inevitables’ y, por lo tanto, imparables”, escriben Naomi Klein y Astra Taylor en su incisivo nuevo libro, End Times Fascism.

“Ahora reclaman cada vez más la autoridad de lo sobrenatural: el derecho a inaugurar una nueva etapa de la evolución humana, gobernada por deidades de su propia creación”. Como señalan Klein y Taylor, estas visiones, tan claramente derivadas de la ciencia ficción y los videojuegos, pueden resultar difíciles de tomar en serio. Pero no importa si uno cree en un futuro de ascensión cibernética. Lo importante es que quienes impulsan la revolución de la IA sí creen en él.

Y si las cosas salen mal, tienen planes alternativos. Mark Zuckerberg construye un lujoso complejo de supervivencia en Kauai. Thiel intentó levantar uno en Nueva Zelanda y recientemente se instaló en la Argentina, una “posible vía de escape”, según informó The New York Times, frente a catástrofes como una guerra nuclear o una IA fuera de control.

Ilya Sutskever, uno de los fundadores de OpenAI, les habría dicho a empleados que la empresa construiría un búnker antes de lanzar la AGI, o inteligencia artificial general: un sistema capaz de igualar o superar las capacidades humanas en una amplia variedad de ámbitos.

El año pasado, en una entrevista, mi excolega Ross Douthat le hizo a Thiel una pregunta que parecía simple: “Supongo que preferiría que la raza humana perdure, ¿no?”. Thiel hizo una pausa incómodamente larga antes de responder finalmente, tras algunas evasivas: “Sí”. Sin embargo, su siguiente palabra fue “pero”, y luego comenzó a divagar sobre el transhumanismo. “El ideal era esta transformación radical en la que tu cuerpo humano y natural se transforma en un cuerpo inmortal”, dijo.

Probablemente, nuestros oligarcas tecnológicos querrían que la civilización humana en este planeta prospere, pero algunos no parecen considerarlo una prioridad absoluta. Más importante es alcanzar su apoteosis poshumana o interplanetaria. Si deben apostar nuestras vidas para invocar a su dios digital, consideran que es un riesgo que vale la pena correr.