<\/p>\n
Quien sigue la recomendaci\u00f3n de Netflix de ver \u201cEnvidiosa\u201d y devora las cuatro temporadas en un solo d\u00eda le est\u00e1 diciendo al sistema que le encant\u00f3, aunque jam\u00e1s haya respondido una encuesta que le pregunte expl\u00edcitamente si fue as\u00ed. En relaci\u00f3n con la IA, la versi\u00f3n moderna del reparto de culpas entre el chancho y quien lo alimenta parece ser la cuesti\u00f3n del humano en el loop <\/em>(bucle): el grado de intervenci\u00f3n humana dentro de un sistema automatizado, como los algoritmos de recomendaci\u00f3n de series y pel\u00edculas o el mism\u00edsimo ChatGPT<\/strong>. En un extremo, el sistema opera de forma completamente aut\u00f3noma; en el otro, hace exactamente lo que el humano le indica. <\/p>\n La pregunta que se cae de maduro es cu\u00e1nto de lo que observamos de interactuar con la IA (las pel\u00edculas que vemos, las ideas que tomamos del ChatGPT, las noticias que leemos) est\u00e1 determinado por el sistema y cu\u00e1nto por nuestras propias decisiones<\/strong>. El t\u00e9rmino t\u00e9cnico es reinforcement learning from human feedback<\/em> (aprendizaje por refuerzo a partir de retroalimentaci\u00f3n humana): el sistema aprende de nuestras reacciones, que a su vez fueron moldeadas por el sistema, en un ciclo que recuerda al meme<\/em> de los hombres ara\u00f1a apunt\u00e1ndose mutuamente. La reciente charla TED de la joven estudiante Naomi Couriel explica con notable claridad esta idea, que parece compleja pero que, bien contada, resulta sospechosamente familiar.<\/p>\n Esta idea, como es de esperar, no es nueva: es una variaci\u00f3n de la vieja tensi\u00f3n entre qui\u00e9n decide realmente y qui\u00e9n solo cree que decide. Los economistas y administradores llevan d\u00e9cadas estudiando la brecha entre la autoridad formal y el poder real en las organizaciones; los fil\u00f3sofos llevan siglos pregunt\u00e1ndose si el libre albedr\u00edo existe. La IA no invent\u00f3 el problema: lo hizo especifico y urgente.<\/strong><\/p>\n A 40 a\u00f1os de su desaparici\u00f3n f\u00edsica, resulta iluminador indagar qu\u00e9 ten\u00eda para decir Jorge Luis Borges al respecto. <\/strong>En \u201cAjedrez\u201d, su c\u00e9lebre poema de 1960, dice Borges que las piezas del juego \u201cno saben que la mano se\u00f1alada del jugador gobierna su destino, no saben que un rigor adamantino sujeta su albedr\u00edo y su jornada\u201d, y remata con un espeluznante \u201cDios mueve al jugador, y \u00e9ste, la pieza. \u00bfQu\u00e9 Dios detr\u00e1s de Dios la trama empieza de polvo y tiempo y sue\u00f1o y agon\u00eda?\u201d Borges no da respuesta, quiz\u00e1s porque lo \u00fanico que importa es la pregunta.<\/p>\n Los sistemas de recomendaci\u00f3n y de pron\u00f3sticos automatizados recuerdan al perro que busca complacer a su due\u00f1o.<\/strong> No es que el perro \u201caprenda a hacer el muertito\u201d sino que aprende a realizar una acci\u00f3n ante una indicaci\u00f3n de su due\u00f1o (\u201c\u00a1s\u00edmil cad\u00e1ver!\u201d le gritaba Inodoro Pereyra a su entra\u00f1able Mendieta, personajes del enorme Roberto Fontanarrosa), que luego lo premia con una caricia o un pedazo de carne. La pregunta borgeana no es solo qu\u00e9 hace reaccionar a Mendieta sino cu\u00e1l es el complejo entramado que explica tanto lo que hace el perro como lo que hace su due\u00f1o. <\/p>\n Los pron\u00f3sticos moldean las acciones de sus usuarios tanto como estos moldean a los pron\u00f3sticos<\/strong>. A quien es capaz de amargarse la semana por haber visto una pel\u00edcula mala solo le cabe el pron\u00f3stico conservador de \u201ctoda pel\u00edcula es mala\u201d; y exactamente lo contrario a quien no tolera perderse las buenas. Naturalmente, ver cada tanto una pel\u00edcula mala es el inevitable costo de no quedarse al margen de las conversaciones sobre las buenas. Entonces, ante una misma pel\u00edcula, el mismo pronosticador ser\u00e1 cauto con un tipo de usuario y aventurero con otro, m\u00e1xime si quien \u201cgu\u00eda\u201d (retroalimenta) el pron\u00f3stico es el mism\u00edsimo usuario: el humano en el loop tunea y es tuneado por el algoritmo.<\/p>\n Claramente, las alegor\u00edas borgeanas no se agotan en \u201cAjedrez\u201d. Es m\u00e1s, en alg\u00fan sentido, casi toda su obra gira en torno al rol del destino y la voluntad. En el complejo \u201cTl\u00f6n, Uqbar, Orbis Tertius\u201d una ficci\u00f3n fabricada por humanos termina reemplazando la realidad que esos humanos habitan; en \u201cLas ruinas circulares\u201d el que sue\u00f1a a otro descubre que \u00e9l mismo es so\u00f1ado; en \u201cEl Aleph\u201d, Borges se maravilla ante el punto que lo contiene todo (en tiempo y espacio) incluy\u00e9ndose a s\u00ed mismo contempl\u00e1ndolo.<\/p>\n Una conexi\u00f3n menos obvia pero igualmente iluminadora se encuentra en \u201cEl idioma anal\u00edtico de John Wilkins\u201d. En este inspirado ensayo, Borges plantea la pregunta de en qu\u00e9 sentido cualquier orden est\u00e1 necesariamente sujeto a alguna arbitrariedad.<\/strong> A modo de ejemplo, a los cel\u00edacos les conviene que en el supermercado los productos sin gluten est\u00e9n todos juntos; no as\u00ed a los golosos, que querr\u00edan que todas las galletitas (con o sin gluten) est\u00e9n en una misma g\u00f3ndola. Al respecto, dice Borges que \u201cnotoriamente no hay clasificaci\u00f3n del universo que no sea arbitraria y conjetural. La raz\u00f3n es muy simple: no sabemos qu\u00e9 cosa es el universo\u201d; es decir, a la larga, cualquier clasificaci\u00f3n depende de c\u00f3mo creamos que funcionan las cosas. Dicho de otra manera, cualquier algoritmo que ordene (productos en g\u00f3ndolas, votantes en distintas campa\u00f1as publicitarias, invitados en mesas de un casamiento) conlleva alguna arbitrariedad, producto de c\u00f3mo opinamos que funcionan o deber\u00edan funcionar los mercados, la pol\u00edtica o las familias.<\/strong> Agrega Borges que \u201cla imposibilidad de penetrar el esquema divino del universo no puede, sin embargo, disuadirnos de planear esquemas humanos, aunque nos conste que estos son provisorios\u201d. Es decir, el algoritmo que ordena objetos o personas es alterado por el humano en el loop <\/em>(recursiva y din\u00e1micamente) a medida que se actualizan sus conocimientos sobre c\u00f3mo funcionan las cosas.<\/p>\n La cuesti\u00f3n clave no es la circularidad en s\u00ed misma sino el equilibrio (o la falta de \u00e9l) al que esta \u201clucha libre\u201d entre humanos y m\u00e1quinas conduce. En \u201cLa loter\u00eda en Babilonia\u201d Borges narra una sociedad cuyas decisiones son determinadas por el azar, como en el hilarante episodio de The Big Bang Theory<\/em> en el que Sheldon Cooper deja libradas varias decisiones (comprar una PlayStation o una Xbox) al lanzamiento de una moneda. M\u00e1s dram\u00e1ticamente, la sociedad descripta por Borges termina tomando todas las decisiones posibles de sus habitantes a trav\u00e9s de La Compa\u00f1\u00eda, una entidad que administra el azar con creciente opacidad. Borges deja abierta la pregunta de si La Compa\u00f1\u00eda realmente existi\u00f3 alguna vez o si el azar imperante no es otra cosa que el producto de la interacci\u00f3n entre el sistema que lo administra y quienes est\u00e1n sujetos a \u00e9l: otra vez el humano en el loop<\/em>, esta vez aceptando (pasiva o activamente) que el algoritmo y el azar lo gobierne todo.<\/p>\n En la medida en que el humano tenga voz y voto en el loop<\/em> de la IA, la visi\u00f3n inquietante de \u201cTl\u00f6n\u201d o de \u201cLa loter\u00eda en Babilonia\u201d parece ser una ficci\u00f3n lejana. Mientras ChatGPT o Claude reaccionen a nuestro input<\/em>, como Mendieta a las instrucciones de Inodoro Pereyra, la sociedad retendr\u00e1 parte del control \u00e9tico y funcional de los algoritmos. La pregunta, que permanece abierta, es si alg\u00fan d\u00eda veremos a la IA corrernos del <\/strong>loop<\/strong><\/em>, y comenzar a indagarnos por iniciativa propia,<\/strong> como si don Inodoro divisara a lo lejos a Mendieta practicando solo \u201cdar la patita\u201d para despu\u00e9s pavonearse ante los otros canes del pueblo con sus habilidades reci\u00e9n descubiertas.<\/p>\n