El porvenir de la vigilancia

Días atrás, Javier Milei defendió, en un medio internacional, la actualización del modelo capitalista holandés del siglo XVII para incentivar empresas gestionadas por IA en la Argentina. Entre otras medidas, propone limitar su responsabilidad jurídica. Al trazar este paralelismo, el presidente omite una parte de la historia: aquel lucrativo modelo financiero colonial se sostuvo sobre la base de la explotación, tortura y tráfico de personas esclavizadas.

El modelo adoptado por Milei para posicionar a la Argentina como un centro financiero del futuro tampoco busca el bienestar humano. Más aún, puede profundizar nuevas vías de explotación de su población. El reciente anuncio de un Gemelo Digital Social se enmarca en este proyecto –y no es exclusivo del contexto argentino. El despliegue de tecnologías en el sector público en los últimos años ha servido ampliamente para validar iniciativas destinadas a restringir derechos y acceso a servicios esenciales.

Más allá de la ausencia de detalles sobre su operación, el Gemelo Digital, presentado como pionero, se basa en algunos pilares que ya son bien conocidos en procesos de digitalización de los Estados y conlleva problemas similares. El primero es la explotación intensiva de datos personales para distintos fines, vulnerando el derecho de las personas a poder definir quiénes, cómo, para qué, por qué y bajo qué condiciones utilizarán sus datos. Si bien se alega que el uso de datos facilita la toma de decisiones en materia de políticas públicas, no hay garantías de que las bases de datos no terminen en manos de fuerzas policiales, de inteligencia o de agentes privados. La lucrativa industria de datos los requiere para sostener modelos de negocios, entrenar sistemas de IA, generar perfiles de crédito, distribuir publicidad (y desinformación) electoral, entre otros usos. Las consecuencias para las personas y la sociedad son imprevisibles y pueden implicar incluso el acceso de agentes maliciosos para el fraude, la extorsión u otras formas de violencia.

El segundo problema reside en que la vigilancia y el control derivado de los esfuerzos de predicción no se dan de manera uniforme en la sociedad. Las élites son menos visibles para el Estado por su baja dependencia de servicios públicos y su poca frecuencia en espacios hipervigilados, como el transporte público. Ante la ausencia de información sobre los límites a la integración de bases de datos implicada en el despliegue de la iniciativa Gemelo Digital, es imposible saber la extensión de las intervenciones derivadas de su uso. Sin embargo, podemos asumir que impactarán en mayor medida sobre quienes ya se encuentran más expuestas –y no necesariamente en su beneficio.

El tercero es la narrativa de neutralidad tecnológica que pone a las tecnologías predictivas como alejadas de cualquier sospecha. Ellas serían capaces de tomar decisiones incluso de manera más objetiva que las personas. Más allá de la falsedad del argumento, los datos en poder de los Estados suelen estar incompletos, desactualizados, equivocados y fragmentados, y son poco representativos de la realidad social. Anclar políticas públicas en sistemas entrenados a partir de bases de datos de baja calidad, necesariamente implica ampliar sesgos y discriminación, como ha ocurrido en otros intentos alrededor del mundo.

Se busca validar políticas públicas en un sistema automatizado que no responde al escrutinio público o a las demandas sociales. Más aún: siguiendo los planes de la Casa Rosada, ni siquiera estaría sujeto a forma alguna de responsabilidad por vulneraciones. Bajo la retórica de la innovación y la eficiencia quedan rezagadas las hasta hace poco defendidas libertades individuales y bases de la democracia.

Faltan garantías de que el Gemelo Digital sea viable técnicamente o evidencias de su eficacia en la gestión pública. Pero si se consolida, sus costos para la sociedad argentina podrían ser enormes. Y si fracasa, habrá abierto una nueva vía más de extracción de riqueza. Los riesgos son concretos, los beneficios siguen siendo una promesa.

*Codirectora ejecutiva de Derechos Digitales.