\n<\/p>\n
NASHVILLE, Tennessee.\u2014 Una empresa china ha estado intentando desarrollar tecnolog\u00eda impulsada por inteligencia artificial<\/strong> que permitir\u00eda a los gobiernos autoritarios no solo vigilar a los disidentes, sino tambi\u00e9n predecir qui\u00e9n podr\u00eda convertirse en uno en el futuro<\/strong>.<\/p>\n El trabajo, que parece encontrarse todav\u00eda en una etapa de investigaci\u00f3n, parece sacado de una novela de ciencia ficci\u00f3n dist\u00f3pica y ofrece una visi\u00f3n de un mundo en el que un Estado autoritario es capaz de actuar contra sus ciudadanos antes incluso de que expresen p\u00fablicamente cualquier forma de disenso.<\/p>\n La empresa china Geedge Networks<\/strong> comercializa una versi\u00f3n del Gran Cortafuegos (Great Firewall)<\/strong>, el sistema de vigilancia y censura que China utiliza para controlar la actividad en internet. Estas herramientas permiten a los gobiernos monitorear el tr\u00e1fico en l\u00ednea y detectar cuando alguien intenta eludir la censura tradicional de internet.<\/p>\n Pero, seg\u00fan documentos internos filtrados de la compa\u00f1\u00eda, la firma est\u00e1 trabajando en nuevos productos que utilizan inteligencia artificial para analizar datos de ubicaci\u00f3n y uso de internet con el fin de predecir qui\u00e9n podr\u00eda hacer o decir algo cr\u00edtico del gobierno<\/strong>, de acuerdo con investigadores de la Universidad de Vanderbilt.<\/p>\n Esa tecnolog\u00eda, si llegara a perfeccionarse, otorgar\u00eda a los gobiernos autoritarios una poderosa herramienta para utilizar contra sus enemigos percibidos.<\/p>\n La idea de que un gobierno autoritario utilice inteligencia artificial para reprimir la disidencia<\/strong> ya resulta inquietante. Pero el uso de IA para predecir la disidencia mucho antes de que una persona haya actuado<\/strong> se ha convertido en un escenario de pesadilla para algunos especialistas del sector.<\/p>\n \u201cEsto es lo que ocurre cuando la vigilancia masiva<\/strong> se encuentra con la IA\u201d, dijo Brett J. Goldstein<\/strong>, director del Wicked Problems Lab del Instituto de Seguridad Nacional de Vanderbilt. \u201cSin controles y contrapesos, lo que China est\u00e1 haciendo con sus propios ciudadanos es un adelanto de lo que podr\u00eda hacerse en cualquier lugar donde estas herramientas operen sin supervisi\u00f3n\u201d.<\/p>\n Los investigadores de Vanderbilt descubrieron que Geedge, trabajando junto con su brazo de investigaci\u00f3n respaldado por el gobierno, MESA Lab<\/strong>, estaba desarrollando una tecnolog\u00eda capaz de generar perfiles de ciudadanos chinos y luego utilizar IA para identificar qui\u00e9n podr\u00eda representar un riesgo pol\u00edtico<\/strong>.<\/p>\n Sin embargo, el avance de la empresa parece haberse visto obstaculizado por los controles de exportaci\u00f3n impuestos durante la administraci\u00f3n Biden sobre chips dise\u00f1ados en Estados Unidos<\/strong>, que son fundamentales para alimentar los sistemas de inteligencia artificial. Esto sugiere que las restricciones estadounidenses podr\u00edan haber ralentizado el desarrollo chino de la pr\u00f3xima generaci\u00f3n de tecnolog\u00edas de vigilancia.<\/p>\n Documentos de Geedge muestran que, en 2024, cuando estaban vigentes estrictos controles de exportaci\u00f3n estadounidenses, la empresa y su laboratorio tuvieron dificultades para conseguir suficiente capacidad inform\u00e1tica para sus tecnolog\u00edas de vigilancia.<\/p>\n Brett V. Benson<\/strong>, profesor de Ciencia Pol\u00edtica en Vanderbilt, explic\u00f3 que los documentos hacen referencia a limitaciones en las GPU<\/strong>. Las GPU (unidades de procesamiento gr\u00e1fico) son los chips que alimentan los modelos de IA. Como consecuencia de esas limitaciones, se\u00f1al\u00f3, la empresa comenz\u00f3 a utilizar modelos y chips de inteligencia artificial m\u00e1s antiguos y menos potentes.<\/p>\n Actualmente, Geedge tiene acceso a suficientes GPU para sostener sus productos actuales, seg\u00fan funcionarios estadounidenses. Pero para desarrollar la versi\u00f3n m\u00e1s ambiciosa de su tecnolog\u00eda predictiva, probablemente necesitar\u00eda chips m\u00e1s avanzados de los que China puede adquirir hoy, agregaron esas fuentes.<\/p>\n Exfuncionarios de la administraci\u00f3n Biden afirmaron que la inteligencia recopilada mostraba que las pol\u00edticas destinadas a impedir que China accediera a chips estadounidenses de alta gama hab\u00edan funcionado tanto para preservar la ventaja estadounidense en inteligencia artificial como para ralentizar el desarrollo de otras tecnolog\u00edas chinas.<\/p>\n Sin embargo, sigue siendo una inc\u00f3gnita si los controles de exportaci\u00f3n estadounidenses lograr\u00e1n frenar el desarrollo chino de usos m\u00e1s represivos de la inteligencia artificial.<\/p>\n La administraci\u00f3n Trump ha flexibilizado parte de las restricciones heredadas de la era Biden, aunque mantuvo las limitaciones sobre los procesadores m\u00e1s avanzados de Nvidia<\/strong>, la empresa estadounidense que dise\u00f1a los chips de inteligencia artificial m\u00e1s potentes del mundo. Durante el reciente viaje del presidente Donald Trump<\/strong> a Pek\u00edn, funcionarios estadounidenses se\u00f1alaron que China tendr\u00eda acceso a una versi\u00f3n m\u00e1s avanzada de los chips de Nvidia.<\/p>\n Aun as\u00ed, China intenta independizar a sus compa\u00f1\u00edas de inteligencia artificial de los chips dise\u00f1ados en Estados Unidos para que los controles de exportaci\u00f3n dejen de limitar sus ambiciones.<\/p>\n La nueva informaci\u00f3n surgi\u00f3 de un enorme conjunto de datos que inclu\u00eda 100.000 documentos de Geedge<\/strong>, publicados originalmente en septiembre pasado. Trabajando con esos materiales, Wired y otras publicaciones describieron c\u00f3mo Geedge export\u00f3 su software de seguridad de redes a pa\u00edses como Etiop\u00eda, Kazajist\u00e1n, Myanmar y Pakist\u00e1n<\/strong>, permiti\u00e9ndoles llevar a cabo vigilancia masiva sobre redes m\u00f3viles<\/strong>.<\/p>\n Los investigadores de Vanderbilt que examinaron los documentos se concentraron no en la tecnolog\u00eda que Geedge ya vend\u00eda, sino en la pr\u00f3xima generaci\u00f3n de herramientas que intentaba desarrollar, as\u00ed como en las limitaciones que podr\u00edan impedir su implementaci\u00f3n.<\/p>\n Seg\u00fan los documentos de Geedge, durante los primeros meses de 2024 los investigadores trabajaban en la creaci\u00f3n de perfiles de comportamiento de las personas<\/strong> a partir de datos de telecomunicaciones, redes sociales y ubicaci\u00f3n geogr\u00e1fica. Los modelos de IA eran utilizados para clasificar individuos y para \u201cdetectar informaci\u00f3n da\u00f1ina<\/strong>\u201d, una expresi\u00f3n que el Partido Comunista Chino<\/strong> suele emplear como eufemismo para referirse a la identificaci\u00f3n de disidencia pol\u00edtica u otro material que el gobierno desea suprimir.<\/p>\n En una reuni\u00f3n celebrada el 5 de febrero de 2024, los investigadores debatieron c\u00f3mo construir perfiles de personas para \u201cidentificar sus intenciones<\/strong>\u201d y \u201clograr el descubrimiento de informaci\u00f3n da\u00f1ina\u201d, seg\u00fan las actas del encuentro.<\/p>\n Los investigadores de Geedge parec\u00edan estar desarrollando herramientas destinadas a utilizar IA para predecir qui\u00e9n podr\u00eda convertirse en cr\u00edtico del gobierno chino<\/strong>, bas\u00e1ndose en los patrones de datos recopilados por las tecnolog\u00edas de vigilancia de la empresa.<\/p>\n \u201cEl equipo de investigaci\u00f3n de Geedge estaba haciendo mucho m\u00e1s que documentar patrones de comportamiento. Estaban intentando predecir qu\u00e9 podr\u00edan hacer los ciudadanos despu\u00e9s y con qui\u00e9n\u201d, afirm\u00f3 Benson. \u201cEsos enormes dep\u00f3sitos de datos sobre actividades ordinarias son la materia prima para generar perfiles que determinen qui\u00e9n eres y qu\u00e9 har\u00e1s a continuaci\u00f3n\u201d.<\/p>\n Geedge no respondi\u00f3 a una solicitud de comentarios.<\/p>\n Los documentos sugieren que el equipo de la compa\u00f1\u00eda estaba trabajando para vincular los movimientos f\u00edsicos de las personas<\/strong> con otras actividades en l\u00ednea, incluyendo las pel\u00edculas que ve\u00edan y los libros que le\u00edan<\/strong>, seg\u00fan los investigadores de Vanderbilt.<\/p>\nPerfilar a los cr\u00edticos del futuro<\/span><\/h3>\n<\/p>\n