Los due�os de la melod�a

Naciones Unidas enumeró sus cuatro grandes preocupaciones sobre la IA generativa. Una tiene título de tragedia anunciada: "Democracia en peligro". Dice, textual, que el potencial de la inteligencia artificial para manipular a los votantes "supone una grave amenaza para los procesos democráticos en todo el mundo". Lo firma el organismo que consiguió que 193 países suscribieran un Pacto Digital Global. El problema es que, mientras la ONU lo expresa, la amenaza ya dejó de ser un potencial: en América Latina alcanza con mirar las últimas elecciones.

En mayo de 2025, días antes de la elección porteña, circuló un video de Mauricio Macri bajando la candidatura de Silvia Lospennato y pidiendo el voto para Manuel Adorni. El video era falso, generado con inteligencia artificial. El Tribunal Electoral ordenó a X eliminarlo, pero la orden nunca pudo ser notificada ya que la compañía de Elon Musk no tiene representación legal en Argentina. La justicia le habló a una empresa que, jurídicamente, no existe en el país. El video siguió circulando a la velocidad que solo alcanza un rumor.

"Con unos cuantos segundos de la voz de alguien, pueden hacer lo que quieran", advirtió el investigador Paul Pouzergues en una conferencia del Observatorio de Violencia Política contra las Mujeres de la Universidad de Costa Rica. Clonar una voz cuesta centavos y toma minutos. Check Point Research analizó 36 elecciones entre 2023 y 2024 en las que al menos en diez se usaron audios con voces clonadas, videos con rostros falsificados e imágenes generadas por completo con IA.

En Eslovaquia, un audio falso del candidato Michal Šimečka —que perdió por escaso margen— apareció 48 horas antes de la elección, en plena veda: el invento del siglo XX que obliga a callar a los medios justo cuando el algoritmo habla cada vez más fuerte. Y un estudio regional del PNUD encontró los mismos patrones en Argentina, Brasil, Colombia, México y Perú: noticias falsas sobre candidatos, granjas de bots y ataques a la credibilidad del propio padrón electoral.

Nada de esto reparte el daño en partes iguales. En Latinoamérica, las víctimas tienen nombre y apellido: Francia Márquez recibió campañas racistas coordinadas; en México se usaron deepfakes contra candidatas; en Brasil circuló este año un audio falso de Maduro acusando a Lula de integrar el Cartel de los Soles, en pleno año electoral. Y Argentina tiene el expediente más largo: las campañas contra Cristina Fernández de Kirchner —documentadas en un informe de 96 páginas ante las expertas de la OEA— siguieron dos décadas el manual completo, hasta el arma gatillada frente a su cara el 1° de septiembre de 2022. Según un estudio de social listening, en las semanas siguientes al atentado el odio en redes creció del 18% al 31%, dejando clara la ruptura de la frontera entre la violencia artificial y la física.

Hay una capa más silenciosa, y la ciencia acaba de medirla. En febrero, la revista Nature publicó un experimento que llevó a cabo durante 7 semanas con casi 5.000 usuarios de X. La mitad usó el feed cronológico —las publicaciones en orden de llegada— y la otra mitad el algorítmico. El grupo del cronológico mantuvo sus opiniones estables mientras que el algorítmico se desplazó de forma medible hacia posiciones más conservadoras. La plataforma amplificó el contenido de derecha casi tres veces más que el progresista y degradó a los medios tradicionales. La única diferencia entre los grupos era el orden en que la plataforma les mostraba el mundo. Básicamente, el algoritmo ayuda a que nuestra decisión exista antes de poder imaginarla.

En nuestra región el fenómeno pesa todavía más. Según LAPOP (el Barómetro de las Américas de la Universidad de Vanderbilt, que encuesta a la región hace más de tres décadas), hace diez años solo 1 de cada 10 adultos se informaba de política por redes sociales; hoy lo hace la gran mayoría, y una buena parte por WhatsApp, que ni siquiera tiene un feed que se pueda auditar. Lo que en Estados Unidos hicieron científicos con 5.000 voluntarios y consentimiento informado, en América del Sur lo hacen las plataformas todos los días, con más de 400 millones de personas y sin pedirle permiso a nadie. La mentira, además, ya se escribe dentro de las máquinas: cuantas más páginas repiten una historia falsa, más la repetirá la IA. El próximo chatbot que consulte un votante va a responder con la versión que más veces se fabricó.

Conviene entender la escala de lo que está en juego, porque excede al "fact-checking". Las sociedades se gobiernan por relatos, básicamente qué es posible e imposible, quién merece y quién sobra, qué futuro está disponible. La comunicación dejó de ser el relato de la política y pasó a ser el terreno donde se juega la política. Por eso importa quién es el dueño de la infraestructura narrativa, el que controla el orden en que ves el mundo y con el tiempo aquel mundo que creés posible. Cada deepfake es un ataque táctico donde el algoritmo es la ocupación permanente del territorio en la que una sociedad se cuenta a sí misma.

Lógicamente, nada de esto es un accidente. Los dueños del instrumento tienen un ideario, y en América Latina ya lo están cobrando. Elon Musk —dueño de X y primer trillonario de la historia— tuiteó "la guerra civil es inevitable" en plena ola de disturbios de la ultraderecha británica; NBC News documentó que impulsó movimientos de extrema derecha en al menos 18 países. En Argentina hizo campaña abierta por Milei, y el favor volvió rápido: Starlink fue la única empresa privada nombrada en la cadena nacional del DNU desregulador, y semanas después el ENACOM la autorizó a operar mientras el propio presidente contaba que el magnate estaba "sumamente interesado en el litio", justo cuando se armaba el RIGI y sus beneficios fiscales por treinta años.

En Brasil —el país cuya justicia más lejos llegó: obligó a X a cumplir la ley y sentó a Bolsonaro en el banquillo por golpista— la revancha llegó a escala de superpotencia: con Eduardo Bolsonaro haciendo lobby desde Texas, Trump impuso un arancel del 50% a los productos brasileños y sancionó al juez Moraes con la Ley Magnitsky. La fundamentación del Departamento de Estado fue que los fallos brasileños "han perturbado los intereses de las empresas tecnológicas estadounidenses".

Peter Thiel —cofundador de PayPal y de Palantir, la empresa de vigilancia nacida con capital del fondo de inversión de la CIA— lo escribió en 2009: "Ya no creo que la libertad y la democracia sean compatibles". Y según reveló The New York Times, se mudó a Buenos Aires con el traslado de toda su familia. Mientras España frena contratos con Palantir por considerarla un riesgo, la Argentina lo recibe con alfombra roja: reuniones en Casa Rosada y Cancillería —incluido un almuerzo con Santiago Caputo, el ahora famoso asesor presidencial que maneja la SIDE— El negocio de Palantir es venderles vigilancia a los Estados y acá encontró uno dispuesto. Su otro experimento regional ya mostró el método y resultado, en Próspera, la "ciudad privada" que impulsó en la isla hondureña de Roatán, con leyes, tribunales y regulaciones propias, creada al amparo del régimen de Zonas de Empleo y Desarrollo Económico. Cuando Honduras derogó ese régimen por considerarlo una cesión de soberanía, Próspera demandó al Estado ante tribunales internacionales de inversión por casi 11.000 millones de dólares —una cifra del orden de dos tercios del presupuesto anual del país. Un privado litigando contra una república entera, por el derecho a gobernarse a sí mismo dentro de ella.

Mark Zuckerberg, dueño de WhatsApp, Instagram y Facebook, las cañerías por donde circula la política latinoamericana, cerró su programa de verificación de datos alegando que los verificadores "han sido demasiado sesgados políticamente". Para la región fue un golpe directo, desfinanció a los chequeadores justo en las plataformas donde más circula la desinformación electoral. Larry Ellison, fundador de Oracle, promete que "los ciudadanos se portarán bien porque estamos grabando y documentando todo lo que ocurre". Y Marc Andreessen —uno de los mayores inversores en IA del mundo— declaró en su "Manifiesto Tecno-Optimista" como "enemigos" del progreso —textual— a "la ética tecnológica" y "el principio de precaución". No hacen falta intérpretes, lo dicen sin problema desde la plataforma más influyente del planeta, los contratos del Pentágono y la vicepresidencia de Estados Unidos.

Google planificó en Canelones, Uruguay, un data center que necesitaba 7,6 millones de litros de agua potable por día —el consumo de 55.000 personas— en el país cuya capital fue la primera del mundo en rozar el "día cero": el momento en que una ciudad se queda sin agua potable. En Querétaro, el hub mexicano de datos, ya hay cortes de agua y apagones. Y Argentina acaba de aprobar en Diputados el Súper RIGI: treinta años de beneficios y acceso prioritario al agua y la energía para los data centers de IA. A cambio de todo eso, la región se queda con poco y nada. Apenas el 5% de los data centers del mundo está en América Latina pero ninguna de las 100 supercomputadoras que entrenan los grandes modelos está en un país en desarrollo, y del financiamiento global para proyectos de IA, solo una de cada diez llegó a países de ingresos bajos o medianos. Ponemos el agua, la energía y las exenciones; la inteligencia, la renta y las decisiones migran sin mirar atrás.

Esta semana, el flamante Panel Científico de la ONU sobre IA —co presidido por Yoshua Bengio y la Nobel de la Paz Maria Ressa— presentó su primer informe, donde expresa que los deepfakes erosionan la capacidad de distinguir lo auténtico de lo falso, y que el efecto se agrava combinado con los algoritmos de recomendación. Ressa lo resumió: "El ritmo no disminuye, el poder se concentra y el control no está garantizado". El documento fundacional de esa arquitectura, "Gobernanza de la IA en beneficio de la Humanidad" (2024), ya lo había admitido: "El cumplimiento suele basarse en la voluntariedad; la práctica desmiente el discurso".

El primer informe del Panel deja además un dato que parece técnico y es profundamente político. En el mundo se hablan más de 7.000 idiomas, pero los modelos de IA se entrenan y optimizan solo para una pequeña parte de ellos y la brecha entre las lenguas dominantes y las demás, advierten los científicos, no se está achicando. Los propios modelos excluyen y discriminan a muchas personas, comunidades y culturas. Y deja afuera a la infraestructura narrativa más vieja de la humanidad: la memoria, el humor, la forma de nombrar el territorio y de imaginar el futuro. Millones de latinoamericanos van a conversar con inteligencias artificiales que no solo no hablan su lengua, tampoco conocen sus historias, y van a responderles con las de otros. La melodía no solo suena sin parar sino en un solo tono, y las canciones que no entran a la partitura, con el tiempo, dejan de cantarse.

Frente a esto, la respuesta regulatoria es necesaria y llega tarde. La otra batalla es narrativa, y es la que las democracias vienen abandonando. Los relatos también son infraestructura. Medios propios, verificadores financiados, alfabetización digital en las escuelas, y sobre todo mejores historias porque a una melodía solo se le gana con otra. Ningún panel de expertos va a contarle a una piba del conurbano por qué la democracia vale la pena; eso lo hace una narrativa, y esas se construyen, se financian y se disputan. Los nuevos flautistas lo entendieron hace más de veinte años, mientras nosotros venimos discutiendo entre nosotros y tarareando la de ellos. La salida es social y política: sacar la IA del cajón de los tecnólogos y ponerla en el centro de la disputa por el poder, con la narrativa como cuestión de Estado y no como decorado de campaña, sabiendo que debemos manejar sus mismos códigos y el mismo campo de pantallas, siendo claros y mostrándonos realmente diferentes para lograr una verdadera transformación.

La leyenda del flautista de Hamelín registra que en junio de 1284, 130 chicos de un pueblo alemán se fueron detrás de un músico y no volvieron nunca. Setecientos cuarenta años después, la melodía aparece transformada. La escuchamos suavemente mientras nos perdemos en las plataformas, dejando que nuestra identidad cruce el puente y que nuestros datos corran detrás de los hechiceros. Ellos mismos lo escribieron, no ven en nuestras democracias nada compatible con sus planes. Los pueblos que no paguen volverán a encontrar a las ratas en sus calles —aranceles, sanciones, demandas— y el futuro de nuestras naciones seguirá hipnotizado por un repertorio que suena sin parar.