Desde el auge de la inteligencia artificial generativa en los últimos dos años, esta tecnología ha denigrado o difamado a los oponentes y, por primera vez, según funcionarios y expertos, ha comenzado a tener un impacto en los resultados electorales.

Gratuitas y fáciles de usar, las herramientas de IA han generado una avalancha de fotos y vídeos falsos de candidatos o simpatizantes diciendo cosas que no dijeron o apareciendo en lugares donde no estaban, todo ello difundido con la relativa impunidad que ofrece el anonimato en línea.

Esta tecnología ha amplificado las divisiones sociales y partidistas y ha reforzado el sentimiento antigubernamental, especialmente en la extrema derecha, que ha resurgido en las recientes elecciones en Alemania, Polonia y Portugal.

En Rumania, una operación de influencia rusa que utilizó IA turbó la primera vuelta de las elecciones presidenciales del año pasado, según funcionarios del gobierno. Un tribunal de Rumania anuló ese resultado, forzando una nueva votación el mes pasado y dando lugar a una nueva ola de mentiras. Fueron las primeras elecciones importantes en las que la IA tuvo un papel decisivo. Es poco probable que sean las últimas.

A medida que la tecnología mejora, advierten funcionarios y expertos, está socavando la confianza en la integridad electoral y erosionando el consenso político necesario para el funcionamiento de las sociedades democráticas.

Madalina Botan, profesora de la Universidad Nacional de Estudios Políticos y Administración Pública de Bucarest, la capital de Rumania, afirmó que no había duda de que la tecnología ya se estaba utilizando con fines claramente maliciosos para manipular a los votantes. «Estas mecánicas son tan sofisticadas que lograron que un contenido se volviera viral en un tiempo muy limitado», afirmó. «¿Qué puede competir con esto?»

En la inusualmente concentrada ola de elecciones que tuvo lugar en 2024, la IA se utilizó en más del 80%, según el Panel Internacional sobre el Entorno de la Información, una organización independiente de científicos con sede en Suiza. Se documentaron 215 casos de IA en las elecciones de ese año, basándose en declaraciones gubernamentales, investigaciones e informes de prensa.

Este año, la IA ha desempeñado un papel en al menos nueve elecciones importantes más, desde Canadá hasta Australia. En Polonia un vídeo manipulado con IA que circuló entre los usuarios polacos de TikTok parecía mostrar a Donald Trump apoyando a Slawomir Mentzen, un líder de extrema derecha. No emitió tal respaldo.

En Argentina se utilizó IA para editar la voz y los movimientos labiales del ex presidente Mauricio Macri dando apoyo a un candidato rival en la ciudad de Buenos Aires.

Corea del Sur también sufrió este problema con un video generado con IA que mostraba a Lee Jae-myung, entonces candidato presidencial, fingiendo una huelga de hambre.

No todos los usos fueron nefastos. En el 25% de los casos encuestados por el panel, los candidatos utilizaron IA para sí mismos, recurrieron a ella para traducir discursos y plataformas a dialectos locales e identificar grupos de votantes a los que llegar.

En India, la práctica de clonar candidatos se volvió común, «no solo para llegar a los votantes, sino también para motivar a los trabajadores de los partidos», según un estudio del Centro para la Participación en los Medios de Comunicación de la Universidad de Texas en Austin.

Al mismo tiempo, sin embargo, decenas de deepfakes (fotografías o videos que recrean falsamente personas reales) utilizaron IA para clonar las voces de candidatos o noticieros. Según la encuesta del Panel Internacional sobre el Entorno de la Información, la IA se caracterizó por tener un papel perjudicial en el 69% de los casos.

Hubo numerosos ejemplos malignos en las elecciones presidenciales estadounidenses del año pasado, lo que provocó advertencias públicas por parte de funcionarios de la Agencia de Seguridad de Infraestructura y Ciberseguridad, la Oficina del Director de Inteligencia Nacional y el Buró Federal de Investigaciones (FBI).

Bajo el gobierno de Trump, las agencias han desmantelado los equipos que lideraron esos esfuerzos. “En 2024, los beneficios potenciales de estas tecnologías se vieron eclipsados ​​en gran medida por su uso indebido y perjudicial”, afirmó Inga Kristina Trauthig, profesora de la Universidad Internacional de Florida, quien dirigió la encuesta del panel internacional.

Los usos engañosos más intensivos de la IA provienen de países autocráticos que buscan interferir en elecciones fuera de sus fronteras, como Rusia, China e Irán. La tecnología les ha permitido amplificar el apoyo a candidatos más dóciles a su visión del mundo, o simplemente desacreditar la idea misma de la gobernanza democrática como un sistema político inferior.

Una campaña rusa intentó avivar el sentimiento antiucraniano antes de las elecciones presidenciales del mes pasado en Polonia, donde se han reubicado muchos refugiados ucranianos. Creó videos falsos que sugerían que los ucranianos planeaban ataques para interrumpir la votación.

En elecciones anteriores, las iniciativas extranjeras fueron engorrosas y costosas. Dependieron de trabajadores en granjas de trolls para generar cuentas y contenido en redes sociales, a menudo utilizando un lenguaje forzado y errores culturales.

Con la IA, estas iniciativas pueden realizarse a una velocidad y a una escala inimaginable cuando los medios de comunicación y los periódicos eran las principales fuentes de noticias políticas. Saman Nazari, investigador de Alliance 4 Europe, organización que estudia las amenazas digitales a las democracias, afirmó que las elecciones de este año en Alemania y Polonia demostraron por primera vez la eficacia de la tecnología para las campañas internacionales, así como para los partidos políticos nacionales.

«La IA tendrá un impacto significativo en la democracia en el futuro», afirmó.

Se sabe que Rusia, China e Irán han utilizado la IA para influir en las elecciones más allá de sus fronteras.

En Reino Unido, por ejemplo, una imagen generada por IA que representa una larga fila de hombres se publicó en Facebook bajo un subtítulo que preguntaba sobre un «referéndum sobre inmigración». Estaba vinculada a una campaña de influencia rusa.

Moldavia, también lo padeció. Videos generados por IA de la presidente Maia Sandu de Moldavia aparecieron antes de las elecciones y elogiaban a la Unión Europea. Fueron hecho o estaban vinculados a Rusia.

Los avances en herramientas disponibles comercialmente, como el creador de imágenes de Midjourney y Veo, el nuevo generador de audio y video con IA de Google, han dificultado aún más distinguir las invenciones de la realidad, especialmente a simple vista. Grok, un chatbot y generador de imágenes con IA desarrollado por Elon Musk, reproduce también fácilmente imágenes de figuras populares, incluyendo políticos. Estas herramientas han dificultado a gobiernos, empresas e investigadores identificar y rastrear campañas cada vez más sofisticadas.

Antes de la IA, «había que elegir entre escala o calidad: la calidad provenía de granjas de trolls humanos, esencialmente, y la escala provenía de bots que podían ofrecer eso, pero eran de baja calidad», dijo Isabelle Frances-Wright, directora de tecnología y sociedad del Instituto para el Diálogo Estratégico. Ahora, puedes tener ambas cosas, y es realmente intimidante.

Las principales plataformas de redes sociales, como Facebook, X, YouTube y TikTok, tienen políticas que regulan el uso indebido de la IA y han tomado medidas en varios casos relacionados con las elecciones. Al mismo tiempo, están operadas por empresas con intereses creados en cualquier cosa que mantenga a los usuarios navegando. Pero se afirma que las plataformas deberían hacer más para restringir el contenido engañoso o dañino.

En las elecciones de la India, por ejemplo, poco del contenido de IA en la plataforma de Meta incluía descargos de responsabilidad, como exige la empresa, según el estudio del Centro para la Participación en los Medios. Meta no respondió a una solicitud de comentarios. Esto va más allá del simple contenido falso. Investigadores de la Universidad de Notre Dame descubrieron el año pasado que las cuentas falsas generadas por herramientas de IA podían evadir fácilmente la detección en ocho importantes plataformas de redes sociales: LinkedIn, Mastodon, Reddit, TikTok, X y las tres plataformas de Meta: Facebook, Instagram y Threads.

Estas empresas también intentan filtrar estos contenidos. En 2024, OpenAI desbarató cinco operaciones de influencia dirigidas a votantes en Ruanda, Estados Unidos, India, Ghana y la Unión Europea durante sus elecciones parlamentarias, según informes de la compañía.

Este mes, OpenAI reveló haber detectado una operación de influencia rusa que utilizó ChatGPT durante las elecciones alemanas de febrero. En un caso, la operación creó una cuenta bot en X que acumuló 27.000 seguidores y publicó contenido en apoyo al partido neonazi Alternativa para Alemania (AfD).

El caso más perturbador ocurrió en las elecciones presidenciales de Rumania a finales del año pasado. En la primera vuelta de noviembre, un candidato de extrema derecha poco conocido, Calin Georgescu, se impuso con la ayuda de una operación rusa encubierta que, entre otras cosas, coordinó una campaña falsa en TikTok.

Los críticos, entre ellos el vicepresidente estadounidense J. D. Vance y Musk, denunciaron la posterior anulación de la votación por parte del tribunal como antidemocrática. “Si tu democracia puede destruirse con unos pocos cientos de miles de dólares en publicidad digital de un país extranjero entonces no era muy sólida”, dijo Vance.

El tribunal ordenó la celebración de nuevas elecciones el mes pasado. Georgescu, que enfrentaba una investigación penal, no se le permitió presentarse, lo que allanó el camino para otro candidato nacionalista, George Simion. Un torrente similar de contenido manipulado surgió, incluyendo el video falso que mostraba que Trump criticaba a los líderes actuales del país.

Lucas Hansen, fundador de CivAI, una organización sin fines de lucro que estudia las capacidades y los peligros de la inteligencia artificial, afirmó estar preocupado por algo más que la posibilidad de que los deepfakes engañen a los votantes. Advirtió que la IA está enturbiando tanto el debate público que la gente se está desilusionando.

«La contaminación del ecosistema de la información será uno de los problemas más difíciles de superar. Y no estoy seguro de que haya mucho camino de vuelta», declaró..