2024 será uno de los años con mayor actividad democrática en la historia, con elecciones en 64 países, incluyendo México, Estados Unidos, Reino Unido, India y Pakistán.
En este contexto, la Inteligencia Artificial (IA) jugará un papel significativo en el desarrollo y los resultados de estos procesos electorales.
La IA ha demostrado ser una herramienta valiosa en los procesos democráticos. Se utiliza para analizar datos de votantes y prever resultados.
Las autoridades electorales emplean la IA para gestionar bases de datos de manera efectiva, y los candidatos pueden obtener un conocimiento más detallado de la ciudadanía. La IA también plantea serias preocupaciones, especialmente respecto de la desinformación.
La alteración de imágenes y voces de candidatos mediante técnicas como el deepfake, y la difusión masiva de datos manipulados, son amenazas reales que pueden influir en la decisión de los votantes. La preocupación por el uso indebido de la IA es tan grande que las principales empresas de tecnología, como Google, Microsoft, Meta y X, firmaron el pasado febrero, un acuerdo comprometiéndose a trabajar para evitar el mal uso de sus herramientas en los procesos electorales.
Poco después de las elecciones en México, surge la pregunta: ¿Cuál es el panorama de México respecto del uso de la IA en el fortalecimiento de la democracia?.
En 2023, el INE anunció la aprobación e implementación de una herramienta de IA para la lectura automatizada de actas durante el Programa de Resultados Electorales Preliminares (PREP). Sin embargo, debido a la incertidumbre sobre su precisión, esta herramienta fue descartada por la Unidad Técnica de Servicios de Informática (UTSI) del INE en abril de 2024.
Paralelamente, hemos sido testigos de la proliferación de videos deepfake que falsifican a candidatos presidenciales, como en el caso de un video que simulaba a Claudia Sheinbaum.
Por ello, es crucial examinar detenidamente cómo se han empleado estas herramientas tanto en México como en el mundo, para estar mejor preparados para los próximos procesos democráticos. Promover el uso positivo de la IA y prevenir sus impactos negativos es una tarea imprescindible.
Con el próximo mandato de la presidenta electa Claudia Sheinbaum, se podría anticipar un movimiento legislativo en torno a la iniciativa de la Ley Federal que Regula la Inteligencia Artificial, presentada por Morena. Esta iniciativa representa un primer paso hacia la categorización de la IA, el fomento de su desarrollo y protección contra posibles riesgos. Será crucial observar cómo evoluciona este marco regulatorio y su impacto en el panorama tecnológico y social del país.
Como bien dijo Kofi Annan: “La tecnología no se detiene, y tampoco debería la democracia”.
POR OMAR GUERRERO RODRÍGUEZ
SOCIO DIRECTOR DE HOGAN LOVELLS MÉXICO
PAL