El Consejo de la UE y el Parlamento Europeo lograron un consenso histórico el pasado viernes, tras cerca de tres años de negociaciones, para pactar la primera legislación sobre la Inteligencia Artificial (IA) en el mundo.
Aún cuando el texto del acuerdo no está concluido y requiere de algunos pasos para su aprobación final y posterior entrada en vigor
–quizás en 2026– es de enorme trascendencia puesto que habrá de constituir un referente obligado para el resto del planeta. Así, 27 países europeos lograron un plan político para un amplio marco de supervisión a la tecnología, similar a lo que ocurre con los servicios financieros o de salud.
La presidenta de la Comisión Europea señaló que el acuerdo busca normar los riesgos identificables, aporta protección jurídica y abre el camino para una IA fiable que garantice la seguridad y los derechos de las personas y las empresas, apoyando el desarrollo, despliegue y asimilación de la tecnología de una manera responsable y transparente.
Según trascendió, las negociaciones fueron particularmente complejas en lo que atañe a la búsqueda de un equilibrio entre la seguridad, el respeto a los valores europeos, el impulso de la innovación, e incluso, los riesgos identificables de los modelos más avanzados de la IA.
En el caso de las aplicaciones de IA, relacionadas con infraestructuras críticas, como instalaciones de agua, gas y electricidad o servicios médicos, las tecnologías serán supervisadas estrictamente, lo que incluye sistemas de mitigación de riesgos, un registro de actividad, y aportar información clara a la autoridad. Por otro lado, la ley establece algunas prohibiciones con respecto a modelos de Inteligencia Artificial que pueden significar una amenaza potencial tanto para los derechos de los ciudadanos, como para la democracia, como, por ejemplo, los sistemas de categorización biométrica que pueden identificar la raza, orientación sexual, etc.
Si sólo una parte del mundo establece mecanismos de supervisión y regulación de la IA, y en las otras proliferaran versiones no seguras y de código abierto, estaríamos a merced de otros actores y hasta de grupos criminales que podrían usar estas tecnologías en perjuicio de otras naciones o sociedades.
Por último, y no menos importante, es que la Ley de IA no es aplicable ni a sistemas usados en el marco de la seguridad nacional de los miembros de la UE con fines militares de defensa. Este aspecto constituye una asignatura pendiente que requiere también de una atención urgente por parte de la comunidad internacional. La utilización de aplicaciones de Inteligencia Artificial en la industria militar, particularmente con respecto a las armas letales autónomas y en el manejo del arsenal nuclear de las potencias no puede dejarse sin supervisión y regulación.
Como sucede con el cambio climático –un reto que sólo puede enfrentarse eficazmente si todos los países reducen sus emisiones– la IA requiere de la cooperación internacional para atenuar sus riesgos y aprovechar su potencial para el bien de la humanidad.
POR CARLOS DE ICAZA
EMBAJADOR EMÉRITO DE MÉXICO Y EX SUBSECRETARIO DE RELACIONES EXTERIORES
MAAZ