Cada vez se da una mayor evolución de tecnologías como la Inteligencia Artificial (IA), las cuales generan cambios en nuestro entorno ya sea teniendo en nuestro teléfono inteligente un asistente de voz que te auxilia con búsquedas rápidas de voz, o al emplear una aplicación de generación de contenido como ChatGPT o Midjourney para acelerar la producción del trabajo. Estamos pues, ante un desarrollo incesante que no parece tener límites próximos y que puede traer una gran cantidad de beneficios y ventajas, tanto en la vida cotidiana, como en aspectos trascendentales para la humanidad, como la salud, la seguridad o la comunicación.
No obstante, de igual forma las IA han generado el surgimiento de nuevos problemas, como la recopilación masiva de datos e información personal, el robo de contenido a artistas por medio de IA generadoras de imágenes que vulneran los derechos de autor, o bien, el peligroso fenómeno del deepfake que demanda una solución urgente.
Sobre esta problemática se han dado desafortunados acontecimientos en los que se ha visto vulnerada la privacidad y el derecho a la propia imagen derivado del mal uso de la IA. En ese sentido, podemos retomar el caso del Papa Francisco, cuya imagen fue manipulada para presentarlo con una chamarra ostentosa, o bien, el caso de la streamer QTCinderella, quien fue víctima del fenómeno del deepfake de videos con carácter pornogrático.
Este deepfake fue difundido ampliamente en diversas plataformas y provocó importantes daños psicológicos y de salud mental en la creadora de contenido, lo que pone de relieve los efectos adversos del uso inapropiado de estas tecnologías derivado de sus altos niveles de realismo y parecido con la realidad. Esto no es una cuestión menor, pues usuarios malintencionados se han valido de estas tecnologías para difamar y extorsionar, lo que ha provocado que los entornos virtuales se constituyan en espacios en los que la violencia de género y el acoso sexual se llevan a cabo de manera impune, pues según datos de Sensiti AI, la firma de investigación que rastrea videos de esta índole, entre el 90% y el 95% son pornografía sin consentimiento y nueve de cada diez se refieren a mujeres. 3
Desde el punto de vista jurídico, son muy diversos los retos que se presentan, dentro de los cuales podemos destacar el relativo al establecimiento de límites y restricciones claras al uso de la IA con la finalidad de prevenir y sancionar los abusos a la privacidad y de la vulneración de los datos personales. Asimismo, podemos advertir las problemáticas relacionadas con la aplicación territorial de una eventual normatividad en la materia, o bien, el equilibro entre desarrollo tecnológico y restricciones a la IA.
Las IA no deberían significar por sí mismas un riesgo, como herramientas podrían aportar mucho a la humanidad, ya sea en el desarrollo de la personalidad al abrir nuevos panoramas, o en otros ámbitos como la seguridad, pero al estar sin control alguno generan el efecto contrario, por ello, es vital adelantarse a las problemáticas que se avecinan, contando con nuevas regulaciones que se adapten a nuestra nueva realidad de cambio constante.
3 Limón, Raúl, "Deepfakes": la amenaza con millones de visualizaciones que se ceba con las mujeres y desafía la seguridad y la democracia”, El País, 18 de marzo de 2023.
Disponible en:
Por Arístides Rodrigo Guerrero García
Comisionado Presidente del INFO CDMX y profesor de Derecho Constitucional en la
Facultad de Derecho de la UNAM.
@AristidesRodri
Paulette Román Carvajal
Estudiante de la Facultad de Derecho de la UNAM.
LSN