Twitter confirmó que existe una serie de sesgos en su algoritmo en el sistema de recorte de imágenes, lo cual ya había detectado la red social, y lo confirmó tras convocar a un concurso abierto, que realizó en colaboración con Al Village.
Lo anterior fue consecuencia de los usuarios se quejaron de que se priorizaba en la plataforma a las imágenes de personas de piel clara sobre las de piel oscura, por lo que en marzo desactivaron la función y la red social se comprometió a detectar los errores al respecto.
Los proyectos ganadores confirmaron que el algoritmo priorizaba fotografías de personas delgadas, jóvenes, piel clara y de rasgos femeninos, y que había prioridad con el idioma inglés, en comparación con el árabe, por ejemplo.
El proyecto ganador fue el que presentó Bogdan Kukynych y utilizó el software de inteligencia artificial denominado StyleGan2, a través del cual se generó imágenes en las que variaban los rasgos faciales, el color de piel y la complexión.
Con las variantes que se creaban de un mismo rostro, se detectó cuáles eran las tendencias del recorte automatizado. Lo que se indicó al respecto es que la inteligencia artificial que hay detrás del algoritmo amplifican los sesgos ya existentes y recorta a “aquellos que no cumplen con la preferencias del algoritmo de en relación con peso corporal, edad y color de piel”.
También se da preferencia a los rostros que han sido editados por filtros. Otro de los proyecto demostró que el sesgo no solo se limita a las personas, también aplica en los emojis, porque prioriza los de tonos de piel clara.
Se detectó que existe una marginación para las personas de la tercera edad y con discapacidad, ya que quedaban excluidos del recorte de las fotografías.
Y finalmente, se identificó que el idioma que se priorizaba en las imágenes que contenían mensajes en inglés en comparación con las que estaban en árabe, por ejemplo.