La IA refuerza los sesgos de género y la violencia machista

La inteligencia artificial (IA) se está desarrollando con infrarepresentación femenina, perpetuando estereotipos machistas y abriendo la puerta a nuevas formas de violencia digital contra las mujeres, explicaron expertos de organizaciones internacionales, universidades y asociaciones de víctimas.

«La IA la están diseñando básicamente hombres blancos, con las consecuencias de falta de diversidad que eso implica», advierte la subdirectora de la Unesco, Gabriela Ramos, cuya institución ha cuantificado en menos del 20% el número de mujeres que trabajan en las grandes compañías de diseño y entrenamiento de los algoritmos y nuevas herramientas.

Para la profesora de Ciencias de la Computación de la Universidad Autónoma de Barcelona (UAB) Aura Hernández, el problema no es solamente que la diseñen más hombres, sino que estos no tengan perspectiva de género. «La tecnología en general tiene a más profesionales masculinos y la IA no va a esperar a la igualdad. Los hombres también deberían velar por ella», advierte.

En ese sentido, apunta que, teniendo en cuenta la revolución que significa la IA y el peso que tendrá en el desarrollo y aprendizaje sobre el mundo de niños y adolescentes, resulta una «oportunidad perdida para la igualdad» que deberá compensarse con un refuerzo de la educación.

La directora de Ciencia de Datos del laboratorio de ideas Data-Pop Alliance (con el apoyo de las universidades de Harvard y el MIT), Zynnia del Villar, explica que la falta de diversidad en los equipos que diseñan IA tiene impactos importantes en el presente y puede tener consecuencias «graves» en el futuro.

«Amazon tuvo que retirar su sistema de reclutamiento basado en IA porque penalizaba los currículum vitae de las solicitantes mujeres, y asistentes virtuales como Siri o Alexa han sido programados con respuestas sumisas ante comentarios sexistas, reforzando estereotipos de género», explica.

Asimismo, Del Villar apunta que, al ser diseñadas mayormente por hombres, las IA pueden no reflejar perspectivas femeninas en áreas clave como salud, seguridad y economía, sesgos que se quieren revertir desde hace años en el mundo «off-line».

Desde la facultad de Psicología de la Universidad Abierta de Cataluña (UOC), Ferran Marsa recuerda el reciente golpe de realidad extendido por la investidura del presidente de EEUU, Donald Trump, y la fotografía de magnates tecnológicos, todos hombres. «La IA es una tecnología actualmente de hombres para hombres, y eso es muy peligroso para los adultos y más aún para las futuras generaciones».

En ese sentido, la IA estaría «multiplicando la capacidad» de crear contenidos de violencia machista digital contra las mujeres, con ejemplos como los 'deepfakes', montajes fotográficos hiperrealistas que permiten poner un cuerpo desnudo a una imagen del rostro de una conocida, una forma de agresión que sufren especialmente adolescentes en los chats de alumnos.

En una búsqueda sencilla de «Mujeres en la IA», de hecho, no aparecen profesionales que desarrollan su carrera en esta tecnología, sino varias páginas de resultados en el buscador de programas generadores de imágenes de cuerpos femeninos.

«Casi todo lo que tiene que ver con las mujeres en la IA tiene que ver con la cosificación y el sexo, con las consecuencias que eso conlleva», añade Marsa.

Cosificación y 'deepfakes'

Desde la Asociación Stop Violencias Digitales, su directora, Encarni Iglesias, apunta que la IA, con su capacidad para analizar grandes volúmenes de datos y automatizar procesos, «está influyendo en cómo se perpetúan estos abusos y en cómo podemos enfrentarlos».

Entre los peligros, las crecientes aplicaciones de tecnologías de 'deepfake' que facilitan la creación de contenidos falsos que pueden usarse para difamar o humillar a víctimas.

El informe de Riesgos del Foro Económico Mundial de 2024 clasifica la desinformación como el riesgo global a corto plazo más grave al que se enfrenta el mundo en los próximos dos años.

Europa se queda sola en su pretensión de regular la avalancha

La eurodiputada de la Comisión de Mercado Interior y Protección al consumidor del Parlamento Europeo Laura Ballarín (PSOE) explicó que en la Eurocámara existe «preocupación» ante una incorporación de la IA, como gran revolución del siglo, que siga manteniendo y ampliando «los sesgos de género que llevan acumulándose durante siglos de patriarcado». Ballarín, que ha sufrido la persecución de la 'machoesfera', recordó que «la UE está liderando el esfuerzo para regular el impacto de la IA en derechos humanos» con una norma que incluye controles de transparencia y auditorías de sesgo.

• Temas
• Violencia
• Mujeres
• Especial Día Internacional de la Mujer
• Igualdad