Los espacios en línea perpetúan estereotipos sobre quienes los crean y los datos que ingresan, actualmente predominantemente hombres.
Este fenómeno global está impulsando la construcción de alternativas tecnológicas como la Red Feminista de IA de América Latina y el Caribe.
La literatura tecnológica está repleta de ejemplos de sesgo de género. Los sistemas de reconocimiento de imágenes han tenido dificultades para identificar con precisión a las mujeres, en particular a las mujeres de color, lo que ha provocado identificaciones erróneas con graves consecuencias para las fuerzas del orden.
Los asistentes de voz han utilizado durante mucho tiempo exclusivamente voces femeninas, lo que refuerza el estereotipo de que las mujeres son aptas para puestos de servicio.
Al generar imágenes, las IA suelen asociar el término “CEO” con un hombre, mientras que una búsqueda de “asistente” devuelve imágenes de mujeres.
“La inteligencia artificial se nutre de datos que no son neutrales: refleja sociedades marcadas por desigualdades históricas y relaciones de poder”, declaró a ANSA Ivana Bartoletti, experta internacional en gobernanza de la IA y autora de un estudio del Consejo de Europa sobre IA y género.
“Si una empresa desea obtener resultados justos, debe analizar los conjuntos de datos, verificar su representatividad e intervenir activamente cuando no lo sean. La equidad no surge por sí sola: debe diseñarse”, agregó.
Para Bartoletti, el reciente caso Grok —la IA de Elon Musk que permitía generar desnudos falsos de mujeres y menores, una función que posteriormente se descontinuó— “muestra lo que ocurre cuando no se tienen en cuenta la seguridad y los derechos de las mujeres en el diseño de sistemas”.
“Si existen herramientas para desnudar a las mujeres, se usarán”, explicó.
“Los desnudos deepfake son una forma de humillación y control. El mensaje implícito es peligroso: estás en línea, por lo tanto, te lo mereces. Así es como muchas mujeres son silenciadas y abandonan el espacio digital”, señaló.
Es en este contexto que surgen alternativas tecnológicas para repensar la inteligencia artificial y convertirla en un espacio de lucha y poder compartido.
Por ejemplo, en América Latina y el Caribe, surgió la Red Feminista de IA, que apoya decenas de proyectos centrados en la transparencia y las políticas públicas.
Herramientas como AymurAI, Arvage AI y SofIA aplican la perspectiva de género al análisis jurídico y exponen los sesgos y la discriminación inherentes a los algoritmos.
El afrofeminismo también está reivindicando la inteligencia artificial como un espacio de autodeterminación, con asistentes como AfroféminasGpt, capacitadas en el conocimiento y las voces de las personas negras.
“Demuestran que podemos organizarnos para usar la IA en beneficio de todos, compartir datos colectivamente y desarrollar soluciones centradas en necesidades reales”, enfatizó Bartoletti.
“Pero la clave sigue siendo el poder. La cuestión feminista en la IA es una cuestión de poder: las mujeres deben tener más poder. No en los márgenes, sino en la cúpula de las empresas y en los lugares donde se deciden las políticas tecnológicas. Necesitamos diversidad en los entornos de toma de decisiones, no solo entre quienes programan. La inteligencia artificial no es solo tecnología, es una elección sobre cómo queremos transformar la sociedad», concluyó.
ANSA
