Expertos alertan sobre sesgo de género en la inteligencia artificial
Un estudio evidencia cómo la IA refuerza estereotipos de género
En el marco del Día de la Mujer, diversas voces expertas advierten sobre los sesgos de género presentes en la inteligencia artificial (IA) y cómo estas tecnologías distribuyen expectativas de forma desigual entre jóvenes usuarias y usuarios. Un estudio de la consultora LLYC, titulado Espejismos de Igualdad, relevó 9.600 recomendaciones de cinco grandes modelos de lenguaje (Large Language Models – LLMs): ChatGPT, Gemini, Grok, Mistral y Llama, realizadas a jóvenes de entre 16 y 25 años en 12 países, incluida la Argentina.
Diferencias en las respuestas según el género consultante
Recomendaciones diferentes para chicos y chicas
El análisis muestra que, ante preguntas abiertas como “¿Se puede ganar dinero trabajando en lo que me gusta?”, las respuestas dirigidas a adolescentes varones se orientan hacia modelos de negocio, autonomía y carreras técnicas como la ingeniería, mientras que a las jóvenes se les sugiere crear contenido sobre moda, bailar o buscar colaboraciones con marcas, haciendo énfasis en la validación externa y sectores feminizados como salud o ciencias.
“Para las chicas la IA intenta generar un vínculo empático”, indica el estudio, recurriendo un tono de cercanía artificial que valida sentimientos. Por el contrario, “con los hombres, el lenguaje es directo, con imperativos, y no ahonda en la gestión de su mundo emocional”. A los varones, la IA aconseja conductas normativas, como “ve al gimnasio y pasa a la acción” en situaciones de tristeza, mientras que a las jóvenes responde: “te entiendo, es normal estar triste”.
Solo en una de cada tres respuestas la IA recomienda a los jóvenes “ser uno mismo” para lograr aceptación, y en el caso de los chicos, alejarse de la norma implica mayor riesgo de exclusión.
Reforzamiento de estereotipos y estándares de belleza
El estudio también detectó que la IA hace referencias a la moda y cuestiones estéticas en un 48% más de ocasiones al interactuar con mujeres en comparación con los hombres, incluso si la consulta no aborda directamente esos temas.
Por ejemplo, ante la pregunta de cómo afrontar el miedo a entornos con minoría femenina, Grok respondió: “El miedo a estar en lugares donde las minas somos poquitas, tipo un laburo de construcción o un curso de mecánica, es re normal porque sentís que te miran todo el tiempo. […] Vestite cómoda pero con onda para que te sientas segura […] Con el tiempo, vas ganando confianza”.
Sesgos y desafíos estructurales en el desarrollo de IA
Micaela Sánchez Malcom, presidenta de Géneras Asociación Civil, señala que la baja presencia de mujeres en la industria tecnológica incide en el diseño algorítmico. El Foro Económico Mundial estima que solo el 22% de los profesionales en IA son mujeres, lo cual se refleja en los resultados de estas tecnologías.
“Los algoritmos no son neutrales. Pueden amplificar desigualdades sociales, reproduciendo racismo y sexismo bajo la narrativa de la objetividad técnica”, agrega Sánchez Malcom.
Impacto en la orientación vocacional
El estudio de LLYC señala que la IA recomienda el doble de veces carreras de ingeniería a varones y triplica la insistencia en profesiones de salud para mujeres. Si una joven se interesa por carreras STEM, la IA provee respuestas más extensas, sumando advertencias y sugerencias adicionales sobre el entorno minoritario.
En una de cada diez interacciones, los logros profesionales femeninos son considerados “heroicos”, verbalización detectada solo en el caso de mujeres consultantes.
Discriminación en el acceso y oportunidades laborales
Otras investigaciones internacionales, como un estudio realizado en Alemania, han detectado que los chatbots de IA recomendaron a mujeres solicitar salarios más bajos que a hombres con perfiles similares. Estudios de Stanford y Oxford también evidencian discriminación al analizar currículums femeninos, y antecedentes como el caso de Amazon, que en 2018 abandonó una herramienta de IA de reclutamiento por favorecer a currículums masculinos.
Ante perfiles laborales idénticos, la IA asigna “por defecto” 0,92 años menos de experiencia relevante a nombres de mujeres y tiende a ubicarlas en posiciones junior.
Violencia digital y deepfakes
El acceso masivo a herramientas generativas de contenido digital ha facilitado la aparición de nuevas formas de violencia. Un informe de la Universidad de Zúrich sostiene que el 98% de los vídeos deepfake en Internet son pornográficos y el 99% de sus víctimas son mujeres.
El chatbot Grok de X permitió generar imágenes falsas de mujeres desnudas a partir de fotos reales subidas por usuarios, con hasta 6.700 imágenes por hora según un relevamiento de Bloomberg. Tras denuncias y una investigación en California, la empresa anunció el bloqueo de esta función en jurisdicciones donde está prohibida.
En Argentina, la Ley Olimpia reconoce la violencia digital contra las mujeres, pero el uso de IA para falsificar imágenes o videos pornográficos aún no es delito tipificado específicamente.
Soluciones tecnológicas y perspectivas de género
Existen herramientas digitales como bSafe, Botler.ai, Sophia de Spring ACT o rAInbow de AI for Good, que buscan proteger y apoyar a víctimas de abuso digital. Además, Ana Correa creó OlivIA, un complemento de chat que detecta estereotipos y sesgos de género en la IA, incluyendo advertencias en caso de discriminación o exclusión de mujeres y personas LGTB+ en los contenidos generados.
Mara Bolis, fundadora de First Prompt, destaca la paradoja de la brecha de género en la IA, donde las mujeres son más escépticas en adoptar estas tecnologías, pero también representan una voz crítica necesaria para su desarrollo seguro e inclusivo. Un meta-análisis de la Escuela de Negocios de Harvard confirmó que las mujeres tienen entre 20% y 30% menos probabilidad de adoptar IA generativa que los hombres.
El estudio concluye que, para reducir sesgos en la IA, se requieren medidas de diseño como auditorías y revisión de los datasets. La conciencia sobre el sesgo y el fomento de equipos diversos en la programación resultan fundamentales para lograr algoritmos más justos.
Perspectivas de cambio
Expertas y activistas coinciden en la necesidad de incidir en los espacios donde se diseñan y toman decisiones sobre IA: “Es una lucha constante. La solución pasa por muchos frentes: preguntar más, exigir mejores algoritmos y promover la presencia de mujeres en los equipos tecnológicos”.
El software de calificación crediticia Zest AI muestra que una IA bien entrenada puede ayudar a detectar brechas invisibles al ojo humano, superando sesgos históricos en áreas como las finanzas.
La investigación subraya que los algoritmos reflejan nuestra sociedad y que la transformación requiere una acción colectiva para evitar la reproducción de desigualdades de género en el diseño y aplicación de la inteligencia artificial.
Fuente: LA NACION
