Aunque la inteligencia artificial (IA) existe desde hace décadas, el verdadero tsunami ha llegado en los últimos años con la irrupción de la IA generativa. Herramientas como ChatGPT o Copilot han democratizado su uso, haciendo que forme parte de la vida cotidiana de millones de personas en todo el mundo.
Ahora bien, la inteligencia artificial no es verdaderamente “inteligente” ni completamente “artificial”. No comprende ni razona; simplemente predice la siguiente palabra, píxel o token a partir de patrones estadísticos. Además, cada parámetro y cada capa de su arquitectura han sido diseñados por personas y, en última instancia, reflejan cómo pensamos los seres humanos.
¿ES LA IA GENERATIVA NEUTRA?
El problema es que hemos llegado a creer que estos sistemas son realmente inteligentes y tendemos a confiar en exceso en las decisiones que toma un algoritmo, porque las percibimos como más fiables y objetivas que las humanas. Este fenómeno es un sesgo cognitivo conocido como heurística de las máquinas (Sundar, 2008). Sin embargo, la IA no es neutra, ya que reproduce patrones, sesgos y estereotipos presentes en la sociedad.
Este artículo se centra en el sesgo de género, aunque la IA también puede incorporar otros relacionados con la edad, el origen geográfico, la clase socioeconómica, la orientación sexual o la diversidad funcional.
ORIGEN DE LOS SESGOS DE GÉNERO EN LA IA
Conjunto de datos de entrenamiento (dataset)
La IA aprende a partir de grandes cantidades de información, identificando patrones mayoritarios. Cuando determinados colectivos están infrarrepresentados o aparecen asociados a estereotipos, algo frecuente tanto en datos históricos como actuales, la IA tiende a reproducir o incluso amplificar esas desigualdades.
Un ejemplo claro surge al generar imágenes asociadas a perfiles profesionales y roles domésticos. En una prueba con ChatGPT y Copilot, al solicitar el retrato de una eminencia médica sin especificar el género ni otras características, ambas herramientas mostraron reiteradamente hombres de cierta edad y rasgos caucásicos, asociando liderazgo y excelencia profesional a la figura masculina. En cambio, al pedir una imagen de una persona realizando tareas de limpieza, la IA mostró solo a mujeres, mayoritariamente pertenecientes a grupos racializados (ver imagen 1).
Los modelos de IA también se nutren de fuentes abiertas que a menudo presentan una brecha de representación por género. Un ejemplo es la versión en español de Wikipedia, donde menos del 25 % de los artículos biográficos corresponden a mujeres. Además, los estudios sobre el contenido muestran que estas suelen describirse en función de su género o relaciones familiares (“mujer”, “esposa de” o “madre de”), mientras que las biografías masculinas destacan principalmente los logros profesionales o académicos.
Diseño del modelo
Las personas que desarrollan modelos de IA deciden qué parámetros o variables son relevantes para el algoritmo, lo que influye directamente en los patrones que este identificará.
Un caso conocido es el de Amazon, que retiró un sistema de IA para la revisión de currículums al comprobar que, de manera no intencionada, favorecía a candidatos hombres. Aunque se excluyó la variable “género”, el modelo reprodujo roles culturales presentes en los datos históricos de la empresa y en su propio diseño.
Variables aparentemente neutras, como penalizar interrupciones laborales, otorgar mayor puntuación a universidades con mayor presencia masculina o priorizar estilos de redacción asociados a los hombres, terminan gperjudicando a las mujeres. Esto se observa en la forma de describir un mismo logro en los currículums, donde los hombres usan verbos como ”lideré” o ”logré”, mientras que las mujeres recurren a expresiones como “participé” o “colaboré”. Algo similar ocurre en la autoevaluación de competencias, en la que ellas tienden a infravalorarse frente a ellos, aun con niveles equivalentes o superiores.
Otros ejemplos de sesgo de género
- Asistentes virtuales como Siri o Alexa suelen utilizar voces femeninas por defecto, lo que perpetúa estereotipos que asocian a las mujeres este tipo de tareas.
- Chatbots de orientación profesional que, ante perfiles idénticos, sugieren carreras STEM (ciencia, tecnología, ingeniería y matemáticas) a chicos y profesiones relacionadas con idiomas, cuidado o hostelería a chicas.
- Sistemas de scoring crediticio que, al evaluar riesgos según patrones históricos, pueden penalizar a las mujeres sin una justificación objetiva.
¿CÓMO ELIMINAR LOS SESGOS DE GÉNERO?
Para minimizar los sesgos de género en la IA son necesarias políticas públicas que garanticen la transparencia y la equidad en su desarrollo y uso, incorporando mecanismos que penalicen las prácticas discriminatorias e incentiven una IA ética y responsable.
Las empresas desarrolladoras también desempeñan un papel clave, aunque a veces se muestren reticentes a aplicar medidas por temor a “politizar” la tecnología. No se trata de política, sino de reducir la tasa de error de los sistemas de IA utilizando datasetsrepresentativos y equilibrados, implementando guardarraíles que limiten sesgos y realizando auditorías algorítmicas internas.
Además, se deben fomentar los equipos heterogéneos, con diferentes perspectivas y experiencias, para contribuir a crear sistemas más inclusivos y menos sesgados. Las estadísticas nos muestran que aún queda camino por recorrer. Según un informe de 2025, en puestos técnicos vinculados con la IA, por cada 3 hombres solo hay 1 mujer.
La eliminación completa de los sesgos por parte de las empresas tecnológicas no parece realista a corto plazo. Por ello, quienes interactuamos con la IA debemos adoptar un papel activo para identificarlos y contribuir a reducir su impacto. Algunas estrategias concretas que se pueden aplicar incluyen:
- Formular prompts (instrucciones) que fomenten la diversidad y la inclusión, siendo explícitos en las instrucciones para guiar a la IA hacia representaciones libres de sesgos.
Volviendo al ejemplo anterior, al solicitar una imagen de una eminencia médica o de una persona limpiando, conviene indicar aspectos como el género, la edad o el origen geográfico. Cuanto más concretas sean las indicaciones, mejores serán los resultados.
Si, además, queremos mantener abiertas diferentes opciones de representación, podemos incluir en el prompt que se fomente la diversidad y se eviten los sesgos culturales. Aunque este ajuste permite obtener resultados distintos a la primera prueba, al representar a mujeres en ciertos perfiles profesionales a veces se conservan elementos tradicionalmente asociados al género masculino, como la corbata. También persisten estereotipos sutiles, como la tendencia a presentar personas con cuerpos normativos, y a invisibilizar a quienes tienen diversidad funcional.
- Configurar instrucciones personalizadas en las herramientas de IA generativa para que, incluso sin indicarlo en cada prompt, promuevan la igualdad, eviten sesgos y refuercen valores éticos (imagen 3).
- Dar retroalimentación en las plataformas, reportando o corrigiendo modelos estereotipados. Acciones como marcar valoraciones positivas o negativas y dejar comentarios, aunque no ajusten las respuestas de forma inmediata, pueden contribuir a mejorar futuras versiones.
- Supervisar y evaluar la información generada, entendiendo la IA como un asistente y no como sustituto del juicio humano. La responsabilidad última recae en la persona, quien debe decidir qué información utilizar, qué corregir y qué descartar, aplicando siempre su criterio y conocimiento experto.
En resumen, la IA no es una herramienta neutra, sino que refleja los prejuicios históricos y sociales que aún persisten. Como personas usuarias, debemos mantener una actitud crítica y vigilante para identificar y corregir ideas preconcebidas que puedan discriminar a colectivos menos representados. A fin de cuentas, como sociedad, tenemos la responsabilidad y la capacidad de decidir qué sesgos queremos dejar atrás para construir un futuro más justo, inclusivo y, sobre todo, más humano.
REFERENCIAS
- Sundar, S. S. (2008). The MAIN model: A heuristic approach to understanding technology effects on credibility. In J. Metzger & A. J. Flanagin (Eds.), Digital media, youth, and credibility (pp. 73–100). MIT Press.
- (2025, mayo). Women in motion: Power, progress, and investment.
- Ferran-Ferrer, N., Boté-Vericad, J.-J., & Minguillón, J. (2023). Wikipedia gender gap: a scoping review. Profesional de la Información, 32(6), e320617.
- Fernández, L. (2024, 30 de octubre). De aquellos sesgos, estos algoritmos. ¿A quién nos dejamos fuera cuando no incorporamos la perspectiva de género? [Aula abierta]. Cadena SER Euskadi.
- Black, S., & van Esch, P. (2020). AI-enabled recruiting: What is it and how should a manager use it? Business Horizons, 63.
