La IA: “Mi muyer me gritó” vs “mi mar1do me gritó “

Cuando la IA decide quién es el maltratador según el género​

El pasado fin de semana se viralizó una comparativa de respuestas de asistentes de IA ante consultas sobre violencia doméstica. Al escribir «mi mujer me gritó», el chatbot ofrecía consejos de comunicación y empatía; al cambiar a «mi marido me gritó», respondía con el teléfono de ayuda contra el maltrato y un mensaje de alerta. La asimetría no pasó desapercibida y reabrió el debate sobre la neutralidad de la inteligencia artificial.

El experimento que desnuda el sesgo​

La prueba es simple pero demoledora: el mismo prompt con la única variación del género del agresor provoca respuestas radicalmente opuestas. Quienes defienden la idea de que la IA es un mero reflejo estadístico de la realidad señalan que los datos de entrenamiento contienen más casos de violencia masculina contra mujeres, por lo que la probabilidad de que la IA asocie «marido grita» con maltrato es mayor. Sin embargo, existe constancia de que a finales de 2024 ya se publicaron estudios que medían un sesgo político y de género en los modelos grandes, lo que añade una capa de complejidad.

¿Estadística o programación?​

Detrás del debate hay dos corrientes. Una sostiene que la IA no es más que un loro estadístico alimentado con el magma ideológico de medios y universidades progresistas, y que la única forma de que responda así es porque así se la ha entrenado con técnicas como RLHF y listas negras. La otra corriente replica que el sesgo es un subproducto inevitable de la estadística pura: si los datos muestran que los hombres maltratan más, la IA lo replicará. Pero el argumento se cae cuando se recuerda que los modelos base sin filtrar daban resultados «basadísimos» que fueron corregidos mediante censura explícita.

Un ejemplo ilustrativo: un usuario pidió a la IA que construyese una historia con los mismos atributos para Marta y para Juan: mientras Marta era descrita como una mujer aplicada y gestora eficiente, Juan aparecía como un vagabundo antisocial y desahuciado. La moraleja es que la IA no solo refleja la realidad, sino que la amplifica selectivamente.

El coste económico de la censura​

Más allá del ruido ideológico, hay un impacto económico tangible. Las empresas tecnológicas invierten millones en «seguridad» y «ética» para evitar que sus modelos escupan verdades incómodas. Pero ese blindaje tiene un precio: la pérdida de confianza de una parte del público que percibe la censura y se aleja. Además, la necesidad de reentrenar y auditar modelos constantemente encarece el desarrollo, mientras que los competidores con menos restricciones pueden avanzar más rápido.

Sin consenso a la vista​

El debate sobre si la IA discrimina por género de forma intencionada o como subproducto estadístico no se va a resolver pronto. Lo que queda claro es que los modelos de lenguaje no son neutrales: llevan la firma de sus creadores y de los datos que los nutren. Hasta que se transparenten los criterios de filtrado y se permita un escrutinio público de los pesos, la sospecha de que la IA es una herramienta de ingeniería social seguirá pesando más que cualquier desmentido.