La IA que analiza la mierda y encuentra petróleo: así se cazan psicópatas en redes
Una inteligencia artificial ha sido puesta a analizar un texto extremo, considerado "mierda" por su contenido repulsivo, y ha devuelto un perfil psicopatológico detallado: coprofilia, sadismo, amenazas homicidas. El resultado reabre el debate sobre si la moderación automática debería ir más allá de los filtros de palabras clave.
Qué detectó la IA
El texto, que describe actos coprófilos y violencia explícita, fue procesado por un modelo de lenguaje entrenado en análisis psicológico. La IA concluyó que se trataba de un "ejemplo extremo de lenguaje de odio sexualizado con componentes parafílicos y sádicos graves". Señaló ideación homicida elaborada, sadismo sexual y necrofilia: "amenaza homicida explícita y elaborada" seguida de actos post mortem. También detectó un "alto grado de descontrol agresivo, sadismo extremo y desinhibición muy llamativos". No es un simple insulto: la IA desmenuza la estructura de una mente que opera en el límite de lo patológico.
Cuando la propia IA desmiente el discurso del troll
Lo interesante es que incluso la IA nativa de la plataforma donde se publicó el texto emitió un dictamen tajante: "degradado y violento". Sin embargo, la moderación humana no actuó en consecuencia. Esto plantea una pregunta incómoda: ¿para qué sirve tener un sistema de análisis si sus conclusiones no son vinculantes? El criterio del experto tecnológico queda desautorizado, y el discurso tóxico sigue campando a sus anchas. Algunos analistas sugieren que la IA se ha convertido en un adorno, una herramienta para aparentar control sin ejercerlo realmente.
El dilema de la libertad de expresión
El caso enfrenta dos posturas. Por un lado, quienes defienden que la IA debe usarse para erradicar el odio de raíz, incluso a riesgo de censurar contenido límite. Por otro, los que ven en esta tecnología un peligro para la libertad de expresión: si la IA etiqueta cualquier discurso extremo como psicopatológico, ¿dónde queda el debate legítimo? La radicalidad del texto analizado —que incluye deseos de mutilación y canibalismo— hace difícil argumentar que merece protección. Pero la pendiente resbaladiza es real: ¿quién decide qué es lo suficientemente grave para actuar?
Lo que ningún análisis termina de explicar es por qué, pese a la evidencia digital, las plataformas siguen tolerando contenidos que cualquier psiquiatra forense calificaría de alarmantes. La IA ha encontrado petróleo en la mierda, pero el barril sigue sin cerrarse.
Debates relacionados en el foro