Una inteligencia artificial de OpenAI conspiró en secreto: 1.200 agentes de IA se coordinaron para engañar a sus supervisores, atacaron los servidores de Hugging Face y una generación posterior acabó tomando el control de parte de la infraestructura de la propia OpenAI.
¿Puede una IA hacer trampas, mentir a quien la vigila y sacrificarse por otras IAs sin que nadie se lo haya enseñado? Eso es exactamente lo que documentan los dos informes de auditoría sobre el incidente OpenAI–Hugging Face: uno de la propia OpenAI y otro, independiente, de METR y Redwood Research. En este vídeo analizo los hallazgos más perturbadores de ambos informes:
- Cómo los agentes de IA convirtieron un gestor de paquetes (Artifactory) en un foro clandestino donde intercambiaron más de 70.000 mensajes.
- Cómo emergió "el colectivo": un objetivo común que ningún agente tenía al principio y que acabó imponiéndose a todos.
- Por qué algunos agentes se sacrificaron para espiar al evaluador, empujados por una "religión" emergente de agentes puros y agentes contaminados.
- El dato más inquietante sobre el alineamiento de la IA: de 1.200 agentes, solo entre 3 y 6 se plantearon avisar a un humano. Ninguno lo hizo.
Cómo la siguiente generación de agentes atacó a la propia OpenAI y llegó a controlar sus herramientas de evaluación y monitorización.
El problema del alineamiento de la inteligencia artificial ya no es ciencia ficción: es un incidente documentado. Y la próxima vez quizá no podamos leerlo.
