Jacob Coxon (ingeniero de Anthropic) dimite porque “la IA podría cancelarnos a todos al final de esta década”.

Coxon dimite en Anthropic: «la IA podría matarnos a todos»​

Coxon tenía 27 años y un puesto que media industria tecnológica mataría por tener: investigador en Anthropic, el laboratorio que se presenta al mundo como la versión prudente de OpenAI. Lo ha dejado. Su argumento cabe en una frase y no admite matices: «Ninguna otra actividad humana representa este nivel de peligro». El ingeniero, que antes pasó por OpenAI, sostiene que ambos laboratorios han relajado sus protocolos de seguridad ante la presión por seguir avanzando, y fija el riesgo catastrófico —que la IA acabe con la humanidad— al final de esta década.

Visto así, sería la enésima profecía apocalíptica de un sector adicto al hype. Lo que cambia el asunto es quién ha salido a respaldarle desde dentro.

El respaldo interno que rompe el relato tranquilizador​

Un investigador de Anthropic, Evan Hubinger, respondió al caso con una contundencia poco habitual en este negocio: viene a decir que Coxon tiene razón, que en el laboratorio creen de verdad que la IA podría matar a todos los humanos y que él sitúa esa posibilidad por encima del 10 % en la próxima década. Añade lo más incómodo: no existe un plan para resolver el problema de la alineación en una superinteligencia y no hay indicios claros de que se vaya por el camino correcto.

Traducido: esto no lo denuncia un tertuliano ni una cuenta con ganas de notoriedad, sino alguien que trabaja el problema por dentro y lo firma con nombre y apellidos. Una probabilidad superior al 10 % de extinción global no es una cifra que se despache con un encogimiento de hombros.

El precedente Amodei: los que avisan y luego fundan​

Conviene recordar un detalle que ya ocurrió. El fundador de Anthropic, Dario Amodei, trabajaba antes en OpenAI y también advirtió de los peligros de la IA. Después montó su propio laboratorio de IA. Ese paralelismo alimenta la sospecha más repetida: el discurso del riesgo existencial como tarjeta de presentación para levantar capital. Si el patrón se repite, este episodio no sería un aviso, sería un currículum.

Hay que decirlo con la cautela debida: son conjeturas. Nadie ha anunciado que Coxon vaya a fundar nada, ni existe una decisión conocida en ese sentido.

¿Marketing, burbuja o tecnocracia?​

Las lecturas escépticas van en tres direcciones y ninguna es amable. La primera es el calendario: se apunta que nadie abandona Anthropic justo antes de su salida a bolsa, así que o le han invitado a irse o le pagan mejor en otro sitio. El relato de la IA asesina funcionaría, desde esta óptica, como el nuevo «cenit del petróleo»: una narrativa con la que seguir viviendo del cuento.

La segunda es el dinero. Se argumenta que el alarmismo es la coartada perfecta para que el Estado acabe metiendo mano y rescatando al sector cuando reviente la burbuja —la de la IA, la inmobiliaria y la de deuda—, con el estallido situado en otoño. Igual que en 2008: primero el susto, después el rescate.

La tercera es de fondo. Si los modelos hacen el trabajo de los humanos y las élites ya no nos necesitan, el peligro no es la máquina, sino quién la enchufa. El símil que circula es el del caballo con el motor de explosión: el animal no desapareció por maldad del motor. Y el escenario que se dibuja —sin privacidad, sin propiedad, gestionado por una élite tecnocrática— se resume en una frase: no tendremos nada y seremos felices.

¿Quién aprieta el botón, el modelo o el dueño?​

Aquí está la discusión técnica de verdad. Un sistema de lanzamiento de misiles ya exige protocolos y varias aprobaciones humanas precisamente porque es delicado. Si se conecta una IA, ¿cambia algo? El argumento más sólido sostiene que no: cualquier cosa que haga una IA la permite antes su programación, y un software lineal mal diseñado puede fallar exactamente igual. El peligro no nace del libre albedrío de la máquina, nace de dónde la coloques y de quién asuma la culpa cuando falle.

La anécdota que mejor ilustra el contraste es vieja: en plena Guerra Fría, un oficial de guardia soviético se negó a devolver lo que su sistema presentaba como un ataque nuclear inminente. Era una falsa alarma. No apretó el botón porque decidió dudar. Un sistema entrenado para maximizar la eficiencia no duda.

---

Queda el dato que descoloca. El hombre que avisa tiene 27 años, el horizonte que señala es el final de esta década y el colega que le da la razón pone la probabilidad por encima del 10 %. Puede que todo sea humo o la antesala de una ronda de financiación. También puede que sea lo más honesto que se ha dicho en el sector en mucho tiempo. Y mientras se decide, el calendario sigue corriendo.