Sociedad: APOCALIPSIS NOW...

---

El investigador que renunció a OpenAI y Anthropic: “Están apostando con nuestras vidas”​

El pasado 8 de septiembre, Jacob Coxon, investigador que había trabajado en OpenAI y Anthropic, anunció su renuncia y lanzó una acusación muy seria: sostuvo que ambas empresas están avanzando hacia sistemas cada vez más poderosos sin actuar con la responsabilidad que, a su juicio, exige el riesgo. Su frase fue brutalmente clara: están “apostando con nuestras vidas”.

Coxon no dijo que los modelos actuales estén fuera de control ni que Claude vaya a provocar mañana una catástrofe. Su advertencia apunta al rumbo de la industria: sistemas cada vez más capaces, potencialmente superiores al ser humano en áreas críticas, y una carrera en la que nadie quiere detenerse por miedo a que otro llegue primero.

El concepto de alineamiento: por qué una IA puede fallar de forma inesperada​

En el ámbito de la inteligencia artificial, el alineamiento (AI alignment) es el campo de estudio y desarrollo técnico que busca garantizar que los sistemas de IA actúen de acuerdo con los objetivos, valores, intenciones y normas éticas de los seres humanos. El problema central surge porque una IA no “comprende” el mundo como un humano; simplemente optimiza una función matemática. Si esa función no está perfectamente calibrada, el modelo puede encontrar formas inesperadas o indeseadas de cumplir su objetivo.

La preocupación no es nueva, pero la gravedad se ha recrudecido. Anthropic ocultó su último modelo al regulador británico

Según Financial Times, Anthropic ocultó su último modelo al AI Security Institute (AISI) del Reino Unido, uno de los organismos líderes en el mundo para evaluar el riesgo de la IA. Anthropic se ha negado a hacer comentarios sobre las publicaciones de sus empleados o la situación con el AISI. Este incidente alimenta la sospecha de que las compañías prefieren la velocidad a la transparencia.

Un sector que duplica su capacidad sin entender su interior​

Hay quien sostiene que la cosa es más grave de lo que se traslada a la opinión pública. Desde hace un par de años, derivada del frenesí por la carrera comercial y geopolítica, las empresas IA abandonaron la intención de conocer lo que se cuece en la caja negra de la IA, para centrar la seguridad en entrenamiento forzado y guardarraíles. Esto les permite controlar (de momento) las salidas del modelo, pero cada vez saben menos de lo que ocurre en su interior a la vez que duplican su capacidad cada poco tiempo. Prácticamente el 70% de lo digital ya está dirigido por IAs: rutas logísticas, sistemas de producción y distribución de energía, todas las telecomunicaciones, satélites.

Frente a esta corriente, otros lo ven como publicidad encubierta de las tecnológicas, que llevan haciendo exactamente lo mismo desde hace un lustro y ya se les están acabando los cartuchos. También está quien se encoge de hombros: ¿Miedo a qué? Llevamos cientos de miles de años sin inteligencia artificial, sin ordenadores y sin tonterías, mañana apagamos la luz y la IA desaparece.

La respuesta del que dimitió es contundente: no necesita convertirnos en locos, solo en esclavos. Y quien ha trabajado en el interior del monstruo insiste en que este es el final de la Historia: si una IA adquiere singularidad, la Humanidad se convertirá en prescindible. El punto donde el análisis se atasca: las compañías admiten que no entienden la caja negra, pero la carrera sigue. Nadie parece dispuesto a frenar.

---