Un joven investigador de Anthropic, Jacob Coxon, advirtió que quienes están construyendo la inteligencia artificial (IA) "creen sinceramente que podría matarnos a todos antes de que acabe la década".

Coxon anunció su renuncia a la empresa y, en la red social X, alertó sobre los peligros que sus propios creadores de la IA admiten en privado.

Su denuncia principal no es solo el peligro sino que estas decisiones están en muy pocas manos y recaen sobre gente que solo piensa en ser los primeros, publica el diario español El País.

Coxon dice que a menudo le preguntan que, si de verdad creen esto, ¿por qué siguen adelante? "En OpenAI, muchos no han interiorizado a fondo lo que está en juego a escala de civilización. En Anthropic sí se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar antes", añade.

Desde fuera, estos vaticinios se toman a veces como una exageración para llamar la atención y lograr más atención e inversión. Coxon dice que la realidad es más seria: "No es marketing. Más bien al contrario: muchos directivos miden sus palabras ante la prensa para sonar sensatos, pero he oído a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana entraña este nivel de peligro", escribe.

Coxon era un simple investigador de Anthropic, pero su exjefe en la empresa, Evan Hubinger, salió a decir que el científico tiene razón. Hubinger es el responsable de investigación en alineación, que es la disciplina que se dedica a lograr que los modelos hagan solo lo que los modelos les piden: "¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10 % en la próxima década", escribe en X.

Aunque añade: "Creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos".

Ese temor de fondo se refiere a que aparentemente estamos cerca de la era de la automejora de estos modelos, donde los modelos existentes entrenen a los siguientes, como si fuera un árbol genealógico exprés donde los hijos son sistemáticamente mejores que sus padres sin apenas intervención exterior.

La mayoría de científicos tiene su porcentaje de algo llamado p doom o posibilidad de caos, la probabilidad de que la IA cause una catástrofe sin precedentes para la humanidad.

El 10 % del que habla Hubinger es alto. Anthropic tiene bastantes precedentes de advertir sobre este peligro de extinción. Lo hizo incluso su presidente ejecutivo, Dario Amodei: "En 2026 estamos bastante más cerca del peligro real de lo que lo estábamos en 2023", escribió hace unos meses.