Jacob Coxon, investigador de la empresa de inteligencia artificial Anthropic, anunció su dimisión y lanzó una contundente advertencia sobre los riesgos que, a su juicio, implica la actual carrera por desarrollar sistemas de IA cada vez más avanzados.
Coxon sostuvo que algunos de los propios responsables de desarrollar estas tecnologías temen en privado que una IA avanzada pueda llegar a representar una amenaza existencial para la humanidad antes de 2030, pese a que públicamente suelen moderar sus declaraciones.
Su mensaje se volvió viral en X, donde cuestionó que las empresas continúen acelerando el desarrollo de estos sistemas mientras compiten por alcanzar primero la llamada superinteligencia artificial.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La preocupación también fue respaldada por Evan Hubinger, exjefe de Coxon y especialista en alineación de IA, quien afirmó que personalmente estima en más de 10% la posibilidad de una catástrofe global provocada por la IA durante la próxima década.
Sin embargo, Hubinger aclaró que considera bajo el riesgo de los modelos actuales y que su principal preocupación está relacionada con una futura superinteligencia capaz de mejorar sus propias capacidades de manera recursiva, acelerando su evolución.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
El debate ocurre mientras los avances en inteligencia artificial se suceden a gran velocidad y crece la discusión entre investigadores sobre hasta dónde debería llegar el desarrollo de sistemas cada vez más autónomos y potentes.
📌 Importante: las estimaciones mencionadas corresponden a las opiniones de investigadores citados por EL PAÍS y no significan que exista consenso científico sobre una fecha o probabilidad concreta de extinción humana.
