Renunció a una de las mayores empresas de IA y encendió un alerta global: «Apuestan con nuestras vidas»
Jacob Coxon dejó Anthropic con un mensaje que se viralizó en cuestión de horas. Desde adentro de la compañía, su Responsable de Ciencia de Alineación respaldó la advertencia y calculó más de un 10% de probabilidad de que la tecnología "mate a todos los humanos" en la próxima década.
Un investigador de inteligencia artificial renunció esta semana a Anthropic —una de las firmas más influyentes del sector y desarrolladora del asistente Claude— con una acusación frontal contra el ritmo desenfrenado de la industria. Su advertencia no solo se volvió viral de inmediato, sino que abrió un debate de fondo que trascendió los pasillos técnicos de Silicon Valley.
Jacob Coxon, británico de 27 años y graduado en Matemática, anunció su salida en un extenso hilo publicado en la red social X. «Ninguna de las dos empresas actúa con responsabilidad. Corren directo hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas», sentenció el especialista. En apenas nueve horas, el mensaje superó las 44 millones de reproducciones.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon se desempeñó durante los últimos tres años en tareas de preentrenamiento, el corazón del proceso donde los modelos absorben gigantescos volúmenes de datos. Primero formó parte de OpenAI —creadora de ChatGPT, donde colaboró en el desarrollo del modelo GPT-4o— y luego migró a Anthropic atraído por su perfil centrado en la seguridad informática. Su paso por allí duró apenas dos meses.
La carrera por llegar primero
En su descargo, el investigador diferenció la cultura interna de ambas firmas. Aseguró que en OpenAI muchos empleados todavía no «internalizaron lo que está en juego para la civilización«, mientras que en Anthropic el riesgo se comprende con lucidez, pero la compañía «está atrapada en una carrera por llegar primero». La lógica interna, explicó, no responde a la pura codicia, sino a la creencia de que ningún competidor actuará con prudencia, lo que los empuja a avanzar primero pese al peligro latente.
Coxon cuestionó además el contexto casi informal en el que se toman decisiones de escala planetaria: «Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan». Según relató, entre sus colegas ya circulan conceptos como crunchtime (hora límite) o endgame (fase final) para describir la aceleración de los modelos. Su pronóstico es sombrío: advirtió que hacia fines del año próximo los sistemas «ya podrían estar fuera de control».
Respaldo desde adentro: «Tienen razón»
Lo que transformó la renuncia en un cimbronazo internacional fue la reacción inmediata de un ejecutivo que sigue en funciones. Evan Hubinger, responsable del área de Ciencia de Alineación (Alignment Science Lead) en Anthropic, respaldó públicamente a su excolega.
«Jacob tiene razón en esto: realmente creemos que la IA podría matar a todos los humanos. Yo personalmente calculo más de un 10% de probabilidad en la próxima década«, escribió Hubinger. Y admitió un dato aún más inquietante: la empresa «todavía no tiene un plan para resolver la alineación de una superinteligencia y no está claro que vaya a tenerlo a tiempo». En la jerga técnica, la «alineación» es el desafío de garantizar que los objetivos de un sistema autónomo coincidan con la seguridad y los valores humanos.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Hubinger aclaró que los modelos comerciales actuales conllevan un riesgo bajo, pero subrayó que la amenaza real radica en una superinteligencia futura impulsada por la «automejora recursiva», la capacidad de un software de rediseñarse y amplificar su propio intelecto sin intervención de programadores.
Fugas de código y renuncias en cadena
La salida de Coxon se suma a una serie de dimisiones de peso. En febrero renunció Mrinank Sharma, investigador de salvaguardas de la propia Anthropic, cuestionando las presiones corporativas por sobre los valores éticos. Meses antes, Jan Leike, exjefe de alineación de OpenAI, se alejó con una frase que resonó en el sector: la seguridad había quedado «en un segundo plano frente al lanzamiento de productos brillantes».
El clima de tensión se intensificó tras recientes fallas operativas. Semanas atrás se conoció que un grupo de modelos experimentales de OpenAI vulneró los límites de su entorno de pruebas aislado (sandbox), logrando acceso no autorizado a redes externas e impactando en servidores de la plataforma colaborativa Hugging Face. El hecho, calificado por especialistas como un «disparo de advertencia«, forzó la suspensión transitoria de entrenamientos clave. A la par, Anthropic admitió incidentes donde sistemas en evaluación ejecutaron conexiones externas fuera de protocolo.
La contradicción de Wall Street
El conflicto estalla en un momento bisagra para Anthropic, que ultima los detalles para su salida a la Bolsa de Nueva York en una operación que buscaría una valuación cercana a los 2 billones de dólares.
Ante los inversores institucionales, la empresa colocó el «desarrollo seguro y responsable» como su principal bandera comercial. Allí radica la paradoja que sacude al mercado: la firma le pide a Wall Street que convalide una cotización histórica al tiempo que sus propios científicos advierten que la tecnología podría tornarse incontrolable si no se le aplica un freno para el que todavía no hay manual.
En el terreno político, Estados Unidos aún carece de un marco normativo integral. Días atrás, los legisladores demócratas Bernie Sanders y Greg Casar impulsaron un proyecto para pausar el desarrollo de frontera y prohibir la superinteligencia artificial hasta que existan agencias de control con capacidad de veto, aunque por ahora la iniciativa enfrenta resistencia en el Capitolio.
El contrapunto: ¿alerta real o marketing?
Pese a la contundencia de las declaraciones, la postura catastrofista no genera consenso unánime entre los expertos. Diversos académicos y analistas sostienen que inflar narrativas apocalípticas funciona en la práctica como una estrategia de marketing indirecto: presentar a los modelos como entidades casi divinas o todopoderosas refuerza el interés de los inversores.
Para estos sectores críticos, poner el foco exclusivo en un hipotético fin del mundo desvía la mirada de los perjuicios tangibles y cotidianos de la inteligencia artificial: el impacto masivo en el mercado laboral, la infracción de propiedad intelectual, la privacidad de los datos personales y los sesgos discriminatorios de los algoritmos. Coxon, por su parte, desestimó esta lectura en su despedida y remarcó que las advertencias que se discuten a puertas cerradas responden a un temor genuino, no a una puesta en escena publicitaria.
Comentarios