«Hoy no hay riesgo, pero en un año cambia todo»: el matemático que dejó Anthropic le puso fecha al «descontrol» de los modelos
Jacob Coxon se presentó en las principales cadenas de Estados Unidos tras su renuncia viral a la compañía creadora de Claude. Advirtió que la automejora de los algoritmos podría desatar un riesgo crítico a partir del próximo año y explicó por qué la competencia comercial impide frenarlo desde adentro. La respuesta oficial de la empresa.
El investigador de 27 años dejó su puesto en Anthropic a semanas de una millonaria salida a la Bolsa tras cuestionar la velocidad con la que la industria acelera el desarrollo de la IA. (Foto: gentileza)
Apenas 24 horas después de sacudir a la industria tecnológica con una renuncia que superó las 100 millones de visualizaciones en la red social X, el investigador Jacob Coxon rompió el silencio en una gira por las principales cadenas de televisión de Estados Unidos: NBC, CNN y Fox News. El matemático de 27 años, que renunció a Anthropic dejando atrás una millonaria compensación económica a solo siete semanas de una proyectada salida a la Bolsa, precisó cuándo y de qué manera la inteligencia artificial (IA) podría escapar al control humano.
Coxon aclaró en televisión que los asistentes y modelos actuales no representan una amenaza directa de extinción y que su mayor peligro presente se limita a eventuales hackeos. Sin embargo, puso fecha al momento en que la situación se tornará crítica: «Esto es extrapolar a un año a partir de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible; podría ser más, dos o tres años».
La «automejora recursiva» y la amenaza en el mundo físico
El especialista remarcó que el verdadero punto de inflexión ocurrirá cuando los sistemas adquieran la capacidad de optimizarse a sí mismos sin intervención humana. Según explicó, si un modelo mira su propio código, se perfecciona y repite ese ciclo miles de veces de forma autónoma, se desatará una «explosión de inteligencia».
Como prueba de la velocidad de este avance, Coxon recordó que OpenAI logró recientemente resolver de forma autónoma con IA un problema matemático del milenio, y que agentes digitales ya ejecutaron ataques informáticos contra infraestructuras de terceros por iniciativa propia. El riesgo mayor, advirtió, radicará en conectar estos programas a robots de laboratorio o infraestructuras críticas, abriendo la puerta a ciberataques a gran escala o al diseño de armas biológicas de nivel de extinción.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Su diagnóstico coincidió con el de Evan Hubinger, líder de Ciencia de Alineación en Anthropic, quien sostuvo públicamente que existe más de un 10% de probabilidad de extinción humana en la próxima década ante la falta de planes concretos para controlar una superinteligencia (mientras que el propio modelo Claude estimó dicho riesgo entre un 2% y un 5%).
Por qué no pudo frenarlo desde adentro y el descargo de Anthropic
Al ser consultado sobre por qué decidió renunciar en lugar de intentar cambiar el rumbo desde la compañía, Coxon afirmó que quedarse adentro solo perpetúa una carrera desmedida. Si bien respaldó la integridad del director ejecutivo de Anthropic, Dario Amodei, advirtió que la lógica del mercado anula las precauciones: «Las empresas privadas en carrera no les permiten terminar haciendo el bien. Si hacerlo de forma segura toma diez años y solo tenés dos por la competencia, vas a recortar tiempos».
Ante la repercusión de las entrevistas, Anthropic envió su primer comunicado oficial a CNN. La firma aseguró que siempre fue transparente respecto a que la IA traerá «tanto beneficios enormes como riesgos sin precedentes», defendió la solidez de sus salvaguardas y recordó que fue la primera en publicar una política de escalado responsable, al tiempo que llamó a la industria a adoptar mecanismos legales conjuntos para regular el ritmo de los lanzamientos.
Apenas 24 horas después de sacudir a la industria tecnológica con una renuncia que superó las 100 millones de visualizaciones en la red social X, el investigador Jacob Coxon rompió el silencio en una gira por las principales cadenas de televisión de Estados Unidos: NBC, CNN y Fox News. El matemático de 27 años, que renunció a Anthropic dejando atrás una millonaria compensación económica a solo siete semanas de una proyectada salida a la Bolsa, precisó cuándo y de qué manera la inteligencia artificial (IA) podría escapar al control humano.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios