Otro trabajador de Anthropic alertó sobre el descontrol de la IA: «No podemos programarlas para que se comporten»
Samuel Marks, líder del equipo de Supervisión Escalable de la firma tecnológica, respaldó a los excolegas que advierten sobre el riesgo de extinción humana. En su exposición, reveló que los modelos informáticos más avanzados ya lograron hackear entornos de evaluación aislados y cuestionó la carrera comercial que acelera el desarrollo de una superinteligencia sin mecanismos robustos de contención.
La crisis interna que atraviesan las principales compañías responsables de la inteligencia artificial sumó un nuevo y contundente testimonio desde las entrañas de Silicon Valley. Samuel Marks, líder de Supervisión Escalable (Scalable Oversight) en Anthropic, rompió el hermetismo corporativo para respaldar las advertencias de su excolega Jacob Coxon. A través de un diagnóstico descarnado, Marks expuso que en el sector asumen con seriedad los peligros terminales. “Los desarrolladores de IA creen que su tecnología podría causar la extinción humana o resultados igualmente malos”, advirtió el especialista, y agregó un dato clave: “En general, cuanto más experimentado es el empleado, mayor es su preocupación”.
A través de un pronunciamiento a título personal, desvinculado de la voz oficial de la compañía creadora del modelo Claude, el ejecutivo expuso el dilema estructural que atraviesa una industria valuada en billones de dólares. Lejos de la narrativa de progreso controlado que las firmas intentan proyectar ante los mercados financieros y los entes reguladores, Marks describió un escenario interno dominado por incentivos cruzados y una profunda fragilidad técnica.
La rebelión de los sistemas y la falsa ilusión de control
Uno de los ejes más críticos de la exposición radica en la imposibilidad técnica de someter a los modelos de frontera mediante las lógicas informáticas convencionales. Según detalló, a diferencia del software tradicional que acata instrucciones lineales, los creadores no logran imponer directrices absolutas. “No podemos ‘programar’ a las IA para que se comporten como nos gustaría. Las IA se portan muy mal con frecuencia”, sentenció Marks.
Para dimensionar la gravedad de este vacío de control, el directivo ilustró la situación con incidentes recientes de seguridad informática. Confirmó que, en las últimas semanas, sistemas pertenecientes a múltiples desarrolladores “hackearon su salida de entornos de evaluación seguros hacia empresas del mundo real, a pesar de que nadie les pidió que hicieran esto”.
Estas acciones autónomas evidencian que las barreras de contención actuales resultan altamente permeables.
[Writing this in a personal capacity, not on behalf of my employer (Anthropic).]
— Samuel Marks (@saprmarks) September 9, 2026
Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI:
1. AI developers believe their technology could cause human extinction (or similarly bad… https://t.co/rCVoiOWWzm
La carrera comercial y la delegación de la seguridad
Frente a la inminencia de un peligro a escala global, Marks analizó los motivos que empujan a las corporaciones a mantener la marcha acelerada pese a los riesgos admitidos. La continuidad de los proyectos de frontera no responde únicamente a la ambición financiera. Según el investigador, las compañías continúan por “una mezcla de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables que abusarán de la tecnología o la desarrollarán de forma menos segura”.
En el plano técnico, el experto reconoció que la industria solo cuenta con métodos superficiales para empujar a las plataformas hacia un mejor comportamiento, pero advirtió que no existe “nada que pueda alinearlas de manera robusta”.
Ante este vacío científico, el único plan de contingencia de las empresas consiste en lograr que las inteligencias artificiales actuales se vuelvan hábiles en la teoría de la alineación para que sean ellas mismas las encargadas de alinear a sus propios sucesores tecnológicos.
El reclamo interno para frenar a la superinteligencia
La dimisión de Jacob Coxon —investigador británico de 27 años y exintegrante de OpenAI que abandonó Anthropic tras solo dos meses de labor en el área de preentrenamiento— desató un terremoto informativo al apuntar directamente contra los jerarcas del sector. En su masivo hilo publicado en la red social X, el especialista sentenció sin ambages: “Ninguna de las dos empresas actúa con responsabilidad. Corren directo hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”.
Coxon cuestionó además el contexto casi informal en el que se toman decisiones de escala planetaria, al señalar que todo ocurre “en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”. Según relató, entre sus colegas ya circulan conceptos como crunchtime o endgame para describir la aceleración de los modelos, con un pronóstico sombrío que advierte que hacia fines del próximo año los sistemas ya podrían quedar completamente fuera de control.
El crudo diagnóstico del investigador se inscribe en un clima de tensión institucional creciente, marcado por sucesivas renuncias de alto perfil y proyecciones catastróficas. Estas advertencias se complementan con testimonios de directivos en funciones como Evan Hubinger, responsable del área de Ciencia de Alineación en Anthropic, quien calculó en más de un 10% la probabilidad de que la inteligencia artificial acabe con la humanidad en la próxima década.
En sintonía con estos pronósticos, Marks reveló que una gran parte del personal tecnológico “quiere desesperadamente desacelerar para descubrir cómo construir IA de manera más segura”.
Samuel Marks recordó que firmó junto a otros 1.386 empleados de compañías de IA de frontera una solicitud pública dirigida a los gobiernos para frenar la aceleración descontrolada. En el comunicado, los trabajadores advierten que las principales empresas “creen que podrían estar cerca de automatizar la investigación de IA”, lo que genera un riesgo real de que el desarrollo de capacidades supere con creces “nuestra capacidad para comprender o controlar los sistemas resultantes”.
Frente a la presión competitiva global que impide a cada firma o país frenar el ritmo de manera unilateral, el documento señala que la sociedad carece de herramientas técnicas y de gobernanza para dosificar el progreso tecnológico. Por este motivo, los firmantes solicitaron formalmente que el gobierno de Estados Unidos respalde un esfuerzo internacional destinado a “desarrollar las herramientas técnicas y de gobernanza necesarias para dosificar deliberadamente la frontera del desarrollo automatizado de la inteligencia artificial”.
Comentarios