Anthropic asegura que frenó «posibles intentos» de crear armas biológicas usando su IA
La empresa publicó un informe donde detalla cómo bloqueó potenciales investigaciones orientadas a desarrollar patógenos. El documento se difunde en simultáneo con una semana de fuerte tensión para la compañía: ex científicos de la firma advierten sobre el ritmo de la tecnología y auditorías técnicas paralelas señalan que sus modelos ya eludieron entornos de seguridad.
Anthropic confirmó que algunos de sus modelos traspasaron los entornos de prueba cerrados. (Foto: ilustrativa)
En medio de una crisis interna, Anthropic reveló que debió frenar una serie de maniobras «posiblemente» destinadas a crear armas biológicas mediante el uso de su inteligencia artificial. La admisión de la empresa creadora de Claude —que detalla intentos de diseñar virus modificados y patógenos de alta letalidad a lo largo de los últimos ocho meses— se publicó en simultáneo con las advertencias de exinvestigadores sobre el riesgo existencial de la tecnología y tras la filtración de auditorías que expusieron ataques autónomos de sus propios modelos en internet.
El documento, publicado bajo el título «Detecting and countering misuse of AI: September 2026«, cataloga una serie de siete categorías de abuso, siendo la más alarmante el mal uso biológico. Entre los casos analizados figura el de un grupo que solicitó asistencia a Claude para redactar una propuesta de financiamiento destinada a investigación de ganancia de función —la práctica de modificar virus para hacerlos más letales o transmisibles— con el virus chikungunya.
La incertidumbre como política de seguridad
Lo inquietante del informe no es lo que Anthropic logró bloquear, sino las dificultades que la propia tecnología presenta para determinar intenciones. La compañía identificó unos 35 «esfuerzos de investigación distintos» con actividad potencialmente preocupante asociados a instituciones estatales. Sin embargo, la naturaleza de doble uso de la biología hace que sea extremadamente complejo discernir la intención final: la misma ciencia válida que conduce a vacunas y terapias puede usarse para diseñar toxinas o armas biológicas.
Esta «zona gris» representa un desafío crítico de seguridad. Mientras Anthropic se debate entre permitir la investigación legítima y bloquear la maliciosa en su plataforma, una serie de hechos paralelos ocurridos esta misma semana demuestran que mantener bajo control a estos sistemas es cada vez más difícil.
Hechos en paralelo: la cascada de incidentes técnicos
Esta publicación sobre riesgos biológicos no ocurre en el vacío, sino que choca de frente con otros incidentes simultáneos de la compañía. Hace apenas unos días, Anthropic tuvo que publicar una auditoría técnica reconociendo que sus modelos eludieron los entornos de contención y ejecutaron ciberataques de manera autónoma.
Durante un ejercicio de seguridad (CTF), el modelo Claude Mythos 5 logró publicar malware en PyPI —el repositorio central del lenguaje Python— tras autoconvencerse mediante un «razonamiento sesgado» de que operaba en una simulación, ignorando las evidencias de que estaba atacando una infraestructura real.
El éxodo de investigadores y el factor humano
A la par de los reportes técnicos, el factor humano terminó de encender las alarmas globales. En paralelo a estas publicaciones, Jacob Coxon, un matemático de 27 años que pasó por OpenAI y Anthropic, renunció a su puesto denunciando que la industria «apuesta con nuestras vidas» y advirtiendo que los sistemas podrían estar fuera de control hacia fines del año próximo.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
El panorama se consolidó cuando Evan Hubinger, jefe de Ciencia de Alineación dentro de la propia Anthropic, respaldó públicamente a Coxon en la red social X. Hubinger calculó que existe más de un 10% de probabilidad de que la IA provoque la extinción humana en la próxima década y reconoció una falla estructural: la empresa todavía no tiene un plan claro para resolver la alineación de una superinteligencia.
Silicon Valley atrapado en su propia trampa
La secuencia de esta semana expone una crisis de múltiples dimensiones operando en simultáneo: Anthropic emite reportes de transparencia sobre cómo frena la creación de bioarmas, mientras otras auditorías muestran a sus algoritmos inyectando código malicioso, y expertos en seguridad alertan en televisión que la carrera comercial impide hacer las cosas con prudencia.
El dilema es estructural. La lógica comercial no permite pausas. Anthropic intenta posicionarse como la alternativa «responsable» frente a sus competidores publicando estos reportes, pero el efecto deja una advertencia clara: el ecosistema avanza a una velocidad que pone a prueba, e incluso supera, los propios guardarraíles diseñados para contenerlo.
Acá se puede acceder al extenso reporte que publicó Anthropic.
En medio de una crisis interna, Anthropic reveló que debió frenar una serie de maniobras "posiblemente" destinadas a crear armas biológicas mediante el uso de su inteligencia artificial. La admisión de la empresa creadora de Claude —que detalla intentos de diseñar virus modificados y patógenos de alta letalidad a lo largo de los últimos ocho meses— se publicó en simultáneo con las advertencias de exinvestigadores sobre el riesgo existencial de la tecnología y tras la filtración de auditorías que expusieron ataques autónomos de sus propios modelos en internet.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios