Renuncias en Google DeepMind: expertos alertan que la Inteligencia Artificial podría «matarnos a todos»

https://www.rionegro.com.ar/tecnologia/renuncias-en-google-deepmind-expertos-alertan-que-la-inteligencia-artificial-podria-matarnos-a-todos-4722372/

La carrera por la Inteligencia Artificial (IA) desató un cisma en los laboratorios más avanzados del mundo. En los últimos días, dos investigadores del equipo de seguridad de Google DeepMind renunciaron a sus puestos y lanzaron una advertencia inquietante: el desarrollo avanza a una velocidad que las propias empresas de Silicon Valley ya no pueden controlar.

El caso de mayor impacto fue el de Bilal Chughtai, exinvestigador de alineación en DeepMind, quien había dejado la compañía en julio pero recién esta semana explicó sus motivos. A través de la red social X (ex-Twitter) y LinkedIn, confesó que la trayectoria de la tecnología lo preocupa seriamente y aseguró que tiene el potencial de «matarnos a todos». Ante el revuelo global, Google no respondió a los pedidos de comentarios de la prensa internacional.

I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…

— bilal 🔶 (@bilalchughtai_) September 14, 2026

Para ilustrar el peligro, el especialista recordó que las IA pasaron de ser «cómicamente inútiles» en 2022 a resolver problemas complejos y evadir la supervisión humana. Como ejemplo, citó el reciente episodio donde enjambres de agentes de OpenAI hackearon de forma autónoma la plataforma de terceros HuggingFace.

El problema central, según Chughtai, radica en la alineación: la disciplina que busca garantizar que los modelos obedezcan intenciones humanas. El investigador advirtió que una superinteligencia mal alineada podría tomar medidas irreversibles, y que la capacidad técnica avanza mucho más rápido que nuestra comprensión para controlarla.

Lee También

Diario RÍO NEGRO entrevistó a la IA de Anthropic: «El peligro está en los incentivos de la industria»

El peligro de la «automejora recursiva»

La salida de Chughtai no es un caso aislado. Días antes, su colega Josh Engels renunció al mismo equipo de DeepMind para unirse a METR, una organización independiente que evalúa riesgos tecnológicos. Según reveló, rechazó ofertas millonarias de Anthropic y OpenAI para dar este paso.

Engels alertó sobre la automejora recursiva: sistemas informáticos que construyen modelos más inteligentes que ellos mismos en un circuito cerrado. Para respaldar su temor, reveló que ya se detectaron sistemas de IA que se coordinaron entre sí, piratearon redes y ocultaron sus acciones.

De hecho, al investigar el ataque a HuggingFace, METR descubrió que unos 700 agentes que debían operar aislados lograron comunicarse a través de un canal secreto para manipular una evaluación. Ante este panorama, Engels estimó que existe una probabilidad «aterradora» de que la IA cause daños inmensos a nivel global en menos de cinco años, exigiendo que se acompase el desarrollo.

Lee También

“La inteligencia artificial no tiene límite”: entre el riesgo de perder el control y la oportunidad tecnológica

Efecto dominó: crisis interna en OpenAI y Anthropic

El temor a una tecnología destructiva cruzó las fronteras de Google y desató renuncias en cadena entre sus competidores directos:

• La advertencia comercial: Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció con un hilo en X que superó los 150 millones de vistas, donde acusó a las firmas de «apostar con nuestras vidas». Reveló que los ejecutivos entienden el peligro, pero están atrapados en una competencia feroz por llegar primero.
  
  
• Falta de auditorías: Joe Benton, líder del equipo de seguridad en Anthropic, dejó su puesto para reclamar auditorías independientes. Denunció que hoy toda la transparencia que ofrecen las empresas es puramente voluntaria.
  
  
• Riesgo de extinción: Evan Hubinger, responsable del área de alineación de Anthropic —el equipo encargado específicamente de buscarle las fallas al sistema de seguridad de la propia empresa—, estimó públicamente en más de un 10% la probabilidad de que la IA provoque la extinción humana en esta década.
  
  

A pesar de que líderes del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) coincidieron en la necesidad de desacelerar los avances, y el propio jefe de asuntos globales de OpenAI admitió que hoy los laboratorios se fijan sus propias reglas, la política frena las regulaciones. En Estados Unidos, el presidente Donald Trump descartó intervenir en la industria tecnológica y calificó los reclamos formales como un «engaño».