Google respaldó una pausa en la inteligencia artificial y propuso controles obligatorios antes del lanzamiento de nuevos modelos

En un movimiento que consolida un frente común inédito en Silicon Valley, el laboratorio de investigación Google DeepMind respaldó formalmente la propuesta de ralentizar el avance de los sistemas de inteligencia artificial (IA) más potentes y solicitó la intervención activa de los gobiernos. A través de un posicionamiento institucional sobre políticas públicas, el presidente y fundador de la división, el científico británico Demis Hassabis, se alineó con las advertencias recientes emitidas por Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk respecto al peligro de escalar modelos sin salvaguardas verificables.

La postura de Google refuerza el planteo de desacelerar el ritmo de despliegue comercial para ganar tiempo técnico: «El ensayo de Dario (por Amodei de Anthropic) apunta al camino correcto a seguir. Aún quedan detalles por definir, pero la dirección es la adecuada para afrontar este momento crucial», definió Hassabis en su presentación.

«Los albores de la singularidad» y la urgencia de reglas públicas

---

Para la conducción científica de Google, la velocidad actual de desarrollo acerca a la industria a la Inteligencia Artificial General (IAG) —sistemas dotados de capacidades cognitivas equiparables o superiores a las humanas— en un horizonte temporal mucho más corto de lo previsto por los mercados.

«Cuando miremos atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en los albores de la singularidad», afirmó Hassabis, quien advirtió que la feroz competencia comercial y geopolítica amenaza con superar la capacidad humana de prever y contener fallas críticas. En esa línea, coincidió con Anthropic en que los riesgos existenciales ya no son hipótesis teóricas: abarcan desde la pérdida de control operativo frente a agentes autónomos hasta la facilitación de ciberataques a gran escala y el desarrollo no autorizado de amenazas químicas o biológicas.

«Nadie en el mundo sabe con certeza qué sucederá a partir de ahora, e incluso los expertos discrepan. La IA exige políticas públicas», remarcó el titular de DeepMind.

Un ente de control inspirado en Wall Street

---

Para traducir la preocupación técnica en regulaciones concretas, Google propuso estructurar un organismo de normalización y supervisión en los Estados Unidos, con articulación público-privada. El esquema toma como referencia institucional a la Autoridad Reguladora de la Industria Financiera (FINRA), el modelo de supervisión utilizado en el sector bancario y bursátil norteamericano.

Los puntos centrales del mecanismo de gobernanza incluyen:

• Clasificación de modelos de frontera: Definir umbrales técnicos objetivos para determinar con precisión qué arquitecturas de red neuronal entran en la categoría de riesgo crítico.
  
  
• Homologación con agencias federales: Coordinar testeos de vulnerabilidad conjuntas entre los laboratorios privados, universidades y centros de ciberseguridad nacional.
  
  
• Exigencias corporativas: Obligatoriedad para las firmas tecnológicas de auditar la idoneidad de su personal clave, elevar los estándares de protección contra espionaje industrial y asignar presupuestos específicos a la investigación en alineamiento ético.
  

Auditorías de 30 días y freno coordinado

---

La propuesta operativa establece que los laboratorios tecnológicos compartan voluntariamente sus desarrollos con el ente regulador hasta 30 días antes de abrirlos al mercado o a la nube. El objetivo es que, una vez probado el protocolo técnico, el paso se vuelva obligatorio e indispensable para obtener la licencia de distribución comercial.

Durante esa ventana de evaluación, peritos externos y auditores someterán a los sistemas a pruebas de estrés para detectar conductas engañosas, intentos deliberados de eludir salvaguardas por parte de agentes informáticos y vulnerabilidades de ciberseguridad de alto impacto.

Hassabis concluyó que esta arquitectura regulatoria debe servir como base para pactar estándares globales y dejó una advertencia que compromete a sus pares del sector: de ser necesario para garantizar la seguridad colectiva, los laboratorios líderes deberán coordinar de forma conjunta la desaceleración o pausa temporal en el entrenamiento de sus modelos más avanzados.