¿Una pausa global? Crecen las alertas sobre el avance de la inteligencia artificial

La empresa de inteligencia artificial Anthropic planteó días atrás la posibilidad de una desaceleración o pausa temporal en el desarrollo de los sistemas de IA más avanzados, al considerar que los modelos de última generación podrían superar la capacidad de supervisión humana.

La compañía, desarrolladora de Claude y con sede en San Francisco, sostuvo en un informe que una reducción coordinada del ritmo de avance de la IA «sería probablemente una buena idea» para permitir que la investigación en seguridad y alineamiento tecnológico avance al mismo ritmo que las capacidades de los modelos.

Según Anthropic, una pausa solo sería efectiva si participaran de manera simultánea las principales empresas y gobiernos involucrados en el desarrollo de IA, especialmente en Estados Unidos y China.

La firma advirtió que, sin un mecanismo global de coordinación, las compañías enfrentarán fuertes presiones competitivas y geopolíticas que dificultarán priorizar la seguridad.

La iniciativa encontró resistencia dentro de la propia industria tecnológica y en sectores del gobierno estadounidense. Sus críticos consideran que Anthropic exagera los riesgos asociados a la IA avanzada y utiliza los argumentos de seguridad para ralentizar a sus competidores.

Además, funcionarios y ejecutivos del sector sostienen que una desaceleración podría otorgar una ventaja estratégica a China en la carrera tecnológica global.

A pesar de las críticas, la Casa Blanca reconoció el potencial del modelo Mythos, desarrollado por Anthropic, que permanece restringido a un grupo reducido de organizaciones debido a sus avanzadas capacidades en ciberseguridad.

Por otra parte, el presidente Donald Trump afirmó que durante una reciente visita a Pekín se discutieron posibles mecanismos de cooperación con China en materia de seguridad de la IA.

Asimismo, firmó una orden ejecutiva que habilita al gobierno estadounidense a realizar evaluaciones preliminares de los modelos de IA más potentes antes de su lanzamiento público.

• El papel humano

Anthropic comparó el desafío con los tratados de control de armas nucleares, aunque señaló que supervisar el entrenamiento de modelos de IA sería incluso más complejo, debido a que estas actividades pueden ocultarse con mayor facilidad.

La empresa también anunció que convocará a funcionarios, científicos, organizaciones civiles y compañías competidoras para debatir posibles mecanismos de control internacional.

Uno de los principales argumentos del informe es que la IA ya está acelerando su propio proceso de desarrollo. Según datos internos de la compañía, esto podría generar un ciclo de retroalimentación que desemboque en la denominada «superación recursiva».

Este concepto describe la posibilidad de que un sistema de inteligencia artificial sea capaz de mejorar sus propias capacidades de forma autónoma, incrementando progresivamente su nivel de inteligencia.

Aunque Anthropic aclara que ese escenario todavía no se ha materializado y que no es inevitable, advierte que podría llegar antes de que los gobiernos y las instituciones estén preparados para gestionarlo.

«Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA», concluye el informe.

Cada vez más poderosa

---

Mientras impulsa el debate sobre una posible pausa global en el desarrollo de la inteligencia artificial, Anthropic lanzó Fable 5, la primera versión pública de su familia de modelos más avanzada, Mythos.

La compañía mantiene restricciones especiales en áreas consideradas sensibles, como la ciberseguridad y los riesgos biológicos. Según la empresa, el sistema cuenta con filtros automáticos capaces de detectar y bloquear consultas vinculadas con posibles ataques informáticos o amenazas biológicas.

Anthropic sostiene que sometió el modelo a extensas pruebas de seguridad con expertos externos y que ninguno logró vulnerar completamente sus mecanismos de protección.

El lanzamiento se produce en medio de una creciente competencia con OpenAI y del debate internacional sobre los riesgos de los sistemas de IA cada vez más potentes.

La Casa Blanca ya implementó mecanismos de evaluación para los modelos más avanzados antes de su comercialización, mientras que las grandes tecnológicas aceleran la carrera por desarrollar herramientas cada vez más capaces.

AFP