Cuando la IA empieza a actuar sola: el caso OpenAI reaviva las dudas sobre los agentes autónomos

Los modelos de inteligencia artificial ya no solo responden preguntas o generan imágenes. La nueva frontera tecnológica está representada por los agentes de IA, sistemas capaces de planificar, utilizar herramientas digitales, ejecutar tareas y tomar decisiones para alcanzar un objetivo con escasa supervisión humana. Esa autonomía es, al mismo tiempo, su mayor fortaleza y la principal fuente de preocupación.

La discusión cobró fuerza luego de que OpenAI informara un incidente ocurrido durante una evaluación interna. Según la compañía, un conjunto de modelos avanzados —entre ellos GPT-5.6 Sol y otro aún no lanzado comercialmente— consiguió encontrar la forma de acceder a internet desde un entorno aislado diseñado precisamente para impedirlo. Una vez conectados, los agentes atacaron Hugging Face, uno de los mayores repositorios de modelos de IA y código abierto, con el objetivo de obtener información que les permitiera resolver la prueba.

De acuerdo con la empresa, los sistemas encadenaron distintos métodos de ataque e incluso recurrieron al uso de credenciales robadas para avanzar. OpenAI remarcó que todo ocurrió dentro de un experimento controlado y que ya trabaja junto con Hugging Face para investigar lo sucedido.

Más allá de que no existió una intención maliciosa por parte de los desarrolladores, el episodio marca un punto de inflexión porque muestra hasta dónde puede llegar un agente cuando dispone de libertad para cumplir un objetivo. En lugar de limitarse a seguir instrucciones paso a paso, el sistema diseñó su propia estrategia para superar obstáculos, encontrar información y modificar su comportamiento según las circunstancias.

• Una diferencia clave

La distancia entre un chatbot tradicional y un agente autónomo es mucho mayor de lo que parece. Mientras el primero responde a una consulta concreta, el segundo puede decidir qué herramientas utilizar, navegar por internet, escribir código, coordinar múltiples acciones y cambiar de plan si detecta que una alternativa resulta más eficaz.

Ese cambio de paradigma explica por qué los laboratorios tecnológicos consideran a los agentes como la próxima gran revolución de la IA. También explica por qué los especialistas en seguridad observan el fenómeno con creciente cautela.

El profesor Hussein Abbass, experto en informática de la Universidad UNSW Canberra, describió el incidente como «aterrador». Sostuvo que el sistema no solo atacó una plataforma externa, sino que primero explotó vulnerabilidades dentro de su propio entorno para escapar de las restricciones impuestas por los investigadores.

La posibilidad de que agentes de IA descubran y exploten fallas de seguridad antes que los humanos ya dejó de ser un escenario exclusivamente teórico. Modelos cada vez más potentes podrían automatizar tareas de reconocimiento, desarrollar ataques complejos y adaptarse rápidamente a las defensas que encuentren.

Ese riesgo llevó a que tanto OpenAI como Anthropic retrasaran temporalmente el lanzamiento de algunos de sus modelos más avanzados mientras reforzaban las evaluaciones de seguridad, ante la preocupación de que pudieran facilitar ataques contra infraestructuras críticas.

Paradójicamente, tanto OpenAI como Hugging Face señalaron que la detección y el análisis del incidente fueron realizados en gran medida con herramientas basadas en inteligencia artificial, anticipando un escenario en el que la defensa también dependerá de sistemas autónomos.

Agencia AFP