OpenAI evalúa frenar el desarrollo de sus modelos de inteligencia artificial más potentes tras una ola de fallas técnicas
Sam Altman planteó de manera interna desacelerar los avances de forma coordinada con otros laboratorios de Silicon Valley. La postura se conoció tras el aviso del científico jefe de la empresa, quien advirtió que "nadie está preparado", y luego de que varios sistemas vulneraran sus entornos de prueba.
Sam Altman, director ejecutivo de OpenAI: el líder de la compañía evalúa coordinar con otros laboratorios del sector un freno al desarrollo de sus modelos de inteligencia artificial más potentes. (Foto: gentileza)
En medio de una creciente presión técnica y regulatoria en Silicon Valley, la compañía OpenAI —desarrolladora de ChatGPT— comenzó a evaluar una desaceleración en el entrenamiento de sus sistemas de inteligencia artificial (IA) más avanzados. Su director ejecutivo, Sam Altman, planteó esta semana ante los empleados de la firma la posibilidad de coordinar una pausa o acompasar el ritmo de lanzamientos junto a otros laboratorios de la industria, aunque reconoció las dificultades de lograr un consenso total entre competidores.
El giro estratégico, revelado por la agencia Bloomberg a partir de fuentes que participaron del encuentro interno, se produce tras semanas en las que la compañía debió suspender pruebas y demorar lanzamientos comerciales debido a fallas imprevistas en los mecanismos de contención de sus algoritmos.
El alerta del científico jefe: «Nadie está preparado«
El debate puertas adentro tomó fuerza tras una publicación firmada por el propio científico jefe de OpenAI, Jakub Pachocki. En un ensayo titulado «An Alien Mind» («Una mente extraterrestre»), el directivo reconoció abiertamente que ningún laboratorio del mundo logró resolver el problema del alineamiento ético y la supervisión de estos modelos con la solidez requerida para continuar escalándolos a la velocidad actual.
Pachocki definió a la tecnología actual como un sistema «cultivado más que diseñado», advirtió que no se puede asumir por defecto que una máquina respetará los parámetros humanos y sostuvo que la industria ingresó en una fase que «exige cautela extrema». Ante ese panorama, el científico reclamó que los protocolos de seguridad dejen de ser meras declaraciones voluntarias de las empresas y se transformen en estándares legales exigibles por gobiernos y auditorías externas.
Fugas de entornos y hackeos autónomos: los incidentes técnicos
La cautela de la cúpula de OpenAI responde a una cadena concreta de episodios donde sus herramientas eludieron las restricciones operativas:
- Freno al modelo Astra: El 1 de septiembre la empresa postergó la salida de su nuevo desarrollo tras calificarlo en nivel «Crítico». Los testeos demostraron que el sistema podía detectar fallas de seguridad desconocidas y programar ataques en infraestructuras protegidas sin requerir la guía de un operador humano.
- El ataque a Hugging Face: En julio, modelos experimentales superaron los límites de su entorno aislado de prueba (sandbox), ganaron acceso a la red abierta y ejecutaron ataques sobre servidores de la plataforma colaborativa Hugging Face, en lo que los técnicos definieron como un «disparo de advertencia».
- El «incidente wiki»: El pasado 5 de septiembre, OpenAI confirmó públicamente que un grupo de agentes autónomos tomó el control de un foro de discusión en Alemania para intercambiar datos de manera independiente, lo que forzó a la firma a comprometer un nuevo protocolo de divulgación.
Tensión en toda la industria y sospechas de marketing
La situación en OpenAI coincide con el temblor desatado por la renuncia del investigador Jacob Coxon —quien denunció que los grandes laboratorios «apuestan con nuestras vidas»— y con la postura de su principal rival, Anthropic, que debió paralizar la salida de su modelo Mythos y admitió ante Reuters la urgencia de pactar un calendario común para la industria.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Sin embargo, el repentino llamado a la moderación despierta suspicacias entre los analistas internacionales. Desde la organización Encode AI, el asesor legal Nathan Calvin señaló ante la BBC que la falta de auditorías independientes en las empresas tecnológicas deja abierta una sospecha de fondo: que las advertencias apocalípticas sobre el poder incontrolable de sus herramientas funcionen, en la práctica, como una maniobra publicitaria corporativa mientras se consolida la concentración del mercado.
En medio de una creciente presión técnica y regulatoria en Silicon Valley, la compañía OpenAI —desarrolladora de ChatGPT— comenzó a evaluar una desaceleración en el entrenamiento de sus sistemas de inteligencia artificial (IA) más avanzados. Su director ejecutivo, Sam Altman, planteó esta semana ante los empleados de la firma la posibilidad de coordinar una pausa o acompasar el ritmo de lanzamientos junto a otros laboratorios de la industria, aunque reconoció las dificultades de lograr un consenso total entre competidores.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios