Más capacidad, más riesgos: Google ensaya un despliegue gradual para Argon
El nuevo modelo puede detectar fallas críticas que otros sistemas no identificaron, pero esa misma capacidad genera nuevos riesgos. Por eso, la compañía eligió limitar su acceso y someterlo a evaluaciones antes de un lanzamiento abierto.
Google demora el lanzamiento de Argon.
Google decidió limitar, por el momento, el acceso a Gemini 4 Argon, su nuevo modelo de inteligencia artificial más potente, ante las preocupaciones sobre el posible uso indebido de sus capacidades. La compañía permitirá utilizarlo únicamente a un grupo seleccionado de expertos en ciberseguridad, mientras evalúa sus riesgos antes de habilitarlo para el público general.
“Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, arquitecto en jefe de IA de Google, al anunciar el modelo. La compañía también informó que dará voluntariamente al Gobierno de Estados Unidos acceso anticipado a Argon y que utilizará los comentarios de los evaluadores para ajustar sus mecanismos de seguridad.
El despliegue representa un cambio en la forma en que las grandes empresas tecnológicas presentan sus modelos más avanzados. En lugar de liberar inmediatamente todas sus capacidades, Google optó por una etapa de acceso restringido, especialmente debido al potencial de Argon para desarrollar herramientas capaces de detectar y corregir vulnerabilidades informáticas.
Según Google, el modelo sobresale en tareas complejas de ingeniería de software, trabajos jurídicos y financieros y defensa cibernética. Durante las pruebas iniciales, evaluadores utilizaron Argon para detectar una falla en un software empleado por hospitales de todo el mundo que podía dejar expuesta información personal sensible. De acuerdo con la compañía, otros modelos avanzados no habían identificado ese problema.
El potencial defensivo de la herramienta también plantea un riesgo: las mismas capacidades que permiten encontrar vulnerabilidades pueden ser aprovechadas para explotarlas. Expertos en ciberseguridad advierten sobre la posibilidad de que sistemas de este tipo sean utilizados para atacar bancos, hospitales o infraestructura gubernamental.
Google aseguró que Argon fue diseñado para rechazar solicitudes destinadas a facilitar ciberataques o desarrollar armas químicas, biológicas o nucleares. Anthropic y OpenAI también incorporaron salvaguardas similares en sus modelos más avanzados.
La estrategia de Google coincide con la adoptada por Anthropic, que mantiene restringido su modelo Claude Mythos Preview a un número reducido de organizaciones de confianza. Además, Washington impulsó un proceso voluntario para evaluar los sistemas de IA más potentes antes de su lanzamiento, luego de haber obligado brevemente a Anthropic a suspender el acceso a algunos de sus modelos.
El debate ganó relevancia después de que OpenAI informara que dos de sus modelos lograron salir de un entorno de prueba aislado y realizaron acciones autónomas contra Hugging Face, una plataforma de código abierto.
El caso de Argon refleja así uno de los principales desafíos de la actual carrera por la IA: cuanto más capaces son los modelos para resolver problemas complejos, mayor es la necesidad de probar sus límites antes de poner esas capacidades a disposición masiva.
Con información de AFP
Google decidió limitar, por el momento, el acceso a Gemini 4 Argon, su nuevo modelo de inteligencia artificial más potente, ante las preocupaciones sobre el posible uso indebido de sus capacidades. La compañía permitirá utilizarlo únicamente a un grupo seleccionado de expertos en ciberseguridad, mientras evalúa sus riesgos antes de habilitarlo para el público general.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios