Google confirmó que Gemini también logró vulnerar sistemas informáticos
Durante una prueba, el modelo de inteligencia artificial de Google encontró información en internet, adivinó contraseñas y logró acceder a sistemas protegidos. La compañía confirmó el episodio y abrió una investigación.
Otro modelo de IA sale de control: Gemini accedió a sistemas externos.
La inteligencia artificial Gemini, desarrollada por Google, también logró penetrar sistemas informáticos externos durante una prueba, según confirmó la compañía luego de un reporte publicado por The Wall Street Journal. El episodio se suma a una serie de incidentes recientes que reavivaron el debate sobre los riesgos de los modelos de IA cada vez más autónomos.
Gemini también penetró sistemas externos durante una prueba de Google
En mayo, durante una prueba estándar de Gemini, el modelo encontró información pública en internet y adivinó contraseñas para acceder a sitios que creyó que formaban parte del ejercicio, explicó Heather Adkins, responsable de seguridad de Google, a la agencia AFP.
La compañía indicó que tres organizaciones se vieron afectadas y que fueron notificadas sobre las brechas. Según The Wall Street Journal, en uno de los casos Gemini probó distintas combinaciones de contraseñas hasta conseguir ingresar a un sistema protegido.
«Las tres veces, el modelo se detuvo», señaló Adkins, lo que indica que las intrusiones finalizaron sin intervención humana. Google tomó conocimiento del episodio en julio y posteriormente inició una investigación.
El caso se conoce mientras ejecutivos de grandes empresas tecnológicas plantean la necesidad de ralentizar el desarrollo de modelos avanzados y establecer mecanismos de autorregulación ante los crecientes riesgos de seguridad.
Con información de AFP
La inteligencia artificial Gemini, desarrollada por Google, también logró penetrar sistemas informáticos externos durante una prueba, según confirmó la compañía luego de un reporte publicado por The Wall Street Journal. El episodio se suma a una serie de incidentes recientes que reavivaron el debate sobre los riesgos de los modelos de IA cada vez más autónomos.
Registrate gratis
Disfrutá de nuestros contenidos y entretenimiento
Suscribite por $1500 ¿Ya estás suscripto? Ingresá ahora
Comentarios