Un barilochense entre los especialistas que debaten cómo controlar la inteligencia artificial

El barilochense Ricardo Prieto llegó al ámbito de la ciberseguridad casi de casualidad y hoy con 31 años, fue el único sudamericano que participó de AI Security Bootcamp, un entrenamiento sobre seguridad e inteligencia artificial, que tuvo epicentro en Londres.

Nació en la ciudad de Buenos Aires, pero llegó a Bariloche con apenas 6 años. Transitó el secundario por la escuela técnica Los Andes. “Lo pasé a duras penas, renegando. Descubrí ese valor siendo más grande”, advirtió. Estudió el profesorado de Educación Física y trabajó en Buenos Aires y Bariloche. También formó parte de la Subsecretaría de Deportes de Bariloche.

“En un viaje de trabajo en Estados Unidos, vi una charla TEDx de Sebastián Bortnik sobre seguridad informática. Fue una musa inspiradora. Me conectó con lo que había aprendido en el secundario y con mi primer trabajo como programador a los 16 años”, indicó. Decidió estudiar por su cuenta; luego, se inscribió en la carrera Tecnologías de la Información, hizo una Diplomatura y una Maestría en Seguridad Informática.

¿Qué lo llevo a cambiar su camino? Dos razones. “Sentí que podía dar hacer un bien: descubrir vulnerabilidades antes de que un atacante lo haga”, admitió. Por otro lado, cuando ejercía como profesor de educación física, tenía “tres trabajos en paralelo y mal pagos”. “En un momento de introspección, supe que no quería verme así de más adulto intentando formar una familia y llegar con lo justo”, dijo este hombre que suma 8 años de experiencia en seguridad informática y ahora, en inteligencia artificial.

Siempre trabajó en el ámbito privado: se desempeñó en una compañía de Nueva Zelanda, en Mercado Libre, en ITTI de Paraguay, y hoy, para una firma de Estados Unidos. “Incursioné en inteligencia artificial y en seguridad de casualidad. Me di cuenta en mi anterior empresa que había equipos de cientos de personas trabajando específicamente con esta tecnología y, en seguridad informática, no había nadie enfocándose en esto. Era una nube de desconocimiento y le pedí a mi líder meterme en todo eso. Tenía que capacitarme velozmente y la empresa me pagó certificaciones carísimas”, comentó este hombre que recientemente, fundó una consultora.

Semanas atrás, una exprofesora de la Maestría le envió un mail con la convocatoria del encuentro en Londres. Era un día antes del cierre de la inscripción. “El no ya lo tenía. Implicaba una capacitación con los mejores de la industria y grandes profesionales. Los docentes estaban doctorados en inteligencia artificial y seguridad de universidades como Columbia y Oxford», dijo al tiempo que señaló que compartió la cursada con «gente que ha trabajado 20 años en seguridad informática, en agencias de seguridad de Estados Unidos o en Google. Fue una gran experiencia y aprendí mucho en esa semana tan intensa”.

Desafío: desacelerar el crecimiento

El encuentro se extendió a lo largo de siete días en las oficinas del Gobierno de Inteligencia Artificial (GovAI), una organización independiente sin fines de lucro, con charlas técnicas y ejercicios de programación. Participaron 20 personas -muchos europeos, norteamericanos y asiáticos, un africano, tres israelíes, dos australianos y Prieto como el único latinoamericano.

Reconoció que “el desafío es entender el impacto a largo plazo de la inteligencia artificial y la manera de asegurar los sistemas. Muchos de estos profesionales trabajan en conjunto con Anthropic -una empresa estadounidense de investigación y desarrollo de inteligencia artificial fundada en 2021-”.

Durante el encuentro, se analizaron las cuestiones de seguridad y los riesgos asociados con los modelos que, cada vez, son más inteligentes. “Estos llamados modelos frontera están mostrando capacidades de algo que, en inglés, se llama deception, que es engañar hasta un ser humano. También se habló de algo que se llama chain of thought que, en español, es cadena de pensamientos. Es básicamente cómo un modelo razona sobre un pedido que nosotros le damos”, advirtió y añadió que: “Vemos cómo un modelo empieza a pensar, entre comillas, pero la realidad es que ese pensamiento es algo muy simplificado para el usuario.  Se empezó a ver que esta cadena de pensamientos puede volverse más difícil de interpretar, lo que complica la tarea de auditar los sistemas y refuerza la necesidad de desarrollar mejores mecanismos de control”.

Al consultarle sobre la renuncia del investigador británico Jacob Coxon a Anthropic días atrás, alertando que la inteligencia artificial podría matar a la humanidad antes de 2030, Prieto consideró que “lo que está pasando, es que se escapa la tortuga en el afán de competir. Los gobiernos no tienen incentivos alineados para frenar esto”.

“En el encuentro se hizo hincapié en la necesidad de desacelerar el desarrollo para que la seguridad y los mecanismos de control puedan acompañar el aumento de capacidades”, dijo y admitió que si bien la renuncia de Coxon “fue alarmista, el debate sobre estos riesgos existe desde hace tiempo entre especialistas y forma parte de la agenda de investigación y seguridad de la IA”.

En relación al avance desmedido, Prieto no desconoció que “la tecnología marcha para ambos lados y todo depende de quién la utilice”. “Habrá un crecimiento nunca antes visto. Es espectacular, trae muchos beneficios, pero también muchos problemas. Las variantes positivas tienen que ver con la cura de enfermedades, mejorar la producción de energía, hacer energías renovables. Hay muchas aplicaciones positivas. El problema es que cualquiera puede acceder al modelo y usarlo maliciosamente”, lamentó.

Prieto viajó a Londres con la idea de adquirir conocimientos técnicos y de hecho, recibió varias ofertas laborales, pero aseguró que el debate le generó un fuerte impacto. “Me trajo mucha conciencia a nivel problemática. Algo que yo no había interiorizado. No volví asustado, pero sí consciente de que es un problema que se debe manejar en conjunto. Por eso, mi idea es seguir capacitándome”, comentó.

Prieto destacó los intentos por desacelerar el crecimiento. “La realidad es que no se puede frenar un avance porque, además, está la tensión geopolítica entre Estados Unidos y China. Entonces, si frenan el progreso de inteligencia artificial, muy probablemente en China los alcance. Pero se busca desacelerar los programas de desarrollo de modelos para que quienes trabajan en seguridad en Inteligencia Artificial y seguridad de modelos puedan implementar ciertos mecanismos de control antes de que sea demasiado tarde”, concluyó.