Gobernar la IA: el desafío de controlar una tecnología que avanza sin freno

La rápida adopción de herramientas de inteligencia artificial está generando un nuevo desafío para las organizaciones: cómo aprovechar su potencial sin perder el control sobre los datos, los procesos y las decisiones que comienzan a quedar en manos de sistemas automatizados. La presión por innovar, el uso de aplicaciones no autorizadas y la aparición de agentes inteligentes están poniendo a prueba las estructuras tradicionales de gestión.

Para Luciano Moreira, Chief Transformation & Strategy Office de Cloud Legion, el problema ya no pasa solamente por implementar IA, sino por establecer reglas que permitan utilizarla de manera segura y alineada con los objetivos del negocio. “Una adecuada gobernanza del creciente ecosistema alrededor de la IA es un desafío que, si no se lo considera a tiempo, puede derivar en fracasos”, advierte.

Uno de los principales obstáculos es cultural. Algunas compañías todavía consideran que la gobernanza es una cuestión vinculada exclusivamente con el cumplimiento normativo o que puede quedar bajo responsabilidad del área de IT. Sin embargo, Moreira plantea que el alcance es mucho mayor: implica definir responsabilidades, establecer políticas de uso, capacitar a los empleados, supervisar los sistemas y garantizar que la adopción de IA responda a una estrategia empresarial.

A esto se suma una tensión cada vez más visible: la velocidad que exige el negocio frente al tiempo que necesitan los equipos técnicos para desarrollar soluciones de manera segura. Según el análisis citado por Moreira, el 40% de los responsables de la toma de decisiones identifica la seguridad y el riesgo como su principal preocupación, aunque “la presión por actuar con rapidez suele primar sobre las medidas de seguridad”.

• Avance silencioso

Otro fenómeno que complica el escenario es la denominada Shadow AI: empleados que recurren por iniciativa propia a herramientas de inteligencia artificial o incluso desarrollan aplicaciones sin conocimiento ni autorización de la organización.

El fenómeno revela una brecha entre la velocidad con la que los trabajadores incorporan nuevas tecnologías y la capacidad de las empresas para establecer controles. Moreira cita un informe de UpGuard según el cual el 81% de los empleados y el 88% de los responsables de seguridad reconocen utilizar herramientas de IA no autorizadas.

A su vez, un reporte de Reco AI señala que una aplicación de Shadow AI puede permanecer activa dentro de los flujos de trabajo empresariales durante un promedio de 400 días antes de ser detectada o bloqueada por IT.

El problema no termina en las aplicaciones. También alcanza a los datos que alimentan los sistemas de IA. Información incompleta, desactualizada o distribuida entre diferentes áreas y repositorios puede afectar la calidad de los resultados. Por eso, antes de avanzar hacia agentes capaces de automatizar procesos, resulta necesario contar con información confiable, clasificada y con responsables claramente definidos.

La trazabilidad constituye otro componente central. Cuando un modelo recomienda una acción o participa en una decisión relevante, la organización necesita saber qué información utilizó y cómo llegó a ese resultado. “No alcanza con obtener una respuesta correcta: es necesario reconstruir el recorrido que permitió alcanzarla”, sostiene Moreira.

El desafío será todavía mayor en sectores como banca, salud, seguros y administración pública, donde una decisión automatizada puede tener consecuencias regulatorias, económicas o sociales.

La advertencia apunta a un escenario en el que la gobernanza dejará de ser un complemento para convertirse en una condición para la expansión de la inteligencia artificial. Moreira cita una proyección de Gartner según la cual, para 2027, el 40% de las empresas degradarán o desactivarán agentes de IA autónomos debido a fallos de gobernanza.

En otras palabras, el desafío tecnológico no será únicamente conseguir que la IA funcione, sino garantizar que las organizaciones sepan quién la utiliza, con qué datos, para qué decisiones y bajo qué controles.

Redacción Central