Bariloche promueve el uso de la IA en el municipio: código de ética y supervisión humana

https://www.rionegro.com.ar/politica/bariloche-promueve-el-uso-de-la-ia-en-el-municipio-codigo-de-etica-y-supervision-humana-4746679/

Con la promulgación de la ordenanza 3612 que aprobó en septiembre el Concejo Municipal, Bariloche se suma a la promoción del uso responsable de la inteligencia artificial (IA) en la administración pública.

La ordenanza fue promovida por las concejalas Laura Totonelli (JSRN), Samantha Echenique (Juntos por el Cambio) y la exconcejal Natalia Almonacid (JSRN), y aprobada a comienzos de septiembre. Este viernes fue promulgada por el intendente Walter Cortés, que también en su gestión puso la mirada en la digitalización con la creación de un área específica y la definición de un Plan de Modernización.

Lee También

El municipio de Bariloche centraliza y digitaliza la emisión de libre deuda

Bariloche ya contaba con una ordenanza que regulaba la implementación, uso y control de tecnologías digitales aplicables a la gestión pública, pero con la nueva ordenanza en vigencia se pone el foco en la IA y la “oportunidad estratégica” que constituye.

Con la norma, se crea el Programa Municipal de Innovación con IA, que tiene por objeto “utilizar, impulsar, adoptar y desarrollar el uso de tecnologías basadas en inteligencia artificial (IA) como estrategia para la mejora continua de la gestión pública, el fortalecimiento institucional y la innovación en los servicios brindados a la ciudadanía”, establece el primer artículo.

La autoridad de aplicación definida es la subsecretaría de Tecnología y Sistemas y prevé 90 días desde la promulgación para que se reglamente y rija en la administración pública.

Lo que se busca con la ordenanza es “promover el uso ético, responsable, transparente y seguro de sistemas de IA en los procesos y servicios públicos municipales, garantizando el respeto de los derechos fundamentales”; así como también impulsar la modernización del Estado con nuevas herramientas que permitan automatizar procesos; fomentar la creación de un ecosistema local de innovación tecnológica orientado al desarrollo de soluciones basadas en IA; y promover el uso de herramientas de monitoreo inteligente, análisis predictivo y avanzado de datos, entre otras.

Supervisión humana y uso ético de la IA

En su artículo séptimo, se define que la IA debe ser utilizada como una “herramienta de apoyo a la gestión pública y la toma de decisiones”, pero siempre está sujeta a la “supervisión humana efectiva”.

Se aclara que queda a cargo de los funcionarios o agentes públicos intervinientes “la responsabilidad indelegable de los resultados y las acciones administrativas resultantes” y que la supervisión humana “debe establecer mecanismos efectivos de supervisión, rendición de cuentas y corrección de errores o daños”.

Para establecer un uso ético y responsable de la IA en la administración municipal, la ordenanza define la protección de datos personales; la transparencia; la explicabilidad (debe ser comprensible para las personas afectadas por sus decisiones y por quienes lo operen); la seguridad para proteger la integridad, confidencialidad y disponibilidad de los datos; y debe contar con supervisión humana.

Las concejalas que idearon la ordenanza consideraron necesaria la normativa regulatoria en el contexto de transformación digital del Estado y mencionaron a modo de ejemplo que entre las posibles aplicaciones se podría implementar en asistentes virtuales para atención ciudadana permanente; el uso de modelos predictivos para planificación del tránsito, infraestructura y servicios; la utilización de herramientas para monitoreo ambiental y prevención de riesgos; la automatización de procesos administrativos internos; la creación de registros públicos de sistemas algorítmicos que fortalezcan la transparencia; y el desarrollo de plataformas de simulación urbana, tales como gemelos digitales, que permitan evaluar escenarios antes de adoptar decisiones de política pública.