Fijan pautas estrictas para el uso de la IA Generativa en el Poder Judicial de Neuquén

El Poder Judicial de Neuquén carece por ahora de una herramienta propia de inteligencia artificial generativa (IAGen). Sin embargo, la oferta de agentes conversacionales y asistentes virtuales en sus versiones gratuitas y pagas la ponen al alcance de magistrados, funcionarios y empleados, y muchos la utilizan de forma particular en su trabajo cotidiano. Frente a esa realidad, el Tribunal Superior de Justicia elaboró un protocolo para reglamentar el buen uso.

Entre otros puntos, indica que se requiere autorización; los resultados deben ser verificados por quien utilizó la herramienta, y al interactuar con agentes conversacionales no deben incluirse datos personales.

«Puede resultar una herramienta útil y complementaria -señala el Tribunal- sin perder de vista que la responsabilidad de la elaboración de las decisiones jurisdiccionales y administrativas es exclusiva de los magistrados, funcionarios y/o agentes de la administración de justicia».

«Inclusive cuando se utilicen para realizar resúmenes de texto o de videos, el resultado debe ser revisado, verificado y ajustado ineludiblemente por quien ha utilizado la herramienta», advierte.

La información que se sube, se comparte

---

El protocolo recuerda que «el uso de las herramientas de IAGen importa compartir la información que se incorpora en éstas, y la información queda disponible para ser utilizada por los propietarios de la herramienta», como Open IA; Google, Microsoft. Por eso «en los casos que se decida interactuar con agentes conversacionales, deberá tomarse la precaución de no incluir datos personales o datos sensibles de los involucrados en el proceso, con el objetivo de no disponibilizar la información en una herramienta de alcance mundial».

Por otra parte ordena que «quien tome la decisión personal de utilizar, fuera de lo que se prevea en el marco de los sistemas del Poder Judicial, cualquier herramienta de IA, debe informar el uso (…) El destinatario del servicio de justicia tiene derecho a saber cuando el pronunciamiento que ha obtenido contiene el uso de la herramienta de IA».

Verificar, revisar, validar

---

«Deberá tenerse en cuenta -dice más adelante- que los agentes conversacionales no son buscadores ni generales ni de jurisprudencia, por lo que los resultados que proveen pueden ser incorrecto o inexactos. Por tal motivo, el resultado obtenido en una interacción debe ser verificado, revisado, validado, contrastado con los elementos, normativa y características particulares del tema que se esté trabajando, verificando que sea congruente, que no contenga sesgos, que contenga un razonamiento lógico que pueda ser comprendido por el destinatario».

La IA Generativa «al menos al dictado del presente, no realiza juicios de ponderación. Responde en base a probabilidades tomando en cuenta que ha sido alimentada con información proveniente de las páginas web del mundo», resalta.

Capacitación

---

En este contexto, comenzó el programa sobre el uso de IA Generativa y nuevas tecnologías, organizado por la Escuela de Capacitación del Poder Judicial. La apertura fue el viernes pasado a cargo de los vocales Evaldo Moya y Germán Busamia.

Moya destacó los proyectos en los que avanza el Poder Judicial en materia de inteligencia artificial, entre ellos Justina, un agente conversacional cuyo desarrollo ya está en marcha.