El STJ busca frenar el uso de inteligencia artificial de los abogados de Río Negro en sus demandas

El Superior Tribunal de Justicia (STJ) decidió sancionar a los abogados que utilicen inteligencia artificial (IA) en cualquier tipo de escrito que presenten en los expedientes judiciales en los que intervienen, luego de detectar casos con abusos en el uso de esta herramienta que llegó a derivar en menciones de antecedentes inexistentes.

La nueva medida del STJ es a través de una acordada que permitirá a los tribunales sancionar a abogados que presenten escritos con citas falsas o jurisprudencia inventada mediante inteligencia artificial .

Semanas atrás se conoció que la Cámara Civil de Roca detectó 26 fallos inexistentes y pidió explicaciones a dos abogados, a quienes dejó sin honorarios por incurrir en una práctica desleal.

Según informó el Poder Judicial, la Acordada 15/24 creó el protocolo de buenas prácticas y lo estableció como obligatorio para magistrados, funcionarios y empleados judiciales, una medida que ahora amplió su alcance a quienes intervienen como peritos, técnicos y profesionales de la abogacía, e incorporó pautas de uso responsable en todas las instancias del proceso judicial.

Río Negro fue una de las provincias pioneras en regular el uso de inteligencia artificial dentro del Poder Judicial y se destacó el sistema que aplica IA en el fuero Contencioso Administrativo administrativo.

«El STJ sostuvo que la inteligencia artificial generativa se consolidó como una herramienta de apoyo para agilizar tareas, elaborar borradores y mejorar la eficiencia de la labor judicial. No obstante, advirtió que su uso sin supervisión puede ocasionar consecuencias graves«, señaló el Poder Judicial en un comunicado de prensa.

El máximo tribunal mencionó que ya existieron casos en los que se detectó el mal uso de la IA que «afectaron el derecho de defensa de las personas, engañaron a los jueces y generaron la necesidad de suprimir fragmentos de los expedientes«; además de retrasar procesos y afectar la confianza pública en el Poder Judicial.

A partir de ahora, con la ampliación de los alcances de la acordada de 2024, los tribunales podrán aplicar sanciones dentro de sus potestades correctivas y, además, deberán remitir los casos a los Colegios de Abogados para su tratamiento en los Tribunales de Ética o Disciplina.

«El STJ indicó que inventar jurisprudencia no constituye un error menor, sino un incumplimiento grave que desnaturaliza el rol de defensa«, remarcaron desde el Poder Judicial con crítica a la «pérdida de tiempo» que provoca que los magistrados busquen expedientes o casos inexistentes mencionados como precedentes en el sistema.

La nueva acordada dispuso también la obligación de elaborar un plan de capacitación específico sobre inteligencia artificial generativa.

La Escuela de Capacitación Judicial, junto con la Dirección General de Sistemas y los Colegios de Abogados, deberá implementar esa formación en todo el territorio provincial.

El protocolo ya fijaba pautas sobre validación de contenidos producidos con IA, control humano en cada etapa, evaluación de sesgos y protección de datos personales. También establecía que la tecnología solo puede cumplir una función de apoyo y nunca reemplazar el juicio profesional.