IA como fiscal electoral: ¿Quién vigila las redes en campaña?

En tiempos donde un video puede mentir mejor que mil palabras, la política ha entrado de lleno en la era de los deepfakes, los bots y la desinformación algorítmica. Las redes sociales, antes espacios de intercambio ciudadano, se han convertido en terrenos fértiles para la manipulación emocional y la distorsión de hechos. En este nuevo campo de batalla, la democracia corre el riesgo de ser socavada no por votos falsos, sino por verdades fabricadas.

Ante esta amenaza, surge una pregunta urgente: ¿Puede la inteligencia artificial convertirse en aliada de la transparencia electoral? La explosión de las redes sociales como principal canal de comunicación, debate político y formación de opinión, tiene como protagonista a la IA. Los desafíos que presenta son los tendientes a los controles frente a la desinformación y/o su manipulación en redes sociales; pero también, a pensarla como facilitadora de la comunicación y, no solo como amplificadora de ciertos problemas, especialmente en momentos electorales.

La proliferación de noticias falsas, discursos de odio, bots, y la manipulación algorítmica, han generado un desconcierto en la comunidad que no cuenta con las herramientas o conocimientos necesarios para advertir cuando se está frente a una noticia o video falso.

Esto es lo que se pudo observar en horas previas a las elecciones legislativas de la CABA, a través de un video el ex presidente Mauricio Macri informaba que dejaba la conducción del PRO y la política. Las nuevas tecnologías y la IA también se usan para desinformar, a través de lo se conoce como fake news.

La falta de regulación y/o supervisión de los contenidos en línea, durante los procesos electorales impacta directamente en la democracia, sea en mayor o en menor medida, beneficiando o perjudicando a uno u otro espacio político logran crear alarmar a la ciudadanía.

Lo cierto es que los partidos políticos tendrán que aprender a usar estas nuevas tecnologías, ya que puede traer más beneficios que perjuicios. Y en esto de pensar las campañas políticas con IA, los candidatos tendrán que asumir el riesgo pero prepararse tomando ciertos recaudos para evitar la suplantación de identidad. Para ello, es prioritario comenzar a hablar de educación digital, de promover espacios de concientización para educar sobre chequeos de fuentes, verificarla información, entrenar la audición para detectar anomalías en los audios y videos, ya que esta tecnología es muy accesible tanto para quienes quieren hacer bien las cosas como para los que no.

Entonces, primero habrá que conocer y saber cuáles son las capacidades actuales de la IA. Saber que, se utiliza el procesamiento del Lenguaje Natural (PLN) para identificar patrones, sentimientos y otros temas, luego es posible con la IA realizar análisis de imágenes y videos para detectar manipulación o deepfakes, asimismo se puede detectar los comportamiento anómalo (bots, granjas de trolls), y llevar adelante la segmentación de audiencias y análisis de tendencias de una conversación.

La IA puede ser parte de la solución, si es usada con criterios éticos, jurídicos y técnicos, puede transformarse en un verdadero guardián digital, capaz de detectar contenidos manipulados, identificar campañas de desinformación y proteger la integridad del proceso democrático.

A este respecto, la Dra. Mariana Sánchez Caparrós, experta en IA nos dice: “La justicia debe aparecer. No puede seguir invitando a la ciudadanía a que ingresen en su página web para dejar su opinión tal como ocurría en los años 90…,  debe actualizarse y utilizar ”.

“Que así como la manera de comunicarnos ha cambiado, y es importante que la justicia también participe de este cambio, con un rol si se quiere de mitigación, como usuario activo de las redes sociales que son donde se dan estos debates, y hacerlo quizá en consonancia con usuarios de partidos políticos que intervienen activamente en las redes sociales, así como ocurre en los actos electorales que se cuenta con fiscales de mesa para fiscalizar, tranquilamente se podría pensar en una suerte de fiscal de red social con personas que en el rol de usuarios de comunidad poder fiscalizar en tiempos de campañas electorales, que sería más oportuno que interponer una medida cautelar y demás actos jurídicos que llevarían más tiempo”.

(*) Miembro del Instituto de Derecho e IA del Colegio de Abogados y Procuradores de Neuquén dirigido por la Dra. Vanesa Ruiz.