Violencia de género en entornos digitales

La tecnología avanza ahora en ámbitos más privados y al mismo tiempo más público, al dar respuestas a otros problemas sociales. Pero, ¿puede realmente un algoritmo ayudar a erradicar la violencia de género?

Pues sí, usando algoritmos de aprendizaje automático, los sistemas de IA pueden también analizar comportamientos, mensajes de ayuda en redes sociales o registros de llamadas de emergencia, por ejemplo, para detectar posibles casos de violencia de género.

¿Qué se consigue con esto? Que los organismos administrativos y judiciales puedan intervenir de forma temprana y ofrecer ayuda a las posibles víctimas, o que los servicios de emergencia identifiquen y prioricen casos de violencia de genero asegurando una respuesta más eficiente y efectiva. En el entorno digital pueden crearse perfiles falsos que intensifican todas las violencias, aun la simbólica y la psicológica, como también el envío de imágenes no solicitadas. Lamentablemente en este sentido se puede observar que las redes sociales incrementan este tipo de violencia desde el anonimato.

La clave para la correcta utilización de la inteligencia artificial (IA) en este ámbito radica en abordar aquellos desafíos que van desde la reproducción de los estereotipos o conductas discriminatorias hasta la necesidad de proteger la privacidad y la seguridad de las personas afectadas. Y esto requiere de un enfoque ético, transparente y colaborativo que tenga en cuenta las necesidades y los derechos de las víctimas de violencia de género. Somos testigos de los posibles impactos negativos en las personas afectadas, así como la promoción de valores como la igualdad de género y el respeto a los derechos humanos. Por lo que debemos además valernos de la interdisciplina incluyendo género, ética, tecnología y derechos humanos, para lograr la eficacia en la intervención ante las diversas situaciones de violencia de género y los usos que le damos a esta herramienta que nos presenta la IA. Por otra parte, la educación de la sociedad sobre los riesgos, los beneficios de estas tecnologías, y las regulaciones en los entornos digitales que en estos tiempos están alcanzados por las pantallas, plataformas y redes, son a su vez otro aspecto que no podemos descuidar. Si bien se trata de espacios dinámicos, novedosos y con lógicas propias, lo que sucede acá no se encuentra muy lejos del sistema de valores sociales.

Por el contrario existe hoy una tendencia en aumento de la violencia de género, la violencia contra las mujeres, el acoso sexual, la difusión de vídeos de naturaleza sexual o íntima sin consentimiento y los discursos de odio en las redes sociales con efectos directos y concretos en la vida de las personas, sobre todo niño/as y adolescentes. Ante todo este emergente y con la intención de poner un freno a estos hechos se aprueba la Ley Olimpia denominada así en honor a Olimpia Coral Melo, una joven mexicana sobreviviente de este tipo de violencia en entornos digitales.

En nuestro país, rige la Ley 26.485 de Protección Integral para prevenir, sancionar y erradicar la violencia contra las mujeres, y la finalidad de la Ley Olimpia es nombrar la violencia digital como aquella que se ejerce “mediante el uso de las tecnologías de la información y la comunicación (TICS) y que implica la obtención, reproducción y difusión, por cualquier medio, de datos personales, material digital, real, simulado, íntimo o de desnudez de las mujeres sin su consentimiento, discursos de odio de género, patrones estereotipados sexistas o que impliquen situaciones de acoso, amenaza, extorsión o control virtual. Las acciones u omisiones que atenten contra la integridad sexual o contra la identidad digital de las mujeres o del derecho a la diversidad, a través de las tics.

En otras palabras esta ley nos trae herramientas claras para realizar denuncias, acompañar y contener a las mujeres y víctimas de violencia de género digital.

Brinda una serie de medidas cautelares de protección que puede dictar la Justicia, y la creación de protocolos de intervención donde las víctimas van a poder acercarse a cualquier oficina administrativa o judicial, que tome denuncias por violencia de género y solicitar tres tipos de medidas: que se le ordene al presunto agresor el cese de los actos de perturbación o intimidación en el plano digital; la prohibición de contacto del presunto agresor a través de las tecnologías de la información y comunicación; y la posibilidad de solicitar un retiro del contenido que constituya un ejercicio de violencia digital conforme a la definición que establece la Ley.

En la provincia de Santa Fe, Florencia Villegas referente de Ley Olimpia Argentina, denuncia la violencia digital que ejerció su expareja cuando durante años difundió sin su consentimiento, fotos íntimas de ella. Es claro que las IA en este contexto reproducen las mismas conductas conocidas como violentas y discriminatorias por razón de género en el plano digital, y en ambos casos se caracteriza por la expansividad, la permanencia y trasnacionalidad de las agresiones, que hacen que los efectos de la violencia de género se multipliquen e incrementen.

Sin embargo no debemos desconocer el aporte más que positivo que hoy nos traen las IA para detectar estos casos de violencia de genero a partir de la creación e implementación de un simple chat, por ejemplo chatbot presentado por el Proyecto Regional Infosegura, una iniciativa del Programa de las Naciones Unidas para el Desarrollo (PNUD) en colaboración con la Agencia de los Estados Unidos para el Desarrollo Internacional (USAID). Entonces en este sentido elogiamos el uso de esta nueva herramienta, que mediante el uso de inteligencia artificial, este asistente virtual ofrece información instantánea a las víctimas, manteniendo siempre la más absoluta confidencialidad. Se trata de un chat gratuito que brinda información y orientación para prevenir y detectar los casos en los que las personas en nuestra sociedad sufren violencia de género y requieren de la asistencia y auxilio de las autoridades y operadores jurídicos.

* Abogada, miembro de instituto de derecho e inteligencia artificial del CAyPN.