El traje a rayas para Sophia está cada vez más cerca

En enero de este año, una periodista cordobesa denunció la clonación de su voz mediante IA, utilizada para realizar llamadas extorsivas a su nombre. En otra provincia, una docente fue víctima de la difusión de un video deepfake que simulaba contenido íntimo, con consecuencias devastadoras en su salud psíquica y en su ámbito laboral. A nivel internacional, el escándalo que involucró al actor Tom Hanks —cuya imagen fue recreada por IA para promocionar un tratamiento dental sin su consentimiento— encendió las alarmas sobre el uso comercial fraudulento de identidades digitales. Estos hechos no solo exponen una violación a derechos personalísimos, sino que evidencian cómo las tecnologías de IA pueden transformarse en herramientas de daño masivo si no son debidamente reguladas. Casos resonantes que dan cuenta de los riesgos y la necesidad de prevenir a través de una reforma.

En este particular, una reforma en la legislación penal. Se dice que las leyes no guían a la sociedad, sino que la siguen a distancia. Y eso es justamente lo que viene ocurriendo con un fenómeno tan revolucionario en todos los aspectos como lo es la Inteligencia Artificial. En este sentido, debemos poner de relieve que, hasta la fecha, el Código Penal argentino carece de disposiciones que se adapten a este fenómeno.

Los delitos de Falsificación de Documentos Privados (art. 296), Estafa (art. 172) o Daño (art. 183) pueden cubrir algunos aspectos de los hechos delictivos que podrían ser cometidos actualmente mediante IA, pero resultan claramente insuficientes.

Frente a esto, en noviembre del año pasado se presentó ante la Honorable Cámara de Diputados de la Nación un proyecto de ley que busca agregar al Código Penal un nuevo artículo: el 117 ter.

Dicha norma establecería penas de prisión de hasta seis años y multas significativas para quienes utilicen tecnologías de IA para clonar voces o imágenes sin autorización del titular de los datos, con la intención de causar daño.

Para que se configure el delito previsto en el art. 117 ter, se requeriría, en primer término, el uso de sistemas de inteligencia artificial automatizados capaces de crear o modificar datos, imágenes, sonidos o videos mediante algoritmos avanzados.

En segundo lugar, se exige que la alteración de contenidos se realice sin el consentimiento de la persona afectada, reforzando la protección de los derechos a la imagen, al honor, a la identidad y a la privacidad. En tercer lugar, se establece que el hecho debe causar un daño a la honra, a la salud psíquica o emocional, o perseguir un beneficio ilícito, como podría ser el lucro indebido a través de estafas o extorsiones.

Se trataría de un delito de acción pública, lo cual significa que podría avanzarse en la investigación incluso sin denuncia de la víctima.

También se contemplarían agravantes específicos que aumentarían la pena en caso de que la víctima sea menor de edad, el hecho genere un grave daño económico o moral, o la acción se enmarque en situaciones de violencia de género digital.

Esta nueva norma habilitaría a los jueces a dictar medidas cautelares destinadas a remover o bloquear los contenidos, dada la forma inmediata y masiva en que estos se viralizan.

Y debo destacar que, por la escala de la pena que posee, no se trataría de un delito excarcelable.

Estados Unidos, la Unión Europea y varias naciones latinoamericanas han impulsado marcos normativos para sancionar el uso indebido de la inteligencia artificial y la manipulación digital fraudulenta, con lo cual, con esta reforma del Código Penal, Argentina se estaría poniendo a la vanguardia.

Hace aproximadamente un año y medio, yo planteaba en una columna publicada en este mismo diario si Sophia podía terminar siendo acusada de un crimen.

En este momento, no se la puede considerar en modo alguno un ser plausible de responsabilidad penal o civil… más allá de lo que vienen vaticinando al respecto películas como 2001: Odisea del Espacio (1968), la saga Matrix o la obra literaria de Isaac Asimov.

Pero el crecimiento vertiginoso que han tenido los usos de la IA en el escaso año y medio transcurrido desde que yo formulara ese interrogante en este mismo espacio, me lleva a pensar que Sophia podría vestir un traje a rayas antes de lo que creemos.