Algoritmos para el control social

Un algoritmo es un conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución a un tipo de problemas.

Estamos tan familiarizados con ellos que apenas percibimos su impacto en ámbitos tan diversos como la producción, la comunicación digital y el transporte. E incluso en materia de predicciones, desde el clima a la detección temprana de problemas de salud.

En cuanto dispositivos de control social no se han hecho esperar. Ellos predicen las zonas en las que es más probable que tengan lugar robos u otro tipo de crímenes.

E incluso se los utiliza en algunos contextos procesales para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio.

La policía predictiva postula la necesidad de abordar un análisis científico de la realidad criminal, a partir de nuevas políticas y estrategias de lucha contra la delincuencia.

Uno de los algoritmos más publicitados es conocido como PredPol -Predictive Policing-, un software desarrollado por la Universidad de California y utilizado por más de 60 departamento de policía de los Estados Unidos.

PredPol requiere de tres datos para operar: el tipo de crimen, el lugar donde se cometió y la fecha exacta en la que tuvo lugar. Con ellos promete delimitar las áreas de la ciudad donde es más probable que se cometa un delito y, de ese modo, prevenir su comisión.

Los algoritmos han llegado también a los sistemas policiales y judiciales europeos.

De ello alertó la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatovic, al sostener que “el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”.

Destacó, además, los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos y comportamientos.

Lo cierto es que los programas de algoritmos vienen siendo usados en ciertas zonas del Reino Unido, como Manchester, Yorkshire o West Midlands.

Según la organización Big Brother Watch, su implementación refuerza patrones ya existentes de discriminación y retroalimentación, estimulando el destino de efectivos policiales a vecindarios en los que ya existe una presencia excesiva de ellos, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos cuestionado por la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART).

Es utilizada por la policía de Durham, también en el Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación.

Para ello, HART se vale de hasta 34 categorías de datos que van de la edad y el sexo al historial delictivo. Y, al menos durante un período de tiempo, también usó el código postal del sospechoso, por lo que fue acusada de auspiciar la criminalización de la pobreza.

Como se advierte, el desafío vuelve a consistir en trazar patrones de seguridad, jurídica y ciudadana, compatibles con la Constitución nacional y las garantías allí expresadas.

*Doctor en Derecho (UBA), profesor titular de la Universidad Nacional de Río Negro (UNRN)