¿Todo el poder a los datos?

Por Martín Lozada*

Dataísmo es un término que ha sido utilizado para describir la filosofía o religión creada por el significado emergente del big data, la inteligencia artificial y el internet de las cosas.

Su postulado declara que el universo consiste en flujos de datos y que el valor de cualquier fenómeno o entidad está determinado por su contribución al procesamiento de datos.

De ese modo, el dataísmo inaugura una nueva era donde los datos se usan para detectar, provocar y condicionar comportamientos en todos los ámbitos. Desde el ocio y los negocios, hasta el aprendizaje y el control social.

En medio del tecno-entusiasmo imperante, ofrece una seductora y tranquilizadora representación de la realidad: allí donde problemas complejos son resueltos, o lo estarán, gracias a invenciones o regulaciones tecnológicas.

Se afirma, en esa línea, que las decisiones adoptadas por máquinas que procesan números y fórmulas matemáticas, y no por personas, constituye un avance social al ofrecer mecanismos más eficientes, justos y objetivos para resolver nuestros dilemas.

La doctora en matemáticas Cathy O’ Neil es autora del libro titulado”Armas de destrucción matemática (ADM): cómo el Big Data aumenta la desigualdad y amenaza la democracia”.

Tras haber trabajado en la articulación de estos modelos matemáticos, señala los principales problemas y efectos colaterales que plantean al aplicarse a la población.

O ´Neil afirma que los datos se utilizan para crear modelos matemáticos en un intento de representar y predecir la realidad, aunque siempre bajo los intereses de la entidad que los solicita.

Distingue las tres principales características que los definen y hacen peligrosos con respecto a otros modelos matemáticos aplicados a las personas.

En primer lugar, las ADM son opacas, ya que no se revela por parte de los responsables ni qué datos se incorporan al modelo, ni cómo operan, ni en ocasiones tampoco qué resultados surgen ni cómo se interpretan.

En segundo lugar, son dañinas, ya que si bien algunas personas pueden beneficiarse de los mismos, también pueden actuar injustamente y en menoscabo de determinados sectores de la población.

En materia de control social, se encuentra en auge y expansión la industria de sistemas informáticos orientados al ejercicio de la policía predictiva.

Por un lado, los programas que intentan predecir las tendencias criminales de las personas, como Compas.

Por el otro, los que pretenden elaborar mapas de potenciales áreas de tensión en las ciudades, donde las posibilidades de cometer un delito son estadísticamente mayores.

A este segundo grupo pertenece PredPol, un software desarrollado por la Universidad de California y utilizado por más de 60 departamentos de policía en los Estados Unidos.

Según la organización británica Liberty, es elevado el riesgo de que estas políticas en materia de seguridad acaben avalando estrategias discriminatorias.

En lo fundamental, por cuanto emplean programas opacos que usan algoritmos para analizar grandes cantidades de datos policiales.

Datos policiales que, desde un inicio, suelen arrastrar fallas procesales y sesgos cognitivos. Tanto al identificar patrones de conductas, como al adoptar enfoques de gestión de la seguridad basado en perfilaciones altamente selectivas.

*Doctor en Derecho. Profesor titular de la Universidad Nacional de Río Negro (UNRN)