Tecnología
Minority Report en las policías europeas: llegan los sistemas de predicción de delitos

La comisaria europea de Derechos Humanos alerta del uso de algoritmos en sistemas policiales y judiciales de la Unión que atentan contra los derechos ciudadanos.


publicado
2019-05-12 12:02

Algoritmos para predecir en qué zonas es más probable que tengan lugar robos u otro tipo de crímenes, algoritmos para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio. Los algoritmos han llegado y también lo han hecho a los sistemas policiales y judiciales europeos. Y de ello alerta la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović. “Aunque aún se encuentran en sus etapas experimentales, el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”, afirma Mijatović en un texto publicado en la web del Consejo de Europa en el que señalaba los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos.

Como ejemplo, cita PredPol, un programa diseñado por el departamento de policía de Los Ángeles (Estados Unidos) en colaboración con la Universidad de California en Los Ángeles (UCLA) que extrapola los datos de estadísticas criminales CompStat —sí, esa que usaban los policías de la serie The Wire—. ¿Cómo funciona? En la web de PredPol se explica que calcula las predicciones en base a tres tipos de datos: tipo de crimen, localización y fecha y hora. No usa información personal, ni demográfica, étnica o socioeconómica —se afirma en la web—, y los resultados se representan en un Google Map en el que se localizan las áreas con más alto riesgo de delitos cada día y en cada turno. En 2013, la policía de Kent (Reino Unido) compró los derechos de uso del programa por 100.000 libras anuales. Lo probó durante cinco años y en noviembre de 2018 desechó su uso, anunciando que seguirían trabajando en esa dirección, con un nuevo proyecto o construyendo su propio sistema. “Predpol tenía un buen historial de predecir dónde es probable que se cometan los crímenes”, afirmaba entonces John Phillips, superintendente de la policía de Kent, al Financial Times. “Lo que es más difícil es demostrar que hemos podido reducir el crimen con esa información”.

Este programa de algoritmos, así como otros parecidos usados en otras zonas de Reino Unido —como Manchester, Yorkshire o West Midlands— fueron criticados por organizaciones como Big Brother Watch en un informe en el que citaban estudios realizados sobre este tipo de sistemas que concluían que estos refuerzan patrones ya existentes de discriminación y dan lugar a una retroalimentación, conllevando que la policía sea enviada a vecindarios en los que ya hay una presencia excesiva de policías, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos a los que hace referencia la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART por sus siglas en inglés), usada por la policía de Durham, también en Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación. Para ello, Hart utiliza hasta 34 categorías diferentes de datos que van de la edad y el sexo al historial delictivo. Y, al menos hasta abril, también usaba el código postal del sospechoso, lo que desde Big Brother Watch señalan que deriva en la criminalización de la pobreza. Un informe de 2018 elaborado por el Royal United Services Institute for Defence and Security Studies —que no es precisamente un lobby conservador en cuanto a tecnología aplicada a defensa y seguridad— también alertaba de que sistemas como Hart “reproducirán inevitablemente los sesgos inherentes a los datos que se les proporcionan”, lo que perjudicará a las minorías étnicas y religiosas.

Pero más allá de la experiencia británica, este tipo de sistemas de algoritmos también han llegado a otros países de la Unión Europea, como Italia, donde el sistema XLAW se usa en Nápoles y Venecia para prevenir robos, o en Alemania, donde el sistema Precobs —que suena aún más a los precons de Minority Report— se usa ya, de manera corriente o en fase piloto, en los cantones de Aargau, Basel, Baden-Württemberg, Babaria, en Sajonia y en Zug. Precobs también se usa desde 2013 en Zurich (Suiza) para prevención de robos en viviendas.

En España, este tipo de sistemas predictivos también han comenzado a hacerse hueco. A finales de 2015 Rivas (Madrid) fue el primer municipio en comenzar a experimentar con el sistema Pred-Crime. Su policía local lo usó durante nueve meses tras los cuales lo descartaron. “Necesita seguir desarrollándose para ser realmente eficaz”, señalan a El Salto desde el prensa del Ayuntamiento. Diseñada por EuroCop Security Systems, empresa constituida en 2004 y que a día de hoy cuenta con doce empleados y, en 2017, facturó 3,7 millones de euros —casi el doble que en los dos ejercicios anteriores—. En España, su administrador único y director general, financiero, comercial, de márketing y de informática es Ramón García Esteve.

También en 2015, desde la Policía Nacional se comenzó a desarrollar un sistema parecido de la mano del policía científico Miguel Camacho Collados, que en 2014 había recibido una beca Fullbright para estudiar este tipo de sistemas, en colaboración con la Universidad de Granada, la UCLA y la Policía de Los Ángeles, siguiendo la senda de PredPol. Aunque no hay más información sobre el posterior desarrollo de este sistema, desde finales de 2018 sí entró en fase piloto en la Policía Nacional otro sistema basado en algoritmos, en este caso para detectar denuncias falsas, Veripol, también desarrollado por Camacho e instalado ya en todas las comisarías.

Relacionadas

Tecnología
El rechazo a la tecnología de reconocimiento facial llega a la música

Una campaña pide la prohibición de los sistemas de reconocimiento facial en conciertos y festivales en Estados Unidos. Artistas como Tom Morello, Amanda Palmer y el grupo punk Downtown Boys se han sumado a la iniciativa.

Videojuegos
Los videojuegos están privatizando el deporte

Cuarenta millones de personas han tomado parte en el campeonato mundial del videojuego Fortnite. Las competiciones digitales a nivel profesional están en continuo crecimiento y representan la nueva frontera de la transformación del deporte en producto privado. Pero no hay que confundir el sistema con los individuos que en él participan.

Tecnopolítica
Hacia una soberanía tecnológica

Cada vez hay menos actividades que no se realizan por Internet o que sólo se pueden realizar por Intern: selección de candidaturas a un puesto de trabajo, horarios de trabajo de riders, policía predictiva, fronteras “inteligentes”, plataformas online para diversos propósitos como YouTube, Twitter, Dropbox o Tinder, por no hablar de nuestros correos electrónicos o los sistemas operativos como Android o Windows. ¿Estamos preparados para dejar todo en manos de empresas privadas?

3 Comentarios
#34184 15:42 13/5/2019

En españita los órganos fascistas PN y GC lo hacen desde hace ochenta años.

Responder
2
0
#34149 16:11 12/5/2019

La IA tiene el sesgo ideológico de quien la elabora. Es tendenciosa y discriminatoria como toda la estadística en que se basa.
Vamos hacia una idiotización colectiva.

Responder
4
0
#34139 13:02 12/5/2019

Cesare Lombroso estaría maravillado con este sistema

Responder
4
0

Destacadas

Migración
Dime de dónde vienes y te diré quién eres

¿Cómo repercuten las fronteras en los cuerpos e identidades de las personas migrantes? Las fronteras construyen las narrativas de la migración, las cuales son reproducidas y perpetuadas tanto por quienes migran como por las sociedades que ‘los reciben’. ¿Cómo ven las políticas migratorias a los migrantes? ¿Cómo influyen estas en la perspectiva que los ‘autóctonos’ tienen del extranjero? ¿La respuesta de alguna de estas preguntas influye en la respuesta de la otra?

Pensamiento
Marta Peirano: “Internet no es el problema, la extracción de datos es el problema”

La periodista Marta Peirano (Madrid, 1975) ha publicado El enemigo conoce el sistema (Debate, 2019), un ensayo sobre el estado actual de internet y de las sociedades que están moldeando una serie de herramientas privadas.

Elecciones
El lío de la trayectoria de Sánchez

Decimotercera entrega de las colaboraciones especiales de Mauro Entrialgo para El Salto.

Violencia machista
Las Kellys y la Plataforma 8M denuncian a un gran hotel por tolerancia con un intento de violación

Tras un intento de violación a una camarera de piso en Lanzarote, los dueños de una gran cadena hotelera no creyeron a la víctima y la obligaron a seguir trabajando junto a la habitación donde se había producido el supuesto ataque.

Literatura
Tiempos negros, tiempos salvajes

La novela negra en España se debate entre el espejismo de un boom comercial con amplia presencia en las mesas de novedades, y una realidad en la que conviven autores de éxito con otros que habitan en los márgenes de un género que, pese a la supremacía del best seller, no renuncia a su espíritu crítico. Pasamos revista rápida al noir hispano hablando con escritores, editores, libreros y especialistas en el simple (en este caso, ficticio) arte de matar.

Elecciones
Se están riendo de nosotras

Digámoslo claro: nos sentimos humilladas, se están riendo de nosotras. Pero partamos de ahí para hacer algo al respecto, no para atrincherarnos en un búnker de cinismo o hartazgo.

Últimas

Andalucismo
Los andalucistas se plantan: quieren papeleta de Adelante Andalucía en la repetición electoral

Primavera Andaluza e Izquierda Andalucista exigen a los socios mayoritarios de la confluencia andaluza, IU y Podemos, presentar la marca Adelante a las elecciones generales y aseguran que ya “no caben excusas”. IU se muestra reacia y en Podemos se abre el debate interno.

Movimiento estudiantil
Declaración de intenciones
Algunos representantes estudiantiles nos recuerdan demasiado a jefecillos que gestionan nuestro cabreo para que no se vaya de madre.
Crisis climática
Mapa: la Huelga Mundial por el Clima ya suma más de 1.600 convocatorias

El movimiento global por el clima organiza una semana de lucha entre el 20 y el 27 de septiembre que en España se vivirá especialmente el día 27, día en que está convocada una huelga para exigir a gobiernos e instituciones que se pongan manos a la obra y declaren la emergencia climática.