Tecnología
Minority Report en las policías europeas: llegan los sistemas de predicción de delitos

La comisaria europea de Derechos Humanos alerta del uso de algoritmos en sistemas policiales y judiciales de la Unión que atentan contra los derechos ciudadanos.

12 may 2019 12:02

Algoritmos para predecir en qué zonas es más probable que tengan lugar robos u otro tipo de crímenes, algoritmos para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio. Los algoritmos han llegado y también lo han hecho a los sistemas policiales y judiciales europeos. Y de ello alerta la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović. “Aunque aún se encuentran en sus etapas experimentales, el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”, afirma Mijatović en un texto publicado en la web del Consejo de Europa en el que señalaba los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos.

Como ejemplo, cita PredPol, un programa diseñado por el departamento de policía de Los Ángeles (Estados Unidos) en colaboración con la Universidad de California en Los Ángeles (UCLA) que extrapola los datos de estadísticas criminales CompStat —sí, esa que usaban los policías de la serie The Wire—. ¿Cómo funciona? En la web de PredPol se explica que calcula las predicciones en base a tres tipos de datos: tipo de crimen, localización y fecha y hora. No usa información personal, ni demográfica, étnica o socioeconómica —se afirma en la web—, y los resultados se representan en un Google Map en el que se localizan las áreas con más alto riesgo de delitos cada día y en cada turno. En 2013, la policía de Kent (Reino Unido) compró los derechos de uso del programa por 100.000 libras anuales. Lo probó durante cinco años y en noviembre de 2018 desechó su uso, anunciando que seguirían trabajando en esa dirección, con un nuevo proyecto o construyendo su propio sistema. “Predpol tenía un buen historial de predecir dónde es probable que se cometan los crímenes”, afirmaba entonces John Phillips, superintendente de la policía de Kent, al Financial Times. “Lo que es más difícil es demostrar que hemos podido reducir el crimen con esa información”.

Este programa de algoritmos, así como otros parecidos usados en otras zonas de Reino Unido —como Manchester, Yorkshire o West Midlands— fueron criticados por organizaciones como Big Brother Watch en un informe en el que citaban estudios realizados sobre este tipo de sistemas que concluían que estos refuerzan patrones ya existentes de discriminación y dan lugar a una retroalimentación, conllevando que la policía sea enviada a vecindarios en los que ya hay una presencia excesiva de policías, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos a los que hace referencia la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART por sus siglas en inglés), usada por la policía de Durham, también en Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación. Para ello, Hart utiliza hasta 34 categorías diferentes de datos que van de la edad y el sexo al historial delictivo. Y, al menos hasta abril, también usaba el código postal del sospechoso, lo que desde Big Brother Watch señalan que deriva en la criminalización de la pobreza. Un informe de 2018 elaborado por el Royal United Services Institute for Defence and Security Studies —que no es precisamente un lobby conservador en cuanto a tecnología aplicada a defensa y seguridad— también alertaba de que sistemas como Hart “reproducirán inevitablemente los sesgos inherentes a los datos que se les proporcionan”, lo que perjudicará a las minorías étnicas y religiosas.

Pero más allá de la experiencia británica, este tipo de sistemas de algoritmos también han llegado a otros países de la Unión Europea, como Italia, donde el sistema XLAW se usa en Nápoles y Venecia para prevenir robos, o en Alemania, donde el sistema Precobs —que suena aún más a los precons de Minority Report— se usa ya, de manera corriente o en fase piloto, en los cantones de Aargau, Basel, Baden-Württemberg, Babaria, en Sajonia y en Zug. Precobs también se usa desde 2013 en Zurich (Suiza) para prevención de robos en viviendas.

En España, este tipo de sistemas predictivos también han comenzado a hacerse hueco. A finales de 2015 Rivas (Madrid) fue el primer municipio en comenzar a experimentar con el sistema Pred-Crime. Su policía local lo usó durante nueve meses tras los cuales lo descartaron. “Necesita seguir desarrollándose para ser realmente eficaz”, señalan a El Salto desde el prensa del Ayuntamiento. Diseñada por EuroCop Security Systems, empresa constituida en 2004 y que a día de hoy cuenta con doce empleados y, en 2017, facturó 3,7 millones de euros —casi el doble que en los dos ejercicios anteriores—. En España, su administrador único y director general, financiero, comercial, de márketing y de informática es Ramón García Esteve.

También en 2015, desde la Policía Nacional se comenzó a desarrollar un sistema parecido de la mano del policía científico Miguel Camacho Collados, que en 2014 había recibido una beca Fullbright para estudiar este tipo de sistemas, en colaboración con la Universidad de Granada, la UCLA y la Policía de Los Ángeles, siguiendo la senda de PredPol. Aunque no hay más información sobre el posterior desarrollo de este sistema, desde finales de 2018 sí entró en fase piloto en la Policía Nacional otro sistema basado en algoritmos, en este caso para detectar denuncias falsas, Veripol, también desarrollado por Camacho e instalado ya en todas las comisarías.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Inteligencia artificial
PAN 06X07 Sangre en la máquina, ludismos del futuro pasado con Proyecto UNA
En este episodio de PAN invitamos a Proyecto UNA, quienes nos acompañan en este viaje sonoro en el que ponemos en contraste la historia del ludismo con las luchas actuales que se resisten a que la tecnología tenga que ser un mecanismo de opresión
Opinión
Nuevas tecnologías Inteligencia artificial: cómo educar para los retos del futuro
Cualquier tecnología que llegue al ámbito educativo se despliega inexorablemente sobre las desigualdades que el propio sistema genera, aumentándolas. Si lo que se produce es una revolución tecnológica, como por ejemplo la IA (Inteligencia artificial)
Energía nuclear
Doble filo Una espada de Damocles de doble filo
Un caso pasado por alto en el Tribunal Supremo podría decidir el futuro de la energía nuclear en Estados Unidos.
#34184
13/5/2019 15:42

En españita los órganos fascistas PN y GC lo hacen desde hace ochenta años.

2
0
#34149
12/5/2019 16:11

La IA tiene el sesgo ideológico de quien la elabora. Es tendenciosa y discriminatoria como toda la estadística en que se basa.
Vamos hacia una idiotización colectiva.

4
0
#34139
12/5/2019 13:02

Cesare Lombroso estaría maravillado con este sistema

4
0
Crisis climática
Datos El junio más cálido jamás registrado cierra con 330 fallecimientos por calor
103 personas han muerto en los primeros tres días de la ola de calor, según las estimaciones. Los datos de la Aemet señalan al pasado mes como el junio más caluroso; ha pulverizado la máxima anterior por 0,8 grados de diferencia.
Salud mental
Laura Martín López-Andrade ”La psiquiatría es una profesión potencialmente muy peligrosa”
La psiquiatra del Hospital Virgen de la Victoria de Málaga defiende otro tipo de psiquiatría que huye de los diagnósticos y de la jerarquía y cambia la palabra tratamiento por acompañamiento.
Oriente Medio
Oriente Medio Los empleados de EFE en Oriente Medio denuncian salarios por debajo de los mil euros
La delegación, formada por 24 personas, anuncia paros en sus funciones al verse reducida más de un 25% su nómina sin opción a negociar.
Naciones Unidas (ONU)
Genocidio El Informe Albanese denuncia ante la ONU a las empresas que se han lucrado del exterminio en Gaza
La relatora presenta un informe al Consejo de Derechos Humanos en el que detalla la responsabilidad de decenas de empresas en las políticas de ocupación, apartheid y genocidio que está llevando a cabo Israel en Palestina.
Alquiler
Racismo y alquileres Siete de cada diez migrantes se ve en la necesidad de vivir de alquiler frente al 14% de los hogares españoles
“El precio del prejuicio” es el título del más reciente estudio del Instituto de Investigación Urbana de Barcelona, IDRA, en el que disecciona la relación entre las personas migrantes y su acceso a la vivienda.
Comunidad de Madrid
Sanidad privada Inspección propone sancionar a un hospital de Quirón por exponer a la plantilla a sustancias cancerígenas
El organismo inicia un procedimiento administrativo sancionador por infracción grave. Tras una visita al Hospital Quirónsalud Sur, de Madrid, constataron deficiencias en la zona de almacenamiento de los productos farmacéuticos y en el mortuorio.

Últimas

València
València Una comunidad vecinal lucha para impedir el enésimo proyecto de bajos turísticos en València
El vecindario de un bloque en Aiora se organiza contra la construcción en su patio de luces de catorce alojamientos turísticos en una zona ya saturada de este tipo de negocios.
China
Pulsos bajo el cielo Gum Bleed: bésame, soy punk
El cantante de Gum Bleed nos habla sobre ser musulmán en China, internacionalismo y apoyo a Palestina, el fútbol en China y las tensiones que existen entre el Partido y las minorías étnicas
Más noticias
Opinión
Opinión Veinte años no es nada
Tantos años después de la aprobación del Matrimonio Igualitario, nuestro mundo ha cambiado y apenas hemos advertido que un nuevo contexto exige nuevos discursos y nuevas herramientas de trabajo.
Palestina
Palestina Israel bombardea un cumpleaños infantil y asesina a 39 personas en otra jornada mortífera en Gaza
Las Fuerzas Armadas de Israel siguen extendiendo la muerte por todo el territorio de Gaza. Un ataque contra una cafetería frecuentada por periodistas acaba con la vida de varios niños y niñas, un fotoperiodista y una artista plástica.
Movimiento BDS
Movimiento BDS Sidenor cede a la presión y anuncia que dejará de vender acero para las armas israelíes
La acerera vasca toma esta decisión después de que los sindicatos ESK, LAB y ELA requiriesen información y exigiesen acciones para frenar la complicidad con el genocidio.

Recomendadas

Historia
Historia ‘Weimar’, y su eco
‘Tiempos inciertos’, la exposición dedicada a la República de Weimar en el CaixaForum de Barcelona, apenas se deja nada, pero vuelve a incurrir en la idea de las “dos Alemanias” contrapuestas.
Economía social y solidaria
Historia Lo que Franco arrebató al cooperativismo y a la economía social y solidaria
La dictadura franquista combatió de forma cruel el movimiento cooperativo fraguado en la II República, y durante la propia guerra con las denominadas colectividades, y pervirtió la idea de autogestión a través de los ideales falangistas.
Río Arriba
Río Arriba Yayo Herrero: “El holocausto nazi no es una excepcionalidad en la historia de Europa, es un modus operandi”
Nueva entrevista de Río Arriba en formato podcast y vídeo en el que hablamos de ecofeminismo, transiciones ecosociales justas, decrecimiento, colapso, poner la vida en el centro y mucho más.