[Podcast] Big Data, machine learning y justicia social: mitos y realidades

El equipo de El Salto Radio entrevista en el hacklab de La Ingobernable a Javier Sánchez, doctor en informática que estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning. Una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Redes Sociales

publicado
2018-10-14 06:00:00


Hace unas semanas, Ahora Madrid presentaba con orgullo un acuerdo para compartir los datos de los ciudadanos con Google a través del proyecto Waze Connected Citizens. La idea es suministrar información de los datos de tráfico para generar algoritmos que permitan optimizar el transporte de la ciudad. Un plan del tipo “no es que sobren coches, es que están mal gestionados”.

El de la capital no es el único ayuntamiento que celebra su metamorfósis hacia la ciudad inteligente. Las ciudades corren en pos de conseguir el apellido smart city. En su horizonte se encuentra la optimización de servicios y la extracción de datos masiva. Sin embargo, no debemos olvidar a todas las personas que viven en ellas sin conexión digital. En 2017 en la Comunidad de Madrid un nada desdeñable 10% de la población no había usado internet en el momento de la encuesta, y un 15% decía no ser usuaria frecuente.

Para Javier Sánchez, doctor en informática que investiga en la universidad de Cardif, en Reino Unido, cada vez que ha aplicado bases de datos digitales a cuestiones sociológicas, “siempre ha sido un desastre”. Sánchez estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning, una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Nos encontramos con él en La Ingobernable, uno de los espacios de la ciudad donde tienen lugar los hacklabs en Madrid, pero nos indica que fue miembro de un grupo de hacklab en Granada. Estas reuniones, escenarios en algunas de las obras de Belén Gopegui, son espacios sin jerarquías a los que podemos acudir a aprender sobre la tecnología con una perspectiva crítica. Precisamente viene a iniciar un debate en torno a las relaciones entre datos y justicia social.

Sánchez se muestra crítico con el escaso rigor con el que aparece representado cualquier producto asociado al Big Data en la prensa general y divulgativa. Incluso los medios críticos participan de la mistificación de esta tecnología, “creyendo que los grandes datos ofrecen una forma superior de inteligencia y conocimiento”.

Nada más lejos de la realidad, según el estudio de Sánchez estos algoritmos reproducen los mismos prejuicios que ya se dan en los sistemas humanos y los amplifican. Los escasos puntos críticos que aparecen en la prensa derivan hacia preguntas del tipo “¿deberían ser sujetos legales los algoritmos?”, “¿tienen derechos los robots?” y otros temas que contribuyen a la mitificación, sacando del foco los problemas discriminarorios reales que presentan estos algoritmos.

Por otro lado tenemos lo que denomina como “sociólogos y periodistas de Twitter”. Las grandes compañías tecnológicas ponen en manos de periodistas e investigadores sus datos, porque esto hace que aumente su valor. El problema surge cuando estos datos se utilizan para medir factores como “¿de qué se está hablando?”, cuando ya el mero hecho de centrarnos solo en una compañía presenta un sesgo importante.

Existen ya casos en EEUU donde los algoritmos han decidido cortar ayudas sociales, son utilizados para distinguir entre supuestos terroristas y refugiados, o directamente se convierten en tu jefe, como ocurre aquí en plataformas como Deliveroo. Para Sánchez existe un grave problema en la aplicación directa de estos algoritmos para asuntos sociológicos. “Si lo comparamos con los medicamentos, que son también científicos, jamás se nos ocurriría pensar en su implementación sin haberlos probado, y esto es lo que está ocurriendo con estos programas”.

¿Cómo reproducen estos algoritmos los prejuicios de nuestras sociedades? La clave para el investigador reside en las bases de datos, que ya se encuentran llenas de prejuicios. Por ejemplo, si vamos de nuevo a los EEUU, existen programas de predicción de crímenes por áreas en ciudades. Pero estos programas funcionan con bases de datos de las demarcaciones policiales, que históricamente han puesto su foco en barrios racializados, por lo que la máquina hará lo mismo.

Aunque la mayoría de ejemplos de reconocimiento facial y extracción y uso de datos los encontremos en ciudades de Estados Unidos o China (el conocido sistema de puntuación ciudadana), existen ya varias ciudades españolas que han trazado su hoja de ruta hacia los puertos smart city. Pero el aprendizaje automático ya existe en nuestras vidas cada vez que usamos el texto predictivo o cualquier motor de búsqueda en internet. Pensar que estos sistemas no reproducen y amplifican nuestros prejuicios es ingenuo. Aun así dejamos que escriban por nosotros y elijan la información que veremos sobre el mundo.

“Creo que es importante señalar que al final, lo que estás haciendo es automatizar una serie de decisiones políticas ideológicas y de prejuicios en muchos casos. Realmente es difícil hacer un sistema de toma de decisiones libre de estos problemas”, finaliza Sánchez.

Si quieres escuchar la entrevista al completo, escucha el podcast que se encuentra al inicio del artículo. En la pieza, por orden de aparición, suenan las siguientes canciones:

- Loud Pipes, Ratatat.

- Fallout, The Rat.

- Erik Owen, Youngblood Brass Band.

- Wake Up, Brass Against con Sophia Urista.

Relacionadas

Ciberactivismo
[Podcast] Post Apocalipsis Nau #7
Hablamos sobre la huelga de la plantilla de Google, las trampas de Internet, una red distribuida y un concurso de aplicaciones inverosímiles.
Ciberseguridad
[Podcast] Post Apocalipsis Nau #5
Con el lema "el pueblo manda, la máquina obedece" iniciamos este programa en El Salto Radio, donde estudiaremos las relaciones de poder entre la tecnología, lo virtual y la sociedad civil.
3 Comentarios
#24498 15:39 15/10/2018

Cuidadin con el Big Data que lo calcula el diablo.

Responder
0
0
Pseudo Anónima/o 0:36 15/10/2018

El Big data (le dijo al padre a la hija; está feo...). Pa cuando pai andalú ? País calle rojas, 76 ... Me gusta como suena... La bandera... Será un ojal con fondo marrón... Esa es mi pregunta

Responder
0
0
#24451 15:36 14/10/2018

Gracias! Ya tenía ganas de volver a escucharos.

Responder
2
0

Destacadas

Juicio del 1 de Octubre
Jordi Sánchez: “Una pegatina en un vehículo no es motivo para desconvocar una movilización”

El expresidente de Asamblea Nacional Catalana ha testificado hoy sobre los tuits que mandó el 20 de septiembre sobre las movilizaciones ante el registro de la sede del Govern.

Opinión
Lo político es lo privado

Una tarde para un amigo. Cinco semanas para conocer a tu hijo. Y si no puedes con ello, si no lo asumes, si la mentira se te hace excesivamente dura, tendrás dos días de baja y cuatro tipos de pastillas.

Juicio del 1 de Octubre
Santi Vila: “El independentismo no sectario quería tensar la cuerda, no romperla”

El exconseller de Empresa ha declarado ante el Tribunal Supremo en la sexta jornada del juicio del Procés. Vila, en libertad provisional, dimitió horas antes de la DUI el 27 de octubre de 2017 y la consecuente aplicación del 155: “Todos deberíamos haber sido más responsables”, ha afirmado.

Ayuntamiento de Madrid
Carmena sabe desde mayo que Villacís mintió cuando dijo que había dejado Iuriscontencia en 2009

El informe del Gabinete de la Alcaldía sobre la actividad de Villacís constata que la concejal siguió representando a la mercantil Iuriscontencia y se cierra diciendo que las dificultades para la imposición de una sanción a la concejala parten de que otros representantes tampoco han sido “escrupulosos” en sus declaraciones.

Desahucios
Cuatro desahucios en Argumosa 11 anunciados casi sin antelación

Los colectivos vecinales convocan con urgencia al activismo y al vecindario de Lavapiés mañana viernes frente al edificio para intentar pararlos

Opinión
Un juicio a nuestra forma de ver el mundo
4

Hoy hago huelga. Es una huelga convocada por la situación política que vivimos en Catalunya. Una huelga como una propuesta de mínimos para denunciar el juicio a la democracia que está teniendo lugar estos días en el Tribunal Supremo.

Últimas

Contigo empezó todo
No es país para mujeres libres

En una época en la que  aún no se hablaba de “techos de cristal”, Amparo Poch rompió la cristalería entera.

Fascismo
La píldora del día antes

El pensamiento que borra a los individuos —pensamiento autoritario o antipensamiento— comienza en el interior de cada uno y lo hace en el lenguaje; en la normalización de expresiones que uniformizan y aplanan la singularidad de cada uno, de cada una.

Educación
Luz Rello saca la dislexia del armario

Durante los últimos ocho años, la investigadora Luz Rello ha tratado de resolver la ecuación de la dislexia desde la primera persona.

Ecofeminismo
Fraguas: revivir un pueblo dinamitado
¿Te imaginas pasar cinco años construyendo tu casa con tus propias manos y que te condenen a ver su demolición, y encima arruinarte para pagarla?
Tecnología
Los inconvenientes de las nuevas tecnologías de las información

La cuestión es si los seductores aparatos electrónicos ofrecen una mejora real en la enseñanza y en las capacidades humanas o si tienen inconvenientes que hacen que tengan que ser utilizados con cautela.

Transexualidad
El último cine X de Andalucía, refugio laboral para transexuales

La Sala X de Granada, la última sala que proyectaba películas porno en Andalucía y aún resistía al envite inclemente del tiempo y de internet, ha apagado sus proyectores.