Big data
[Podcast] Big Data, machine learning y justicia social: mitos y realidades

El equipo de El Salto Radio entrevista en el hacklab de La Ingobernable a Javier Sánchez, doctor en informática que estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning. Una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Redes Sociales2

Hace unas semanas, Ahora Madrid presentaba con orgullo un acuerdo para compartir los datos de los ciudadanos con Google a través del proyecto Waze Connected Citizens. La idea es suministrar información de los datos de tráfico para generar algoritmos que permitan optimizar el transporte de la ciudad. Un plan del tipo “no es que sobren coches, es que están mal gestionados”.

El de la capital no es el único ayuntamiento que celebra su metamorfósis hacia la ciudad inteligente. Las ciudades corren en pos de conseguir el apellido smart city. En su horizonte se encuentra la optimización de servicios y la extracción de datos masiva. Sin embargo, no debemos olvidar a todas las personas que viven en ellas sin conexión digital. En 2017 en la Comunidad de Madrid un nada desdeñable 10% de la población no había usado internet en el momento de la encuesta, y un 15% decía no ser usuaria frecuente.

Para Javier Sánchez, doctor en informática que investiga en la universidad de Cardif, en Reino Unido, cada vez que ha aplicado bases de datos digitales a cuestiones sociológicas, “siempre ha sido un desastre”. Sánchez estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning, una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Nos encontramos con él en La Ingobernable, uno de los espacios de la ciudad donde tienen lugar los hacklabs en Madrid, pero nos indica que fue miembro de un grupo de hacklab en Granada. Estas reuniones, escenarios en algunas de las obras de Belén Gopegui, son espacios sin jerarquías a los que podemos acudir a aprender sobre la tecnología con una perspectiva crítica. Precisamente viene a iniciar un debate en torno a las relaciones entre datos y justicia social.

Sánchez se muestra crítico con el escaso rigor con el que aparece representado cualquier producto asociado al Big Data en la prensa general y divulgativa. Incluso los medios críticos participan de la mistificación de esta tecnología, “creyendo que los grandes datos ofrecen una forma superior de inteligencia y conocimiento”.

Nada más lejos de la realidad, según el estudio de Sánchez estos algoritmos reproducen los mismos prejuicios que ya se dan en los sistemas humanos y los amplifican. Los escasos puntos críticos que aparecen en la prensa derivan hacia preguntas del tipo “¿deberían ser sujetos legales los algoritmos?”, “¿tienen derechos los robots?” y otros temas que contribuyen a la mitificación, sacando del foco los problemas discriminarorios reales que presentan estos algoritmos.

Por otro lado tenemos lo que denomina como “sociólogos y periodistas de Twitter”. Las grandes compañías tecnológicas ponen en manos de periodistas e investigadores sus datos, porque esto hace que aumente su valor. El problema surge cuando estos datos se utilizan para medir factores como “¿de qué se está hablando?”, cuando ya el mero hecho de centrarnos solo en una compañía presenta un sesgo importante.

Existen ya casos en EEUU donde los algoritmos han decidido cortar ayudas sociales, son utilizados para distinguir entre supuestos terroristas y refugiados, o directamente se convierten en tu jefe, como ocurre aquí en plataformas como Deliveroo. Para Sánchez existe un grave problema en la aplicación directa de estos algoritmos para asuntos sociológicos. “Si lo comparamos con los medicamentos, que son también científicos, jamás se nos ocurriría pensar en su implementación sin haberlos probado, y esto es lo que está ocurriendo con estos programas”.

¿Cómo reproducen estos algoritmos los prejuicios de nuestras sociedades? La clave para el investigador reside en las bases de datos, que ya se encuentran llenas de prejuicios. Por ejemplo, si vamos de nuevo a los EEUU, existen programas de predicción de crímenes por áreas en ciudades. Pero estos programas funcionan con bases de datos de las demarcaciones policiales, que históricamente han puesto su foco en barrios racializados, por lo que la máquina hará lo mismo.

Aunque la mayoría de ejemplos de reconocimiento facial y extracción y uso de datos los encontremos en ciudades de Estados Unidos o China (el conocido sistema de puntuación ciudadana), existen ya varias ciudades españolas que han trazado su hoja de ruta hacia los puertos smart city. Pero el aprendizaje automático ya existe en nuestras vidas cada vez que usamos el texto predictivo o cualquier motor de búsqueda en internet. Pensar que estos sistemas no reproducen y amplifican nuestros prejuicios es ingenuo. Aun así dejamos que escriban por nosotros y elijan la información que veremos sobre el mundo.

“Creo que es importante señalar que al final, lo que estás haciendo es automatizar una serie de decisiones políticas ideológicas y de prejuicios en muchos casos. Realmente es difícil hacer un sistema de toma de decisiones libre de estos problemas”, finaliza Sánchez.

Si quieres escuchar la entrevista al completo, escucha el podcast que se encuentra al inicio del artículo. En la pieza, por orden de aparición, suenan las siguientes canciones:

- Loud Pipes, Ratatat.

- Fallout, The Rat.

- Erik Owen, Youngblood Brass Band.

- Wake Up, Brass Against con Sophia Urista.

Relacionadas

Ciberseguridad
PAN #39 F-Droid y la aplicación de rastreo Google y Apple
Analizamos las funcionalidades que Google ha instalado sin avisar en los teléfonos de Android de cara al desarrollo de su aplicación de rastreo. Desgranamos algunos de los aspectos de F-Droid, un repositorio de software libre. Seguimos con Milésimas de Sonido y Memética Avanzada.
Coronavirus
Prioridades, control y presupuestos

Mientras no lleguen tests ni vacunas, pensar en hacer aplicaciones de móvil para atacar la epidemia parece más efectista que efectivo. Entonces, ¿por qué se sigue insistiendo en sistemas de control de la población con mecanismos basados ​​en sus teléfonos móviles?

Tecnología
[Podcast] Post Apocalipsis Nau #24 Alejandro Gaita
Hablamos de computación cuántica con Alejandro Gaita. Con APDHA sobre compartir datos sanitarios con la policía. Las protestas de Hong Kong y drones.
3 Comentarios
#24498 17:39 15/10/2018

Cuidadin con el Big Data que lo calcula el diablo.

Responder
0
0
Pseudo Anónima/o 2:36 15/10/2018

El Big data (le dijo al padre a la hija; está feo...). Pa cuando pai andalú ? País calle rojas, 76 ... Me gusta como suena... La bandera... Será un ojal con fondo marrón... Esa es mi pregunta

Responder
0
0
#24451 17:36 14/10/2018

Gracias! Ya tenía ganas de volver a escucharos.

Responder
2
0

Destacadas

Infancia
El IMV deja fuera a dos millones de hogares en riesgo de pobreza con hijos

El IMV deja fueran al 70% de familias con hijos e hijas en riesgo de pobreza y a un 37% de las que están en riesgo de pobreza severa. Save the Children pide cambios en los criterios de acceso y complementarlo con ayudas autonómicas. La organización estima que uno de cada tres niños estará en situación de pobreza en 2020 si no se toman medidas.

Coronavirus
Sanitarios de A Mariña recogen firmas contra la celebración de las elecciones gallegas
Los profesionales advierten del peligro que se corre si un positivo en coronavirus o cualquier otra persona que esté guardando cuarentena vaya a votar el domingo. Recogen firmas en la zona de A Mariña, totalmente confinada, para mostrar su descontento ante la medida.
Opinión
Una breve radiografía crítica de las elecciones gallegas

Si todo sigue el guión previsto, Feijóo volverá a ser presidente de la Xunta de Galicia. Si hay carambola y gobierna la izquierda, tampoco se esperan grandes innovaciones.

Vivienda
Demanda de inquilinas de Torrejón contra Blackstone, el gigante de los 250.000 millones de euros

El Sindicato de Inquilinas presenta una demanda contra las cláusulas abusivas que la mayor compañía inmobiliaria del planeta, Blackstone, incluye en los contratos de decenas de familias en Torrejón de Ardoz (Madrid).

Educación
Volver al futuro: la inclusión en las coronaescuelas
El Conseller de Educació ya ha adelantado cómo será la vuelta al cole en el País Valencià, igual que ha asegurado que se contratará a más personal y que se “ha aprendido mucho” de la pandemia. En Elche, docentes y familias de escolares pertenecientes a grupos vulnerables reflexionan sobre las dificultades del pasado para configurar sus demandas del futuro.
Black Lives Matter
Coches contra manifestantes: se extienden los atropellos contra activistas de Black Lives Matter

En las últimas semanas han sido decenas los conductores que han acelerado sus coches contra grupos de activistas de Black Lives Matter. Mientras, circulan por las redes memes y bromas sobre atropellar manifestantes. 

Elecciones 12 de julio (País Vasco y Galicia)
Joserra Becerra: “Al Parlamento voy en autobús”

Ingeniero de profesión y político desde hace diez años, Joserra Becerra es el candidato a lehendakari por Equo Berdeak en las elecciones al Parlamento Vasco que se celebran el domingo 12 de julio.

Últimas

Opinión
Fuera fascistas de nuestras fábricas

El anuncio de Vox de que se plantea la creación de un sindicato no debería pasar desapercibido si no queremos que ocurra lo mismo que en Alemania.

Iglesia católica
La doble privatización del Patio de los Naranjos
“Yo, desde muy pequeño, jugaba en el Patio de los Naranjos, que me ha cabreado mucho que los curas lo hayan cerrado, porque los niños jugábamos allí, y había pocas plazas.”
Crisis económica
El capitalismo del coronavirus y cómo derrotarlo
Este vídeo trata las formas en las que la actual crisis de la COVID-19 ya está transformando nuestra concepción de lo posible.
Opinión
Queerfobia

En el debate desencadenado por el documento trans- y queerfobo del PSOE se está invisibilizando a las personas queer, y una parte del movimiento trans y de la PSOE se unen en la queerfobia.

Ayuntamiento de Madrid
Redes vecinales exigen a Almeida que se haga cargo de la emergencia social

Al mismo tiempo que todos los grupos políticos aprobaban en pleno los Pactos de la Villa, representantes del movimiento vecinal de Carabanchel entregaban en su Junta Municipal un comunicado crítico con esas medidas sociales que aún no llegan a los barrios.