Big data
[Podcast] Big Data, machine learning y justicia social: mitos y realidades

El equipo de El Salto Radio entrevista en el hacklab de La Ingobernable a Javier Sánchez, doctor en informática que estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning. Una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Redes Sociales


Hace unas semanas, Ahora Madrid presentaba con orgullo un acuerdo para compartir los datos de los ciudadanos con Google a través del proyecto Waze Connected Citizens. La idea es suministrar información de los datos de tráfico para generar algoritmos que permitan optimizar el transporte de la ciudad. Un plan del tipo “no es que sobren coches, es que están mal gestionados”.

El de la capital no es el único ayuntamiento que celebra su metamorfósis hacia la ciudad inteligente. Las ciudades corren en pos de conseguir el apellido smart city. En su horizonte se encuentra la optimización de servicios y la extracción de datos masiva. Sin embargo, no debemos olvidar a todas las personas que viven en ellas sin conexión digital. En 2017 en la Comunidad de Madrid un nada desdeñable 10% de la población no había usado internet en el momento de la encuesta, y un 15% decía no ser usuaria frecuente.

Para Javier Sánchez, doctor en informática que investiga en la universidad de Cardif, en Reino Unido, cada vez que ha aplicado bases de datos digitales a cuestiones sociológicas, “siempre ha sido un desastre”. Sánchez estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning, una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Nos encontramos con él en La Ingobernable, uno de los espacios de la ciudad donde tienen lugar los hacklabs en Madrid, pero nos indica que fue miembro de un grupo de hacklab en Granada. Estas reuniones, escenarios en algunas de las obras de Belén Gopegui, son espacios sin jerarquías a los que podemos acudir a aprender sobre la tecnología con una perspectiva crítica. Precisamente viene a iniciar un debate en torno a las relaciones entre datos y justicia social.

Sánchez se muestra crítico con el escaso rigor con el que aparece representado cualquier producto asociado al Big Data en la prensa general y divulgativa. Incluso los medios críticos participan de la mistificación de esta tecnología, “creyendo que los grandes datos ofrecen una forma superior de inteligencia y conocimiento”.

Nada más lejos de la realidad, según el estudio de Sánchez estos algoritmos reproducen los mismos prejuicios que ya se dan en los sistemas humanos y los amplifican. Los escasos puntos críticos que aparecen en la prensa derivan hacia preguntas del tipo “¿deberían ser sujetos legales los algoritmos?”, “¿tienen derechos los robots?” y otros temas que contribuyen a la mitificación, sacando del foco los problemas discriminarorios reales que presentan estos algoritmos.

Por otro lado tenemos lo que denomina como “sociólogos y periodistas de Twitter”. Las grandes compañías tecnológicas ponen en manos de periodistas e investigadores sus datos, porque esto hace que aumente su valor. El problema surge cuando estos datos se utilizan para medir factores como “¿de qué se está hablando?”, cuando ya el mero hecho de centrarnos solo en una compañía presenta un sesgo importante.

Existen ya casos en EEUU donde los algoritmos han decidido cortar ayudas sociales, son utilizados para distinguir entre supuestos terroristas y refugiados, o directamente se convierten en tu jefe, como ocurre aquí en plataformas como Deliveroo. Para Sánchez existe un grave problema en la aplicación directa de estos algoritmos para asuntos sociológicos. “Si lo comparamos con los medicamentos, que son también científicos, jamás se nos ocurriría pensar en su implementación sin haberlos probado, y esto es lo que está ocurriendo con estos programas”.

¿Cómo reproducen estos algoritmos los prejuicios de nuestras sociedades? La clave para el investigador reside en las bases de datos, que ya se encuentran llenas de prejuicios. Por ejemplo, si vamos de nuevo a los EEUU, existen programas de predicción de crímenes por áreas en ciudades. Pero estos programas funcionan con bases de datos de las demarcaciones policiales, que históricamente han puesto su foco en barrios racializados, por lo que la máquina hará lo mismo.

Aunque la mayoría de ejemplos de reconocimiento facial y extracción y uso de datos los encontremos en ciudades de Estados Unidos o China (el conocido sistema de puntuación ciudadana), existen ya varias ciudades españolas que han trazado su hoja de ruta hacia los puertos smart city. Pero el aprendizaje automático ya existe en nuestras vidas cada vez que usamos el texto predictivo o cualquier motor de búsqueda en internet. Pensar que estos sistemas no reproducen y amplifican nuestros prejuicios es ingenuo. Aun así dejamos que escriban por nosotros y elijan la información que veremos sobre el mundo.

“Creo que es importante señalar que al final, lo que estás haciendo es automatizar una serie de decisiones políticas ideológicas y de prejuicios en muchos casos. Realmente es difícil hacer un sistema de toma de decisiones libre de estos problemas”, finaliza Sánchez.

Si quieres escuchar la entrevista al completo, escucha el podcast que se encuentra al inicio del artículo. En la pieza, por orden de aparición, suenan las siguientes canciones:

- Loud Pipes, Ratatat.

- Fallout, The Rat.

- Erik Owen, Youngblood Brass Band.

- Wake Up, Brass Against con Sophia Urista.

Relacionadas

Tecnología
[Podcast] Post Apocalipsis Nau #24 Alejandro Gaita
Hablamos de computación cuántica con Alejandro Gaita. Con APDHA sobre compartir datos sanitarios con la policía. Las protestas de Hong Kong y drones.
Chile
[Podcast] Post Apocalipsis Nau #23 Chile protesta
Hablamos sobre la compra de datos del INE y #PacoLeaks. Entrevistamos a Disonancia y Derechos Digitales en el contexto de las protestas de Chile.
Ciberactivismo
[Podcast]Post Apocalipsis Nau #18 Ciberguerra
Hablamos con Javi Herrera sobre la ciberguerra y las iniciativas de ciberpaz que surgen desde la sociedad civil. En Memética Avanzada analizamos seriamente el fenómeno Storm Area 51
3 Comentarios
#24498 17:39 15/10/2018

Cuidadin con el Big Data que lo calcula el diablo.

Responder
0
0
Pseudo Anónima/o 2:36 15/10/2018

El Big data (le dijo al padre a la hija; está feo...). Pa cuando pai andalú ? País calle rojas, 76 ... Me gusta como suena... La bandera... Será un ojal con fondo marrón... Esa es mi pregunta

Responder
0
0
#24451 17:36 14/10/2018

Gracias! Ya tenía ganas de volver a escucharos.

Responder
2
0

Destacadas

Coronavirus
Caída histórica del empleo en marzo: más de 300.000 nuevos parados, sin contar los ERTE

Marzo cierra con 302.365 nuevos desempleados, el mayor incremento histórico en cualquier mes. El número total de parados alcanza la cifra de 3.548.312. La Seguridad Social pierde más de 800.000 afiliados en este mes.

Coronavirus
Bomberos denuncian la ineficiencia y alto coste de la intervención de la UME

El pasado año, un soldado de la Unidad Militar de Emergencias tuvo una media de 0,017 intervenciones; mientras que las de los bomberos de Madrid se elevan a 13,7; a 34,5 en Barcelona, y 13,4 en Bilbao. 

Coronavirus
El coronavirus y la caída de las remesas amenazan la economía en África occidental

Casi la mitad de las familias gambianas, y una de cada cuatro en Senegal, reconocen que dependen del dinero que les envía un familiar desde el extranjero. En España, muchos migrantes pierden su empleo y con ello la opción de hacer llegar remesas a sus familiares, una dificultad añadida para la supervivencia de miles de personas en sociedades que viven al día y donde el confinamiento se hace más difícil.

Tribuna
Qué mundo queremos

Antes de la llegada del inesperado virus, filósofos y sociólogos nos avisaban de que nos encontrábamos ante los estertores de la segunda modernidad. De repente lo normal se ha vuelto extraño, nos empezamos a plantear qué es lo verdaderamente útil, funcional, importante.

Coronavirus
Así pretenden salvar el mundo Amancio Ortega y Ana Patricia Botín

La enésima crisis del capitalismo global es acelerada a raíz de la pandemia covid19 y augura una insólita forma de gobierno: el “filantrocapitalismo”. Los multimillonarios hacen creer que pueden trasladar sus éxitos empresariales al servicio a través de grandes donaciones de capital.

Coronavirus
Las trabajadoras del hogar señalan límites en las medidas anunciadas por el Gobierno

El subsidio apoyado por el Gobierno dos semanas después de anunciarse las primeras medidas dejará fuera a las 200.000 trabajadoras del hogar que no tienen contrato. Pese a ello, valoran un paso que esperan que sirva como precedente a su incorporación al régimen general de la Seguridad Social.



Culturas
Algo se mueve cuando estás quieta

Quizás detrás de la quietud —que en parte se debe a nuestra obediencia— haya movimiento. Quizás detrás de la enfermedad —y no hablo de la enfermedad individual, que concierne a quien la sufre y a su entorno, sino de la enfermedad colectiva— se halla algún tipo de resistencia.

Coronavirus
Tengo 72 años y un mensaje

Tengo dos peticiones. Una: que cuando me toque me ayuden a morir en paz, porque lo terrible no es morir, es morirse. La otra: que mientras estamos encerrados dejen de aterrorizarnos.


Coronavirus
El covid19 aísla aún más a las personas migrantes en Ceuta y Melilla

Debido al aislamiento derivado del estado de alarma, las problemáticas habituales, como son la situación de los centros de estancia temporal de inmigrantes o la de los niños y adolescentes que viven solos en las ciudades, se han visto agravadas en las ciudades autónomas.

Últimas

Coronavirus
Denuncian al Defensor del Pueblo los insultos a personas durante sus salidas terapéuticas

La organización Plena inclusión recibe a diario quejas de personas que son víctima de “un hecho incívico e intolerante inhumano” y recuerda que la norma permite determinadas salidas, entre ellas a personas con trastornos del espectro autista. Colectivos rechazan la polémica propuesta, difundida por redes sociales, de que estas personas vayan marcadas con un pañuelo azul.

Opinión
Minutos de esperanza

Esta situación, que no es una guerra, pero tampoco es solo una crisis sanitaria, está poniendo en cuestión todo aquello que dábamos por hecho.

Coronavirus
Una cura de solidaridad
Granada vuelve a la carga en defensa de la salud y la asistencia sanitaria pública. Distintas iniciativas ciudadanas preparan materiales de protección.
Tecnopolítica
Viralidades
Sobre el virus, la hostilidad, la necesidad de los cuidados y el deber de inmunizarnos ante el odio y la intolerancia
Opinión
Infancia sin salida

Uno de cada cuatro niños y niñas sufre abusos sexuales en el seno familiar y solo un 2,9% denuncia. La declaración de estado de alarma deja a nuestra infancia obligada a convivir durante 24 horas, sin salida posible, con sus maltratadores y abusadores.

Coronavirus
Primeras revelaciones de Covid19, el gran alertador

Covid19 ha irrumpido en la cotidianidad de una forma dramáticamente reveladora de la extrema vulnerabilidad del mundo que habitamos.

Coronavirus
Vulneración de derechos laborales en las empresas de ELE
Un documento elaborado por Profesión ELE saca a relucir testimonios señalando irregularidades y vulneración de derechos laborales por parte de algunas empresas de ELE.