[Podcast] Big Data, machine learning y justicia social: mitos y realidades

El equipo de El Salto Radio entrevista en el hacklab de La Ingobernable a Javier Sánchez, doctor en informática que estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning. Una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Redes Sociales2

Hace unas semanas, Ahora Madrid presentaba con orgullo un acuerdo para compartir los datos de los ciudadanos con Google a través del proyecto Waze Connected Citizens. La idea es suministrar información de los datos de tráfico para generar algoritmos que permitan optimizar el transporte de la ciudad. Un plan del tipo “no es que sobren coches, es que están mal gestionados”.

El de la capital no es el único ayuntamiento que celebra su metamorfósis hacia la ciudad inteligente. Las ciudades corren en pos de conseguir el apellido smart city. En su horizonte se encuentra la optimización de servicios y la extracción de datos masiva. Sin embargo, no debemos olvidar a todas las personas que viven en ellas sin conexión digital. En 2017 en la Comunidad de Madrid un nada desdeñable 10% de la población no había usado internet en el momento de la encuesta, y un 15% decía no ser usuaria frecuente.

Para Javier Sánchez, doctor en informática que investiga en la universidad de Cardif, en Reino Unido, cada vez que ha aplicado bases de datos digitales a cuestiones sociológicas, “siempre ha sido un desastre”. Sánchez estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning, una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Nos encontramos con él en La Ingobernable, uno de los espacios de la ciudad donde tienen lugar los hacklabs en Madrid, pero nos indica que fue miembro de un grupo de hacklab en Granada. Estas reuniones, escenarios en algunas de las obras de Belén Gopegui, son espacios sin jerarquías a los que podemos acudir a aprender sobre la tecnología con una perspectiva crítica. Precisamente viene a iniciar un debate en torno a las relaciones entre datos y justicia social.

Sánchez se muestra crítico con el escaso rigor con el que aparece representado cualquier producto asociado al Big Data en la prensa general y divulgativa. Incluso los medios críticos participan de la mistificación de esta tecnología, “creyendo que los grandes datos ofrecen una forma superior de inteligencia y conocimiento”.

Nada más lejos de la realidad, según el estudio de Sánchez estos algoritmos reproducen los mismos prejuicios que ya se dan en los sistemas humanos y los amplifican. Los escasos puntos críticos que aparecen en la prensa derivan hacia preguntas del tipo “¿deberían ser sujetos legales los algoritmos?”, “¿tienen derechos los robots?” y otros temas que contribuyen a la mitificación, sacando del foco los problemas discriminarorios reales que presentan estos algoritmos.

Por otro lado tenemos lo que denomina como “sociólogos y periodistas de Twitter”. Las grandes compañías tecnológicas ponen en manos de periodistas e investigadores sus datos, porque esto hace que aumente su valor. El problema surge cuando estos datos se utilizan para medir factores como “¿de qué se está hablando?”, cuando ya el mero hecho de centrarnos solo en una compañía presenta un sesgo importante.

Existen ya casos en EEUU donde los algoritmos han decidido cortar ayudas sociales, son utilizados para distinguir entre supuestos terroristas y refugiados, o directamente se convierten en tu jefe, como ocurre aquí en plataformas como Deliveroo. Para Sánchez existe un grave problema en la aplicación directa de estos algoritmos para asuntos sociológicos. “Si lo comparamos con los medicamentos, que son también científicos, jamás se nos ocurriría pensar en su implementación sin haberlos probado, y esto es lo que está ocurriendo con estos programas”.

¿Cómo reproducen estos algoritmos los prejuicios de nuestras sociedades? La clave para el investigador reside en las bases de datos, que ya se encuentran llenas de prejuicios. Por ejemplo, si vamos de nuevo a los EEUU, existen programas de predicción de crímenes por áreas en ciudades. Pero estos programas funcionan con bases de datos de las demarcaciones policiales, que históricamente han puesto su foco en barrios racializados, por lo que la máquina hará lo mismo.

Aunque la mayoría de ejemplos de reconocimiento facial y extracción y uso de datos los encontremos en ciudades de Estados Unidos o China (el conocido sistema de puntuación ciudadana), existen ya varias ciudades españolas que han trazado su hoja de ruta hacia los puertos smart city. Pero el aprendizaje automático ya existe en nuestras vidas cada vez que usamos el texto predictivo o cualquier motor de búsqueda en internet. Pensar que estos sistemas no reproducen y amplifican nuestros prejuicios es ingenuo. Aun así dejamos que escriban por nosotros y elijan la información que veremos sobre el mundo.

“Creo que es importante señalar que al final, lo que estás haciendo es automatizar una serie de decisiones políticas ideológicas y de prejuicios en muchos casos. Realmente es difícil hacer un sistema de toma de decisiones libre de estos problemas”, finaliza Sánchez.

Si quieres escuchar la entrevista al completo, escucha el podcast que se encuentra al inicio del artículo. En la pieza, por orden de aparición, suenan las siguientes canciones:

- Loud Pipes, Ratatat.

- Fallout, The Rat.

- Erik Owen, Youngblood Brass Band.

- Wake Up, Brass Against con Sophia Urista.

Cargando valoraciones...
Ver comentarios 3
Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Cargando relacionadas...

Asturias
Las Seis de la Suiza consiguen el tercer grado penitenciario a la espera del indulto prometido por el Gobierno
Las sindicalistas podrán cumplir su condena en régimen de semilibertad y durmiendo en la cárcel. Se prevé que las manifestaciones continúan a la espera del indulto prometido por la vicepresidenta Yolanda Díaz, aún sin fecha de posible aprobación.
Laboral
Legislación laboral en condiciones de calor extremo: existe pero ¿se aplica?
Los sindicatos y expertos demandan mejoras en los reglamentos, que muchas veces dejan en manos de la buena voluntad de las empresas aplicar medidas de protección en alertas meteorológicas.
Portugal
La derecha y la extrema derecha portuguesas acuerdan una ley antimigrantes sin precedentes
El Parlamento luso aprueba una ley que endurece los requisitos para la obtención de nacionalidad a los extranjeros, incluyendo a los lusófonos, y limita extraordinariamente los supuestos de reagrupación familiar.
El Salto n.79
Galicia dice 'no' al capitalismo verde y en el último número de la Revista El Salto te lo contamos
Ya está disponible el número 79 de nuestra revista, en el que destacamos la investigación y el rechazo social que encuentra el proyecto de macrocelulosa de la multinacional Altri.
Euskal Herria
La transferencia a Euskadi de los subsidios de desempleo se atasca
La reunión entre Pradales y Sánchez ha servido para pactar el traspaso de algunas prestaciones familiares, pero aún no ha prosperado la negociación sobre los subsidios de desempleo con el Ministerio de Trabajo y Economía Social.
Incendios
El vecindario de la Cañada responsabiliza del incendio a Ayuso y denuncia la actuación de Emergencias
Un total de 19 dotaciones de Bomberos acudió a sofocar un incendio en el sector 6, afectado por cortes de luz desde 2020, como vienen denunciado vecinos y organizaciones.
Grecia
Grecia muestra su peor cara ante el aumento de llegadas de personas migrantes a Creta
El país heleno suspende, durante los próximos tres meses, los procedimientos de asilo para las personas migrantes que lleguen por mar desde el norte de África.
Torrejón de Ardoz
Torrejón clama justicia por Abderrahim un mes después de que muriera asfixiado por un policía de Madrid
La plataforma Justicia por Abderrahim ha querido sacar músculo en las calles de la ciudad y honrar la memoria del vecino magrebí fallecido estrangulado por el agente municipal.
Palestina
El ataque de Israel a una iglesia indigna al Gobierno francés, que sigue sin hacer nada contra el genocidio
Eslovenia se convierte en el primer país europeo en prohibir la entrada y en imponer sanciones contra jerarcas del régimen de Tel Aviv.

Últimas

Comunidad El Salto
El Salto estrena nueva página: una web como una casa
Después de un año de trabajo, lanzamos en julio la nueva web de El Salto, con un nuevo diseño, pero, sobre todo, con una nueva Zona Socias llena de ventajas para las personas que hacen posible El Salto con su apoyo.
Cómic
Simon Hanselmann y el arte de lo obsceno
Simon Hanselmann se ha convertido en el verdadero ‘enfant terrible’ del mundo del cómic ‘underground’. Un artista de lo obsceno, titiritero del universo gestado en torno a los incorregibles Megg, Mogg y Búho.
Región de Murcia
Más de mil organizaciones piden que se castiguen los discursos de odio que incentivan las agresiones racistas
Colectivos sociales, migrantes y antirracistas convocan concentraciones en decenas de ciudades para mostrar el rechazo ante las agresiones racistas y xenófobas en Torre Pacheco y exigir responsabilidades a los incitadores.
El Salto Radio
Yupanqui, la música en colectivo
Jóvenes con raíces latinoamericanas generan espacios de encuentros y formación en Madrid.
Región de Murcia
Bulos y algaradas: la estrategia internacional para promocionar el supremacismo
La campaña en redes de Torre Pacheco ha replicado el modus operandi que instigó los disturbios racistas de Inglaterra el pasado verano.
Estados Unidos
No es una guerra de Trump contra el fentanilo, es una guerra contra los pobres
Donald Trump revive la War On Drugs firmando una nueva ley que establece penas mínimas de diez años contra los traficantes del opiáceo.
Más noticias
Justicia
Organizaciones civiles y de derechos humanos piden protección para el hijo menor de Juana Rivas
Consideran la orden de entrega del hijo menor de Juana al padre como una grave desprotección infantil al ignorar el proceso penal italiano por presunto maltrato contra Arcuri y la minimización previa de las denuncias de violencia del hijo mayor
Francia
Francia se ensaña con los más desfavorecidos con su nueva batería de recortes
El primer ministro galo, François Bayrou, quiere congelar pensiones, ayudas sociales y salarios de funcionarios con un agresivo plan de austeridad que deja indemnes a los más ricos.

Recomendadas

Pensamiento
Nuria Romo
“Los procesos de medicalización no son neutros, se hacen sobre todo hacia las mujeres”
Catedrática de Antropología Social y Cultural, Nuria Romo Avilés lleva más de dos décadas compaginando la investigación con perspectiva de género acerca de drogodependencia con la docencia en la Universidad de Granada.
Comunismo
Jodi Dean
“Sin organización, los movimientos surgen y desaparecen como setas”
La politóloga e historiadora Jodi Dean ha estado en Barcelona para reivindicar el poder de las organizaciones políticas y de la camaradería. En la actualidad trabaja sobre el neofeudalismo y la reconfiguración de la clase trabajadora.
Arte contemporáneo
Palabras contra el poder: la vigencia radical de Barbara Kruger
La primera retrospectiva completa de Barbara Kruger en España presenta los distintos formatos y soportes con los que ha trabajado en las últimas cinco décadas: ‘paste-up’, instalaciones de vídeo, obras en LED y vinilos murales.
Málaga
Málaga, el punto de inversión para los fondos israelíes a pie de playa
Diversos fondos de origen israelí están presentes en proyectos urbanísticos de Málaga influyendo en la turistificación de la provincia mientras se enriquecen con la ocupación de Palestina
Comentarios 3

Para comentar en este artículo tienes que estar registrado. Si ya tienes una cuenta, inicia sesión. Si todavía no la tienes, puedes crear una aquí en dos minutos sin coste ni números de cuenta.

Si eres socio/a puedes comentar sin moderación previa y valorar comentarios. El resto de comentarios son moderados y aprobados por la Redacción de El Salto. Para comentar sin moderación, ¡suscríbete!

Cargando comentarios...