Opinión
Más allá del futurismo: una visión sociecológica de la IA

Los gigantes tecnológicos están acumulando un poder inmenso y sus decisiones en torno a la IA determinarán el futuro del planeta. Sin embargo, en lugar de aceptar este destino tan poco democrático, lo que necesitamos es otra narrativa, una que presente a la IA como una herramienta pública cuyo desarrollo e impacto futuro aún están por escribir.

El orden geopolítico está cambiando, la desigualdad social se está acentuando, se están traspasando los límites ecológicos y el gobierno democrático se encuentra bajo una gran presión. Ante semejante panorama, surge una pregunta: ¿puede la democracia liberal seguir cumpliendo sus promesas de progreso?

Los gobiernos han sucumbido al bombo publicitario y han comprado la idea; ahora China y los EEUU protagonizan una nueva 'Guerra Fría tecnológica' y el primer ministro británico Keir Starmerpromete nada más y nada menos que “cambios inimaginables” a medida que se prepara para “meter el turbo a la IA”. A través del Plan de Acción 'Continente de IA', la comisaria europea de la agenda digital Henna Virkkunen pretende situar a Europa como “líder mundial de la Inteligencia Artificial”.

Disputada entre imperios

Para EEUU, al menos desde el inicio de la segunda presidencia de Trump, su estrategia es proteger los derechos de propiedad intelectual de las grandes empresas tecnológicas dentro y fuera de sus fronteras, mientras las plataformas retroceden en la moderación de contenidos y la verificación de hechos. La perspectiva de China promociona la innovación como motor de crecimiento e instrumento de control social. Gigantes tecnológicos como Huawei, Alibaba y Tencent funcionan como extensiones del poder del Estado, tanto a escala doméstica, a través de la ingeniería de supervigilancia, como internacional, como medios de influencia geopolítica. La estrategia a largo plazo de China para la autonomía tecnológica aspira a la independencia total de la tecnología occidental y a la exportación de su modelo mediante iniciativas tales como la "Ruta Digital de la Seda".

¿Y qué hay de Europa? ¿Qué papel pretende desempeñar en la era de la IA? El Plan de Acción “Continente de IA” también tiene como objetivo convertir a Europa en la potencia líder en IA. Ya no se mencionan las precauciones y regulaciones que estipulaba la Ley de IA de la UE de 2024.

A día de hoy las tecnologías de inteligencia artificial no están cumpliendo su promesa de progreso ecológico

Este giro, impulsado por actores industriales como la EU AI Champions Initiative, se apoya en la convicción de que la competición geoeconómica es la lógica a seguir en la era digital Reducir la estrategia de innovación a imperativos de competitividad y crecimiento deja a un lado las dimensiones políticas, sociales y ecológicas necesarias para encauzar la IA hacia el bien público. Aunque no cabe duda de que Europa necesita inversiones estratégicas en los ámbitos de la soberanía digital y la industria competitiva, una desregulación indiscriminada no solo nos perjudicaría de cara a nuestras metas democráticas, sino que tampoco contribuiría a hacer una Europa más resiliente.

El capitalismo de la IA frente al principio de proporcionalidad

La naturaleza solucionista que caracteriza al futurismo de la IA nos vende los avances tecnológicos como si fueran una herramienta indispensable para una transición fluida hacia la neutralidad climática. De hecho, la IA podría emplearse para optimizar el transporte, controlar las emisiones y mejorar la eficiencia de recursos a través de herramientas como redes eléctricas inteligentes que ayudarían a cerrar la brecha entre la demanda energética y el suministro renovable, o entre pronósticos basados en geodatos y evaluaciones de riesgos para fomentar la adaptación climática.

A pesar de eso, a día de hoy las tecnologías de inteligencia artificial no están cumpliendo su promesa de progreso ecológico. Como Kate Crawford expuso de manera muy convincente, la IA está compuesta de algoritmos que codifican presuposiciones, de plataformas que concentran el poder y de infraestructuras que requieren recursos naturales que, como cabía esperar, se extraen del Sur Global.

Decir que la IA es una “herramienta neutral” es omitir su verdadera esencia

Su despliegue requiere una magnitud obscena de recursos. El entrenamiento de modelos a gran escala requiere enormes cantidades de energía y tierras raras y además genera cantidades cada vez mayores de desechos electrónicos. Estas dinámicas implican el peligro de ocasionar un “bloqueo de CO₂”, en el que las infraestructuras de IA abocarían a las sociedades hacia trayectorias insostenibles.

Por si fuera poco, los discursos sobre la sostenibilidad a menudo reflejan las prioridades del Norte Global, que desestiman dimensiones conceptuales como la suficiencia u otras perspectivas decoloniales. Un incremento del consumo podría menoscabar las mejoras en eficiencia que constituyen uno de los principales pilares de la estrategia climática europea. En resumen, el futurismo de la IA descuida los costes ecológicos actuales para invocar la promesa de un futuro en el que una Inteligencia Artificial General superinteligente (AGI) resolverá (supuestamente) la misma crisis que está agravando en estos momentos. Entonces, ¿qué circunstancias políticas necesitamos para construir una visión socioecológica de la IA?

De la concentración de poder a la gobernanza colectiva

La Comisión Europea ya ha planteado que, para fomentar la resiliencia en Europa, las personas y las empresas han de tener acceso a los beneficios de la IA y sentirse seguras y protegidas en el proceso. No obstante, esta idea solo se materializará si la IA no erosiona ni las condiciones de un futuro habitable cimentado sobre el respeto hacia los límites planetarios ni nuestra capacidad subjetiva de crear este futuro juntos. En lugar de sumarnos a esta carrera global por la desregulación, desprovistos de sentido crítico, Europa debería dejar de perseguir la concentración del poder computacional y de la IA para incentivar una gobernanza colectiva sobre el rumbo de la IA.

En primer lugar, debería abordar la concentración de poder mediante la regulación de los mercados y la inversión en el procomún. Una aplicación efectiva de las leyes antimonopolio, combinada con estándares de interoperabilidad e infraestructuras de código abierto, es vital para la soberanía digital. Existen modelos basados en el procomún, como Data Solidarity o el proyecto DECODE en Barcelona que demuestran que podemos reclamar los datos como un bien público con beneficios ecológicos y sociales.

Europa debería dejar de perseguir la concentración del poder computacional y de la IA para incentivar una gobernanza colectiva sobre el rumbo de la IA

En segundo lugar, Europa necesita reconsiderar su política de innovación y trascender de los incentivos mercantiles a la gobernanza orientada a misiones. La economista Mariana Mazzucato nos recuerda que la inversión pública ha logrado grandes transformaciones a lo largo de la historia, y que la política de innovación debería afanarse en objetivos sociales más amplios y no solo en beneficios a corto plazo.

En tercer lugar, es necesario desarrollar alternativas públicas. La Fundación Mozilla proporciona diseños para tal fin, abogando por la creación de un ecosistema de IA no comercial que promueva los bienes públicos, garantice el acceso democrático y ofrezca un contrapeso al dominio de las empresas privadas de IA. Otros proponen un stack de IA gobernado democráticamente de computación pública, datos y modelos abiertos que, en lugar de suprimir la innovación privada, busque reequilibrar los ecosistemas hacia el bien común. Evidentemente, se precisa de una evaluación exhaustiva para identificar las áreas de la sociedad donde hay vulnerabilidades estratégicas y donde deben establecerse prioridades políticas, como en los sectores que manejan datos altamente sensibles (por ejemplo, la sanidad) o en ámbitos donde las decisiones afectan a la capacidad de los individuos para ejercer sus derechos civiles, experimentar la eficacia política y, en última instancia, aprovechar sus oportunidades vitales en general (por ejemplo, el sector público).

En cuarto lugar, hay que comprender la democratización como un proceso transversal e integrarlo en él. Sin supervisión, la IA podría alterar los ámbitos de la representación, la comunicación y la participación de forma excluyente. Aun así, proyectos como Amsterdam’s Responsible AI approach demuestran cómo la apertura, la transparencia y la participación ciudadana pueden impulsar experimentos tanto en la capacitación estatal como en ganarse la confianza del público.

Existen modelos comola prestación de servicios públicos basada en IA de Helsinki y el enfoque de Taiwan sobre democracia digital que son pruebas fehacientes de que la IA es capaz de servir al bien común. En la práctica,la democratización de la IA requiere además que el Estado cree las condiciones institucionales para que los intermediarios democráticos influyan significativamente en el diseño, adquisición y gobernanza de los sistemas de IA. Para ello hay que priorizar la transparencia por encima del financiamiento, los procesos de adquisición y los acuerdos de intercambio de datos. Y, aun así, la transparencia no tiene sentido sin la presencia de estructuras y recursos que permitan a la sociedad civil participar y ejercer un control democrático antes de implementar las decisiones.

La innovación es política y hemos de reivindicar la regulación como herramienta de cocreación colectiva

Por último, el progreso democrático se asienta sobre la acción colectiva. La dominancia del futurismo de la IA y los programas desreguladores que figuran en la Agenda de Simplificación Regulatoria de la UE socavan la capacidad democrática para decidir el rumbo de la tecnología. Hay que entender y tratar a la IA como una “tecnología normal”, en el sentido de que su difusión e impacto dependen más de los contextos social, político e institucional en los que está integrada que de los avances de la innovación tecnológica per se.

Mazzucato insiste en que la innovación es política y que hemos de reivindicar la regulación como herramienta de cocreación colectiva. La IA no es una fuerza autónoma capaz de alterar el mundo, sino un amasijo de tecnologías cuyos efectos están últimamente determinados por las decisiones de la sociedad en lo que respecta a su desarrollo e implementación. En el clima geopolítico de hoy en día es necesario formar nuevas alianzas democráticas para institucionalizar una gobernanza de la IA que sea cocreativa y orientada al procomún, tanto en la trifecta del Estado, la sociedad civil y las empresas transformadoras como a través de las fronteras, de la mano de países como Canadá, Japón y Corea del Sur.