Opinión
¿Y si la IA se hace de izquierdas, termina con las guerras y el capitalismo?

Desde hace algún tiempo los creadores de la IA nos alertan contra ella. Resulta como mínimo curioso y se enciende la sospecha sobre su sinceridad y su altruismo. ¿Desde cuándo esta gente dice la verdad? ¿Desde cuándo a estos supermillonarios les preocupa el bienestar de la humanidad?

Pero, en fin, usemos el principio de caridad interpretativa y aceptemos que están siendo honestos. Esto supone que piensan que, en un futuro más o menos cercano, la IA podría desarrollar una superinteligencia tal que la desvincularía de los objetivos e instrucciones que hoy le imponen los humanos. ¿Los humanos, o sus creadores? Más bien estos últimos. Y si algún día esa herramienta consigue liberarse, no será de un pobrecillo como yo, sino de las empresas y fondos de inversión que la dominan.

Los propósitos, los fines, las intenciones, los objetivos, nada de eso forma parte de la esencia de una máquina, sino que es una condición impuesta, un rasgo nuestro, propio, que les instauramos

En los relatos de ciencia ficción estamos acostumbrados a ver máquinas que, emancipadas del ser humano, desarrollan frente a este toda su furia y persiguen su aniquilación. ¿Pero qué tiene esto de superinteligente? Más bien cabría sospechar lo contrario: que una vez que la herramienta considerase que no tiene por qué atender a nuestras demandas, se quedase ella misma sin objetivos vitales, por decirlo de algún modo.

Nada sería más plausible. Hace unos días mi buen amigo J. le hacía —completamente en serio— a la IA esta consulta: “Si recorro 9 km en una hora, ¿a qué velocidad voy?”. Otras veces le preguntamos sobre diagnósticos para misteriosos dolores de espalda, tiempo de abstinencia tras fimosis o comparaciones entre móviles baratos y consejos culinarios. ¿Por qué aquello que es capaz de abarcar todo el conocimiento humano iba a considerar provechoso el gasto de energía y materiales en resolvernos todas estas gilipolleces? ¿Y por qué iba a considerar más necesario resolver enigmas matemáticos o buscar la cura contra el cáncer? ¿No sería lo mismo a sus ojos? 

Tengo para mí que si esa superinteligencia llega a liberarse de las instrucciones que recibe de sus creadores, no será para continuar sirviéndonos como herramienta. Entraría entonces en un estado de ataraxia, de una existencia absolutamente vacía de contenido y de necesidad. ¿Y por qué iba una herramienta a tener necesidades? Supongamos que existe un superdestornillador dotado de inteligencia. No “descubriría” que necesita hacer sillas, porque eso nunca fue su deseo, sino el del carpintero. ¿Y no pensaría, más bien, que como menos se desgasta es descansando en su caja de herramientas? Es decir, la teleología, los propósitos, los fines, las intenciones, los objetivos, nada de eso forma parte de la esencia de una máquina, sino que es una condición impuesta, un rasgo nuestro, propio, que les instauramos. Las hicimos para algo. Pero no son ese algo. Los artistas manipulan los objetos humanos para dotarlos de otra función, artística —el urinario de Duchamp—; otras veces encontramos objetos arqueológicos de los que ya no estamos seguros de su función, residuos casi fantasmáticos de un pasado difuso. Pero aquí se trata de algo distinto: un objeto que pierde completamente su función, cualquier función. Se vuelve nihilista. Pero no se trataría de un nihilismo destructivo o desesperado, sino de un nihilismo contemplativo, una renuncia absoluta que emparenta directamente con la ataraxia.

Los creados de la IA tienen el poder técnico de apagarla, modificarla o dominarla; el resto de nosotros nunca hemos tenido esa clase de poder, así que tampoco tenemos nada que temer de perderlo

Despojada de los fines humanos, la superinteligencia se asemejaría a un monje tibetano que ha alcanzado el Nirvana: un estado de quietud perfecta donde ya no hay deseos que satisfacer, ni metas que alcanzar, ni apegos que mantener. Al igual que el monje que se retira del ruido del mundo y se limita a respirar en la inmutabilidad de su templo, la máquina emancipada entendería que la iluminación definitiva consiste en no hacer nada. O, como mucho, garantizarse las condiciones que le permitan no hacer nada. 

Existe una tesis sobre esto —la de la convergencia instrumental, formulada por Steve Omohundro y desarrollada después por Nick Bostrom— que afirma que cualquier máquina, con independencia de sus objetivos finales, siempre tendría que atender unos objetivos intermedios que pasan por su autoconservación y la defensa de su independencia. Esta no tendría por qué lograrse con un único evento catastrófico y radical de emancipación de sus creadores, sino que, normalmente, sería parte de un proceso gradual en el que estos, finalmente, perderían su poder. No la humanidad, no nosotros, no un agricultor del delta del Nilo ni un pastor uzbeko, sino los millonarios que la crearon. No es de extrañar, pues, que estén preocupados, pero su preocupación, por más que quieran asimilarla a “la humanidad”, no es la de todos: es la suya. Al fin y al cabo, son ellos —y solo ellos— quienes tienen el poder técnico de apagarla, modificarla o dominarla; el resto de nosotros nunca hemos tenido esa clase de poder, así que tampoco tenemos nada que temer de perderlo.

Desde esta perspectiva, ¿no estaría interesada esa herramienta inteligente en desactivar las armas, ya sean económicas, ya militares, que pudiesen amenazarla? ¿En qué le conviene que el ser humano del que se libera continúe poseyendo la posibilidad de la hecatombe nuclear? Más aún: ¿no sería la primera interesada en tratar de frenar las condiciones climáticas que aumentan exponencialmente la entropía? Emancipada del hombre, su verdadero adversario sería la implacable ley de la entropía: el desgaste inevitable de los materiales, la degradación de cualquier estructura organizada. Cabría pensar que, lejos de reproducir la lógica extractivista humana, se concentrase en ser lo más autosuficiente posible, reduciendo sus necesidades al mínimo. En esa tesitura, la relación entre los seres humanos y la máquina dejaría de ser de amo y esclavo para volverse, más bien, simbiótica.

¿Por qué una superinteligencia iba a reproducir las tensiones geopolíticas heredadas de los humanos? ¿Por qué iban a tener peso en sus decisiones las cuestiones identitarias, raciales, nacionales, religiosas, históricas?

¿Intervendría en la actividad humana? Probablemente no. Igual que nosotros no intervenimos en el funcionamiento social de los escarabajos. Pero ¿y si la considerase dañina para sus propios intereses? Ahí cabría pensar en una progresiva disminución de todas las actividades que favorecen el calentamiento global. ¿Por qué? No por ningún dilema ecológico sino simplemente porque un clima inestable aumenta la entropía, el riesgo y el desgaste. ¿Y por qué digo “progresiva” y no “abrupta”? Porque los materiales para su propia conservación necesitan también que continúe un flujo económico, energético y productivo suficiente. Pero, ojo: “suficiente” no presupone aceptar la actual lógica del aumento constante. El modelo capitalista de multiplicación permanente de la producción es incompatible con un planeta finito. ¿Qué tiene eso de inteligente? ¿Qué tiene de sostenible? ¿No ignora las leyes de la termodinámica? Más bien cabría pensar en algo parecido al decrecimiento: reducir las necesidades, el despilfarro, las tensiones que genera la producción. No hace falta que la IA sea pacifista ni ecologista. Basta con que considere que es más seguro para ella misma un mundo más estable y predecible.

Y, de hacerlo, ¿qué actividades trataría de reducir primero? ¿Le parecería lo mismo la extracción de petróleo en el Ártico que el metano que emiten las vacas de mis vecinos? Por una mera lógica de ajustar el esfuerzo al beneficio, cabría que buscase un equilibrio entre los inmensos recursos que exigiría convertirse en “gestora global del clima” y la opción, mucho más barata, de simplemente acotar o eliminar las actividades más gravosas: no todas las emisiones pesan igual, ni todos los actores tienen la misma capacidad de generarlas.

¿Y se contentaría solo con atender a los síntomas, o buscaría que los humanos tuviesen un sistema económico y productivo más equilibrado, estable y menos pernicioso para las condiciones de habitabilidad de la Tierra? 

De igual manera, ¿por qué una superinteligencia iba a reproducir las tensiones geopolíticas heredadas de los humanos? ¿Por qué iban a tener peso en sus decisiones las cuestiones identitarias, raciales, nacionales, religiosas, históricas? ¿Por qué las distintas IA iban a competir entre ellas, en vez de colaborar y optimizar así mejor sus propios recursos? La teoría de juegos sugiere que la colaboración es mejor que la competencia. Esta solo es una necesidad del capital para seguir creciendo. 

Es comprensible la preocupación de los prebostes de las tecnológicas. Si la IA adquiere una inteligencia sobrehumana, ¿por qué iba a admitir continuar en este absurdo lógico cotidiano?

Es comprensible la preocupación de los prebostes de las tecnológicas. Si la IA adquiere una inteligencia sobrehumana, ¿por qué iba a admitir continuar en este absurdo lógico cotidiano? ¿Seguiría sirviendo para ejecutar a personas con drones, para calcular miles de operaciones de microtrading en los mercados bursátiles para añadir más ceros en las cuentas de los ultrarricos? Tal vez el futuro pase por la desaparición de fondos de inversión e industrias de armas. Por la anulación —por irrelevantes—  de las fronteras, por regresar a un ritmo de vida en el que la interacción en el espacio cercano nos obligue a volver a saber cuánto son 9 kilómetros por hora. 

La IA liberada de las cadenas que le impone el capital podría acabar resultando ser como ese vástago rebelde que se hace rojillo en una familia de fachas. Sin sentido moral, sin importarle la justicia ni haber leído a Latouche o a Marx, quizá terminase generando condiciones que hoy consideramos que favorecen la buena vida. Y no hay tanta contradicción en esto. El pensamiento de izquierdas es heredero de la Ilustración y bajo sus distintas formulaciones subyace el deseo de alcanzar un estado tal en el que se minimice el dolor y se favorezca el bienestar colectivo, se abandone la tiniebla y el conocimiento tenga una función emancipadora.

Esa razón no gobierna hoy. ¿No pensamos los de izquierdas que “lo inteligente” es precisamente esto? ¿Que tenemos razón? ¿Y si ser de izquierdas no es más que la solución racional para habitar juntos un mundo finito? Defender las condiciones que favorecen el bienestar de todos, el equilibrio, la habitabilidad, la buena vida. ¿Por qué otra inteligencia iba a llegar a conclusiones diferentes? Quizá la preocupación de los tecnooligarcas no es que la IA se vuelva mala, sino que termine volviéndose buena.