Inteligencia artificial
Cuando los “robots asesinos” dejan de ser ciencia ficción

El Centre Delás alerta sobre la proliferación de armas autónomas y la falta de regulación que podría llevar en pocos años a un escenario de guerra o de control de fronteras dominado por sistemas robotizados que no precisan intermediación humana para atacar.

Dron Reaper
Los drones y otras armas robotizadas todavía no toman decisiones propias, pero podrían hacerlo en un futuro cercano. En la foto, el dron Reaper.
26 nov 2019 12:01

Para los coches voladores o las colonias espaciales parece que habrá que esperar. Pero otras innovaciones que la ciencia ficción lleva décadas incluyendo en todo tipo de libros y películas se están haciendo realidad a un ritmo imparable.

La “escalada hacia los sistemas armados autónomos” es una de estas nuevas tendencias que el reciente informe del Centre Delás califica de “ética y jurídicamente inaceptable”. Para esta ONG, “delegar en una máquina las decisiones de matar va en contra de la dignidad humana y de los derechos de las personas”.

En la última década, señala esta organización, las acciones militares y “de seguridad” que incluyen la utilización de sistemas militares robóticos y drones armados han “cambiado radicalmente los escenarios de guerra”. Los ataques con drones, señalan, no suelen salir en los telediarios, pero “muestran un ritmo de crecimiento continuado” y “acaban matando personas civiles, además de perpetrar ejecuciones sumarias y extrajudiciales”.

El Centre Delás describe en su informe, titulado Nuevas armas contra la ética y las personas. Drones armas y drones autónomos, una auténtica revolución en el negocio armamentístico. A la vez que los nuevos sistemas conseguían abaratar las operaciones militares —y minimizar las propias bajas— han incrementado el volumen de negocio del sector industrial militar. Unos sistemas que a menudo utilizan las ventajas de la inteligencia artificial para la vigilancia de las fronteras, incluyendo el “control armado con drones”. Estas herramientas diseñadas para vigilar —“y en su caso atacar”— migrantes se están utilizando en Israel, Corea del Sur, Estados Unidos o en la Unión Europea.


Frente a las críticas de organismos de derechos humanos, desde la industria militar se ha ido “construyendo una falsa narrativa sobre las bondades” de la inteligencia artificial como un factor que evita los inconvenientes derivados del famoso ‘factor humano’. Una narrativa falsa, según el Centre Delás: “Los sistemas militares robóticos con autonomía constructiva tienen comportamientos no explicables, con una probabilidad garantizada de error que es significativa y no pequeña. Esto los hace esencialmente no aptos en situaciones donde los errores serán vidas humanas”.

Armas autónomas Estados Unidos

Para esta ONG que investiga sobre armamento y procesos de paz, los sistemas de armas autónomas “nos sitúan en un escenario de deshumanización”. El mayor peligro de la “autonomía que está viniendo” lo identifican en los minidrones —armados o de reconocimientos—, “drones que rondan” —que sobrevuelan determinada zona de forma continuada y captan información de todo lo que encuentran— y en los “enjambres de drones”, un conjunto de mini-drones que interactúan entre ellos imitando a los enjambres de abejas o las bandadas de pájaros. Todos estos sistemas, en investigación en varios países, pueden incorporar fácilmente sistemas autónomos de decisión y están al alcance de gran número de economías. La incorporación de estos sistemas autónomos cambiaría por completo el mapa geopolítico y los escenarios de guerra, señalan en el informe.

“Es cierto que los humanos somos falibles, pero esta es la característica de la condición humana. Delegar en una máquina la decisión de matar va en contra de la dignidad humana y de los derechos de las personas. El problema ético aparece cuando los sistemas militares dejan de ser operados por personas y ejecutan sus tareas con autonomía de uso, sin intervención humana en los procesos de decisión y ataque”, reflexionan.

Armas autónomas de Israel

Ante esta situación, el Centre Delás demanda un instrumento jurídico vinculante que prohíba los sistemas militares robóticos con autonomía de uso. Una reclamación enmarcada en una coalición internacional llamada Campaign to Stop Killer Robots, que ha conseguido iniciar conversaciones en el marco de Naciones Unidas para crear un marco legal que “prohíba los sistemas de armamento sin control humano significativo”.

Armas autónomas de Rusia
Armas autónomas de China

“Todavía no estamos en el mundo de Terminator, donde las armas toman sus propias decisiones”, reconocen desde el Centre Delás, pero algunos modelos como el dron Reaper ya empiezan a acercarse. Los esfuerzos en el presente por regular las armas autónomas y los “robots asesinos” tendrá mucho que ver con que consigamos librarnos de las peores pesadillas de la ciencia ficción en el futuro.

Relacionadas

Periodismo
Cerbero y la fábrica de noticias

La historia de las interferencias gubernamentales en el ejercicio del periodismo es tan vieja como la profesión misma.

Pensamiento
Marta Peirano: “Internet no es el problema, la extracción de datos es el problema”

La periodista Marta Peirano (Madrid, 1975) ha publicado El enemigo conoce el sistema (Debate, 2019), un ensayo sobre el estado actual de internet y de las sociedades que están moldeando una serie de herramientas privadas.

2 Comentarios
#43797 12:03 28/11/2019

https://www.facebook.com/watch/?v=2497511593863741

Responder
0
0
#43718 20:23 26/11/2019

Los robots no asesinan, los que asesinar son los políticos, los que los derigen puede que lo sean también , alguien ha dirigirlos, pero no las máquinas.

Responder
2
0

Destacadas

Educación
Combinar estudios y trabajo, una necesidad materializada para las clases populares

La clase mayoritaria en las universidades españolas sigue siendo la alta. Cerca de 45.000 estudiantes han tenido que abandonar sus estudios por motivos económicos en 2019. Debido al deficitario funcionamiento del sistema de becas, los que no cuentan con altos ingresos económicos se ven obligados a desempeñar empleos precarios para mantenerse.

Violencia machista
El proceso judicial que sigue a una denuncia por violencia de género

Cada año son más las mujeres que rompen su silencio y denuncian las agresiones por violencia de género, pero el proceso no es sencillo y no siempre pone a las denunciantes en el centro.

Música
Biznaga: punk, ojos y capital

El cuarteto Biznaga descarga toda su rabia contra el algoritmo en un disco conceptual en torno a las transformaciones en lo personal y lo colectivo que ha supuesto la implantación del imperio GAFAM (Google, Apple, Facebook, Amazon y Microsoft).

Reino Unido
Altos costos y viviendas precarias: la odisea que enfrentan los inquilinos en Londres

Las medidas sociales para el alquiler de pisos que se implementaron tras la Segunda Guerra mundial han ido desapareciendo. Ahora, los propietarios privados exigen cantidades desorbitantes para el alquiler de pisos en la capital inglesa.

Últimas

Huelga
La plantilla de jardines de Zaragoza continúa su huelga indefinida con una acampada

Los trabajadores reivindican una subida salarial acorde con el IPC, la incorporación de medidas sociales en el convenio y que la plantilla no se divida en dos empresas subcontratadas.