Inteligencia artificial
Cuando los “robots asesinos” dejan de ser ciencia ficción

El Centre Delás alerta sobre la proliferación de armas autónomas y la falta de regulación que podría llevar en pocos años a un escenario de guerra o de control de fronteras dominado por sistemas robotizados que no precisan intermediación humana para atacar.

Dron Reaper
Los drones y otras armas robotizadas todavía no toman decisiones propias, pero podrían hacerlo en un futuro cercano. En la foto, el dron Reaper.

publicado
2019-11-26 12:01

Para los coches voladores o las colonias espaciales parece que habrá que esperar. Pero otras innovaciones que la ciencia ficción lleva décadas incluyendo en todo tipo de libros y películas se están haciendo realidad a un ritmo imparable.

La “escalada hacia los sistemas armados autónomos” es una de estas nuevas tendencias que el reciente informe del Centre Delás califica de “ética y jurídicamente inaceptable”. Para esta ONG, “delegar en una máquina las decisiones de matar va en contra de la dignidad humana y de los derechos de las personas”.

En la última década, señala esta organización, las acciones militares y “de seguridad” que incluyen la utilización de sistemas militares robóticos y drones armados han “cambiado radicalmente los escenarios de guerra”. Los ataques con drones, señalan, no suelen salir en los telediarios, pero “muestran un ritmo de crecimiento continuado” y “acaban matando personas civiles, además de perpetrar ejecuciones sumarias y extrajudiciales”.

El Centre Delás describe en su informe, titulado Nuevas armas contra la ética y las personas. Drones armas y drones autónomos, una auténtica revolución en el negocio armamentístico. A la vez que los nuevos sistemas conseguían abaratar las operaciones militares —y minimizar las propias bajas— han incrementado el volumen de negocio del sector industrial militar. Unos sistemas que a menudo utilizan las ventajas de la inteligencia artificial para la vigilancia de las fronteras, incluyendo el “control armado con drones”. Estas herramientas diseñadas para vigilar —“y en su caso atacar”— migrantes se están utilizando en Israel, Corea del Sur, Estados Unidos o en la Unión Europea.


Frente a las críticas de organismos de derechos humanos, desde la industria militar se ha ido “construyendo una falsa narrativa sobre las bondades” de la inteligencia artificial como un factor que evita los inconvenientes derivados del famoso ‘factor humano’. Una narrativa falsa, según el Centre Delás: “Los sistemas militares robóticos con autonomía constructiva tienen comportamientos no explicables, con una probabilidad garantizada de error que es significativa y no pequeña. Esto los hace esencialmente no aptos en situaciones donde los errores serán vidas humanas”.

Armas autónomas Estados Unidos

Para esta ONG que investiga sobre armamento y procesos de paz, los sistemas de armas autónomas “nos sitúan en un escenario de deshumanización”. El mayor peligro de la “autonomía que está viniendo” lo identifican en los minidrones —armados o de reconocimientos—, “drones que rondan” —que sobrevuelan determinada zona de forma continuada y captan información de todo lo que encuentran— y en los “enjambres de drones”, un conjunto de mini-drones que interactúan entre ellos imitando a los enjambres de abejas o las bandadas de pájaros. Todos estos sistemas, en investigación en varios países, pueden incorporar fácilmente sistemas autónomos de decisión y están al alcance de gran número de economías. La incorporación de estos sistemas autónomos cambiaría por completo el mapa geopolítico y los escenarios de guerra, señalan en el informe.

“Es cierto que los humanos somos falibles, pero esta es la característica de la condición humana. Delegar en una máquina la decisión de matar va en contra de la dignidad humana y de los derechos de las personas. El problema ético aparece cuando los sistemas militares dejan de ser operados por personas y ejecutan sus tareas con autonomía de uso, sin intervención humana en los procesos de decisión y ataque”, reflexionan.

Armas autónomas de Israel

Ante esta situación, el Centre Delás demanda un instrumento jurídico vinculante que prohíba los sistemas militares robóticos con autonomía de uso. Una reclamación enmarcada en una coalición internacional llamada Campaign to Stop Killer Robots, que ha conseguido iniciar conversaciones en el marco de Naciones Unidas para crear un marco legal que “prohíba los sistemas de armamento sin control humano significativo”.

Armas autónomas de Rusia
Armas autónomas de China

“Todavía no estamos en el mundo de Terminator, donde las armas toman sus propias decisiones”, reconocen desde el Centre Delás, pero algunos modelos como el dron Reaper ya empiezan a acercarse. Los esfuerzos en el presente por regular las armas autónomas y los “robots asesinos” tendrá mucho que ver con que consigamos librarnos de las peores pesadillas de la ciencia ficción en el futuro.

Relacionadas

Pensamiento
Marta Peirano: “Internet no es el problema, la extracción de datos es el problema”

La periodista Marta Peirano (Madrid, 1975) ha publicado El enemigo conoce el sistema (Debate, 2019), un ensayo sobre el estado actual de internet y de las sociedades que están moldeando una serie de herramientas privadas.

Tecnopolítica
Hacia una soberanía tecnológica

Cada vez hay menos actividades que no se realizan por Internet o que sólo se pueden realizar por Intern: selección de candidaturas a un puesto de trabajo, horarios de trabajo de riders, policía predictiva, fronteras “inteligentes”, plataformas online para diversos propósitos como YouTube, Twitter, Dropbox o Tinder, por no hablar de nuestros correos electrónicos o los sistemas operativos como Android o Windows. ¿Estamos preparados para dejar todo en manos de empresas privadas?

2 Comentarios
#43797 12:03 28/11/2019

https://www.facebook.com/watch/?v=2497511593863741

Responder
0
0
#43718 20:23 26/11/2019

Los robots no asesinan, los que asesinar son los políticos, los que los derigen puede que lo sean también , alguien ha dirigirlos, pero no las máquinas.

Responder
2
0

Destacadas

Afganistán
Dieciocho años de mentiras para justificar la guerra más larga

En el peor punto de un conflicto que se ha recrudecido en los últimos tiempos ⎼solo en 2018 se contabilizaron diez mil víctimas civiles⎼ la publicación de entrevistas confidenciales a responsables de la invasión de Afganistán ha anulado la coartada de que Estados Unidos progresa en sus objetivos en una guerra que dura ya 18 años.

Laboral
Más de un centenar de trabajadoras de hogar y cuidados ponen el cuerpo en su segundo congreso

Con el lema Juntas transformamos desde la acción, ¿y tú?, las trabajadoras de hogar y los cuidados están celebrando su segundo congreso en tres años. 

Carta desde Europa
La cosa se pone seria

Impaciente ante la procrastinación alemana, Macron declaró a la OTAN en “muerte cerebral”, mientras intenta el encuentro con Putin.

Chile
Chile: así empieza una revolución
Lo que empezó como una protesta estudiantil contra la subida del billete del metro se ha convertido en una revuelta generalizada contra el Chile que dejó la dictadura de Augusto Pinochet.
Pensiones
CGT se adhiere a la convocatoria de la huelga general

El sindicato anima a sus afiliados a participar en la huelga del 30 de enero por la Carta de Derechos Sociales de Euskal Herria, pero califica de “decisión unilateral” la convocatoria, realizada por una parte del movimiento de pensionistas a través de los sindicatos ELA y LAB en nombre de todos los jubilados.

Últimas

Música
El sonido del trap: de Steve Lean a Metro Boomin

La labor en la sombra de Steve Lean es la del constructor sónico de toda una filosofía vital donde figuras como PXXR GVNG, Yung Beef o Kaydy Cain han armado su universo.