Militarismo
La dignidad humana y nuevas armas autónomas. Campaña “Stop Killer Robots”

La creación de robots o sistemas robóticos de uso militar puede dejar en manos de algoritmos decisiones sobre a quién atacar, o incluso matar. Que una máquina tome esta decisión está en contra de la dignidad humana, por lo que estas nuevas armas nos abren a un debate jurídico y ético.
programacion
Unsplash. Mitchell Luo
Centre Delàs d’Estudis per la Pau
8 oct 2021 08:00

Seguramente los pensamientos los tendremos centrados en la pandemia, las secuelas y los cambios que se producirán o que se tendrían que producir; pero también es momento para reflexionar sobre algunos temas que afectan a la dignidad humana, y en concreto podemos reflexionar sobre el diseño de nuevas armas, las armas robóticas que pueden tomar la decisión de matar sin la intervención humana.

Los robots son máquinas programables o auto-controlables que pueden llevar a cabo tareas complejas de manera automática y repetitiva (todos hemos visto robots en la industria de coches). Cabe señalar que los robots no tienen por qué ser objetos materiales; podemos encontrar robots informáticos que son piezas de software (aplicaciones o programas), por ejemplo los chat bots o social bots, un ejemplo de estos son programas que envían tuits en la red haciéndose pasar por personas reales.

Esta revolución está siendo incorporada para el uso militar, se están creando robots o sistemas robóticos de uso militar. Un ejemplo serían los sistemas de defensa antimisiles; un sistema complejo de radares y computadoras que detectan misiles, cohetes o aviones y los ordenadores ponen en marcha un sistema de ataque que prioriza, selecciona y ataca de manera automática esta amenaza. Este sería un sistema robótico de arma automática. En este sistema el algoritmo de toma de decisiones sigue unas reglas programadas.

Los ordenadores ponen en marcha un sistema de ataque que prioriza, selecciona y ataca de manera automática

Si el sistema de decisiones no se basa en reglas determinadas, sino en un modelo de la realidad obtenido con redes neuronales de aprendizaje profundo (forma parte de la Inteligencia Artificial) diremos que el sistema es autónomo, las reglas no están programadas, el propio sistema aprende por sí mismo, a partir de analizar millones de informaciones (big data). Hay cinco tareas claves en estas armas: buscar (a los posibles enemigos), definir objetivos, hacer el seguimiento del objetivo, decidir atacar, y atacar. Lo que llamamos sistemas de armas autónomos se caracterizan por no tener ningún tipo de intervención humana en estas cinco tareas y en la toma de decisiones.

Estas nuevas armas están en fase de investigación y producción, todavía no se dispone de armas totalmente autónomas, pero ya existen sistemas de armas dotados de muchos grados de autonomía y en algunos casos tienen desconectada la decisión de matar, que ha quedado delegada en un humano.

Estos nuevos sistemas de armas autónomas nos sitúan en un escenario de deshumanización en delegar en una máquina la decisión de quién debe vivir o quién debe morir

Estos nuevos sistemas de armas autónomas nos sitúan en un escenario de deshumanización en delegar en una máquina la decisión de quién debe vivir o quién debe morir. Que una máquina tome esta decisión está en contra de la dignidad humana. Estas nuevas armas nos abren a un debate jurídico y ético. El debate jurídico se centra en si estos sistemas de armas autónomas pueden cumplir los tres pilares del Derecho Internacional Humanitario: por un lado, el principio de responsabilidad: si se produce un error o un crimen de guerra ¿quién es el responsable? Las víctimas ¿a quién pueden acusar? Por otro, el principio de proporcionalidad que analiza si los daños causados ​​son proporcionales a las ganancias militar o si los daños a civiles son excesivos. Finalmente, se atenta contra el principio de distinción, que obliga a distinguir entre combatientes y no combatientes, si puede distinguir entre un civil con miedo o un enemigo amenazante. En este debate jurídico nos encontramos con posiciones de los que piensan que la Inteligencia Artificial aún no ha podido responder a este reto de que los sistemas de armas autónomos estén programados para respetar el Derecho Internacional y el Derecho Internacional Humanitario, pero que es cuestión de tiempo y que hay que dejar continuar con la búsqueda. Otros alegan que, si tenemos presente el debate sobre las armas nucleares y que no ha habido suficiente consenso para ilegalizarlas o para comprometerse con eliminarlas, es necesario que no lleguemos a la misma situación: primero las creamos, después descubrimos el monstruo que hemos creado y luego no nos ponemos de acuerdo para ilegalizarlas. Por esta razón hay muchas organizaciones civiles, de científicos y de académicos que plantean considerarlas ilegales y prohibir estas nuevas armas antes de que existan. El sentido común nos invita, cuando no hay consenso, a aplicar el principio de precaución, y parar antes de que el daño sea irreversible, por lo tanto, prohibir el diseño y fabricación de armas autónomas.

Los defensores de las armas totalmente autónomas nos recuerdan que en situaciones de conflicto armado los humanos cometen vilezas como violar a mujeres o torturar a humanos, y que causarían menos bajas; pero también es cierto que las máquinas o los robots no estarán dotados de sentido común, intuición, lástima, compasión o culpabilidad, que son emociones que nos retraen a los humanos de cometer barbaridades. Podemos continuar con el debate de si la Inteligencia Artificial puede o no puede reproducir sentimientos o la ética humana en las máquinas. Muchos científicos y especialistas en Inteligencia Artificial creen que no es posible.

Estos sistemas de armas autónomas nos sitúan en un escenario de deshumanización. Decisiones sobre la vida o la muerte no pueden radicar en las máquinas

Estos sistemas de armas autónomas nos sitúan en un escenario de deshumanización. Es cierto que los humanos somos falibles, es cierto que los humanos podemos cometer atrocidades, pero esta es la característica esencial de los seres humanos. Decisiones sobre la vida o la muerte no pueden radicar en las máquinas, deben recaer en otro ser humano. La Inteligencia Artificial entrará a formar parte de nuestra vida pero este avance científico solo puede hacer posible un mundo mejor si va unido al bien común, si pone la dignidad humana y el cuidado del planeta en el centro.

Sobre este blog
Antimilitarimo y Noviolencia
Ver todas las entradas
Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Antimilitarismo
Banca armada La banca armada: a quién benefician las guerras que tú y yo pagamos
La campaña Banca Armada, que llega a Extremadura, nos recuerda cómo hacer posible que nuestro dinero deje de sostener la industria de la muerte a través de entidades financieras sin escrúpulos.
Antimilitarismo
Antimilitarismo Bruselas prepara la guerra
Es probable que en los próximos años la batalla política más decisiva que se libre en Europa, contra el militarismo y la guerra, sea entre el pueblo y las élites gobernantes, y nos parece muy difícil que la mayoría de los jóvenes europeos
Antimilitarismo
Industria armamentística Satlantis y la nueva industria militar vasca que fabrica las guerras
En este análisis queremos profundizar en otros aspectos relacionados con Satlantis, porque creemos que constituye un buen ejemplo para conocer los parámetros en los que se mueve en la actualidad una parte de la industria militar vasca.
Sobre este blog
Antimilitarimo y Noviolencia
Ver todas las entradas
Siria
Oriente Próximo Israel impone hechos consumados sobre Siria para condicionar la transición según sus intereses
“Está escrito que el futuro de Jerusalén es expandirse hasta Damasco”, dijo este octubre el ministro de Finanzas israelí, Bezalel Smotrich, uno de los exponentes ultras del Ejecutivo.
Ocupación israelí
Ocupación israelí Un tercio de los asesinatos de periodistas en 2024 fueron obra del ejército de Israel
Reporteros Sin Fronteras documenta la muerte de 18 periodistas en Palestina y Líbano este año “asesinados deliberadamente por hacer su trabajo” y habla de una “masacre sin precedentes” de profesionales del periodismo.
Galicia
Galicia Activistas de Greenpeace instalan ‘una celulosa’ en la sede de la Xunta en protesta contra Altri
Los ecologistas han realizado una acción en la sede del Gobierno gallego de Alfonso Rueda para animar a gallegos y gallegas a asistir a la manifestación de este domingo en la Praza do Obradoiro, en Santiago de Compostela.
Que no te cuenten películas
Comunidad El Salto Suscríbete a El Salto y llévate seis meses de regalo a Filmin
Estas navidades, haz posible que El Salto llegue más lejos con sus contenidos críticos y llévate de regalo medio año de Filmin. Y si ya tienes Filmin, suscríbete a El Salto y regala el acceso a esta plataforma a quien quieras.
Comunidad de Madrid
Educación pública El Gobierno de Ayuso recula y aplaza hasta junio los despidos masivos en Educación
Integradoras sociales, enfermeras, educadoras, auxiliares y otros perfiles de personal laboral se enfrentaban a la incertidumbre de ser cesados en plenas vacaciones de Navidad.
Comunidad de Madrid
Sanidad Pública Vecindario y trabajadoras se plantan contra la privatización de los servicios en el Doce de Octubre
Denuncian la suspensión de intervenciones quirúrgicas desde que la empresa Croma Gio. Batta gestiona la esterilización del material. Una concentración el próximo sábado 14 de diciembre a las 12 horas se opondrá a esta deriva privatizadora.

Últimas

Opinión
Opinión Lo raro es estar viva
¿De qué sirve agobiarse por ciertas pequeñeces si somos un punto mínimo, una huella desdibujada, un puntito sobre un folio en blanco con un boli bic que casi no pinta?
Ibex 35
Ibex 35 Las retribuciones de los grandes empresarios multiplican por 118 lo que ganan sus trabajadores
Los directores y ejecutivos de Inditex, Banco Santander, Iberdrola, Indra, CIE Automotive y otras empresas del Ibex 35 multiplican por cientos de veces los sueldos medios de sus empleados.
Personas sin hogar
Personas sin hogar El Ayuntamiento de Granada, APDHA y ‘La Calle Mata’ acuerdan un Plan de urgencia para las personas sin hogar
Después del encierro de decenas de activistas en el consistorio y la muerte de dos personas sin hogar en la calle en menos de 24 horas, el Ayuntamiento y las organizaciones civiles acuerdan un Plan de Urgencia para el frío de aplicación inmediata
Memoria histórica
Memoria histórica La parte oculta de las exhumaciones: la recuperación paso a paso del Fossar d’Alzira
Una exhumación va más allá de desenterrar huesos. Se necesita un equipo de expertos y meses de trabajo para identificar las víctimas del franquismo.

Recomendadas

Fronteras
Túnez Túnez endurece la represión contra las ONG de ayuda a las personas migrantes
Mientras el presidente Kaïs Saied se prodiga en discursos racistas, el estado persigue a las entidades solidarias con quienes llegan al país, bajo el silencio cómplice de la Unión Europea.
Galicia
Economía ¿Quién lidera el negocio del eucalipto en Galicia al que Altri quiere sumarse?
El estallido social que ha producido el intento de la multinacional Altri y la Xunta de instalar una nueva celulosa en Galicia abre la necesidad de poner el foco en el sector forestal, donde se encuentran algunas de las mayores fortunas del Estado.
Siria
Rojava El rompecabezas sirio que estalló en Alepo
El nuevo escenario sirio se ha gestado bajo la intervención implacable de Turquía, patrocinadora del Ejercito Nacional Sirio y otros grupos yihadistas que libran la guerra de Erdogan contra el pueblo kurdo.
Cine
Ramón Lluis Bande “Asturies tiene sin construir el relato de su tiempo revolucionario”
El cineasta Ramón Lluis Bande entiende la memoria histórica como un “camino de exploración formal infinito” y de reflexión sobre el propio lenguaje cinematográfico “en relación con la realidad, la historia, el arte y la política”.