| Por Leandro Di Matteo |

Los Sistemas de Armas Autónomos Letales (SAAL) son sistemas de armamento que, mediante el uso de inteligencia artificial (IA), pueden operar en forma autónoma sin intervención humana una vez activados. Estos sistemas pueden variar desde drones aéreos hasta vehículos terrestres y submarinos. Su desarrollo ha sido impulsado por avances en tecnología de sensores, procesamiento de datos y algoritmos de aprendizaje automático.

Estos sistemas parecen sacados de películas y videojuegos, pero no lo son, y ya están entre nosotros.

En el mundo del cine, las películas de ciencia ficción como Terminator y RoboCop han explorado los peligros de las armas autónomas y los robots militares. En Terminator, las máquinas asesinas Skynet se rebelan contra la humanidad, mostrando el terror de una inteligencia artificial descontrolada. Por otro lado, RoboCop presenta un futuro donde una corporación desarrolla un policía cibernético autónomo, resaltando los dilemas éticos y los peligros del uso de robots en la aplicación de la ley y el combate militar. Estas historias subrayan los riesgos de depender excesivamente de tecnologías autónomas en contextos bélicos.

En el ámbito de los videojuegos, Detroit: Become Human y Horizon Zero Dawn destacan el uso de robots autónomos militares. En Detroit: Become Human, los androides desarrollan conciencia y se rebelan contra sus creadores, explorando las complejas cuestiones éticas de la inteligencia artificial. Horizon Zero Dawn presenta un futuro posapocalíptico donde máquinas autónomas, originalmente creadas para la guerra y la industria, se han descontrolado, amenazando la supervivencia de la humanidad. Ambos juegos ofrecen una mirada cautivadora a las posibles consecuencias de desarrollar y utilizar armas autónomas sin una supervisión adecuada.

Película: Terminator y Skynet.

Videojuego: Detroit: Become Human.

Historia y evolución

El concepto de armas autónomas no es nuevo. Desde la Guerra Fría, las naciones han explorado la automatización en sistemas defensivos, como los misiles teledirigidos y los sistemas antiaéreos. Sin embargo, el desarrollo reciente de la IA ha permitido un salto cualitativo en la autonomía y eficiencia de estas armas.

La guerra es algo repudiable en todos sus aspectos, pero de acuerdo a cómo se lo mire, este tipo de armamentos autónomos puede presentar algunas ventajas, pero grandes desafíos y riesgos.

Casos de estudio y ejemplos

Drones autónomos en conflictos modernos: en conflictos recientes, como ejemplo podemos tomar Irán e Israel, donde se ha reportado el uso de drones autónomos. Estos casos ofrecen lecciones sobre las capacidades y limitaciones actuales de los SAAL, así como sus implicaciones para la guerra moderna.

Dron autónomo de Estados Unidos.

Dron autónomo de Irán.

Sistemas defensivos autónomos: países como Israel han desarrollado sistemas defensivos autónomos, como la “cúpula de hierro”, que intercepta misiles y proyectiles enemigos. Estos sistemas han demostrado ser efectivos en la protección de civiles y propiedades, pero también plantean preguntas sobre su evolución hacia capacidades ofensivas.

“Cúpula de hierro” antimisiles en Israel.

La “cúpula de hierro” en acción.

Ventajas de los SAAL

Reducción de bajas humanas: una de las principales ventajas de las SAAL es su capacidad para llevar a cabo misiones peligrosas sin poner en riesgo vidas humanas. Esto podría reducir significativamente las bajas en conflictos armados.

Precisión y eficiencia: las SAAL pueden procesar grandes cantidades de información en tiempo real, lo que les permite tomar decisiones rápidas y precisas. Esto podría mejorar la eficiencia en operaciones militares y minimizar los daños colaterales.

Operación en entornos hostiles: estas armas pueden operar en entornos donde las condiciones son demasiado peligrosas o inhóspitas para los humanos, como áreas con radiación, sustancias químicas tóxicas o bajo el agua.

Desafíos y riesgos

Ética y moralidad: el uso de SAAL plantea serias preguntas éticas. ¿Es moral permitir que una máquina decida sobre la vida o la muerte? La falta de responsabilidad humana directa en la toma de decisiones letales es una preocupación central.

Errores y malfuncionamientos: los SAAL, aunque avanzados, no están exentos de errores. Un fallo en el sistema podría resultar en ataques no deseados contra civiles o aliados, causando tragedias y escalando conflictos.

Proliferación y acceso: la tecnología de los SAAL podría proliferar rápidamente y caer en manos de actores no estatales o grupos terroristas. Esto aumentaría significativamente el riesgo de conflictos armados y atentados a gran escala.

Marco legal y regulaciones internacionales

El Derecho Internacional Humanitario (DIH) establece normas para la conducta en conflictos armados, pero la integración de los SAAL plantea nuevos desafíos legales. Actualmente, no existe un consenso global sobre cómo regular estas armas. Diversos organismos internacionales, como las Naciones Unidas, están discutiendo posibles marcos regulatorios, pero las negociaciones son complejas debido a los intereses divergentes de los Estados.

En la actualidad se está tratando de impulsar diferentes iniciativas y propuestas.

Prohibición preventiva: algunos grupos de derechos humanos y organizaciones no gubernamentales abogan por una prohibición preventiva de los SAAL antes de que se desarrollen y desplieguen ampliamente.

Moratoria temporal: otros proponen una moratoria temporal en el desarrollo y uso de los SAAL hasta que se establezcan regulaciones claras y efectivas.

Regulación del uso: una alternativa es permitir el desarrollo de SAAL bajo estrictas regulaciones que aseguren su uso conforme al DIH, garantizando la supervisión humana en decisiones letales.

Los SAAL en la Cámara de Diputados

En 2022, en la Honorable Cámara de Diputados de la Nación Argentina, se expresó en una declaración una profunda preocupación por la militarización de la inteligencia artificial (IA) a nivel internacional (Stolbizer, et al.). La misma fue realizada por los diputados Margarita Stolbizer, Soher El Sukaria, Martín Berhongaray y Domingo Amaya. Se declara que el uso de estas armas plantea serias controversias éticas, legales y humanitarias.

Los fundamentos del proyecto destacan que, aunque la IA ha sido beneficiosa para el desarrollo mundial en muchas áreas, su aplicación en la militarización es inaceptable desde diversos puntos de vista. Durante la Convención sobre Ciertas Armas Convencionales (CCAC) en Ginebra, el Comité Internacional de la Cruz Roja (CICR) subrayó que los principales problemas de estos sistemas son la dificultad de anticipar y controlar sus efectos, los riesgos humanitarios y las complicaciones jurídicas para cumplir con el DIH.

Además, se menciona que el uso de SAAL podría exacerbar la deshumanización y la discriminación, ya que estudios indican que estos sistemas tienen tasas de error más altas en el reconocimiento de personas de piel oscura, especialmente mujeres. La comunidad internacional enfrenta el desafío urgente de negociar un instrumento jurídicamente vinculante que asegure un control humano significativo sobre el uso de la fuerza.

Declaración sobre los SAAL de Argentina en la ONU

En 2023, el Representante Permanente de la República Argentina en las Naciones Unidas, en este caso encabezado por Martín García Moritán, expresa desde la Cancillería la preocupación por este tipo de armamento y solicita su tratamiento (García Moritán, 2023).

Organizaciones internacionales

La ONU y la Cruz Roja han urgido a los Estados a establecer límites estrictos sobre el uso de armas autónomas, destacando la importancia de mantener el control humano en decisiones de vida o muerte. António Guterres, secretario general de la ONU, ha enfatizado que permitir que máquinas decidan matar sin intervención humana es una línea moral que no debe cruzarse, y ha abogado por la prohibición de tales armas bajo el derecho internacional. El objetivo es garantizar que la responsabilidad y la rendición de cuentas por decisiones letales no se transfieran a las máquinas, manteniendo la ética y la estabilidad regional al frente de estos desarrollos tecnológicos (Cruz Roja, 2021, 2022; ONU, 2023).

Amnistía Internacional destaca el devastador impacto del comercio imprudente de armas en las vidas humanas. A pesar del Tratado Internacional sobre el Comercio de Armas, la transferencia de armas sigue aumentando, alimentando abusos de derechos humanos. La organización denuncia la exportación irresponsable de armas a conflictos como Yemen, exacerbando crisis humanitarias. Amnistía insta a detener el flujo no regulado de armas y promueve un control estricto sobre su transferencia para prevenir violaciones de derechos humanos. Además, pide la prohibición de armas autónomas, resaltando la necesidad de mantener el control humano en decisiones de vida o muerte (Amnistía Internacional, 2023).

Open Global Rights también se suma a la discusión y expone su creciente preocupación por el uso de inteligencia artificial (IA) en armas autónomas. Destaca que la falta de consenso entre los Estados dificulta la regulación efectiva de estas tecnologías, a pesar de los esfuerzos de organizaciones de derechos humanos para establecer normas claras. La falta de definiciones precisas y las diferencias en enfoques legales complican aún más la creación de un marco regulador robusto. También se menciona el impacto devastador de estas armas en zonas de conflicto, subrayando la necesidad urgente de control y supervisión internacional para prevenir abusos de derechos humanos (Open Global Rights, 2022).

El futuro de los SAAL y la seguridad global

El futuro de los SAAL está lleno de incertidumbres. A medida que la tecnología avanza, es crucial que la comunidad internacional trabaje conjuntamente para establecer normas y regulaciones que mitiguen los riesgos y aseguren un uso responsable de estas armas.

Las innovaciones tecnológicas y la inteligencia artificial tendrán un impacto cada vez mayor. La evolución continua de la IA y el aprendizaje automático permitirá que los SAAL sean más precisos y autónomos.

Las fuerzas armadas de diversas naciones están evaluando la integración de los SAAL en sus arsenales. Esto podría cambiar radicalmente la naturaleza de los conflictos futuros, haciendo que las guerras sean más rápidas y letales. La cooperación entre naciones será esencial para evitar una carrera armamentista descontrolada. Iniciativas de transparencia y acuerdos multilaterales podrían ser claves para una gestión segura de los SAAL.

Conclusión

Las armas letales autónomas representan un avance significativo en la tecnología militar, con el potencial de transformar la guerra y la seguridad global. Si bien ofrecen ventajas claras en términos de eficiencia y reducción de bajas humanas, también presentan desafíos éticos, legales y de seguridad que deben ser abordados con urgencia. La comunidad internacional enfrenta la tarea crucial de regular estas tecnologías para asegurar un futuro donde la paz y la seguridad global no sean comprometidas por el avance de la inteligencia artificial en el ámbito militar.

Referencias bibliográficas

Amnistía Internacional (2023). Control de Armas. Recuperado el 20 de mayo de 2024 de https://www.amnesty.org/es/what-we-do/arms-control/
Cruz Roja (2022). Preguntas y respuestas: Lo que hay que saber sobre las armas autónomas. Recuperado el 20 de mayo de 2024 de https://www.icrc.org/es/document/preguntas-y-respuestas-sobre-armas-autonomas
Cruz Roja (2021). Posición del CICR sobre los sistemas de armas autónomos. Recuperado el 20 de mayo de 2024 de https://www.icrc.org/es/document/posicion-del-cicr-sobre-los-sistemas-de-armas-autonomos
García Moritán, M. (2023).Intervención del Representante Permanente de la República Argentina en las Naciones Unidas. Recuperado el 20 de mayo de 2024 de https://enaun.cancilleria.gob.ar/es/armas-convencionales
ONU (2023). La ONU y la Cruz Roja urgen a los Estados a poner límites al uso de las armas autónomas. Recuperado el 20 de mayo de 2024 de https://news.un.org/es/story/2023/10/1524637
Open Global Rights (2022). La IA y las transferencias de armas autónomas. Recuperado el 20 de mayo de 2024 de https://www.openglobalrights.org/ai-and-autonomous-weapons-arms-transfers/?lang=Spanish
Stolbizer M., El Sukaria S., Berhongaray M., y Amaya D. (2022). Proyecto de Declaración. Honorable Cámara de Diputados de la Nación. Recuperado el 20 de mayo de 2024 de https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2022/PDF2022/TP2022/5008-D-2022.pdf