_

Uno de los temas más debatidos en el último año ha sido la inteligencia artificial (IA). Las tecnologías basadas en la IA se utilizan cada vez más en la vigilancia policial, el control de fronteras y la guerra, lo que plantea graves problemas éticos, morales y jurídicos. Esta situación se verá agravada por el desarrollo de sistemas de armas autónomas (AWS, por sus siglas en inglés), que son sistemas que seleccionan y aplican la fuerza contra objetivos sin necesidad de intervención humana. Activistas y responsables políticos llevan más de una década pidiendo la prohibición de los AWS, pero sus esfuerzos han encontrado oposición, sobre todo por parte de Estados con industrias que se benefician del desarrollo de estas tecnologías. Las industrias tecnológicas y armamentísticas han fomentado y se han beneficiado enormemente de la retórica de la «carrera armamentística de la IA», que se basa en gran medida en nociones militaristas y patriarcales de la seguridad. Estos actores, así como otros que forman parte del complejo militar-industrial, han perpetuado una narrativa en torno a la necesidad de tecnologías y armas basadas en la IA, argumentando que sus adversarios, especialmente China, ya las están desarrollando. El discurso en torno a la inevitabilidad de la guerra impulsada por la IA, a su vez, crea tensiones entre los Estados y obstaculiza el avance hacia la redacción de normas acordadas multilateralmente contra el desarrollo y el uso de las armas autónomas.

En este contexto, es importante cuestionar las nocivas narrativas en torno a una «carrera armamentística de la IA» exponiendo sus fuerzas motrices —en particular el ánimo de lucro—, y su impacto en la negociación de la prohibición de las armas autónomas. Para ello, este artículo explorará en primer lugar las principales preocupaciones en torno a las tecnologías y armas basadas en IA, en particular los AWS, y los esfuerzos por prohibirlas en el seno de las Naciones Unidas (ONU). A continuación, abordará uno de los escollos para el avance de esos esfuerzos: la retórica de la «carrera armamentística de la IA» alentada por actores del complejo militar-industrial, que se benefician enormemente de ella. Por último, analizará precedentes que fueron exitosos en contrarrestar estas narrativas y crear prohibiciones en torno a otros tipos de armas, con la esperanza de que proporcionen el camino para prohibir las armas autónomas.

Hace unos meses, +972 Magazine y Local Call revelaron el uso de sistemas de generación de objetivos mediante IA por parte de Israel en los bombardeos contra palestinos en Gaza [1].[1] Goodfriend, S., +972 Magazine. Why human agency is still central to Israel’s AI-powered warfare [Por qué la intervención humana sigue siendo fundamental en la guerra israelí impulsada por la IA]. (25 abril de 2024. Disponible aquí: https://www.972mag.com/israel-gaza-lavender-ai-human-agency/ Los medios de comunicación informaron de que un sistema llamado «Habsora», o «El Evangelio», señala edificios y estructuras que supuestamente cumplen una función militar. También informaron de que otro sistema denominado «Lavender» genera decenas de miles de objetivos humanos mediante el uso de datos adquiridos a través de una amplia vigilancia de los palestinos. La organización Visualizing Palestine ha creado un sitio web interactivo que explica cómo funcionan estos sistemas, analizando también un sistema de seguimiento automatizado conocido como «¿Dónde está papá?», que vigila la ubicación del «objetivo» y, una vez que llega a casa, envía una orden de asesinato a la Fuerza Aérea israelí [2].[2] Killer AI [Inteligencia Artificial asesina], Visualizing Palestine. Mayo de 2024. Disponible aquí: https://stopkiller.ai

Estos sistemas plantean varios problemas éticos, morales y jurídicos. Visualizing Palestine explica que «Lavender» categoriza a los individuos en función de su comportamiento social y sus características personales, reduciendo a las personas a meros conjuntos de datos, deshumanizándolas. Además, los agentes que manejan estos sistemas no emplean más de 20 segundos en revisar las recomendaciones de «Lavender», a menudo limitándose a comprobar si el objetivo es varón. El sistema «¿Dónde está papá?» se utiliza específicamente para bombardear objetivos cuando están en casa, matando también a sus familias y vecinos. En las seis primeras semanas de la guerra contra Gaza, cuando estos sistemas generaban miles de objetivos al día, Israel mató a más de 15.000 palestinos. Más de la mitad de ellos pertenecían a 1.340 familias que fueron atacadas dentro de sus propias casas [3].[3] Ídem.

El uso de sistemas de apoyo a la toma de decisiones mediante IA en Gaza ilustra una tendencia en todo el mundo. En una sociedad impregnada de desigualdad, la IA se está utilizando como medio de control social, vigilancia masiva y discriminación. Por ejemplo, en Australia [6],[6] Mao, F. Robodebt: Illegal Australian welfare hunt drove people to despair [La caza ilegal de la asistencia social en Australia llevó a la gente a la desesperación]. BBC, 7 de julio de 2023. Disponible aquí: https://www.bbc.com/news/world-australia-66130105 Jordania [7][7] Stauffer, B. World Bank/ Jordan, Poverty Targeting Algorithms Harm Rights [Banco Mundial Jordania: Los algoritmos contra la pobreza perjudican los derechos], Human Rights Watch.Disponible aquí: https://www.hrw.org/news/2023/06/13/world-bank/jordan-poverty-targeting-algorithms-harm-rights y los Países Bajos [8][8] Amnistía Internacional. Dutch childcare benefit scandal an urgent wake-up call to ban racist algorithms [El escándalo de las prestaciones de guardería en Holanda, una llamada de atención urgente para prohibir los algoritmos racistas]. 25 de octubre de 2021. Disponible aquí: https://www.amnesty.org/en/latest/news/2021/10/xenophobic-machines-dutch-child-benefit-scandal/ hay casos de daños causados por el uso de la IA en el sector público a la hora de determinar el acceso a la asistencia sanitaria y social. Cuando se utiliza en la vigilancia policial o el control de fronteras, la IA también provoca discriminación y perjuicios. La práctica de la «policía predictiva», que implica la recopilación de grandes cantidades de datos personales y se basa en algoritmos con sesgos raciales incorporados, conduce a la persecución y al trato sistemáticamente injusto de las personas negras o racializadas [9].[9] Heaven, W. D. Predictive policing algorithms are racist. They need to be dismantled [Los algoritmos policiales predictivos son racistas. Hay que desmantelarlos]. 17 de julio de 2020. Disponible aquí: https://www.technologyreview.com/2020/07/17/1005396/predictive-policing-algorithms-racist-dismantled-machine-learning-bias-criminal-justice/ La IA también ha exacerbado la discriminación cuando se ha utilizado para vigilar los movimientos de los migrantes en la frontera entre Estados Unidos y México: Las autoridades estadounidenses han estado utilizando sistemas de identificación autónomos y biométricos que rastrean la ubicación de las personas utilizando datos de los dispositivos electrónicos del personal de fronteras y las matrículas de los vehículos, lo que plantea graves problemas de privacidad [10].[10] Surveillance Technology at the U.S.-Mexico Border [Tecnología de vigilancia en la frontera entre EE.UU. y México], An EFF Zine. (n.d.). Electronic Frontier Foundation, disponible aquí: https://www.eff.org/pages/zine-surveillance-technology-us-mexico-border

La IA también se utiliza para perseguir a comunidades marginadas. En Estados Unidos, la ciudad de San José está entrenando a la IA para reconocer tiendas de campaña y coches con personas viviendo en su interior, lo que suscita preocupaciones obvias sobre la discriminación y la posible criminalización de las personas sin hogar [11].[11] Feathers, T. Revealed. A California city is training AI to spot homeless encampments [Una ciudad californiana entrena a la IA para detectar campamentos de personas sin hogar]. The Guardian, 25 de marzo de 2024. Disponible aquí: https://www.theguardian.com/technology/2024/mar/25/san-jose-homelessness-ai-detection Otra herramienta que ha agudizado el potencial discriminatorio de la IA es el reconocimiento facial, utilizado por la policía y las fuerzas de seguridad para perseguir a comunidades racializadas en varias ciudades del mundo [12].[12] Ban the Scan New York City [Prohibir el escáner Nueva York]. Amnistía Internacional. Disponible aquí: https://banthescan.amnesty.org/nyc/ Hay numerosos informes de errores causados por la tecnología que han dado lugar a detenciones y encarcelamientos injustos, afectando de manera desproporcionada a las mujeres negras o racializadas [13].[13] Press, E. Does A.I. Lead Police to Ignore Contradictory Evidence? [¿La inteligencia artificial lleva a la policía a ignorar pruebas contradictorias?]. The New Yorker, 13 de noviembre de 2023. Disponible aquí: https://archive.ph/fNvSX#selection-527.0-527.55 La Algorithmic Justice League, una organización que investiga las implicaciones sociales y los daños causados por la IA, ha investigado muchos otros casos de sistemas de IA que perpetúan el racismo, el sexismo, el capacitismo y otras formas de discriminación.

Violencia automatizada

La ya problemática categorización de las personas por las tecnologías de IA empeorará con el aumento de la autonomía de los sistemas de armamento. Aunque no existe una definición reconocida internacionalmente, los AWS pueden considerarse «sistemas que seleccionan y aplican la fuerza a objetivos sin necesidad de intervención humana» [14].[14] Comité Internacional de la Cruz Roja (ICRC). ICRC position on autonomous weapon systems [Posición del CICR sobre los sistemas de armas autónomas]. Mayo de 2021. Disponible aquí: https://www.icrc.org/en/document/icrc-position-autonomous-weapon-systems Utilizan sensores —como el peso, la huella térmica o los patrones de movimiento— y cotejan esta información con un «perfil de objetivo» —una combinación de datos que puede incluir emisiones infrarrojas, así como la forma o información biométrica de una persona u objeto [15].[15] Killing my machine: Key issues for understanding meaningful human control [Matar a mi máquina: Cuestiones clave para entender el control humano significativo]. Article 36, abril de 2015. Si los datos captados por los sensores coinciden con el perfil del objetivo, la máquina ataca.

Otras empresas desarrollan sistemas cada vez más autónomos [19].[19] Automated Decision Research. Weapons systems [Sistemas armamentísticos]. Disponible aquí: https://automatedresearch.org/weapons-systems/ Eric Schmidt, ex consejero delegado de Google, fundó su propia empresa militar de IA que, según se informa, ha estado haciendo pruebas en secreto con un avión guiado por inteligencia artificial en los suburbios de Silicon Valley y en Ucrania [20].[20] Emerson, S., y Nieva, R. Eric Schmidt Is Secretly Testing AI Military Drones In A Wealthy Silicon Valley Suburb [Eric Schmidt está probando en secreto drones militares con inteligencia artificial en un rico suburbio de Silicon Valley]. Forbes, 6 de junio de 2024. Disponible aquí: https://www.forbes.com/sites/sarahemerson/2024/06/06/eric-schmidt-is-secretly-testing-ai-military-drones-in-a-wealthy-silicon-valley-suburb/#

Estos sistemas plantean varios problemas éticos, morales y jurídicos. Como señala Ray Acheson, los AWS «permitirán aún más a la policía y a los militares seleccionar a personas basándose únicamente en su sexo, apariencia, ubicación o comportamiento, definiendo a categorías enteras de personas como militantes, terroristas o criminales sin ningún respeto por el debido proceso» [21].[21] Women’s International League for Peace and Freedom (WILPF). Submission to the UN Secretary-General’s Report on Autonomous Weapon Systems [Contribución al informe del Secretario General de las Naciones Unidas sobre los sistemas de armas autónomos]. Mayo de 2024. Disponible aquí: https://www.reachingcriticalwill.org/images/documents/Publications/wilpf-submission-unsg-report-aws.pdf Los AWS también reforzarán las estructuras de desigualdad existentes al basarse en algoritmos que fomentan sesgos y reproducen los prejuicios presentes en los datos y las estructuras sociales.

La falta de comprensión y previsibilidad puede tener implicaciones para el cumplimiento del Derecho Internacional, incluido el Derecho Internacional Humanitario (DIH) y el Derecho Internacional de los Derechos Humanos (DIDH). Esto se debe a que los AWS son impredecibles, ya que el usuario humano no elige el objetivo específico ni el momento o la ubicación precisos de un ataque. También plantean problemas de comprensibilidad, ya que muchas tecnologías de IA y aprendizaje automático pueden presentar una «caja negra», lo que hace imposible saber cómo se toman las decisiones. Esto también genera problemas relacionados con la rendición de cuentas [22].[22] Stop Killer Robots. Problems with autonomous weapons [Problemas con las armas autónomas].Disponible aquí: https://www.stopkillerrobots.org/stop-killer-robots/facts-about-autonomous-weapons/

Debido a estas preocupaciones y a muchas otras, académicos y otros actores de la sociedad civil, organizaciones internacionales y varios Estados han venido reclamando la negociación de un tratado que prohíba los sistemas de armas autónomas y el aprendizaje automático. El proceso para impulsar este tratado, sin embargo, se ha visto bloqueado hasta ahora por unos pocos Estados que desarrollan activamente tecnologías de AWS.

Bloqueo en Naciones Unidas

Los debates en torno a la regulación de los AWS han tenido lugar en las Naciones Unidas en el marco de la Convención sobre prohibiciones o restricciones al empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados, también conocida como «Convención sobre ciertas armas convencionales» (CCW, por sus siglas en inglés). La CCW se adoptó en 1980 para prohibir las armas que causan sufrimientos innecesarios o injustificados o que afectan indiscriminadamente a la población civil. Su estructura sigue la forma de una «convención paraguas», que contiene un cuerpo con normas generales y cinco protocolos anexos que establecen prohibiciones y restricciones en torno a tipos específicos de armas. Esta estructura permite flexibilidad y longevidad, ya que pueden negociarse nuevos protocolos para abarcar nuevos avances tecnológicos y metodológicos en la guerra.

En 2013, los Estados parte de la CCW acordaron celebrar una primera reunión en 2014 centrada en los AWS. Volvieron a reunirse para debatir la cuestión en 2015 y 2016. En 2017, los Estados decidieron crear un Grupo de Expertos Gubernamentales (GEG) sobre Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés). Desde entonces, los Estados se reúnen para debatir la cuestión todos los años en la sede de las Naciones Unidas en Ginebra, Suiza.

En el aspecto jurídico, algunas delegaciones, entre ellas India, Israel, Rusia y Turquía, sostienen que el derecho internacional actual es suficiente para regular los sistemas de armas autónomas [23].[23] Acheson, R. (2023). Application of International Humanitarian Law [Aplicación del Derecho Internacional Humanitario]. In CCW Report (Vol. 11, n. 2). Reaching Critical Will. Disponible aquí: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2023/gge/reports/CCWR11.2.pdf Creen que no se necesitan más normas que las ya existentes «leyes de la guerra» o el Derecho Internacional Humanitario. Detrás de este argumento, se esconde la intención de explorar posibles lagunas o falta de claridad para defender la legalidad de estas armas y su consiguiente despliegue y uso. Por el contrario, la gran mayoría de los Estados consideran que son necesarias nuevas normas que aclaren y especifiquen cómo se aplica el DIH a los AWS. También creen que es necesario crear nuevas normas para abordar los riesgos más amplios y las preocupaciones éticas fundamentales que plantean estas armas.

Otra controversia ha sido el alcance de la prohibición. ¿Deben prohibirse todos los sistemas de armas autónomas? ¿Qué pasa con los que tienen cierto grado de intervención humana? ¿Qué nivel exactamente sería necesario para que fueran aceptables? Las respuestas a estas preguntas difieren según las delegaciones: algunas, como Alemania, Bulgaria, Dinamarca, Francia, Italia, Luxemburgo y Noruega, afirman que deberían prohibirse los sistemas que operan «completamente fuera del control humano y de la silla de mando responsable», junto con los sistemas que no pueden cumplir el DIH. Otras, como Argentina, Colombia, Costa Rica, Ecuador, El Salvador, Filipinas, Guatemala, Kazajstán, Nigeria, Palestina, Panamá, Perú, Sierra Leona y Uruguay, piden la prohibición de las armas que no pueden utilizarse con un «control humano significativo» [24].[24] Véase la propuesta de Bulgaria y otros aquí: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2024/gge/documents/WP3.pdf
Véase la propuesta de Argentina y otros aquí: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2023/gge/documents/WP6.pdf

Este último es un concepto por el que han abogado académicos, el Comité Internacional de la Cruz Roja (CICR) y varias organizaciones de la sociedad civil, entre ellas la campaña Stop Killer Robots —integrada por más de 250 organizaciones de todo el mundo. Los impulsores de esta campaña defienden que todos los sistemas de armamento deben tener un «control humano significativo», lo que implica que el usuario humano debe ser capaz de entender, predecir y explicar cómo funcionará el AWS y poder anticipar y limitar sus efectos. Si un sistema no puede utilizarse con un control humano significativo, debe prohibirse.

Las organizaciones de la sociedad civil también han reclamado normas específicas para mantener un control humano significativo sobre el uso de la fuerza. Esto iría más allá de un ejercicio de «marcar casillas» y tendría que garantizar que un sistema de armas es predecible, comprensible y tiene restricciones en el ámbito temporal y geográfico y en la escala de uso [26].[26] Connolly, C. Advocating for A Legally Binding Instrument on Autonomous Weapons Systems: Which Way Ahead [Abogar por un instrumento jurídicamente vinculante sobre los sistemas de armas autónomos: ¿Qué camino queda por recorrer?]. Ethics and Armed Forces, 2024/01. Disponible aquí: https://www.ethikundmilitaer.de/en/magazine-datenbank/detail/01-2024/article/advocating-for-a-legally-binding-instrument-on-autonomous-weapons-systems-which-way-ahead

Otra controversia en el ámbito del debate en la CCW ha sido si este instrumento debe ser jurídicamente vinculante o no. Jurídicamente vinculante significa que un Estado está obligado por ley a cumplir el acuerdo. Una idea opuesta es la de un instrumento voluntario, por el que los Estados no están legalmente obligados. Mientras que más de 120 Estados están a favor de negociar un instrumento jurídicamente vinculante que prohíba y regule los sistemas de armas autónomas, una minoría de Estados está en contra. Australia, Canadá, Japón, la República de Corea, el Reino Unido y Estados Unidos han presentado una propuesta de «Proyecto de Artículos», que no tiene carácter jurídicamente vinculante [27].[27] Véase la propuesta aquí: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2023/gge/documents/USothers_March2023.pdf India, Israel y Rusia también están en contra de un instrumento jurídicamente vinculante y, como señala la iniciativa Automated Decision Research, todos estos Estados están implicados en el desarrollo de sistemas de armas con funciones autónomas [28].[28] Posición de los Estados. Automated Decision Research. Disponible aquí: https://automatedresearch.org/state-positions/?_state_position_negotiation=no

A las puertas de la CCW, los especuladores de la guerra fabrican el miedo

En abril de 2024, el gobierno de Austria celebró en Viena una conferencia titulada «La humanidad en la encrucijada: Los sistemas de armas autónomas y el desafío de la regulación». En la inauguración de la conferencia, el Ministro Federal de Asuntos Europeos e Internacionales de Austria, Alexander Schallenberg, dijo que este era «el momento Oppenheimer de nuestra generación», refiriéndose a la rápida velocidad del desarrollo y uso de tecnologías basadas en IA en el campo de batalla. Advirtiendo sobre las implicaciones legales, humanitarias y éticas de estas armas, hizo un llamamiento a los Estados para que acuerden urgentemente reglas y normas internacionales que garanticen el control humano sobre los AWS.

Curiosamente, esta misma expresión, «momento Oppenheimer», fue también utilizada por Alex Karp, director general de Palantir, una empresa armamentística estadounidense, en un artículo publicado en The New York Times el 25 de julio de 2023. A diferencia del ministro austriaco, Karp compara favorablemente las armas de IA con las armas nucleares para defender su desarrollo, utilizando argumentos de disuasión falsos y problemáticos, como que «Para ser coercitiva, la violencia tiene que ser anticipada». Critica a los empleados de las empresas tecnológicas que se han negado a desarrollar tecnología para ser utilizada en armas, y añade que cualquier esfuerzo por frenar el desarrollo de armas habilitadas para la IA acabaría provocando la caída de Estados Unidos y de otras sociedades democráticas.

Las interpretaciones opuestas del «momento Oppenheimer» —un gobierno que expresa la necesidad de una regulación urgente antes de que se produzcan más daños, mientras que una empresa armamentística lo ve como una oportunidad y defiende firmemente su desarrollo— es una buena muestra de los intereses contrapuestos que han estado obstaculizando el progreso de la regulación de estas armas.

El complejo militar-industrial (MIC, por sus siglas en inglés) lleva años lucrándose con las armas y la guerra; se trata de un sistema de corrupción legalizada que no sólo sigue existiendo, sino que continúa creciendo. Los académicos David Vine y Theresa Arriola resumen así el funcionamiento del MIC en Estados Unidos (EE.UU):

«En primer lugar, el Congreso nos quita cada año a los contribuyentes sumas exorbitantes de dinero y se las da al Pentágono. En segundo lugar, el Pentágono, bajo la dirección del Congreso, entrega enormes cantidades de ese dinero a los fabricantes de armas y a otras corporaciones a través de contratos demasiado lucrativos, regalándoles decenas de miles de millones de dólares en beneficios. En tercer lugar, esos contratistas utilizan una parte de los beneficios para presionar al Congreso a fin de obtener más contratos del Pentágono, que el Congreso suele estar encantado de conceder, perpetuando un ciclo aparentemente interminable» [29].[29] Vine, D., y Arriola, T. The Military-Industrial Complex Is Killing Us All [El complejo militar-industrial nos está matando a todos], Tom Dispatch. 2 de junio de 2024. Disponible aquí: https://tomdispatch.com/the-military-industrial-complex-is-killing-us-all/

Aunque existen ciclos similares en otros países, el funcionamiento de la maquinaria bélica en Estados Unidos, que implica a los congresistas, la industria armamentística y el ejército, ha demostrado ser el más rentable del mundo. Cada vez que se libra una guerra en algún lugar del mundo, estos actores ganan más dinero. No es difícil ver que se benefician de una retórica de perpetua inseguridad, en la que es necesario un mayor gasto militar para prepararse para un ataque inminente de algún enemigo.

El presupuesto militar estadounidense para 2024 asciende a 886.000 millones de dólares [30].[30] Singh, K. Biden signs $886 billion US defense policy bill into law [Biden promulga una ley de defensa de 886.000 millones de dólares]. Reuters, 22 de diciembre de 2023. Disponible aquí: https://www.reuters.com/world/us/biden-signs-886-billion-us-defense-policy-bill-into-law-2023-12-22/#:~:text=WASHINGTON%2C%20Dec%2022%20(Reuters),China%20in%20the%20Indo%2DPacific Sin embargo, la cifra total estimada de gasto militar es mucho mayor, alcanzando los 1,5 billones de dólares, si se tiene en cuenta la seguridad nacional, la atención a los veteranos y otros costes extra [31].[31] Vine, D., y Arriola, T. The Military-Industrial Complex Is Killing Us All [El complejo militar-industrial nos está matando a todos]. Tom Dispatch, 2 de junio de 2024. https://tomdispatch.com/the-military-industrial-complex-is-killing-us-all/ Gran parte de este presupuesto se destina a los cinco mayores contratistas militares —Lockheed Martin, Northrop Grumman, Raytheon (RTX), Boeing y General Dynamics—, pero la demanda de tecnologías militares basadas en IA y servicios de computación en la nube ha provocado un aumento de la financiación a la industria tecnológica, incluyendo a Microsoft, Amazon, Google, Oracle, Hewlett Packard, Dell, Motorola e IBM, así como a cientos de pequeñas empresas de nueva creación apoyadas por firmas de capital riesgo [32].[32] González, R. J. How Big Tech and Silicon Valley are Transforming the Military-Industrial Complex [Cómo las grandes tecnológicas y Silicon Valley están transformando el complejo militar-industrial]. Costs of War, Watson Institute of International and Public Affairs of Brown University. 17 de abril de 2024. Disponible aquí: https://watson.brown.edu/costsofwar/papers/2024/SiliconValley

De hecho, estas empresas se han asegurado importantes ingresos con este discurso. Se calcula que Alphabet, la empresa matriz de Google, se ha asegurado contratos con el Departamento de Defensa estadounidense por valor de al menos 4.300 millones de dólares entre 2018 y 2022 [34].[34] Poulson, J. Militaries, Intelligence Agencies, and Law Enforcement Dominate U.S. and U.K. Government Purchasing from U.S. Tech Giants [Los ejércitos, las agencias de inteligencia y las fuerzas del orden dominan las compras de los gobiernos de EE.UU. y el Reino Unido a los gigantes tecnológicos estadounidenses]. Tech Inquiry, 5 de septiembre de 20222. Disponible aquí: https://techinquiry.org/docs/InternationalCloud.pdf Palantir tiene múltiples contratos con los departamentos militares y policiales estadounidenses, así como con Israel, habiendo incluso ampliado su apoyo después de octubre de 2023 en la guerra genocida contra los palestinos (no por casualidad, las acciones de Palantir subieron más del 170% en 2023) [35].[35] González, R. J. How Big Tech and Silicon Valley are Transforming the Military-Industrial Complex [Cómo las grandes tecnológicas y Silicon Valley están transformando el complejo militar-industrial]. Costs of War, Watson Institute of International and Public Affairs of Brown University. 17 de abril de 2024. Disponible aquí: https://watson.brown.edu/costsofwar/papers/2024/SiliconValley Anduril, que comenzó en el negocio proporcionando a la administración Trump torres de vigilancia impulsadas por IA a lo largo de la frontera mexicana y ahora se centra en el desarrollo de tecnologías autónomas para la guerra, se ha asegurado varios contratos importantes con agencias militares y de inteligencia de Estados Unidos, incluido un acuerdo de 99 millones de dólares con el Departamento de Defensa de Estados Unidos y un contrato a diez años de 967 millones de dólares con el Comando de Operaciones Especiales [36].[36] Mehta, A. Anduril Nabs DIU ‘Service’ Contract For Counter-Drone AI [Anduril obtiene un contrato de «servicios» de DIU para inteligencia artificial contra drones]. Breaking Defense, 27 de julio de 2021. Disponible aquí: https://breakingdefense.com/2021/07/anduril-nabs-diu-service-contract-for-counter-drone-ai/ Estas empresas también han conseguido grandes sumas por parte de inversores de capital riesgo [37].[37] González, R. J. How Big Tech and Silicon Valley are Transforming the Military-Industrial Complex [Cómo las grandes tecnológicas y Silicon Valley están transformando el complejo militar-industrial]. Costs of War, Watson Institute of International and Public Affairs of Brown University. 17 de abril de 2024. Disponible aquí: https://watson.brown.edu/costsofwar/papers/2024/SiliconValley

Esta retórica de la carrera armamentística de la IA ha sido rápidamente recogida por otros actores de la industria del armamento y por los políticos. Sam Altman, consejero delegado de OpenAI, se ha opuesto a la regulación de la IA argumentando que «ralentiza la industria estadounidense de tal forma que China u otro avance más rápido» [38].[38] Toner, H., Xiao, J., y Ding, J. The Illusion of China’s AI Prowess [La ilusión de la destreza china en IA]. Foreign Affairs, 2 de junio de 2023. Disponible aquí: https://www.foreignaffairs.com/china/illusion-chinas-ai-prowess-regulation-helen-toner Alex Wang, de Scale AI, dijo recientemente en una conferencia que «la tecnología avanza extremadamente rápido, y tienes a tus adversarios que también avanzan superrápido» [39].[39] Echols, C. Killer AI is a patriotic duty? Silicon Valley comes to Washington [¿La IA asesina es un deber patriótico? Silicon Valley llega a Washington]. Responsible Statecraft, 2 de mayo de 2024. Disponible aquí: https://responsiblestatecraft.org/defense-tech-startups/ En la misma conferencia, el senador estadounidense Todd Young argumentó que los estadounidenses tendrían que hacerse a la idea de drones de IA que tomen «decisiones de vida o muerte» porque sus enemigos seguramente harán lo mismo [40].[40] Ídem.

Sin embargo, la historia demuestra que la búsqueda de la «superioridad militar» se ha basado a menudo en falsas estimaciones de las capacidades de los enemigos. En su libro «The Doomsday Machine: Confesiones de un planificador de la guerra nuclear», Daniel Ellsberg escribe cómo los oficiales militares estadounidenses de la década de 1960 estimaron erróneamente las capacidades nucleares de la Unión Soviética, presionando para el desarrollo de aún más misiles para cerrar la «brecha de misiles» [41].[41] Ellsberg, D. (2017). The doomsday machine: Confessions of a nuclear war planner [La máquina del juicio final: Confesiones de un planificador de la guerra nuclear]. Bloomsbury. William Hartung y otros expertos advierten de que se está produciendo un escenario similar en relación con la inteligencia artificial, argumentando que se ha exagerado la importancia del progreso tecnológico de China y que el objetivo de Estados Unidos debería ser prevenir una guerra, no planificar escenarios para «ganarla» [42].[42] Véase: Hartung, W. Hyped China fears are driving a high-tech arms race [El miedo a China impulsa una carrera armamentística de alta tecnología]. Responsible Statecraft, 6 de diciembre de 2023. Disponible aquí: https://responsiblestatecraft.org/china-arms-race/ y Toner, H., Xiao, J., y Ding, J. La ilusión de la destreza china en IA. Foreign Affairs, 2 de junio de 2023. Disponible aquí: https://www.foreignaffairs.com/china/illusion-chinas-ai-prowess-regulation-helen-toner

También necesitan seguir influyendo en la política exterior con nociones militarizadas de seguridad, para que su negocio se considere esencial. Así que hacen donaciones a think tanks y centros universitarios que, a su vez, perpetúan la retórica de la «carrera armamentística de la IA» y la necesidad de más armas y gasto militar. González [44][44] González, R. J. How Big Tech and Silicon Valley are Transforming the Military-Industrial Complex [Cómo las grandes tecnológicas y Silicon Valley están transformando el complejo militar-industrial]. Costs of War, Watson Institute of International and Public Affairs of Brown University. 17 de abril de 2024. Disponible aquí: https://watson.brown.edu/costsofwar/papers/2024/SiliconValley pone el ejemplo de dos think tanks —el Center for a New American Security (CNAS) y el Center for Strategic and International Studies (CSIS)— financiados por fabricantes de armas como Lockheed Martin, Northrop Grumman y RTX, así como por gigantes tecnológicos como Alphabet-Google, Microsoft, Amazon, Meta-Facebook y Apple. Ambas organizaciones han producido abundante material relacionado con las capacidades de IA de China.

En el ámbito de las armas nucleares también se han planteado cuestiones éticas sobre los grupos de reflexión que reciben donaciones de fabricantes de armas. La Campaña Internacional para Abolir las Armas Nucleares (ICAN, por sus siglas en inglés) descubrió que, en 2023, las empresas productoras de armas nucleares donaron más de 6 millones de dólares estadounidenses a los principales grupos de reflexión que investigan y escriben sobre armas nucleares [45].[45] Aumento: 2023 Gasto mundial en armas nucleares. International Campaign to Abolish Nuclear Weapons (ICAN), Junio de 2014. Disponible aquí: https://assets.nationbuilder.com/ican/pages/4079/attachments/original/1718371132/Spending_Report_2024_Singles_Digital.pdf?1718371132 ICAN también destacó que los empleados actuales y antiguos de estas empresas forman parte de las juntas directivas y consejos asesores de los think tanks, y que también forman parte de las juntas directivas de las instituciones financieras que tienen importantes inversiones en sus empresas.

Todos estos actores contribuyen a reforzar la política exterior de los Estados basada en nociones militarizadas de seguridad. Esto, a su vez, afecta a las negociaciones para la prohibición de los AWS, ya que los Estados militarizados se niegan a aceptar cualquier intento que vaya en contra de sus intereses en el desarrollo de estos sistemas. Aunque la CCW no ha tenido éxito a la hora de crear prohibiciones en torno al desarrollo de los AWS, los éxitos del pasado en la prohibición de armas pueden servir de inspiración para el camino hacia la prohibición de los AWS.

Aprovechar los éxitos anteriores

Aunque no se ha avanzado en la negociación de un tratado que prohíba las armas autónomas, no es el primer punto muerto en las Naciones Unidas cuando se trata de prohibir armas. Tras varios años intentando establecer una prohibición absoluta de las minas terrestres en la Convención sobre Armas Convencionales, un grupo de Estados con ideas afines, encabezados por Canadá, organizaciones internacionales y la Campaña Internacional para la Prohibición de las Minas Terrestres (ICBL), iniciaron el «Proceso de Ottawa», que finalmente desembocó en el Tratado de Prohibición de Minas en 1997.

Esta colaboración también fue un componente clave del proceso que condujo a la adopción del Tratado sobre la Prohibición de las Armas Nucleares (TPNW, por sus siglas en inglés) en 2017. Tras años de frustración con el Tratado de No Proliferación Nuclear (TNP), en el que los Estados con armas nucleares se niegan a cumplir su compromiso de desarme, los activistas nucleares y las víctimas del uso y los ensayos de armas nucleares comenzaron a abogar por un nuevo tratado que prohibiera las armas nucleares de una vez por todas. Tras años de lucha por parte de la ICAN, en 2016 la Asamblea General de la ONU decidió por abrumadora mayoría iniciar negociaciones sobre un tratado de prohibición de las armas nucleares. Estas negociaciones concluyeron el 7 de julio de 2017 en Nueva York, cuando 122 Estados votaron a favor de la adopción del Tratado. El 21 de enero de 2020, el Tratado entró en vigor [47].[47] Para conocer de primera mano el proceso que condujo al TPNW, véase Acheson, R. (2021). Banning the bomb, smashing the patriarchy [Prohibir la bomba, acabar con el patriarcado]. Rowman & Littlefield Publishing Group.

Los procesos de adopción de estos tratados variaron; los dos primeros fueron «procesos autónomos» liderados por un Estado —Canadá con las minas terrestres y Noruega con las municiones en racimo—, mientras que el TPNW se adoptó por votación en la Asamblea General de la ONU. Sin embargo, tienen varios puntos en común: entre ellos, el hecho de que priorizaron la protección de la seguridad y el bienestar de las personas en lugar de los Estados —un enfoque conocido como «desarme humanitario»— y el hecho de que se alejaron de organismos en los que los Estados militarizados utilizaban la norma del consenso como instrumento de veto para bloquear los avances.

Es importante señalar que el hecho de que los principales Estados militarizados no se adhieran inmediatamente a un tratado, no es un impedimento para adoptarlo en primer lugar. Las últimas décadas han demostrado que el Tratado de Prohibición de Minas, la CMR y la TPNW han sido eficaces a la hora de crear un estigma en torno a las minas terrestres, las municiones de racimo y las armas nucleares, respectivamente. Por ejemplo, incluso los países que no son parte de la CMR han cesado la producción y el uso de bombas de racimo [49].[49] Docherty, B. Cluster Munitions and the Impact of International Law [Las municiones de racimo y el impacto del Derecho Internacional]. Human Rights Watch, 29 de junio de 2023. Disponible aquí: https://www.hrw.org/news/2023/06/29/cluster-munitions-and-impact-international-law Desde la adopción del Tratado de Prohibición de Minas y la CMR, se han destruido 1,5 millones de municiones de racimo y 55 millones de minas terrestres antipersona [50].[50] Véase: Coalición contra las municiones de racimo (CMC), agosto de 2023. https://backend.icblcmc.org/assets/reports/Cluster-Munition-Monitors/CMM2023/Downloads/Cluster-Munition-Monitor-2023_Web-1.pdf y Campaña Internacional para la Prohibición de las Minas Terrestres (ICBL), noviembre de 2023, Monitor de minas terrestres 2023, disponible aquí: https://www.the-monitor.org/reports/landmine-monitor También se ha llevado a cabo una importante labor de asistencia a las víctimas y de reparación del medio ambiente en el ámbito de aplicación de los tres tratados.

Las normas voluntarias no desmantelarán el complejo militar-industrial. Las normas jurídicamente vinculantes pueden proporcionar algunas herramientas útiles para lograr este objetivo: crean una prohibición legal ante la que los Estados pueden rendir cuentas, pueden crear un estigma en torno a ciertas armas y comportamientos, y crean marcos para la asistencia a las víctimas y la reparación medioambiental, entre otras cosas. Al negociar y adoptar un tratado que prohíba los AWS, el mundo tiene la oportunidad de desafiar nociones nocivas de seguridad y situar a las personas y al planeta por encima de los beneficios. Éstas son las ideas que, con el tiempo, desmantelarán el complejo militar-industrial.

Desafiar los discursos de inevitabilidad

Es importante exponer el funcionamiento de la maquinaria bélica para comprender que las narrativas creadas en torno a la inevitabilidad de una «carrera armamentística de la IA», o de un mundo en el que se normalice la guerra impulsada por la IA, no pertenecen a otro lugar que a las mentes de los especuladores de la guerra. Es necesario refutar y cuestionar sistemáticamente estas narrativas porque, de lo contrario, siguen alimentando la idea de que una carrera armamentística es inevitable y que cualquier intento de detenerla, incluida la prohibición de los AWS, sería inútil. La prohibición de las armas autónomas es urgente y totalmente posible.

Mientras que nociones nocivas de seguridad han motivado a los Estados a manipular la regla del consenso a su favor dentro de la CCW, casos anteriores de éxito en la prohibición de minas terrestres, municiones de racimo y armas nucleares demuestran que una prohibición es posible cuando los Estados llevan las negociaciones a órganos más democráticos, donde la mayoría mundial no es rehén de las potencias militares. Los Estados deben basarse en los éxitos anteriores y alejarse de la Convención, llevando las negociaciones a un órgano más democrático, como la Asamblea General de la ONU, donde cada país tiene un voto. El mundo no puede permitirse esperar más.

·

COMPARTIR: