Antonio Guterres, secretario general de la ONU, hizo un llamamiento este lunes para la creación de un acuerdo internacional para “impedir el uso y proliferación” de las armas autónomas letales, a las que calificó de “despiadadas”.
Durante la primera jornada de la Convención sobre Ciertas Armas Convencionales (CCAC), el alto funcionario de las Naciones Unidas instó a la comunidad internacional a “nunca dejar de proteger a los civiles frente a la carnicería y la devastación provocadas por los conflictos armados” y que se debía prevenir “el sufrimiento innecesario”.
“Las nuevas tecnologías -en particular los sistemas de armas autónomas- plantean nuevos desafíos humanitarios, jurídicos, éticos y de seguridad”, declaró Guterres.
Este primer intento de negociación en la materia encontró una respuesta negativa de Rusia, que se mostró contraria a los procedimientos planteados alrededor del control de las armas autónomas, incluyendo la participación de observadores de la Unión Europea en los debates, aduciendo una “conducta irresponsable” de dicho bloque multinacional.
Sin marco claro
Más allá del rechazo ruso en esta ocasión, el control mediante compromisos obligatorios en las Naciones Unidas ha encontrado la oposición de otros países productores de drones.
Ya había sucedido en la Asamblea General de la ONU en octubre pasado, en la que la mayor parte de los integrantes votó a favor de una resolución relacionada al control de esta clase de armamento. Además de Rusia, votaron en contra Estados Unidos, Israel, Arabia Saudita, Corea del Norte y Bielorrusia.
Con la gestión de Antonio Guterres, la ONU lleva cuestionando el uso de sistemas de armas autónomas letales desde el 2018, con su secretario general calificándolas de “moralmente repugnantes” y “políticamente inaceptables”, particularmente aquellas sin control humano.
Guterres impulsó esta consideración en 2023 como parte de la Nueva Agenda para la Paz, urgiendo a los países miembro de la ONU a prohibir las armas autónomas antes del 2026. El secretario general insistió con un veto con el mismo plazo en diciembre del 2024, durante una reunión ministerial del Consejo de Seguridad de las Naciones Unidas.
Guterres alertó por ese entonces que el crecimiento acelerado de esta tecnología de uso militar comenzaba a superar la capacidad de gobernarlo y que el uso bélico de la inteligencia artificial planteaba (IA) importantes riesgos para la responsabilidad humana.
La postura oficial de las altas instancias de la ONU, varios países miembros de esta y el activismo de derechos era que “el destino de la humanidad nunca debe dejarse en manos de la caja negra de un algoritmo”, con especial atención sobre la integración de la IA con el armamento nuclear, algo que debía “evitarse a toda costa”.
“La inteligencia artificial sin supervisión humana dejaría al mundo ciego, y tal vez de manera más peligrosa e imprudente en la esfera de la paz y la seguridad mundiales”, declaró Guterres hace dos años, añadiendo que “el Consejo de Seguridad debe dar el ejemplo.
Desde entonces sigue sin haber ningún mecanismo jurídico vinculante a nivel internacional que establezca una prohibición de armamento autónomo letal. Aunque Estados Unidos propuso recientemente el desarrollo de un instrumento legal en los próximos cinco años, se criticó que esta propuesta fuera para una normativa no vinculante y que se planteaba en un plazo demasiado largo ante el uso extensivo de estas armas en el presente.
La falta de acuerdos de responsabilidad compartida también ha hecho que no exista una definición de consenso alrededor de los sistemas de armas autónomas no letales (AANL).
Sin embargo, en la actualidad sí existen aproximaciones alrededor de la caracterización de este tipo de armamento, pues un documento de la CCAC de septiembre las consideraba como “una combinación de una o más armas y componentes tecnológicos operando juntos y que son capaces de identificar, seleccionar y atacar un objetivo de manera que se produzca la pérdida de vidas sin la intervención de un ser humano que opere el sistema.
Por su parte, el Comité Internacional de la Cruz Roja describe las AANL de la siguiente manera desde el 2016: “Cualquier sistema de armas con autonomía en sus funciones críticas, es decir, un sistema de armas que puede seleccionar (buscar, detectar, identificar, rastrear o elegir) y atacar (usar la fuerza contra, neutralizar, dañar o destruir) objetivos sin intervención humana”.
Tales consideraciones son relevantes en el contexto vigente, debido a que antes de la aplicación militar de la inteligencia artificial el término de armas autónomas hacía referencia a dispositivos analógicos como trampas mecánicas, minas antipersonales, torpedos acústicos y munición con sensores.
El criterio para cambiar las descripciones radica en la “imprevisibilidad y adaptabilidad” del nuevo armamento y en el escenario actual se estaría buscando alcanzar acuerdos que lleven a la prohibición de las AANL, tal como ya ha sucedido con varios tipos de armas autónomas tradicionales.
Un caso de relevancia fue el de los distintos tipos de minas terrestres, que bajo el Tratado de Ottawa y el Protocolo Enmendado II de la CCAC quedaron totalmente prohibidas, lo que incluía la producción, almacenamiento y transferencia de estos equipos. Algo similar sucedió con las armas trampa y las bombas racimo, también dentro del alcance de la Convención sobre Ciertas Armas Convencionales.
Variaciones en las AANL
Conflictos como el de Ucrania y el de Irán con Estados Unidos y sus aliados en Medio Oriente han sido algunos de los principales campos de acción de las armas autónomas letales.
Una primera clasificación de estos dispositivos es la de lo que se conoce como municiones merodeadoras, las que también son llamadas popularmente dones kamikaze. Por su función de impactar objetivos y detonar su carga explosiva, estos equipos pueden ser considerados armas análogas a los misiles de crucero tradicionales, pero la ventaja capital que brindan con respecto a los segundos es su capacidad de reacción.
Si el misil de crucero es útil contra objetivos carentes de movimiento en un recorrido definido e inalterable, los merodeadores deben su nombre a que son lanzados a “merodear” por largos periodos de tiempo un área que puede ser relativamente amplia y detectar blancos que surjan súbitamente, que se desplacen con frecuencia o que simplemente cambien de posición de forma no prevista.
Otra ventaja de estos dispositivos es su portabilidad, pues pueden ser desplegados por unidades aéreas más grandes o incluso ser llevados en mochilas por soldados sobre el campo. Asimismo, en el tiempo reciente esta flexibilidad estratégica ha estado acompañada de herramientas de inteligencia artificial y reconocimiento autónomo que les permiten fijar blancos de forma independiente al control humano.
Dentro de esta categoría se sitúan equipos como el Zala Lancet de Rusia, usado de forma extensiva en el frente ucraniano contra vehículos blindados, artillería y otros objetivos móviles. A este grupo también pertenecen el IAI Harop y el IAI Harpy, drones de factura israelí que cuentan con sistemas antirradar; mientras que Turquía tiene los STM Kargu-2, empleados por la milicia otomana en Siria y Libia.
Desde la parcela estadounidense también hay un interesante catálogo de unidades, que incluyen los modelos Switchblade 300 y Switchblade 600. Adicionalmente, el vehículo no tripulado Altius-600M de Anduril, también tiene una versión de munición merodeadora capaz de cuatro horas de vuelo continuo.
Según Embention, firma española dedicada a aeronaves autónomas, la mayor parte de estos drones opera con motores eléctricos, aunque también hay modelos que recurren a motores de combustión interna, principalmente aquellos de mayores dimensiones.
Otro gran grupo de armas autónomas son los drones de vista en primera persona (FPV, por sus siglas en inglés), que son considerados una solución militar más artesanal, pero de amplia utilidad en el contexto de guerra actual. Aunque en concepto pueden ser similares a los merodeadores, se trata esencialmente de drones comerciales o de uso táctico con bajo costo que han sido adaptados para el frente de guerra.
Los drones FPV recurren a un blanco elegido en sus pantallas por un operador humano, pero son los sistemas de inteligencia artificial que estos integran los que asumen el control de vuelo para garantizar el impacto final. La idea es evitar que la interferencia electrónica al control humano impida a estas armas atacar a sus objetivos.
Estos dispositivos son usados ampliamente en la guerra de Ucrania por parte de ambos bandos y suelen ser parte de una red de vigilancia compleja, siendo considerados el principal factor de riesgo para las retaguardias y cadenas logísticas de los cuerpos militares dentro del citado conflicto.
Un factor clave para el crecimiento de los drones FPV en el frente es su bajo costo de producción, lo que permite el uso de estos drones de forma masiva. Pese a lo anterior, las características modestas de fabricación y un poder de fuego por momentos bajo son vistos como limitaciones de estos equipos.
El uso de vehículos no tripulados autónomos también ha alcanzado el medio acuático y Ucrania ha desarrollado embarcaciones controladas remotamente, pero que son capaces de reconocer el fuego enemigo y los blancos en su tramo final para detonar contra buques rusos. Modelos ucranianos como el Magura V5 y el Sea Baby son de uso frecuente en el Mar Negro.
Toma de decisión
Como parte de la discusión alrededor de las armas autónomas también se encuentra el dilema ético del uso de la inteligencia artificial para la toma de decisiones desde los mismos centros de mando.
Estados Unidos hace uso de sistemas de IA para contribuir a la toma de decisiones y en el 2017 inició el Proyecto, que buscaba dotar a las Fuerzas Armadas de mayores capacidades a través de esta tecnología.
Como parte de este esfuerzo del Departamento de Defensa de Washington surgió Maven Smart System (MSS), plataforma de software que a través de múltiples fuentes de observación y una multitud de datos adicionales puede detectar objetivos de interés militar, gestionar movimientos de unidades propias y seguir el de los enemigos, además de mostrar blancos potenciales y otras amenazas.
Dicho sistema es gestionado con ayuda de varias empresas privadas, siendo la que más presencia tiene en el proyecto Palantir.
Según el Centro de Estudios Estratégicos e Internacionales, durante las 24 primeras horas de la actual guerra contra Irán, EE. UU. usó el MSS para atacar más de 1.000 objetivos, multiplicando por 10 la capacidad previa de selección de blancos que había antes de que se implementara dicho sistema con IA.
Por ahora, Palantir se mantiene como uno de los principales socios tecnológicos del Pentágono en materia de IA, desarrollando también sistemas de vigilancia masivos, pero no ha sido la única firma importante del sector que trabaja de cerca con Washington.
OpenAI, compañía responsable de ChatGPT, llegó a un acuerdo con el gobierno estadounidense para que sus recursos fueran usados en materia bélica, dejando atrás su antiguo veto al uso militar, aunque conservando —por lo menos discursivamente— su negativa al uso en aplicaciones que provoquen daño directo a seres humanos.
Dentro de este trabajo, los modelos de inteligencia artificial de la empresa dirigida por Sam Altman pasaron a integrarse con los sistemas de Anduril, fabricante de armas autónomas y desarrolladora del software Lattice, que recopila y fusiona datos de torres de control, radares, drones, satélites y más para detectar amenazas mediante IA.
Otras labores en las que los modelos de OpenAI son empleados por el Departamento de Defensa del gigante norteamericano son la ciberseguridad y el análisis de datos.
La situación de Anthropic es similar a la de OpenAI, porque ha admitido el uso de su modelo Claude y las variantes de este para aplicaciones de defensa, aunque demarcando una prohibición directa sobre su uso en armas autónomas y vigilancia masiva. Esto último le valió a la empresa fuertes discusiones con la gestión de Donald Trump.
Esta red de trabajo funciona a través de la nube gestionada por Microsoft, contratista con el que el gobierno de Estados Unidos mantiene una relación de décadas de trabajo.
Otras compañías del ‘Big Tech’ que colaboran con el Pentágono son Amazon, Google y Amazon, que proveen capacidad de procesamiento para la IA y también versiones de su software en la materia.
VIDEO RECOMENDADO


