¿Máquinas con poder para matar? La ONU y la Cruz Roja exigen frenar las armas con IA
El avance de la inteligencia artificial en el ámbito militar ha encendido las alarmas de organismos internacionales. La Organización de las Naciones Unidas (ONU) y el Comité Internacional de la Cruz Roja (CICR) han intensificado sus llamados para establecer normas que regulen el desarrollo y uso de armas autónomas, ante el riesgo de que las máquinas lleguen a tomar decisiones sobre la vida y la muerte de seres humanos sin intervención directa de una persona.
La preocupación surge por la creciente incorporación de sistemas tecnológicos capaces de identificar, seleccionar y atacar objetivos de manera autónoma. Aunque estas herramientas prometen mejorar la precisión de las operaciones militares, también plantean importantes cuestionamientos éticos, jurídicos y humanitarios, especialmente cuando se utilizan en escenarios donde la población civil puede resultar afectada.
El secretario general de la ONU, António Guterres, y la presidenta del CICR, Mirjana Spoljaric, han advertido que el desarrollo de estas tecnologías avanza más rápido que las regulaciones internacionales destinadas a controlar su utilización. Ambos representantes consideran urgente establecer límites claros antes de que estos sistemas se extiendan y su supervisión resulte cada vez más complicada.
Uno de los principales riesgos señalados por los organismos es la posibilidad de que un sistema automatizado cometa errores al identificar objetivos militares. La inteligencia artificial puede procesar grandes cantidades de información en pocos segundos, pero también puede interpretar incorrectamente determinados datos, actuar sobre información incompleta o generar resultados impredecibles.
Estas limitaciones adquieren especial importancia durante los conflictos armados, donde distinguir entre combatientes y civiles constituye una obligación fundamental del derecho internacional humanitario. Delegar estas decisiones en algoritmos podría incrementar el riesgo de ataques indiscriminados y dificultar la identificación de responsabilidades ante posibles violaciones de las normas internacionales.
Además, existe preocupación por la falta de transparencia de algunos sistemas de inteligencia artificial, cuyo funcionamiento puede resultar difícil de explicar incluso para sus propios operadores. Esta situación complica la posibilidad de determinar quién debe responder cuando una máquina ejecuta una acción que provoca víctimas o daños injustificados.
Ante este escenario, la ONU y la Cruz Roja impulsan la creación de un instrumento internacional jurídicamente vinculante que establezca prohibiciones y restricciones específicas para las armas autónomas. Entre las propuestas se encuentra impedir el uso de sistemas diseñados para atacar directamente a personas sin control humano, así como prohibir aquellos cuyo comportamiento no pueda predecirse o comprenderse adecuadamente.
Sin embargo, las organizaciones no plantean eliminar por completo la inteligencia artificial de las operaciones militares. Reconocen que determinadas aplicaciones tecnológicas pueden contribuir a mejorar la navegación, la precisión y otras funciones de los sistemas de defensa. La exigencia central consiste en garantizar que las decisiones relacionadas con el uso de la fuerza letal permanezcan bajo responsabilidad humana.
El debate cobrará especial relevancia durante la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, programada del 16 al 20 de noviembre de 2026 en Ginebra, Suiza. La reunión representa una oportunidad para que los Estados avancen hacia negociaciones formales que permitan establecer reglas internacionales sobre esta tecnología.
La presidenta del CICR ha insistido en que la comunidad internacional debe actuar antes de que las armas autónomas se desarrollen y multipliquen sin restricciones suficientes. Desde la perspectiva humanitaria, permitir que las máquinas determinen cuándo atacar a una persona podría representar una transformación profunda en la manera de conducir las guerras y en los mecanismos existentes para proteger la vida humana.
El desafío para los gobiernos consiste en encontrar un equilibrio entre el desarrollo tecnológico y la protección de los derechos fundamentales. Mientras la inteligencia artificial adquiere mayor protagonismo en los sistemas militares, aumenta también la necesidad de establecer mecanismos de supervisión, transparencia y rendición de cuentas.
La discusión internacional deja sobre la mesa una pregunta que trasciende los avances tecnológicos: hasta dónde debe permitirse que una máquina intervenga en decisiones que pueden terminar con una vida humana. Para la ONU y la Cruz Roja, la respuesta pasa por establecer límites jurídicos antes de que la autonomía de las armas reduzca de manera irreversible el control y la responsabilidad de las personas sobre el uso de la fuerza.