La integración de la inteligencia artificial en los arsenales militares está acelerando la toma de decisiones y reduciendo drásticamente el margen de juicio humano, incluso en escenarios de riesgo nuclear. El martes, la Organización de las Naciones Unidas (ONU) alertó sobre esta evolución tecnológica, cuya rapidez supera la capacidad de las reglas internacionales actuales para establecer controles efectivos.
Lo que debe saber
- La ONU advierte que la IA reduce el margen de juicio humano en decisiones militares y nucleares.
- Se lanzará un léxico común y un foro permanente con Suiza y Pakistán para facilitar la diplomacia.
- El marco de conducta para empresas tecnológicas será de carácter voluntario.
El impacto en la toma de decisiones militares
Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR), advirtió durante una rueda de prensa en Nueva York que la guerra dirigida por máquinas es una realidad cada vez más cercana. Según explicó, el peligro no reside únicamente en la existencia de robots asesinos totalmente autónomos, sino en una transformación estructural de las operaciones militares donde la IA interviene en casi todas las etapas.
Estas tecnologías están presentes desde el análisis de inteligencia y la identificación de objetivos hasta el pilotaje de drones y la ejecución de ciberataques. Geiss señaló que, al acortarse los ciclos de decisión para ajustarse a la velocidad de las máquinas, se incrementan los riesgos de errores de cálculo, fallos técnicos y escaladas involuntarias. En un enfrentamiento entre potencias nucleares, una decisión basada en un análisis erróneo procesado a alta velocidad podría generar consecuencias catastróficas.
El papel de las empresas privadas en la carrera armamentística
La ONU subrayó que la distribución del poder militar está siendo moldeada por un número reducido de Estados y empresas privadas que desarrollan estas tecnologías. La fiabilidad y el comportamiento de estos sistemas en el terreno dependen de decisiones tomadas por industriales mucho antes de que los equipos sean desplegados por los ejércitos. “La guerra dirigida por máquinas se acerca cada vez más, y la pregunta que se nos plantea es, sencillamente: ¿vamos a dejar que las máquinas seleccionen y maten a seres humanos?”, dijo Robin Geiss, según recogió Noticias ONU.
“La guerra dirigida por máquinas se acerca cada vez más, y la pregunta que se nos plantea es, sencillamente: ¿vamos a dejar que las máquinas seleccionen y maten a seres humanos?”
— Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR), según recogió Noticias ONU
Para abordar esta situación, el UNIDIR está preparando un marco de conducta responsable dirigido específicamente a las empresas del sector. Esta iniciativa, elaborada junto con la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, busca proponer recomendaciones prácticas basadas en el derecho internacional y en los principios de la ONU sobre empresas y derechos humanos.
Sin embargo, estas recomendaciones serán de carácter voluntario. El objetivo de la ONU es orientar a una industria cuyas innovaciones avanzan más rápido que las negociaciones diplomáticas. El Instituto planea asociar a esta iniciativa a diversos actores, incluyendo:
- Grandes grupos de defensa.
- Jóvenes empresas tecnológicas.
- Desarrolladores de software.
- Subcontratistas e inversores.
- Gobiernos y sociedad civil.
Riesgos de proliferación y obstáculos diplomáticos
Otra preocupación central es el acceso de actores no estatales a tecnologías que antes estaban reservadas a ejércitos avanzados. Según Geiss, grupos con malas intenciones ya utilizan la IA para facilitar la planificación, ejecución y logística de sus operaciones. Las organizaciones terroristas y redes criminales podrían ejecutar ataques sofisticados con recursos limitados, aprovechando que los controles de exportación actuales no logran frenar capacidades digitales de fácil acceso.
Para mitigar esto, el UNIDIR, junto con el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR) y Austria, lanza una reflexión sobre los medios para impedir estas desviaciones sin restringir los usos pacíficos de la tecnología. A pesar de estos esfuerzos, la diplomacia enfrenta obstáculos significativos debido a las rivalidades entre grandes potencias, lo que dificulta la creación de reglas comunes.
Para intentar destrabar las negociaciones, el UNIDIR lanzará este viernes un proyecto de léxico común. El objetivo es unificar términos como “autonomía”, “fiabilidad” o “seguridad”, ya que actualmente los gobiernos interpretan estos conceptos de maneras muy diferentes, lo que frena el consenso. Además, el jueves se inaugurará un foro permanente con Suiza y Pakistán para reunir a Estados, industriales e investigadores en un espacio de concertación sobre los desafíos militares de la IA.
A pesar del panorama complejo, Geiss destacó algunos avances. En septiembre, Estados Unidos propuso a China una línea de comunicación para incidentes de IA que amenacen la seguridad nacional. Asimismo, los repetidos llamamientos del Secretario General de la ONU, António Guterres, a un tratado jurídicamente vinculante sobre armas autónomas encuentran un eco creciente en la comunidad internacional.
