El secretario general de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja (CICR), Mirjana Spoljaric, renovaron su pedido para establecer prohibiciones y restricciones internacionales sobre los sistemas de armas autónomas, ante el rápido avance de la inteligencia artificial aplicada a la guerra.
"Nos encontramos peligrosamente cerca de cruzar una línea roja moral: el ataque autónomo de máquinas contra seres humanos", señalaron Guterres y Spoljaric en un llamamiento conjunto difundido el martes. El documento advierte que el desarrollo tecnológico de los sistemas militares avanzó a una velocidad récord y que la distancia entre sus capacidades y las regulaciones existentes se amplió en los últimos años.
El pronunciamiento se produjo, además, en medio de reportes todavía no confirmados sobre la utilización en campos de batalla de drones completamente autónomos y sistemas guiados por inteligencia artificial. Naciones Unidas advirtió que la carrera hacia una mayor autonomía de las armas "ya está en marcha" y no constituye una amenaza reservada para un futuro lejano.
Qué buscan prohibir la ONU y la Cruz Roja
El planteo no propone prohibir toda aplicación de inteligencia artificial a sistemas militares. Guterres y el CICR reclaman un instrumento internacional jurídicamente vinculante que establezca prohibiciones claras para determinadas categorías de armas y restricciones estrictas para las restantes.
El CICR propone prohibir especialmente los sistemas autónomos cuyos efectos no puedan ser suficientemente comprendidos, previstos y explicados, así como aquellos diseñados o utilizados para atacar directamente a seres humanos.
El problema central es la pérdida de control humano sobre el uso de la fuerza. Una vez activadas, las armas autónomas pueden seleccionar objetivos y aplicar fuerza a partir del procesamiento de sensores sin que una persona intervenga directamente en la decisión específica de atacar.
Para la ONU y el CICR, esta situación plantea interrogantes no solamente humanitarios sino también jurídicos y éticos: cuanto mayor sea la autonomía de las máquinas, más difícil puede resultar determinar responsabilidades cuando se producen errores o violaciones del derecho internacional humanitario.
La inteligencia artificial acelera la carrera armamentística
El nuevo llamado se produce tres años después de que Guterres y Spoljaric realizaran en 2023 un primer pedido conjunto para que los países negociaran un instrumento jurídicamente vinculante antes de finales de 2026.
Desde entonces, sostienen, la situación se volvió más urgente. Las tecnologías avanzadas comenzaron a ocupar un lugar cada vez mayor en los conflictos armados y existe una carrera internacional por desarrollar sistemas capaces de operar con niveles crecientes de autonomía.
Los propios científicos e ingenieros involucrados en el desarrollo de estas tecnologías también expresaron preocupación por sus posibles consecuencias. "Cuando los arquitectos de esta tecnología piden límites, los Estados no pueden permitirse permanecer pasivos", señalaron Guterres y Spoljaric.
Noviembre, una fecha clave para regular las armas autónomas
El próximo paso podría producirse en noviembre, cuando se celebre en Ginebra la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales (CCW).
La ONU y el CICR consideran que ese encuentro representa la oportunidad más clara para que los Estados acuerden iniciar formalmente negociaciones destinadas a elaborar un instrumento vinculante sobre armas autónomas.
Durante los últimos años ya hubo discusiones en la Asamblea General de Naciones Unidas y en el Grupo de Expertos Gubernamentales de la CCW. Según el CICR, esos trabajos permitieron avanzar hacia criterios compartidos sobre cuánto juicio y control humano deben mantenerse sobre las decisiones de uso de la fuerza.
Ahora, Guterres y Spoljaric reclaman pasar de las discusiones a una negociación concreta. "Este año debe marcar un punto de inflexión", afirmaron.
"La innovación debe servir a la humanidad, no ponerla en peligro", concluyeron en su llamado conjunto.