Armas con cerebro

¿Cuál es la gran amenaza que plantea la inteligencia artificial para la humanidad? ¿Que un robot cirujano totalmente autónomo deje sin trabajo a los médicos? ¿Que un descendiente de ChatGPT, el conversador digital de moda, apruebe los exámenes con más nota que el empollón de la clase? ¿Que los sistemas de aprendizaje automático no solo nos ganen al ajedrez, al go y al póker, sino que encima superen a los artistas y a los científicos en profundidad y capacidad creativa? Nada de eso. La gran amenaza es la que expresó el secretario general de la ONU, António Guterres, en marzo de 2019: “Las máquinas con el poder y el criterio para matar sin implicación humana son políticamente inaceptables y moralmente repugnantes, y la ley internacional debe prohibirlas”. No lo ha hecho.

El armamento dotado de inteligencia artificial ya es una realidad, y la guerra de Ucrania está sirviendo como un macabro campo de pruebas para medir sus poderes. Ucrania utiliza cuadricópteros (drones de cuatro hélices) para arrojar granadas a los soldados rusos. Los rusos lanzan enjambres de misiles contra los hospitales, las plantas energéticas y los edificios civiles ucranios. La verdadera carrera de armamentos no reside aquí en el tamaño ni la carga explosiva de estas armas, sino en su minúsculo cerebro electrónico, cada vez menos dependiente de sus controladores humanos, más autónomo, más capaz de tomar sus propias decisiones. La tendencia conducirá inevitablemente a la pesadilla de Guterres: máquinas que localicen, seleccionen y maten a sus objetivos sin la menor supervisión humana. Un futuro tenebroso en verdad.

No habrá que esperar mucho para verlo, a menos que la prohibición propuesta por la ONU se negocie y se implante en un tiempo récord, lo que sería verdaderamente insólito en el campo minado de la política internacional. En realidad, toda la tecnología necesaria está lista. Las máquinas ya saben planear estrategias, navegar entre edificios, reconocer objetivos y coordinarse entre sí para atacar. Los drones de reconocimiento utilizados en Ucrania ya son enteramente autónomos, y solo habría que añadirles una bomba para que se convirtieran en agentes letales sin supervisión humana. Por fortuna, ninguna de las dos partes lo ha hecho de momento. Un enjambre de misiles autónomos se puede considerar un arma de destrucción masiva, y esa es la otra línea roja, junto al armamento nuclear, que nadie se ha atrevido a cruzar.

La compañía SpaceX de Elon Musk está poniendo al servicio de Ucrania la información de su red de satélites, y hay otras dos empresas estadounidenses menos famosas, Anduril y Palantir, que se han sumado al campo de pruebas ucraniano. Anduril, que fabrica drones, submarinos autónomos y redes de inteligencia artificial, está suministrando sistemas a Ucrania. Palantir, fundada por el filósofo Alex Karp, vende también sistemas autónomos al ejército ucranio, directamente y como parte de la red de inteligencia de la OTAN.

Cabe preguntarse por qué las armas autónomas suscitan un temor mayor que las controladas por una docena de generales que rara vez habrán sido ascendidos al cargo por la altura de sus convicciones éticas. Puede ser un buen tema para una mesa redonda, pero la respuesta fácil es seguramente que las máquinas son más baratas que los soldados.