Las máquinas, la guerra y el síndrome Kasparov
El veloz desarrollo de la industria tecnológica plantea la peligrosa hipótesis de dos ejércitos con armas inteligentes autónomas
En 1996, el campeón mundial de ajedrez Garry Kasparov fue batido por el ordenador Deep Blue de IBM. En aquel tiempo Kasparov ya utilizaba máquinas para entrenarse, pero quedó sorprendido con aquel desenlace. En 1997, se repitió el resultado; a partir de entonces, Kasparov supo de primera mano que para ganar a una máquina es necesaria otra máquina. Ahora inquieta que algo parecido pueda suceder en el plano militar.
En el pasado, los Gobiernos solían dedicar grandes presupuestos para el desarrollo de tecnología dirigida a la industria militar, con tal de conseguir una ventaja extra frente a potenciales adversarios. Eran sistemas a medida, que utilizaban muy pocos componentes críticos provenientes del ámbito civil. Gracias a estas inversiones en I+D, muchas innovaciones de calado transitaron desde la industria militar a la civil; internet o GPS son algunos ejemplos. Ahora parece que esta tendencia se va invirtiendo, quizá porque la industria civil es más rápida y creativa o porque los presupuestos están disparados para aplicar la antigua estrategia. En este sentido, las políticas friendshoring limitan el acceso a ciertos componentes críticos de mercado.
Un ejemplo son los satélites de inteligencia militar. En esta línea, la estrategia tradicional consistía en utilizar uno o dos satélites de inteligencia para el soporte de los recursos en un conflicto determinado. Pero en la guerra de Ucrania ha quedado patente que la solución civil es superior; el Starlink de Elon Musk ha sido un recurso crítico para el ejército ucraniano (además de proporcionar internet en cualquier parte), al estar configurado con una red de miles de pequeños satélites que le confieren mayor resiliencia que la alternativa tradicional, en cuanto a que el enemigo pueda abatir tantos satélites.
Lo mismo ocurre con ciertos semiconductores del ámbito civil, que se han propagado con éxito hacia su implantación en armas avanzadas. Y algo similar ocurre también con varias aplicaciones de software o el internet de las cosas, con la particularidad de que muchas de estas soluciones se benefician de la tecnología de gigantes como Google, Microsoft, Meta o Amazon, entre otros.
Curiosamente, estas compañías disfrutan de oligopolios aventajados en sus mercados, algo clave para poder desarrollar tecnologías en que el factor de escala es esencial. Este es el caso de aplicaciones para análisis de big data, ciberseguridad o inteligencia artificial (IA). Si se restringe el acceso a los datos se pierde efectividad. Es posible que este sea un motivo por el que algunos Gobiernos son más permisivos con las leyes antimonopolio, especialmente teniendo en cuenta el doble uso de estas tecnologías.
Al concluir la guerra fría, muchos países se favorecieron del denominado dividendo de la paz, un término popularizado por George H. W. Bush al final de los 80. Esta reducción paulatina en el gasto de defensa (respecto al PIB) se ha destinado presumiblemente hacia otros fines. Pero según el semanario The Economist, parece que la situación se está invirtiendo, con un tránsito hacia el denominado impuesto de guerra. Aunque es difícil de valorar, en 2022 el gasto en defensa global se estima que fue de dos billones de dólares, pero en un futuro cercano el presupuesto adicional podría estar entre 200.000 y 700.000 de millones de dólares por año.
Un fenómeno interesante ha pasado con la IA generativa, en dónde destacan aplicaciones como ChatGPT (participada por Microsoft) o Bard (Alphabet), entre otras. Parece que tanto Microsoft como Alphabet han sido relativamente prudentes en el desarrollo de esta tecnología; cuando tenían preparados sus modelos de IA generativa, destinaron recursos para probarlos intensamente frente a posibles respuestas no deseadas. Pero en estas condiciones, el momento clave surge cuando una de las empresas decide sacar al mercado el producto, en este caso ChatGPT. A partir de aquí, la otra se ve obligada a responder de inmediato con la misma acción (Alphabet, etc).
En este sentido, un escenario inquietante surge cuando dos ejércitos están dotados con potentes armas inteligentes y totalmente autónomas, que puedan decidir en cada momento que hacer, sin la presencia de un humano en el crítico bucle de decisión. Estas armas compiten en otra liga; todo pasa muy rápido y las consecuencias pueden ser inimaginables. En este escenario, en el momento en que haya una primera potencia que despliegue sus armas autónomas, otras se verán obligadas a responder de forma inmediata. Esta circunstancia recuerda la amarga experiencia vivida por Kasparov; sabía que no hay opción. Solo valen las máquinas contra las máquinas, todo es muy rápido y el humano es un obstáculo.
Parece como si el desenlace de esta historia estuviera escrito en alguna parte, aunque como en un buen thriller, no sabes cuando pasará.
Xavier Alcober Fanjul es ingeniero consultor
Sigue toda la información de Cinco Días en Facebook, Twitter y Linkedin, o en nuestra newsletter Agenda de Cinco Días