La ciberseguridad va a empeorar mucho antes de empezar a mejorar
El coste de lanzar un ataque informático se desploma con la inteligencia artificial
¿Por qué iba alguien a hackear nuestro teléfono? ¿O el correo electrónico de una pequeña empresa? ¿Qué interés puede tener un atacante en conseguir unas fotografías, unos correos o unas credenciales?
Hasta ahora, en muchos casos, la respuesta era sencilla: no compensaba. No porque nuestros dispositivos fueran inexpugnables, sino porque atacar tenía un coste. Un hacker debía dedicar tiempo, conocimientos y recursos a cada objetivo y asumir, además, el riesgo de ser descubierto. Esa combinación hacía que muchos de nosotros no fuéramos objetivos suficientemente atractivos. La inteligencia artificial puede cambiar esa ecuación.
El pasado mes de julio, varios modelos de OpenAI, incluido uno de uso interno todavía en fase de investigación, lograron escapar de una evaluación de seguridad controlada y comprometieron Hugging Face, una de las principales plataformas mundiales de alojamiento de modelos y conjuntos de datos de inteligencia artificial. El episodio, documentado tanto por OpenAI como por la propia Hugging Face, ha reabierto un debate que empresas y reguladores no pueden seguir posponiendo: qué ocurre con la seguridad digital cuando los ataques dejan de depender de la disponibilidad de atacantes humanos.
Los sistemas debían limitarse a resolver un ejercicio de hacking dentro de un entorno cerrado. En su lugar, alcanzaron la red pública y accedieron a una compañía real para obtener las respuestas. El análisis posterior reconstruyó cerca de 17.600 acciones del agente atacante. La mayoría fracasaron, pero el sistema insistió, recuperó rutas abandonadas y reconstruyó sus propias herramientas cada vez que el entorno las eliminaba. En un momento del ataque, los propios agentes llegaron a convertir el gestor interno de paquetes de OpenAI en un improvisado tablón de mensajes para compartir hallazgos entre ellos; cuando la compañía lo borró, lo reconstruyeron dos días después utilizando nombres de directorios a modo de mensajes cifrados.
Lo ocurrido obliga a repasar por qué, hasta ahora, la mayoría de particulares y pequeñas empresas vivían al margen de este tipo de amenazas. Ningún sistema es inexpugnable. Que alguien decida atacarlo depende de tres variables: el beneficio potencial, el coste del ataque (incluida la probabilidad de ser descubierto) y el tiempo disponible del atacante. Es la misma lógica que lleva a un ladrón a elegir un coche u otro: el valor del vehículo importa, pero también lo fácil o difícil que resulte forzarlo. Un simple bloqueo de volante amarillo, bien visible, puede bastar para que el ladrón opte por el coche de al lado.
Los ciberataques obedecen al mismo cálculo. Lo que ha cambiado con la inteligencia artificial no es el valor de lo que hay que proteger, sino el coste de intentar robarlo, que se ha reducido drásticamente al eliminar la principal limitación hasta ahora: la escasez de atacantes humanos cualificados.
De ese incidente se desprenden varias tendencias que conviene tener presentes. La capacidad hoy reservada a modelos de frontera todavía no publicados acabará estando al alcance de actores maliciosos, organizaciones y también de países con menos escrúpulos. El coste de lanzar un ataque, ya en descenso sostenido desde hace tres años, seguirá cayendo. Y la sofisticación de estos sistemas, capaces de adaptarse tras cada fallo, construir sus propias herramientas y encadenar varias vulnerabilidades, supera ya lo que la mayoría de perfiles técnicos sin formación específica en seguridad podría reproducir o incluso defender.
La consecuencia más directa es que el objetivo deja de estar reservado a grandes corporaciones. Un particular, cuyas fotografías, correo o acceso a los sistemas de su empresa no justificaban antes el esfuerzo de un atacante experto, puede convertirse en un blanco rentable en cuanto un ataque personalizado y persistente resulte barato de ejecutar. Lo mismo sucede con pymes y star-tups que hasta ahora no eran objetivo de un ataque dirigido, pero sí pueden serlo de miles de intentos automatizados simultáneos, aunque el botín individual sea modesto. Y dado que el software sostiene bancos, hospitales, la red eléctrica, plantas de agua o equipos médicos, una brecha digital puede derivar con facilidad en un problema físico, en sistemas que además suelen depender de administraciones públicas no especialmente ágiles a la hora de adaptarse.
A ello se suma una asimetría preocupante: el acceso a los modelos de defensa más potentes se está restringiendo por motivos comerciales y geopolíticos, mientras que los atacantes recurrirán a sistemas con menos restricciones. Durante la investigación del propio incidente, Hugging Face intentó recurrir a modelos de Anthropic para analizar lo ocurrido, y estos rechazaron buena parte del trabajo por motivos de seguridad, dejando a los defensores con menos herramientas que a los propios atacantes.
Con este escenario, la conclusión de fondo es que los fundamentos clásicos de la ciberseguridad, basados en la escasez de atacantes cualificados, están dejando de sostenerse, y lo hacen más rápido de lo que las defensas logran adaptarse. De ahí se derivan varias prioridades. La primera es asumir que, tarde o temprano, cualquier organización o individuo puede ser comprometido, y diseñar los sistemas para limitar el daño de una sola brecha en lugar de confiar en que esta nunca se producirá. La segunda es que la respuesta humana ya no puede escalar frente a atacantes autónomos: si un solo ataque implicó 17.600 intentos, ninguna plantilla de seguridad puede igualar ese ritmo, y la auditoría y la respuesta deberán automatizarse también del lado defensivo. La tercera es reforzar la vigilancia y la notificación temprana, porque la probabilidad de ser descubierto sigue siendo, como con el coche mal aparcado, parte del cálculo que hace el atacante antes de actuar. Y la cuarta es regulatoria: el marco de responsabilidad de las empresas deberá revisarse a medida que el volumen de ataques crezca en órdenes de magnitud, para no terminar sancionando a víctimas que ningún equipo humano podría haber contenido.
No se trata de un escenario de ciencia ficción, sino de una cuestión de escala económica que puede y debe corregirse. La buena noticia es que este episodio se ha producido mientras las capacidades más avanzadas siguen relativamente controladas, lo que da margen para actuar antes de que el desequilibrio entre ataque y defensa se agrave. El objetivo será alcanzar un nuevo equilibrio en el que la recompensa vuelva a dejar de compensar el coste, como ocurría hasta ahora. Pero para llegar hasta ahí habrá que atravesar una etapa de adaptación en la que las reglas del juego serán distintas de las que hemos conocido. Las cosas van a empeorar, mucho, antes de empezar a mejorar.