Sin ciberseguridad, la IA es una apuesta arriesgada
Robar datos y sabotear los modelos son las dos formas principales de atacar esta tecnología
El debate sobre la inteligencia artificial está candente, aunque el escepticismo y las dudas que suscita son grandes. Pero la IA está aquí para quedarse. Mientras algunos titulares critican a los gigantes tecnológicos por sus redes sociales basadas en la IA o por sus cuestionables herramientas para el consumidor, la propia IA se está convirtiendo en indispensable. Su eficiencia no tiene parangón, y promete beneficios que ninguna empresa o Gobierno puede ignorar.
La IA será tan esencial en nuestras vidas como la electricidad: impulsará nuestros coches, dará forma a nuestra asistencia sanitaria, protegerá nuestros bancos… La gran pregunta es: ¿estamos preparados para lo que viene después?
El debate público alrededor de la IA se ha centrado sobre todo en la ética, la desinformación y el futuro del trabajo. Pero hay una cuestión vital que pasa desapercibida: la seguridad. Con la IA integrada en casi todos los ámbitos de la vida, estamos creando sistemas masivos e interconectados con el poder de moldear –o, en las manos equivocadas, destrozar– nuestra vida cotidiana. ¿Estamos preparados para asumir estos riesgos?
A medida que damos a la IA más control sobre las tareas –desde el diagnóstico de enfermedades hasta la gestión del acceso físico a lugares sensibles–, las consecuencias de un ciberataque crecen exponencialmente. Resulta inquietante que algunas IA sean tan frágiles como potentes.
Hay dos formas principales de atacar los sistemas de IA. La primera consiste en robar datos. Los piratas informáticos pueden engañar a los modelos para que emitan información segura, ya sea explotando bases de datos médicas o engañando a los chatbots para que eludan sus propias redes de seguridad.
La segunda consiste en sabotear los propios modelos, sesgando los resultados de forma peligrosa. Por ejemplo, un coche con IA engañado para que interprete erróneamente una señal de stop ilustra lo real que puede ser esta amenaza. Y, a medida que la IA se extienda, la lista de posibles ataques crecerá, sin lugar a dudas.
Sin embargo, abandonar la IA debido a estos riesgos sería un gran error. Sacrificar competitividad por seguridad dejaría a las organizaciones dependientes de terceros, sin experiencia ni control sobre una tecnología esencial.
La pregunta que debemos hacernos es: ¿cómo aprovechar las ventajas de la IA evitando los riesgos que conlleva? He aquí tres criterios fundamentales:
Elegir bien el tipo de IA. No todas las IA son igual de vulnerables a los ataques. Los grandes modelos lingüísticos, por ejemplo, son muy susceptibles porque se basan en grandes conjuntos de datos y métodos estadísticos. Pero otros tipos de IA, como los modelos simbólicos o híbridos, requieren menos datos y funcionan con reglas explícitas, por lo que son más difíciles de descifrar.
Despliegue de defensas probadas. Herramientas como las marcas de agua digitales, la criptografía y la formación personalizada pueden reforzar los modelos de IA frente a las amenazas emergentes. Por ejemplo, existen herramientas que permiten a los equipos de ciberseguridad someter los modelos de IA a pruebas de estrés para detectar y corregir vulnerabilidades antes de que los piratas informáticos puedan explotarlas.
Aumentar la ciberseguridad de las organizaciones. La IA no funciona de forma aislada, sino que forma parte de un ecosistema de información amplio. Las medidas tradicionales de ciberseguridad deben reforzarse y adaptarse a la era de la IA. Esto comienza con la formación de los empleados; el error humano, después de todo, sigue siendo el talón de Aquiles de cualquier sistema de ciberseguridad.
Algunos podrían pensar que la batalla en torno a la IA no es más que otro capítulo del continuo enfrentamiento entre los malos actores y las víctimas involuntarias. Pero esta vez, lo que está en juego es más importante que nunca. Si no se da prioridad a la seguridad de la IA, corremos el riesgo de ceder el control a quienes la podrían utilizar para hacer daño.
Patrice Caine es CEO del Grupo Thales