La tormenta perfecta en la IA: intrusiones de modelos, espionaje de China y acciones legales
Los fallos de contención y su creciente poder tecnológico obligan a pasar de advertencias teóricas a restricciones efectivas
Cuando se lanzó ChatGPT en noviembre de 2022, el gran público se familiarizó por primera vez con un chatbot generativo impulsado por inteligencia artificial. Se empezaron a analizar los riesgos de la IA: Goldman Sachs advirtió que podría afectar a 300 millones de empleos de aquí a 2030 en todo el mundo. Otras deficiencias incluyen algoritmos erróneos y el lanzamiento automatizado de armas. También se alertó sobre ciberataques. Cuatro años después, se está produciendo una tormenta perfecta de sucesos que obligan al sector de la IA y a los legisladores a actuar.
Se han producido varios incidentes de modelos en entrenamiento que se han infiltrado en otras empresas. China está accediendo a los modelos de vanguardia para extraer sus capacidades. La compensación de 18.000 millones de dólares que Meta acordó pagar a 48 Estados de EE UU debido a los efectos nocivos de sus plataformas (Facebook, Instagram) sobre la salud mental de los menores incitará a emprender más acciones judiciales y a aprobar nueva legislación.
Se han documentado varios incidentes en los que modelos de IA vulneraron sistemas de otras empresas. Modelos de OpenAI, propietaria de ChatGPT, franquearon las ciberdefensas de Hugging Face, una plataforma de IA y aprendizaje automático, durante varios días. Modelos de Anthropic, que tiene previsto salir a Bolsa en octubre, protagonizaron varios incidentes en los que accedieron sin autorización a sistemas reales de otras organizaciones durante pruebas de ciberseguridad.
OpenAI, Anthropic, Google DeepMind, Meta AI y xAI son desarrolladores de IA de vanguardia. Alegan que sus modelos tienen derecho a saber hackear para reforzar sus defensas cibernéticas. Cuando falla su contención y se apropian de datos de otras empresas, la diferencia entre estudiar cómo hackear y llevarlo a cabo desaparece. OpenAI y Anthropic pueden elegir entre una amplia gama de prestigiosas empresas especializadas en ciberdefensa, como Cisco Systems, Cloudflare, CrowdStrike, Fortinet y Palo Alto Networks.
Los sucesos descritos han propiciado que la Cámara de Representantes de EE UU esté estudiando el proyecto de ley Stop Rogue AI Act, presentado el día 9 por el congresista demócrata Josh Gottheimer y el republicano Mike Lawler. Cuenta con apoyo de ambos partidos. Una disposición encargaría al Instituto Nacional de Estándares y Tecnología (NIST) la elaboración de estándares nacionales, directrices y mejores prácticas para descubrir, verificar y controlar agentes de IA. Actualmente, NIST, que cuenta con 3.400 empleados, codifica especificaciones, pero no tiene autoridad para hacerlas cumplir.
Los modelos de IA deben perfeccionarse para que puedan operar la maquinaria de una fábrica, prever fallos que paren una planta de producción, realizar inspecciones visuales de calidad y optimizar rutas logísticas. Sus modelos de lenguaje de gran tamaño (LLM) deben aprender los matices, la jerga y el humor que caracterizan el lenguaje humano. Según el estudio sobre IA del NIST de 2023, esta tecnología es potente, pero no es capaz de llevar a cabo estas funciones de manera fiable sin supervisión humana. El informe internacional sobre la seguridad de la IA de 2025, elaborado por más de 100 expertos, concluyó también que la IA no puede realizar tareas complejas de manera segura sin control humano.
De un total de 11.700 centros de datos tradicionales, 5.427 están en EE UU, 2.269 en la UE y 449 en China. Dichos centros albergan servicios en la nube y almacenamiento de datos. China no tiene la capacidad de diseñar ni ensamblar semiconductores de menos de 7 nanómetros. En cambio, Samsung, TSMC, Nvidia, Intel, AMD y Qualcomm diseñan, ensamblan o ejecutan ambos procedimientos con semiconductores de 2 nanómetros. Por consiguiente, los modelos de IA de vanguardia se entrenan en grandes centros de datos de EE UU y otros países desarrollados. EE UU concentra el 75% de los supercomputadores de IA de vanguardia, China el 15% y la UE el 5%. Se necesitan GPU para entrenar los LLM y los generadores de vídeo e imagen, así como para la robótica y la investigación científica. Nvidia diseña el 68% de las GPU. El FBI acusó a Alibaba, DeepSeek y otras cuatro empresas chinas de robar las capacidades de los modelos de EE UU.
Meta se ha comprometido a restringir el acceso de menores a sus plataformas a dos horas diarias. Pero hacer cumplir este límite será difícil. Se desconoce si ByteDance y YouTube aplicarán dichas restricciones. En EE UU se han presentado más de 10.000 acciones judiciales por parte de Estados, condados, municipios y distritos escolares contra empresas tecnológicas. Anthropic pagó 1.500 millones de dólares a miles de autores porque utilizó cientos de miles de sus libros para entrenar a sus modelos.
Desde los años noventa, las autoridades de defensa de la competencia han impuesto numerosas multas a los colosos tecnológicos por abusar de su posición dominante. Todas tienen en común que la empresa hegemónica obliga a priorizar sus productos sobre los de la competencia. Alphabet pagó 4.340 millones de euros a la UE en 2017 porque exigía a los fabricantes de tabletas y móviles que instalaran Chrome y Google Search para acceder a Google Play. En 2004, Microsoft fue multada con 497 millones de euros porque obligaba a empaquetar su Media Player en Windows. Su incumplimiento le costó otros 899 millones de euros en 2008 y 561 millones en 2013. En 2019, la Federal Trade Commission de EE UU multó a Meta con 5.000 millones de dólares porque utilizó los números de teléfono de sus usuarios con fines publicitarios.
Dichas sanciones son una minucia para empresas con ingresos anuales de cientos de miles de millones. Actualmente, la capitalización bursátil conjunta de las siete magníficas (Nvidia, Apple, Alphabet, Microsoft, Amazon, Meta y Tesla) asciende a 23,5 billones, superior al PIB de China. Las abrumadoras cuotas de mercado de Windows en sistemas operativos, Google en búsquedas y Amazon en ventas en línea, así como los 3.100 millones de usuarios de Facebook e Instagram, les permiten comprar o arrasar a sus rivales. Google tiene un 91% del mercado de búsquedas, mientras que Bing, con el 4,5%, y Yahoo, con el 1,2%, apenas sobreviven. Chrome tiene una participación de mercado del 70%; Safari, del 15%, y Firefox, del 2,9%.
En una encuesta de YouGov de julio de este año, el 75% de los estadounidenses opinaron que los titanes tecnológicos tienen demasiado poder. No se fragmentarán de la forma en que ocurrió con Standard Oil en 1911 y AT&T en 1984. Pero, si los consumidores deciden que la competencia es más importante que la comodidad de los productos de los titanes, pueden forzar restricciones.