La seguridad de OpenAI vuelve a estar en el punto de mira tras disolver su equipo de preparación
Un movimiento que ha sorprendido al sectror
OpenAI vuelve a mover ficha en uno de los ámbitos más delicados de la inteligencia artificial: la seguridad. Según adelanta el Financial Times, la compañía habría disuelto a finales de julio su equipo de preparación, una unidad encargada de analizar si sus modelos podían generar riesgos graves y de plantear medidas para reducirlos.
La noticia llega en un momento especialmente sensible para la empresa de Sam Altman. ^pr un lado, la compañía se ha envuelto en varias polémicas relacionadas justo con la seguridad de su sistema, además de que OpenAI estudia una futura salida a bolsa de enorme tamaño y mantiene una competición feroz con gigantes como Google, Meta o Anthropic.
Qué hacía el equipo de preparación de OpenAI
El conocido como preparedness team tenía como misión anticipar los riesgos potenciales de los modelos de IA más avanzado, estudiando amenazas de mayor alcance. Entre ellas estaban cuestiones como la posible utilización de una IA para facilitar ciberataques, ayudar a desarrollar armas biológicas o llevar a cabo acciones autónomas perjudiciales.
A medida que los modelos son capaces de razonar mejor, utilizar herramientas, escribir código o completar tareas complejas, también crece la preocupación por los usos maliciosos que alguien puede hacer de estas capacidades. Y ya vimos que una prueba se le fue de las manos a OpenAI y dejó claro el peligro de la IA.
Con la reorganización, estas responsabilidades no desaparecen por completo, ya que OpenAI habría repartido parte de ese trabajo en equipos ya existentes y especializados en áreas concretas, como la bioseguridad y la ciberseguridad. Pero, como era de esperar, ha generaedo muchas dudas sobre quién tendrá una visión global de los posibles problemas.
La disolución de esta unidad no es un caso aislado. Durante los últimos años, OpenAI ha vivido varios cambios importantes en su estructura dedicada a la seguridad de la inteligencia artificial.
Por ejemplo, la firma de IA ya cerró anteriormente su equipo de AGI Readiness, creado para preparar a la organización ante sistemas de inteligencia artificial general, y también su grupo de Superalignment, centrado en investigar cómo controlar modelos mucho más capaces que los actuales. Además, varios responsables vinculados a la ética y la seguridad han abandonado recientemente la empresa.
OpenAI defiende que continúa invirtiendo en seguridad, pero sus últimas decisiones serán observadas con lupa. Y habrá que vigilar si la compañía mantiene mecanismos independientes y sólidos para frenar un modelo antes de que llegue al público cuando detecte un riesgo real.