IBM lanza un kit de herramientas para la gobernanza de la inteligencia artificial

La solución watsonx.governance estará disponible a partir de diciembre y está construida para ayudar a las empresas a gestionar los riesgos de la IA

Una mujer pasa por delante del logo de IBM.Getty

El debate global en torno a la regulación de la inteligencia artificial se acelera a medida que se extiende el uso de esta tecnología en todos los ámbitos. Con este trasfondo, y tratando de evitar los efectos negativos que puedan derivarse del empleo de la IA generativa, IBM ha anunciado esta mañana el lanzamiento de un kit de herramientas para la gobernanza de la IA. Se denomina watsonx.governance y estará disponible desde principios de diciembre. La solución está construida para ayudar a las empresas a gestionar los riesgos de la inteligencia artificial, según han remarcado Christina Montgomery, Chief Privacy & Trust Officer de la compañía, y Ana Paula Assis, General Manager de IBM en EMEA (Europa, Oriente Medio y África).

Desde el gigante tecnológico han destacado cómo la IA generativa supone un enorme potencial, pero también conlleva una gran complejidad que requiere que las empresas construyan de forma proactiva límites y protecciones alrededor de su tecnología, a menudo entrenada con grandes cantidades de datos públicos, para reducir el riesgo de alucinaciones, violaciones de cumplimiento normativo y la producción de contenido injusto o sesgado. Esta razón habría llevado a la compañía a desarrollar esta nueva un solución que promete ayudar a las empresas a automatizar el aprendizaje automático “responsable y transparente”, así como los flujos de trabajo de IA generativa en una plataforma integrada.

“IBM cree en la regulación a nivel de caso de uso, con responsabilidades sobre las empresas para operar una IA fiable. Para ello, es necesario comprender cómo y con qué se entrenan los modelos de datos, cómo llegan a sus recomendaciones y si se examinan de forma rutinaria para detectar sesgos perjudiciales. Estas prioridades (transparencia, explicabilidad, seguridad e imparcialidad) son la base de múltiples propuestas que avanzan en todo el mundo para la regulación de la IA. E IBM watsonx.governance está diseñado para ayudar a los clientes a gestionar su IA y prepararse para cumplir estos requisitos normativos”, han explicado.

Watsonx.governance se convierte así en una de las tres patas de watsonx, la plataforma de inteligencia artificial e IA generativa de IBM, compuesta, además, por watsonx.ai, una biblioteca de modelos fundacionales, y watsonx.data, un almacén de datos (o datalake en la jerga del sector) en el que se combina, según el gigante tecnológico, flexibilidad con rendimiento.

La tecnológica ha explicado que su kit de herramientas para la gobernanza de la IA permite supervisar, catalogar y gobernar los modelos de IA desde donde residen hasta donde se escalen. Y ha añadido que la solución hace posible automatizar la captura de metadatos de modelos y aumentar la precisión predictiva para identificar cómo se utiliza la IA y dónde es necesario volver a entrenar los modelos.

Igualmente, está construida para ayudar a gestionar los riesgos citados automatizando los flujos de trabajo del modelo fundacional para cumplir los estándares empresariales: identificar, gestionar, supervisar e informar sobre riesgos y cumplimiento normativo a escala, y utilizar cuadros de mando dinámicos para ofrecer resultados personalizables a las partes interesadas y mejorar la colaboración en varias regiones y zonas geográficas.

La solución está diseñada también para facilitar el compliance, al permitir traducir las normativas externas en políticas para la adhesión automatizada, apoyar las auditorías y la conformidad con las regulaciones actuales y futuras y las normativas internas corporativas. Proporciona, además, cuadros de mando basados en personas e informes a las principales partes interesadas.

Bajando al detalle, el kit de herramientas ofrece capacidades automatizadas que cubren los tres pilares de la gobernanza de la IA: gobernanza del ciclo de vida, gestión de riesgos y cumplimiento normativo. Las capacidades ampliadas para los modelos fundacionales incluyen:

Supervisar nuevas métricas: supervisar y alertar tanto en las entradas como en las salidas de los modelos fundacionales cuando se superen los umbrales preestablecidos para las métricas de calidad y la deriva, los casos de lenguaje tóxico —incluidos el odio, el abuso y las blasfemias— y la información de identificación personal).

Visibilidad del desarrollo: recopilar automáticamente información sobre el proceso de construcción del modelo fundacional, al tiempo que explicar las decisiones para mitigar las alucinaciones y otros nuevos riesgos.

Transparencia del ciclo de vida de la IA: documentar automáticamente los hechos del modelo en todas las etapas del ciclo de vida, controlar la deriva de los modelos de texto y realizar un seguimiento de los detalles de salud, como el tamaño de los datos, la latencia y el rendimiento, para identificar los cuellos de botella y las cargas de trabajo de cálculo intensivo.

Y, por último, herramientas de validación, que permiten a los ingenieros asignar resultados de modelos fundacionales a datos de contexto/referencia proporcionados para casos de uso de preguntas y respuestas con el fin de determinar si el modelo fundacional está adecuadamente influenciado por los datos de referencia para ayudar a garantizar que es relevante para el resultado.

En la primera versión de watsonx.governance, los clientes que utilicen modelos fundacionales dentro de watsonx.ai (incluidos los desarrollados por IBM y varios modelos de terceros, como Llama 2 y los de la comunidad Hugging Face) podrán gobernarlos en la nube. La compañía ha asegurado que, con su política de apostar por una IA abierta, tienen previsto ampliar estas capacidades en el primer trimestre de 2024 para permitir a los clientes gobernar modelos de IA de terceros de cualquier proveedor (en la nube o en casa del cliente) “para orquestar procesos de gobierno en todas sus organizaciones”.

Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días