Inteligencia artificial y buenas prácticas: gobernanza, gestión y auditoría
El portal estadístico Statista prevé que el mercado de la IA acelerará el crecimiento del PIB en Europa hasta un 0,7%
El pasado 14 de noviembre, la UE publicó el primer borrador de Código de Buenas Prácticas para el uso y creación de modelos de inteligencia artificial (IA). El portal estadístico Statista prevé que el mercado de la IA generativa alcance los 217 billones de dólares en el año 2025, llegando en el año 2030 a alcanzar a nivel mundial los 897 billones. Acelerará el crecimiento del PIB en Europa hasta un 0,7%.
Ética, épica y estética. Es decir, gobernanza, gestión y auditoría. Gobernanza (aplicación y ejecución de estructuras, procesos y procedimientos implementados para dirigir, gestionar y supervisar las actividades de IA en la empresa). Gestión (definición de roles y responsabilidades relacionados con las iniciativas basadas en IA apoyará a la organización en la determinación de los recursos necesarios para operar eficazmente). Auditoría (identificación y gestión de riesgos potenciando las fortalezas desde las posibles debilidades).
En este borrador ocupa y preocupa un contexto muy concreto: la creación, ya con lagunas legales y éticas, de un modelo de inteligencia artificial desde su origen (by design). Este aspecto se enfoca en el Anexo XI apartado d y Anexo XII apartado f. Se establece que la mera publicación o acceso público al modelo no es suficiente, sino que ha de acompañarse de una serie de documentación que permita conocer de manera detallada la arquitectura del modelo, el número y los tipos de capa del modelo.
Por ello, hace especial referencia a un riesgo generalizado a todas las etapas de un modelo de IA: lo denomina copyright compliance, apartado 3.1 página 14 (diligencia debida con terceras partes, tanto con proveedores como con la arquitectura del algoritmo desde su creación o desde su diseño, by design).
En España, conocemos un caso práctico que evidencia esta preocupación que refleja este borrador. La Fiscalía de la Audiencia Nacional investiga a Meta (Facebook e instagam) por la posible vulneración del derecho de los usuarios a la protección de datos personales por el uso de los datos de los clientes para desarrollar y mejorar la IA de la compañía.
Por todo ello, el Reglamento de IA, en su Considerando 69, aporta la solución legal: “El derecho a la intimidad y a la protección de datos personales debe garantizarse a lo largo de todo el ciclo de vida del sistema de IA. A este respecto, los principios de minimización de datos y de protección de datos desde el diseño y por defecto, establecidos en el Derecho de la Unión en materia de protección de datos, son aplicables cuando se tratan datos personales “, así como el artículo 27 del Reglamento General de Protección de Datos (RGPD).
En este sentido, aporta un gran valor añadido para la gestión de riesgos legales de los sistemas de IA desde el origen (by design), la incorporación de Sistemas Integrados de Gestión. La incorporación de la ISO 42001 (sobre IA ) y la ISO 31022 (sobre Gestión de Riesgos Legales) aporta una gran solvencia a nuestra gobernanza corporativa. Además, esta solvencia se transforma en eficiencia y crecimiento empresarial y mediático con la aplicación diaria de la Ley Sarbanes-Oxley (SOX), en vigor en Estados Unidos en 2002, que potencia nuestro compliance financiero, integrando todas las áreas corporativas bajo un mismo patrón normativo global, junto con otras regulaciones europeas de cada área susceptible de riesgo: protección de datos, blanqueo de capitales, competencia, privacidad y sostenibilidad.
La no incorporación de este sistema de cumplimiento normativo pudiera dar lugar, en caso de sanción y la consecuente pérdida de reputación y de valor bursátil, a la incoación de la acción individual o social contra los administradores de la sociedad, prevista en el artículo 241 Ley de Sociedades de Capital (LSC), por parte de los socios capitalistas.
Por todo ello, el binomio industria-nación es esencial. La repercusión económica de esta tecnología en el entorno socioeconómico hace que las estrategias utilizadas por las organizaciones reporten un ROI de 3,7 en su inversión en esta tecnología.
La previsión del desarrollo de la próxima generación de modelos, aunado al paquete de innovación iniciado en este año por la Comisión para apoyar a las pymes europeas en el desarrollo de la IA, así como el reconocimiento de la necesidad de mejorar el mercado interior de la unión y la concesión a las pymes de cumplir de manera simplificada las medidas atendiendo a su menor tamaño y activos financieros, fomenta la adaptación de la normativa y el código a la evolución de la industria y de los avances tecnológicos, teniendo en consideración las capacidades particulares de las personas jurídicas y la manifiesta posibilidad de precisar una agilización normativa que se adapte a la evolución tecnológica.
A su vez, la clasificación de un modelo de IA general como de riesgo sistémico precisará la adopción de medidas reactivas que limiten su propagación y, por ende, su repercusión e impacto jurídico y económico.
En definitiva, todo proyecto de IA debe ser transparente, explicable, confiable y auditable. Crear conlleva saber criar lo creado. Toda creación requiere, a su vez, de ética (moralidad-legalidad), épica (resistir e insistir y nunca desistir) y estética (la presencia siempre genera prestancia). Creer, criar y crecer. Vista, suerte y al reto.