Gobierno de la IA y gobierno corporativo: navegando entre icebergs
La inteligencia artificial ha aflorado nuevos riesgos corporativos que muestran solo una parte de lo que realmente conllevan
Si aceptamos que, si A=B y B=C, entonces A=C, podríamos decir que, si el Gobierno de la IA es gobierno de riesgos y el Gobierno corporativo también lo es, ambos están necesariamente llamados a encontrarse, si bien en una relación en la que el primero es parte del todo que representa el segundo.
Otra forma de verlo es a la que alude el propio título de este texto. El Gobierno corporativo podría compararse con el gobierno de una gran nave: desde el puente de mando se fija el rumbo y se dictan las órdenes para alcanzar el destino, siempre atento a los riesgos que puedan surgir hasta llegar él. Y la inteligencia artificial ha aflorado nuevos riesgos corporativos que, como los icebergs, muestran solo una parte de lo que realmente conllevan.
Son múltiples los factores por los que un órgano de gobierno debería haber incorporado ya el gobierno de la IA a su modelo de gobierno corporativo: cumplimiento normativo, ESG, mapa de riesgos unificado y responsabilidad de administradores, entre otros.
Puede que, si no lo ha hecho todavía, no haya sido por desinterés, sino por mero desconocimiento. Los propios órganos de gobierno también necesitan formación sobre inteligencia artificial, que no es solo necesaria para el conjunto de los empleados y, quizá con mayor intensidad, para determinados equipos. Los miembros del órgano de gobierno requieren acciones adaptadas a sus perfiles y necesidades; en definitiva, acciones orientadas a dotarles de conocimientos, competencias y herramientas para ejercer su labor de gobierno también sobre la inteligencia artificial, desplegada o por desplegar en su organización.
Los datos corroboran esta necesidad. Estudios recientes reflejan que muchos consejos tienen una experiencia limitada en IA y que muy pocos reciben métricas suficientes para supervisarla adecuadamente: “The latest KPMG Global AI Pulse Survey indicates that nearly three quarters of boards are perceived to have only moderate or limited AI expertise” o “Just 23% of surveyed executives consider their board highly fluent in AI”. En último término, esta falta de conocimiento impide que el reporte al Órgano de Gobierno sea no solo requerido, sino, además, entendido.
Volviendo a la imagen inicial, si el gobierno corporativo no integra el gobierno de la IA, como patrón del barco va a dejar de apreciar el riesgo, quizá mejor diría el enorme riesgo, que puede llegar a suponer una inteligencia artificial desplegada sin orden ni concierto, sin un criterio top–down claro y explícito. Sé que, por repetido, puede resultar aburrido, pero aquello del capitán del ‘Titanic’ diciendo que su nave no podía hundirse y que aquel iceberg no era un peligro para ellos vuelve a recordarnos lo que ocurrió después.
Ahora bien, para una adecuada integración del gobierno de la IA en el gobierno corporativo hay algunas claves que se deben de tener en cuenta, empezando por la fijación de un enfoque estratégico y ético.
Se debe establecer el rumbo y el destino: por qué se quiere utilizar la IA en la organización, para qué, en qué medida y cómo se van a revisar esos mismos criterios. Y si hablamos de ética de la IA es para generar confianza. Si una organización despliega IA sin un marco ético claro, está pidiendo una confianza ciega sobre sistemas que pueden procesar información confidencial, producir sesgos o conllevar brechas de seguridad.
A partir de ahí, se debe promover el desarrollo de un marco normativo sobre IA, específico o integrado en uno ya existente, personalizado a la organización y encabezado, por ejemplo, por la política dictada por el órgano de gobierno, diseñada y diseminada bajo un enfoque tailor-made y pragmático. No se trata de publicar por publicar, sino de construir un sistema normativo interno que sea correctamente comunicado y que vincule de manera expresa y efectiva a todos los miembros de nuestra organización.
Para saber si estamos siguiendo el rumbo fijado, va a ser necesario un sistema de métricas que mida no solo el estado de los riesgos, sino también la eficiencia. No deberíamos querer usar la IA por moda, por no ser el último o porque sí, sino porque creemos que puede mejorar nuestra Organización. Por tanto, no solo hay que medir riesgos -de privacidad y confidencialidad, de competencia, medioambientes, de propiedad intelectual e industrial, laborales, de ciberseguridad o reputacionales-, sino también la eficiencia, para valorar si la mejora prevista se hace real y en qué medida.
Y, por último, siempre es recomendable incluir en el Gobierno corporativo de la IA un benchmarking que nos permita conocer qué ocurre a nuestro alrededor. Porque nuestro barco no navega solitario en el vasto océano.
En definitiva, creo que quien no haya incorporado ya o, al menos, esté en proceso de incorporar el gobierno de la IA a su gobierno corporativo, está capitaneando su nave sin apreciar los retos que la revolución en marcha puede tener para su organización y no está fijando el rumbo y el destino para convertir esos enormes retos en magníficas oportunidades.