Convenio Marco sobre Inteligencia Artificial: riesgos, retos e impactos
El pasado 17 de mayo, el Consejo de Europa aprobó un marco regulatorio para el uso de la IA que entrará en vigor el próximo 5 de septiembre
El mayo de las prisas. En una semana, tres textos cruciales en el ámbito de la gobernanza, estrategia y regulación de la inteligencia artificial (IA) y del dato. Dos de ámbito europeo y uno a nivel nacional. Isaac Asimov, con su Yo, Robot, estaría feliz.
Pasen y vean: Estrategia Nacional de Inteligencia Artificial ( 4 de mayo, España, Consejo de Ministros); Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (Estrasburgo, 17 de mayo de 2024 133º período de sesiones del Comité de Ministros ); y el Reglamento DAS-2, ya en vigor desde el pasado 20 de mayo de 2024, por el que los Estados miembros de la UE están obligados a implementar las nuevas carteras de identidad digital en un plazo de 24 meses desde la publicación de sus desarrollos normativos de ejecución (antes del 21 de noviembre de 2026). Este último tiene como principal objetivo reforzar la confianza en las transacciones electrónicas en el entorno europeo y dotar a los ciudadanos europeos de un mayor control sobre quién tiene acceso a su identidad digital y sus datos.
En una tribuna del mes pasado me centré en la gobernanza del dato. En esta, en la gobernanza de la IA. Abordaré, brevemente, los dos textos aprobados este mes vinculados a este sector: la Estrategia Nacional y el Convenio Marco. Vista, suerte y al toro.
Cuentas sin cuentos. España, es el segundo país europeo en canalizar inversiones procedentes de fondos UE. Un desglose de las inversiones nacionales revela que Italia está a la cabeza, pues prevé destinar 1.895 millones de euros a proyectos relacionados con la IA. Le sigue España con 1.200 millones de euros.
Para aterrizar estas inversiones, nuestro plan de vuelo en inteligencia artificial se resume en seis estrategias: uno, impulsar la investigación científica, el desarrollo tecnológico y la innovación en IA; dos, promover el desarrollo de capacidades digitales, potenciar el talento nacional y atraer talento global en inteligencia artificial; tres, desarrollar plataformas de datos e infraestructuras tecnológicas que den soporte a la IA; cuatro, integrar la IA en las cadenas de valor para transformar el tejido económico; cinco, potenciar el uso de la IA en la administración pública y en las misiones estratégicas nacionales; y, seis, establecer un marco ético y normativo que refuerce la protección de los derechos individuales y colectivos, a efectos de garantizar la inclusión y el bienestar social.
Hay que destacar el enfoque humanístico, y no sólo humanista, que parece darse en esta Estrategia Nacional. Veremos cómo se consigue. Todo un reto y una gran meta.
En segundo lugar, y ya de ámbito internacional, el Convenio Marco. Pondré en referencia tres ideas-fuerza a modo de resumen: objetivos (artículo 1); definición de IA (artículo 2) y gestión de riesgos (artículo 16).
En cuento a los objetivos, el artículo primero del convenio establece: “Las disposiciones del presente Convenio tienen como objetivo garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho. Cada Parte adoptará o mantendrá medidas legislativas, que pueden incluir medidas específicas u horizontales que se apliquen independientemente del tipo de tecnología utilizada”.
Sobre el concepto de la inteligencia artificial, el artículo segundo del convenio dice: " A los efectos de esta Convención, por sistema de inteligencia artificial se entenderá un sistema basado en una máquina que, para alcanzar objetivos explícitos o implícitos, infiere, a partir de los datos que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que puedan influir en las condiciones físicas. o entornos virtuales. Los diferentes sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad después del despliegue”.
Destaco el término esencial: máquina. Por lo tanto, no es una solución digital, es decir, el convenio no lo entiende como un servicio, sino más bien, como un objeto físico ahorrador de tres aspectos: errores, tiempo y dinero. Por fin, en el plano conceptual, ya nos vamos entendiendo. Hacía falta, mucha falta.
Por último, sobre la gestión de riesgos, el convenio dice en su artículo 16.2: “Dichas medidas serán graduadas y diferenciadas, según corresponda, a los siguientes parámetros: contexto y el uso previsto de los sistemas de inteligencia artificial; gravedad y probabilidad de posibles impactos; las perspectivas de las partes interesadas relevantes; la duración del ciclo de vida del sistema de inteligencia artificial; monitoreo de riesgos e impactos adversos para los derechos humanos, la democracia y el estado de derecho; incluir documentación de los riesgos, los impactos reales y potenciales y el enfoque de gestión de riesgos.
En definitiva, Europa y España quieren. Vamos a ver, si además, también saben. Un medio (la IA) nunca debe convertirse en el fin (crecimiento real y humanísitico de personas y proyectos). Todo un reto y una gran meta, a través de un solo camino: el humanismo en las máquinas. Sepamos crecer.
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días