La AESIA planea ya la futura implementación de sus certificaciones
El objetivo es actuar como supervisor de la aplicación de la regulación en la materia y convertirse en certificador hasta que se desarrollen terceras entidades que puedan llevar a cabo este trabajo
La inteligencia artificial y los avances en este sector son tema de gran interés desde la irrupción de ChatGPT, el chat equipado con inteligencia artificial de OpenAI. Desde entonces, en la Unión Europea se han dado pasos para regular este tipo de herramientas, así como las que puedan aparecer en el futuro con el objetivo, como siempre indican, de proteger a la ciudadanía europea.
En este contexto, el Reglamento de Inteligencia Artificial (AI Act) de la Unión Europea se ha posicionado como un marco normativo pionero que clasifica las aplicaciones de inteligencia artificial en función del riesgo que representan para la sociedad. Este reglamento establece cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo. Mientras que los sistemas de riesgo inaceptable, como la puntuación social o el uso de manipulación subliminal, estarán directamente prohibidos, aquellos considerados de alto riesgo, como los que intervienen en procesos de selección laboral o en diagnósticos médicos, deberán someterse a estrictos controles de transparencia y supervisión. Por su parte, las aplicaciones de riesgo limitado o mínimo, como los asistentes virtuales o herramientas de recomendación, enfrentan menos restricciones.
Este enfoque diferenciado busca equilibrar la protección de los ciudadanos con la promoción de la innovación tecnológica, al tiempo que refuerza la necesidad de supervisión y certificación para garantizar el cumplimiento normativo.
Como consecuencia de este ímpetu regulatorio surge la figura de las agencias de supervisión de la inteligencia artificial, que en nuestro país ha supuesto la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), una entidad que, en palabras de su director Ignasi Belda, “es a la IA lo que el Banco de España al sector financiero”.
Así las cosas, no es de extrañar el interés que ha generado entre los diferentes players de este mercado como de sus usuarios el anuncio por parte del director de la AESIA del inicio de los trabajos para la implementación de las certificaciones sobre el uso de inteligencia artificial que serán supervisadas por dicha Agencia. En este sentido, el objetivo de la AESIA es, además de actuar como supervisor de la aplicación de la regulación en la materia, convertirse en certificador hasta que se desarrollen terceras entidades que puedan llevar a cabo este trabajo.
Estas certificaciones se dividirán en cuatro categorías atendiendo al nivel de riesgo del sistema de inteligencia artificial que pretenda implementar una empresa, debiendo cumplir estas con los requisitos oportunos.
Si bien la intención del regulador es proteger a los ciudadanos, no resulta descabellado prever que la existencia de este tipo de certificaciones y regulación más rígida que en mercados competidores pueda provocar una fuga de talento de ingenieros de software y empresas basadas en inteligencia hacia mercados con regulaciones más favorables o laxas.
Existen precedentes de limitaciones de uso por parte de ciudadanos europeos de herramientas de inteligencia artificial que han sido adoptadas en otros países como consecuencia de la regulación europea. Es el caso por ejemplo de Apple Intelligence, proyecto del gigante Apple que ha introducido inteligencia artificial en su ecosistema iOS de la mano de OpenAI, y que no se ha llegado a implementar en la Unión Europea como consecuencia de la nueva normativa europea en esta materia. Aún no está claro si esta tecnología llegará a implementarse en Europa y en nuestro país, o si en caso de hacerlo lo hará con todas sus capacidades o en una versión reducida. Es más que probable que esta casuística se repita en el futuro cuando otras entidades extranjeras lancen productos de inteligencia artificial al mercado, pero deban lidiar con la obtención de estas certificaciones.
Aunque es pronto para anticiparnos a las consecuencias de la implementación de las certificaciones de la AESIA, está claro que son en favor de la protección de los usuarios europeos, pero puede tener consecuencias negativas a corto plazo en el panorama empresarial. La carrera tecnológica por los avances en cuanto a inteligencia artificial y el desarrollo de modelos más complejos ha comenzado, y si las iniciativas europeas vanguardistas en esta materia deben pasar trámites burocráticos con agencias de nueva creación para obtener certificaciones antes de llegar a mercado, seguramente lleguemos tarde.