Adigital lanzará en enero un certificado de transparencia algorítmica para empresas
Hará un testeo previo con Holaluz, Blablacar, Cabify y Fintonic Busca que España sea un referente en esta materia
Adigital, la Asociación Española de la Economía Digital, con más de 525 compañías asociadas, ultima el lanzamiento de un certificado de transparencia algorítmica para empresas. La iniciativa llega seis meses después de que Bruselas presentara su primer reglamento para regular el uso de la inteligencia artificial, una de las tecnologías más revolucionarias e innovadoras pero también más cuestionadas por el riesgo de que tanto el sector público como privado hagan un uso poco ético de la misma y sin reglas claras.
Miguel Ferrer, director de Estrategia y Agenda Pública en Adigital, explica a CincoDías que con este certificado buscan dotar de “confianza y seguridad” a la ciudadanía y a las empresas dentro de la agenda sobre inteligencia artificial del Gobierno de España y de la UE, que pretenden promover el uso responsable de algoritmos y sistemas de inteligencia artificial, ya ampliamente utilizados en cualquier actividad económica. Por ejemplo, en las apps bancarias para conceder o no un préstamo, en las empresas de delivery o de movilidad para asignar rutas, o en las plataformas de streamig para hacer recomendaciones a los clientes.
Antes del lanzamiento oficial del certificado, algo que esperan tenga lugar para enero, Adigital va a llevar a cabo un testeo del mismo con cuatro empresas que ya operan con tecnologías de inteligencia artificial en la economía digital: Holaluz, Blablacar, Fintonic y Cabify. Pero para reforzar la importancia del certificado, Ferrer apunta un dato: según el índice de IBM sobre uso de inteligencia artificial en tejidos productivos de varios países, el 31% del empresariado español ya utiliza modelos algorítmicos o sistemas automatizados.
“Es un proyecto muy importante porque ya percibimos la preocupación entre nuestros asociados y en las asociaciones en las que participamos en Europa (DigitalEurope, Ecommerce Europe y Business Europe) de que hace falta promocionar instrumentos de autorregulación que ayuden a las empresas a afrontar regulaciones que afectan a tecnologías que son estratégicas”, continúa Ferrer. El directivo recuerda que Adigital ya viene creando sellos y certificados de autorregulación siguiendo las tendencias de evolución de internet y del mundo digital. “El primero fue el sello de Confianza Online, porque al principio el gran debate fue la protección del consumidor en el comercio electrónico”, señala.
Para lanzar este certificado Adigital está trabajando con Fundación Eticas, que ha creado un equipo ad hoc para el proyecto. La fundación ya colabora desde hace tiempo con instituciones públicas, académicas y empresas para proyectar modelos de ética y de transparencia en sistemas de IA.
Las empresas que quieran conseguir el certificado de transparencia algorítmica de Adigital deberán rellenar una serie de formularios y mapas de tecnología, con los que explicarán y darán transparencia a los modelos algorítmicos que utilizan. Dichos materiales terminarán de definirse con el pilotaje de las cuatro empresas y tras recibir su feedback, porque hay empresas que utilizan modelos algorítmicos que son secretos industriales.
“Es importante no perdernos en debates filosóficos y ponernos todos de acuerdo en definir el concepto de transparencia algorítmica si queremos aterrizarlo y que sea algo práctico”, dice Alfonso Martínez, director de Comunicación de la Fundación Eticas. El certificado de Adigital, en cualquier caso, aspira a que quien lo tenga sea compliance con la regulación actual y la que viene, “así que estamos utilizando para crearlo el actual borrador del reglamento de IA en lo referido a elementos de transparencia y las guías publicadas sobre este asunto por la Agencia Española de Protección de Datos (AEPD), pues si un algoritmo utiliza datos personales con una finalidad, eso debe transparentarse”, subraya Ferrer.
Ferrer destaca también que están creado un grupo informal de externos a los que irán informando del proyecto. En el esperan que estén la Secretaría de Estado de Digitalización e Inteligencia Artificial, la AEPD, Red.es e instituciones académicas y sectoriales. “Nos parecía importante que si queríamos hacer un proyecto de autorregulación para ser transparentes, hiciéramos también transparente el proceso de creación del certificado”.
Desde Adigital aclaran, no obstante, que este certificado solo será de transparencia, pero habrá una segunda versión que incluirá la parte ética. Entonces, la asociación contará para otorgarlo con entidades independientes que valoren si los algoritmos tienen sesgos (ideológicos, por sexo, etc).
Adigital y la Fundación Eticas creen que este es el momento idóneo para lanzar el certificado de transparencia algorítmica ahora que España se posiciona como sandbox (banco de pruebas) regulatorio de la UE sobre Inteligencia Artificial. Este sandbox pretende probar en un entorno controlado los efectos del futuro Reglamento de la Inteligencia Artificial (Artificial Intelligence Act), y garantizar que se puede aplicar en el tiempo previsto, en dos años.
Se pretende, dicen desde Adigital, que España, a través de la colaboración público-privada, sea un referente en esta materia. De momento, y según la Fundación Eticas, en Europa esta es “la primera iniciativa real” que intenta promover un sello de este tipo, mientras a nivel global solo la IEEE de EE UU tiene una certificación de inteligencia artificial ética.
En la Secretaría de Estado de Digitalización e Inteligencia Artificial existe el propósito de promover un sello en colaboración público-privada en esta materia una vez esté creada la Agencia de Inteligencia Artificial, que se incorpora en una disposición adicional de la Ley de Startups, aún pendiente de aprobación en el Congreso. “Pondremos a su disposición todo el aprendizaje y metodología que estamos desarrollando”, dice Ferrer.
“La idea es ir avanzando en el concepto de prospecto algorítmico al estilo de los existentes para medicamentos”, continúa Martínez. Con el sello de Adigital, que las empresas podrán poner en su web o en sus distintivos, se busca reconocer a las compañías que “han hecho un ejercicio de abrir sus puertas y explicar cómo funcionan sus sistemas algorítmicos”, añade Ferrer.
Todavía está por ver qué acogida tendrá el certificado, pero el directivo de Adigital asegura que desde la asociación animarán a todas las empresas a solicitarlo, porque “estamos ante tecnologías estratégicas en las que no nos podemos quedar atrás en España, y es importante que la industria quiera hacer las cosas bien, pese a que aún no haya una regulación en la materia”. En el sector privado hay cierto temor a que los nuevos marcos regulatorios se inclinen demasiado hacia el control y se limite el potencial de la IA.
Los ingresos totales del mercado de la inteligencia artificial (IA) en el mundo crecerán un 19,6% en 2022, hasta los 380.350 millones de euros, y superarán los 400.000 millones el año que viene, según las previsiones de la consultora IDC.
Sobre la firma