Bruselas prohíbe la vigilancia biométrica masiva y los sistemas de puntuación sociales
Saca su primer reglamento para regular el uso de esta tecnología. Las empresas que se lo salten podrán ser multadas con hasta el 6% de su facturación anual global
La Comisión Europea ha presentado hoy su primer reglamento para regular el uso de la inteligencia artificial, una de las tecnologías más revolucionarias pero también una de las que más temores generan por el uso poco ético que puede dársele. Las autoridades comunitarias quieren evitar un uso orwelliano de la IA por parte de los Gobiernos europeos, como sucede en China, donde la IA se está utilizando para rastrear e identificar, por ejemplo, a la minoría musulmana perseguida por las autoridades del país, los uigures. Pero tampoco quiere que el sector privado haga un uso de la misma sin reglas claras.
El reglamento, que todavía tiene que ser aprobado por los Gobiernos de la UE y la Eurocámara, un proceso que puede durar más de un año, propone prohibir el uso en espacios públicos de sistemas de inteligencia artificial que permitan la identificación biométrica, al considerar que se trata de tecnología "de alto riesgo" que viola los valores y los derechos fundamentales de la UE.
Aún así, se establecen una serie de excepciones y sí permitirá su uso en espacios públicos cuando pueda contribuir a evitar "un inminente" ataque terrorista, encontrar un menor desaparecido o para localizar, identificar y enjuiciar a un autor o sospechoso de un delito grave. En estos casos, siempre se haría con autorización judicial y estableciendo límites en cuanto a duración y alcance geográfico.
Las autoridades europeas también quieren prohibir el empleo de la inteligencia artificial para los sistemas de puntuación sociales (que determinan la reputación de una persona según factores que incluyen la actividad en las redes sociales), como el que aplica China para controlar a sus ciudadanos. Y los sistemas que utilizan "técnicas subliminales" para eludir la voluntad de los usuarios "y distorsionar materialmente el comportamiento de una persona de una manera que pueda causarle daño físico o psicológico". La Comisión pone como ejemplo los juguetes que utilizan los asistentes de voz, que pueden incitar a comportamiento peligroso a los menores.
El reglamento igualmente propone un escrutinio especial a las aplicaciones de inteligencia artificial utilizadas en la clasificación de currículums para procesos de contratación, para evaluar y seguir la calidad crediticia de una persona o examinar a los solicitantes de asilo, entre otras. En opinión de la Comisión, los sistemas de inteligencia artificial utilizados para estos propósitos también pueden perpetuar patrones históricos de discriminación en la financiación al consumo, por ejemplo, contra personas de determinados orígenes étnicos o raciales o crear nuevas formas de discriminación.
"La inteligencia artificial ofrece un inmenso potencial en áreas tan diversas como la sanidad, el transporte, la energía, la agricultura, el turismo o la ciberseguridad", pero también presenta "una serie de riesgos y la propuesta garantiza que se respeten nuestros valores y reglas", dijo el comisario de Mercado Interior, Thierry Breton.
La UE quiere tomar la delantera en la regulación de esta tecnología que, según los críticos, puede tener efectos sociales perjudiciales, pero que según los defensores, aportan un factor de eficiencia y de crecimiento económico. La Comisión quiere repetir lo que hizo en materia de protección de datos con el GDPR e intentar establecer unos estándares internacionales para el sector de la inteligencia artificial.
En este sentido, la vicepresidenta ejecutiva de la Comisión, Margrethe Vestager, destacó que "en lo que respecta a la inteligencia artificial, la confianza es una necesidad, no un lugo. Con estas normas históricas, la UE encabeza el desarrollo de nuevas normas mundiales para garantizar que se pueda confiar en la IA (...) Además, al establecer los estándares [del sector] podemos allanar el camino hacia la tecnología ética en todo el mundo y garantizar que la UE siga siendo competitiva". La medida llega en un momento en que China está ganando terreno en la carrera de la inteligencia artificial.
El reglamento, que establece multas para las compañías que incumplan la norma de hasta el 6% de sus ingresos anuales globales o un máximo de 30 millones de euros (según cual sea la cifra más alta), también propone imponer obligaciones de transparencia a determinados sistemas de inteligencia artificial como los bots. En este caso, la norma indica que se deberá avisar a los usuarios de que se está interacturando con un robot conversacional.
La Comisión excluye expresamente de la norma los sistemas de inteligencia artificial que se empleen para uso militar.
Las autoridades planean crear la Junta Europea de Inteligencia Artificial, formada por las autoridades de supervisión de los Estados miembros, la Comisión, y el propio Ejecutivo comunitario, que se encargará de vigilar el cumplimiento de este reglamento y emitirá recomendaciones sobre el uso de esta tecnología.
Sobre la firma