Los procuradores se ponen al frente de la tecnología en justicia
Las problemas jurídicos y éticos de la regulación de la inteligencia artificial centró el debate en la segunda jornada del cónclave nacional del colectivo
Uno de los platos fuertes de la segunda jornada del del XV Congreso Nacional de la Procura que se celebra hasta este sábado 18 de noviembre en Granada fue el análisis de las herramientas basadas en inteligencia artificial (IA) que puedan ayudar a los profesionales en su servicio al cliente. Durante una mesa redonda denominada “Inteligencia artificial, perspectiva de ética jurisdiccional, regulación y responsabilidad civil” los expertos más punteros en este campo debatieron sobre el uso responsable de la IA y adelantaron por donde irán los tiros en la próxima regulación que la Unión Europea (UE) está a punto de aprobar (se habló del 6 de diciembre).
La moderadora, Maria Dolores Cantó, vicetesorera y responsable de tecnologías en el Consejo General de Procuradores de España (CGPE) dejó claro que la procura está “a favor de la IA, la automatización y la robotización”. “Somos juristas tecnólogos, ofrecemos garantía procesal, pero también somos líderes en tecnología, primero con herramientas digitales y, ahora, automatizadas”, afirmó Cantó.
Moisés Barrio, letrado del Consejo de Estado y profesor de derecho digital, hizo una introducción de la situación actual de lo que conocemos como inteligencia artificial para explicar luego a la audiencia por qué estas tecnologías requieren de regulación y hacía donde va esta normativa. El experto, asesor en regulación digital para diversos Estados, advirtió que la IA es una “tecnología vintage” que surgió a mediados de la década de los 50 en el siglo pasado. Por tanto, señaló, “no es una moda pasajera” y, a diferencia de otros conceptos como metaverso, no requiere de herramientas auxiliares para su uso, tan solo un ordenador. El despegue se ha producido ahora, indicó, “por la capacidad ilimitada de almacenamiento de datos en la nube”.
Barrio precisó que la IA cubre dos grupos de tecnologías que, normalmente, se usan de forma combinada: los sistemas expertos de conocimiento estructurado, como las bases de datos de legislación y jurisprudencia, pero que solo valen para un campo específico, y el machine learning o aprendizaje basado en datos, en cuyo ámbito entra el ChatGPT, que hacen predicciones a partir de la experiencia de uso, pero que, por el contrario “no comprenden el sentido de la respuesta que arrojan”. “La IA no es más ni menos que software, aunque técnicamente más complejo. La diferencia es quién decide”, aseguró. “En la justicia, el juez busca la verdad, no predice”, señaló.
En cuanto a los claroscuros de la IA, Moisés Barrio indicó que el más peligroso es el conocido como las “alucinaciones o absurdos”. Si le pides hacer una receta de cocina con clavos y tornillos, la hará. Otro riesgo, advirtió, es cuando la herramienta no cita las fuentes que usa para la respuesta, pues se pueden vulnerar derechos de propiedad intelectual. También se puede vulnerar la protección de datos y la seguridad al acumular ingentes cantidades de datos. Pero, se posicionó el experto, “hay que lidiar con estas luces y sombras”. Las normas éticas son un primer paso, pero estas no son suficientes, pues ni siquiera hay posibilidad de supervisar su cumplimiento. “A la hora de regular la IA se dice que se mata la innovación. Es falso de toda falsedad”, afirmó. La regulación de telecomunicaciones en España, su cobertura, ha impulsado la calidad de nuestra industria, aseguró. El experto se mostró de acuerdo con una regulación proporcional (no es igual una pyme que una gran compañía) y proactiva. En esto está la UE, con un reglamento en el que se regulan los usos dependiendo del nivel de riesgo del sistema.
A continuación, fue el turno para Carmen Muñoz, profesora de derecho civil en la Universidad Complutense, que quiso dejar claro que “los datos son la gasolina de la IA” y Europa debe de hacerlos compatibles con la protección de los derechos de las personas. Por eso, indicó, hay que ir hacia una regulación menos encorsetada que permita que se comparta más datos. “La IA es una materia transversal que atraviesa todo por eso se trata de esta manera en la propuesta de reglamento”, indicó. Ya en 2010, explicó la profesara, la UE empezó a abrir el compartimiento de los datos del sector público. Por este motivo, indicó Muñoz, fue posible lograr una vacuna de la Covid-19 en tiempo récord. Esto mismo, con todas las garantías y respetando el reglamento de protección de datos y los demás valores de la Unión, debería poder ir haciéndose con otro tipo de datos. “Se busca que seamos altruistas”, argumentó. Por último, dejó una pregunta en el aire, ¿Y si, a pesar del reglamento IA, la información que arroja el ChatGPT es falsa? ¿Cómo reclamar por posibles daños?
La cuestión sobre el procedimiento a seguir para resarcir a los ciudadanos por la responsabilidad civil o por daños de la IA (como las deepfakes) centró la intervención de Margarita Castilla, catedrática de derecho civil de la Universidad de Cádiz. Castilla hizo notar el difícil equilibrio que debe conseguir la Unión Europea en este diseño regulatorio entre proteger a los millones de consumidores y facilitar la posibilidad de reclamación si son víctimas, pero sin ahuyentar a las empresas. “Es una balanza necesaria”, afirmó. La catedrática señaló que la regulación europea de la IA es necesaria porque la normativa estatal está llena de lagunas en este ámbito. Una idea vertebra la última intentona de regulación, y es que la superación de un procedimiento de “evaluación de conformidad” de los sistemas de IA calificados de alto riesgo para conseguir el sello CE en el mercado, “tendrá una importancia capital en el campo de la responsabilidad por producto defectuoso”, en el sentido de que, en este caso, será más difícil reclamar al dueño del producto. La reciente aprobación del sandbox regulatorio español, aseguró Castilla, debería servir para ser pioneros. “El legislador español debería adelantarse y regular este procedimiento”, reclamó la experta.
Leyes procesales
En la jornada de el viernes tuvo lugar también un interesante debate sobre el futuro de las leyes procesales de eficiencia para la Administración de Justicia que se quedaron en el tintero la legislatura pasada y en las que se resolvía a favor de la procura una de sus más antiguas reivindicaciones: convertirse en agentes de ejecución. Según un informe de PwC encargado por el CGPE, España está a la cola en la Unión Europea en los tiempos de ejecución de las sentencias, lo que provoca que 10.500 millones estén rehenes y no puedan circular en el mercado.
El abogado del Estado, expolítico y diputado del extinto partido Ciudadanos, Edmundo Bal, señaló que uno de los escollos durante la pasada legislatura para que los procuradores aumentasen por ley su participación en la ejecución de las resoluciones judiciales fue la oposición de Podemos. “Podemos quería recortar el poder del procurador en la ejecución por que lo consideraban una privatización de la justicia”. Bal ha ido más allá e indicó que los morados se cerraban a dar más cancha a estos profesionales en los asuntos más ideológicos y ha dejado caer que lo que no le gustaba al grupo parlamentario era “que su intervención pudiera acelerar algunos procesos, como los desahucio”. Los partidos que más impulsaron este cambio, aseguró Bal, fueron el PNV y Ciudadanos. Bal también compartió con los presentes que la idea de que los procuradores sean agentes de ejecución recibió un rechazo frontal en primer término porque se argumentaba que eso supondría “privatizar la justicia”. Sin embargo, el abogado del Estado refutó este argumento y aseguró que el servicio podría
Edmundo Bal se manifestó así en un debate en el que compartió diálogo con la diputada del Partido Popular, María Jesús Moro, y el portavoz de justicia del PSOE en el Senado, Txema Olega. Este último indicó que confía en que el nuevo equipo ministerial recoja el guante y continúe con la aprobación de este proyecto que significa la modernización de la justicia: “Tenemos que pasar de una justicia del siglo XIX a una del XXI”. Oleaga comenzó su intervención con referencias extensas a la actual situación política y del respaldo mayoritario del Congreso a la presidencia de Pedro Sánchez. También indicó que los tres proyectos que decayeron al disolverse las Cortes estaban anclados en tres ideas básicas que, dijo, serán necesarias para vertebrar las futuras normas poniendo siempre en el centro al ciudadano, pues la justicia es un servicio público. La primera es ir a un sistema de decisiones colegiales con los tribunales de instancia para que no haya diferentes soluciones según el juzgado que te corresponda. Reconoció que había resistencia al cambio por parte de los funcionarios. La segunda, conseguir agilizar los procesos. “La justicia lenta no es justicia, el proceso debe ajustar sus reglas para que redunde en beneficio del justiciable”, afirmó. “Por eso establecimos mecanismos procedimentales en los que los procuradores cada vez iban a tener más competencias; llegará sin lugar a dudas”, aseguró. Por último, modernizar la justicia para que sea totalmente digital y tecnológica: “La justicia no puede quedar fuera”, advirtió. “No tengo ciencia infusa y no me atrevo a decir cuáles son las prioridades de un Gobierno que no se ha constituido aun, pero intentaré convencerle de prioridades sistema de justicia moderno y ágil”, terminó.
Por su parte, la diputada del Partido Popular, María Jesús Moro, puso el dedo sobre los problemas de la legislatura pasada para sacar adelante las leyes de eficiencia. “Las tres eficiencias, para ser eficientes, deberían haberse regulado de forma conjunta, en una sola ley”, advirtió. Moro lamentó que no se hubiera escuchado más a los expertos en el planteamiento y desarrollo de los proyectos y aseguró que solo con el máximo consenso se podría conseguir un buen resultado. “Las tres leyes entraban en desacuerdo entre ellas y con los acuerdos logrados con los colectivos”, apuntó. “Si además tenemos que hacer concesiones a los partidos indepentistas… ” , dejó caer Moro. La diputada defendió miras altas y de largo alcance y no cortoplacistas para lograr a una justicia más moderna y útil.