El factor humano seguirá siendo insustituible en el ámbito jurídico, pese a la irrupción de la IA
El congreso IA & Law celebrado esta semana ha reunido a ingenieros, juristas, notarios, profesores y filósofos del derecho para debatir sobre la seguridad jurídica en la sociedad digital
Los días 13 y 14 de noviembre ha tenido lugar el congreso IA & Law, en el marco de la Cátedra ICADE-Fundación Notariado Seguridad Jurídica en la Sociedad Digital en el que se han dado cita ingenieros, juristas, notarios, profesores y filósofos del derecho procedentes de 14 universidades nacionales e internacionales. La principal conclusión del evento ha sido que el factor humano seguirá siendo insustituible en la administración de justicia y en todo el ámbito jurídico a pesar de la revolución real que está suponiendo la introducción de la IA en la agilización de los procesos.
Tras la inauguración, de la mano del decano de la Facultad de Derecho de la Universidad de Comillas–ICADE, Abel Veiga Copo, y del notario y director de la Cátedra, Manuel González-Meneses, la primera conferencia, con el título Is Law Computable?, estuvo a cargo de Harry Surden, informático, profesor de derecho en la Universidad de Colorado y director asociado del prestigioso Stanford Center for Legal Informatics. En su intervención, el profesor Surden se centró en los avances conseguidos en el último año por la tecnología de procesamiento del lenguaje natural, en particular el sistema Chat GPT, y el salto cualitativo que supone su versión 4.0 para su capacidad de recopilación, estructuración y elaboración de la información jurídica, aunque, como sostuvo, “sigue siendo indispensable la participación del ser humano”.
De los retos a los que se enfrenta actualmente el mundo del derecho ante la irrupción de la IA se ocupó la mesa redonda IA y Derecho. Desafíos actuales, moderada por el notario Segismundo Álvarez, vicedirector de la Cátedra. En ella participaron Roger Brownsword, del King’s College London, y Juan S. Mora-Sanguinetti, economista senior del Banco de Francia y del Banco de España. El profesor Brownsword comparó las posturas del legislador comunitario europeo y del regulador británico post Brexit en relación con el tema de la IA, cuestionando si la visión cautelosa de la UE es realmente la más acertada. También reflexionó sobre la pretensión de un tratamiento human-centric de la IA y la actitud más general de nuestra sociedad hacia la tecnología, como un problema en último término de confianza. Por su parte, Juan S. Mora-Sanguinetti se ocupó del empleo de herramientas de IA para la medida de la eficiencia de nuestro sistema judicial y jurídico en general, como herramienta para el análisis de masas de datos de los que ya disponemos en formato digital y que nos permiten una evaluación de tipo cuantitativo del rendimiento de nuestro sistema jurídico.
La IA no razona, trabaja con probabilidades
La siguiente mesa, de acuerdo con la vocación interdisciplinar del congreso, se dedicó al estado del arte sobre la IA, con participación de dos cualificados tecnólogos: un investigador en IA del CSIC, Pedro Meseguer, que aportó de forma muy amena una perspectiva histórica sobre la evolución de esta tecnología; y un ingeniero informático de Comillas, Eduardo Garrido, que explicó los extraordinarios avances a los que estamos asistiendo en relación con la IA generativa, y sus posibles aplicaciones en el ámbito jurídico. Desde el punto de vista técnico. se detuvo en la exposición de la tecnología de machine learning y deep learning, que hace posible esta IA generativa, y cómo no se trata de un verdadero razonamiento, sino de un calculo de probabilidad sobre la base de un análisis estadístico de ingentes masas de datos en formato digital.
Ell problema de la formalización del razonamiento jurídico, como presupuesto de su posible automatización, fue el tema de la mesa en la que participaron los profesores de filosofía del derecho José Juan Moreso, de la Universidad Pompeu Fabra de Barcelona, Manuel Jesús Rodríguez Puerto, de la Universidad de Cádiz, y Carlos Alarcón, de la Universidad Pablo Olavide de Sevilla. Los tres ponentes disertaron sobre problemas relacionados con la lógica deóntica, la metodología y la argumentación jurídica, haciendo especial referencia al problema del marco o contexto, a la característica derrotabilidad de la argumentación jurídica, a la posibilidad de lógicas no monotónicas. En particular, el profesor Rodríguez llamó la atención sobre lo que tuvo de marketing la adopción de la denominación “inteligencia artificial” y cómo esta tecnología descubre correlaciones y patrones, pero no es capaz de verdadero razonamiento. El profesor Alarcón aludió a un posible uso de la IA para “auditar y poder mejorar la legislación y la posibilidad de encontrar las paradojas que muchas veces se dan en los textos normativos”.
En el inicio de la sesión del día 14, el investigador de la Cátedra José Cabrera Rodríguez sorprendió a los asistentes con una ponencia titulada: “Cibernética, socialismo y derecho. Precursores de la IA jurídica”, mediante la que dio a conocer unas muy tempranas aportaciones teóricas y experiencias prácticas en la automatización de las decisiones jurídicas al otro lado del Telón de Acero. Tras un inicial rechazo por razones ideológicas de la cibernética/informática desarrollada en los USA, se vio esta disciplina como una herramienta para el logro de una mayor eficiencia de una economía centralizada en su dirección y descentralizada en su ejecución, e incluso se llegó a explorar su aplicación en litigios entre privados.
La siguiente mesa se dedicó a analizar aplicaciones actuales y concretas de la IA en el ámbito jurídico. El profesor Niccolò Abriani, de la Universidad de Florencia abordó las implicaciones jurídicas de la incorporación de la IA en el ámbito de la empresa y en particular en la gestión corporativa. Abriani insistió en la importancia que están adquiriendo las nuevas tecnologías en la gestión de las empresas y la necesidad de tener en cuenta las implicaciones que la gestión digital tiene sobre los responsables de las compañías, a la hora de la toma de decisiones.
Asistir, pero no sustituir al ser humano
Por su parte, el profesor de la Universidad de Cantabria José Ignacio Solar comenzó recordando que la propuesta de reglamento europeo sobre uso de la IA establece que las herramientas digitales “servirán simplemente para asistir y que nunca podrá sustituir al ser humano”. A continuación, hizo un repaso de algunas de las herramientas concretas que ya se están utilizando en el ámbito de la justicia, entre ellas, el sistema PretorIA, que ayuda a la Corte Constitucional Colombiana en el cribado de aquellas sentencias que cumplen los requisitos para ser admitidas; o el sistema Prometea que utiliza la Fiscalía de la Sala Contencioso Administrativo del Tribunal Supremo de Argentina, o el sistema Juez Sabio utilizado en China y que propone el contenido de una decisión judicial en base a sentencias previas.
Por último, el profesor de derecho penal de la Universidad de Alicante, Dyango Bonsignore planteó varios interrogantes en relación con la posibilidad tanto del juez robot, que decide por sí solo, como de lo que denominó juez cyborg, el juez humano que decide asistido por herramientas de IA. En relación con el nivel de implicación que los ingenieros pueden llegar a tener en la administración de Justicia, se preguntó irónicamente: “¿Tenemos que introducir a los ingenieros en la separación de poderes?”.
La última de las mesas redondas se dedicó a la cuestión del control de las posibles decisiones automatizadas. El profesor de la Universidad de Oviedo, Alejandro Huergo Lora se ocupó de la automatización de actos de la Administración. No vio especial problema en cuanto a los actos de carácter reglado -como una liquidación tributaria-, pero sí para los que requieren una decisión de tipo discrecional. En estos casos, “La IA puede servir para tener una aproximación, pero no para la toma de decisión”. Además, insistió especialmente en la necesidad de que el funcionamiento de estas herramientas sea susceptible de revisión, en caso de impugnación del acto administrativo.
En la importancia del factor humano insistió por su parte Juli Ponce Solé, profesor de la Universidad de Barcelona, quien habló de una Reserva de humanidad.Cuando una norma somete una cuestión a una decisión discrecional, esa decisión debe ser humana, porque hasta la fecha sólo el ser humano es capaz de empatía y de inferencias no sólo deductivas (propias de la IA simbólica) o inductivas (propias de la IA basada en machine learning y big data), sino también abductivas, todo lo cual es necesario para esa ponderación de la equidad que es precisa según el artículo 3.2 de nuestro Código Civil en la aplicación de todas las normas jurídicas.
Precisamente en esa necesidad del factor humano basó la profesora de la Universidad Autónoma de Madrid, María Jesús Ariza Colmenarejo, la importancia de establecer mecanismos que permitan a los ciudadanos conocer aquellos casos en los que para la toma de una decisión judicial haya participado una herramienta de IA y poder establecer los criterios para poder recurrir en estos casos.
El congreso fue clausurado por Antonio Alonso Timón, Director del Centro de Innovación del Derecho de ICADE, y por el Secretario General para la Innovación y Calidad del Servicio Público del Ministerio de Justicia, Manuel Olmedo, que volvía a las aulas de la Universidad de Comillas-ICADE donde se licenció en Derecho. Manuel Olmedo valoró positivamente que durante dos días la Cátedra ICADE-Fundación Notariado haya abordado en profundidad uno de los fenómenos tecnológicos más trascendentes de nuestro tiempo que necesita de la mayor responsabilidad en su aplicación en el ámbito jurídico.
