Del abogado que ‘alucina’ al juez algoritmo: el límite de la automatización
El riesgo real de esta automatización no reside en fallos técnicos del código informático, sino en la peligrosa tendencia política de priorizar la rapidez y la métrica estadística a toda costa
La transición jurídica desde el escándalo aislado del caso Mata v. Avianca, Inc. (S.D.N.Y. 2023) hasta la reciente sentencia de la División de Apelaciones de Nueva York del 8 de enero de 2026 —que consolidó las sanciones por presentar jurisprudencia inexistente inventada por IA— demuestra que este fenómeno no debe verse como una simple anécdota de impericia técnica o descuido. Es un aviso directo a la línea de flotación de la arquitectura misma de nuestra justicia.
Esta consolidación de doctrina judicial ante modelos que construyen respuestas absolutamente verosímiles en su forma, pero totalmente falsas en su fondo normativo, revela que no estamos ante un fallo puntual, sino ante la propia naturaleza originaria de la herramienta: la inteligencia artificial no razona ni comprende el ordenamiento, sino que calcula probabilidades lingüísticas. Y ahí radica la gran frontera ética y profesional que el Derecho ya ha comenzado a blindar para evitar que la digitalización descontrolada diluya por completo el rigor técnico.
El eco de este suceso norteamericano resuena hoy con fuerza en Europa, ya que este asunto va mucho más allá de la estricta ética de los despachos y afecta de lleno a la política judicial de los Estados miembros. Mientras el Reglamento Europeo de IA (AI Act) clasifica acertadamente el uso de estos sistemas en la Administración de Justicia dentro de las actividades de “alto riesgo“, en España el Plan Justicia 2030 impulsa una automatización profunda de las oficinas judiciales. El problema de fondo es claro: si un abogado experimentado puede ser engañado por la apariencia de veracidad de un algoritmo en un descuido de verificación, ¿qué mecanismos reales de control nos quedan si las instituciones deciden delegar la resolución de los conflictos ciudadanos en un “juez robot”?
La idea de agilizar la justicia mediante algoritmos es indudablemente atractiva. Ante el colapso crónico de los tribunales y el desbordamiento sistemático de los juzgados de lo mercantil, delegar en un software los procesos monitorios, las reclamaciones de cantidad estandarizadas o los litigios de consumo masivo promete una rapidez inédita en la resolución de expedientes. Sin embargo, este enfoque economicista confunde gravemente la gestión puramente administrativa con la función jurisdiccional. La Justicia nunca ha sido una mera operación matemática automática que suma pruebas documentales y resta excepciones procesales; exige, por su propia definición constitucional, la capacidad de valorar, ponderar y juzgar.
El riesgo real de esta automatización no reside en fallos técnicos del código informático, sino en la peligrosa tendencia política de priorizar la rapidez y la métrica estadística a toda costa. Un modelo de lenguaje basado en patrones de entrenamiento estadístico es incapaz de entender el sentido de la equidad, o comprender el alcance de conceptos jurídicos indeterminados transversales como la buena fe, el interés social, la figura del buen padre o el abuso de derecho. Si la resolución de controversias —al margen de su cuantía o su aparente sencillez— deja de pasar por el escrutinio del criterio humano, convertiremos el derecho fundamental a la tutela judicial efectiva en un mero sistema automatizado de gestión de incidencias, idéntico al que emplea cualquier plataforma digital de comercio electrónico.
Esta realidad nos obliga a reformular con urgencia el deber de diligencia tanto en el plano corporativo como en el procesal. En el tráfico mercantil contemporáneo, la responsabilidad de los administradores societarios o de sus asesores legales externos no puede escudarse o diluirse tras el resultado supuestamente infalible de un software de analítica jurídica. El Estatuto General de la Abogacía Española establece claramente que la defensa es una obligación de medios de carácter personal e indelegable. Por lo tanto, el uso de herramientas automatizadas y sistemas de legaltech en despachos y oficinas judiciales debe estar firmemente supeditado al principio de control humano. El profesional del Derecho no puede actuar como un mero validador pasivo que se limita a hacer clic en el botón de aceptar; debe ejercer en todo momento como un auditor crítico de la herramienta utilizada.
En conclusión, la tecnología debe consolidarse como un aliado indispensable para eliminar la gran carga burocrática de los tribunales, optimizar la ordenación de datos complejos y acelerar la búsqueda jurisprudencial, pero jamás puede postularse como un sustituto del criterio jurídico. El futuro del sector legal no consiste en competir en velocidad de procesamiento contra una máquina que siempre ganará en segundos, sino en aportar el valor añadido de la interpretación doctrinal, la estrategia procesal y la equidad. Si el ordenamiento jurídico renuncia a supervisar y cuestionar las decisiones automatizadas que emanan de una pantalla, se dejará de aplicar el Derecho para pasar a gestionar, simplemente, bases de datos.