Sentencias dictadas por inteligencia artificial. ¿Es posible sustituir al juez por un robot?

"La Justicia en España es demasiado lenta", "los jueces son fachas, machistas y solo las élites económicas pueden opositar a la carrera", "los tribunales están politizados, forman parte del lowfare", "urge renovar el CGPJ para cubrir las plazas vacantes del Tribunal Supremo sin la injerencia de los partidos…". Todas estas expresiones han ganado peso en el debate público y provocan desconfianza en el poder judicial. Ahora, los jueces vuelven a ser noticia por el anuncio de una huelga que amenaza con ralentizar aún más los tribunales tras el paro de los letrados. Mientras tanto, emerge cada vez con más fuerza la inteligencia artificial como solución a muchos problemas cotidianos. La Justicia no es una excepción. ¿Podrán las máquinas dictar sentencias que condenen a un ciudadano a ir a la cárcel?

"De lo que hablamos es de la sustitución de la persona que dicta el derecho por una máquina que haría lo propio, pero a partir de una información tratada mediante fórmulas algorítmicas". El juez Manuel Marchena fija así el marco del debate. Es el presidente de la Sala de lo Penal del Tribunal Supremo, es decir, la última palabra sobre las sentencias que deciden absoluciones o años de vida en prisión. El gran público lo conoció porque fue el presidente del tribunal que juzgó a los líderes independentistas del procés. Estuvo a punto de convertirse en el máximo representante del Poder Judicial en 2018, pero un SMS enviado por el senador del PP Ignacio Cosidó jactándose de que eso serviría al partido para controlar la Justicia le llevó a rechazarlo. Con el tiempo, ha dicho que no al menos dos veces más.

Marchena: “Un jurista es un intelectual del derecho y no solo un operador jurídico”

Este magistrado y exfiscal abordó la cuestión en un discurso pronunciado en octubre en su toma de posesión como miembro de la Real Academia de Doctores de España. El tema escogido acredita que la inteligencia artificial es un asunto que ocupa las reflexiones de la cúpula judicial. Uno de los apartados del discurso de Marchena ya anticipa su postura en el debate: "Una reflexión crítica acerca del entusiasmo sobrevenido por el juez-robot". El escepticismo que evoca el título es lo que parece. La tesis del juez es que la IA es una herramienta útil para agilizar los procesos, analizar pruebas, buscar informaciones o patrones interesantes en bases de datos como las llamadas telefónicas o para elaborar escritos de acusación. Pero dictar sentencias son palabras mayores que no pueden recaer en una máquina.

Su argumento es que "un jurista es un intelectual del derecho y no solo un operador jurídico". Frente a eso, advierte que las máquinas operarían condicionadas por un algoritmo que se basa en casos pasados: "En nuestro sistema, ajeno al modelo anglosajón del precedente, la preexistencia de un caso similar al enjuiciado no puede, por sí solo, fundamentar el desenlace". "Hacer justicia es algo distinto a constatar términos estadísticos", añade al tiempo que recuerda cómo "la insatisfacción ante la aplicación de una jurisprudencia empuja al tribunal a un cambio de criterio". "La jurisprudencia está en permanente evolución acompasada a la necesidad de adaptar su contenido a nuevas realidades emergentes", zanja.

¿Quién crea el algoritmo?

Marchena no es precisamente un juez cerrado a las nuevas formas de investigar. Alguna de sus resoluciones han avalado, por ejemplo, la "revolución neurocientífica" para estudiar mentes criminales. Sin embargo, la opacidad con la que se construye el algoritmo con el que trabajarán las máquinas le genera desconfianza: "El derecho a motivación de las resoluciones jurisdiccionales no puede satisfacerse con una motivación automatizada en la que el algoritmo sustituye al razonamiento judicial". Se pregunta si un robot puede ser imparcial o quién controla al programador que selecciona la información que convierte en inteligente la respuesta.

En su advertencia contra el entusiasmo denuncia que se da por hecho que un robot sería ajeno a sesgos ideológicos frente a los sentimientos de un humano, pero replica que "un juez prejuicioso podría superar estos condicionantes mientras que una máquina es incapaz de escapar a los mandatos de sus propios algoritmos". Frente a esta tesis, hay posturas en contra. Uno de los máximos defensores de la inteligencia artificial desde la década de los 80 se llama Richard Susskind. Estos son algunos de sus libros publicados: El futuro de la ley (1996), Transformando la ley (2000), ¿El fin de los abogados? (2008), Tribunales en línea y el futuro de la justicia (2019).

Susskind: "Los sistemas superarán a los jueces dictando sentencias razonadas"

Este autor británico recurre a la ironía cuando escucha hablar de que el juez robot estaría demasiado condicionado por el algoritmo construido a base de resoluciones pasadas: "Siempre me divierte cuando los que se oponen dicen de manera desdeñosa que el problema es que estos sistemas están muy limitados porque solo pueden funcionar con datos del pasado. A menudo me cuestiono esta forma de pensar y, en relación con los datos en los que se basan los seres humanos, me pregunto si se alimentan de datos del futuro". El vaticinio de Susskind en su última obra es que, en algún momento, puede que sea dentro de 100 años, "los sistemas superarán a los jueces en su propio juego dictando sentencias razonadas con explicaciones que se parecerán a las mejores sentencias dictas por humanos".

TE PUEDE INTERESAR

Las canciones hechas con IA son el nuevo grupo de tu barrio haciendo versiones malas de AC/DC

Héctor García Barnés

Las asociaciones de jueces

Alejandro González Mariscal de Gante es juez de lo Contencioso y portavoz de Asociación Profesional de la Magistratura (APM), la mayoritaria en la carrera. Tiene claro que la inteligencia artificial es una herramienta para su trabajo, pero nunca debe sustituir al juzgador. "Nos llevaría a soluciones carentes de empatía, nos llevaría a un sistema robotizado, el ciudadano vería respuestas lógicas, que no es lo mismo que justas". Preguntado acerca de si un juez se debe guiar por conceptos como la empatía, su respuesta es sí. Defiende que "un juez tiene que ser empático, porque la empatía es justicia, es equidad". "No nos podemos limitar a ser meros traductores de un silogismo, tiene que haber algo más, un examen de hechos", afirma.

A la hora de imaginar usos prácticos de la IA en la Justicia, este magistrado apunta a la posibilidad de mejorar y ampliar las búsquedas de jurisprudencia, incluso en el ámbito internacional. Se refiere a poder consultar, por ejemplo, resoluciones de otros países para motivar mejor sus sentencias: "Al final, el proceso de creación de una sentencia es una interpretación, un debate contigo mismo sobre cuál es el acierto de ideas, dar vueltas a los hechos; la inteligencia artificial es una herramienta para que te rebata los argumentos y poder argumentar mejor las sentencias". La portavoz de Jueces y Juezas para la Democracia (JpD), Ascensión Martín, no cierra la puerta a lo que pueda proporcionar la inteligencia artificial en el futuro, pero le cuesta imaginar que llegue a sustituir por completo a los jueces.

"No hay que descartar nada, la técnica y la digitalización puede llevar a extremos de facilitar mucho el trabajo. Sustitución completa entiendo que no, pero puede ayudar mucho". A su juicio, para que una máquina dictase una condena, "tendría que ser un caso muy concreto para unos determinados hechos y que coincida casi en su totalidad con otro caso, lo cual es difícil". Preguntada acerca de la posibilidad de que la IA inaugure una Justicia libre de prejuicios, afirma que, "si está bien hecha la inteligencia, el robot, y le han dado datos muy concretos, no tiene esos prejuicios, dado que no tiene sentimiento como el odio, el género o el racismo, quizá sea más aséptico".

"Yo sí lo veo"

El juez de lo Social Rafael Martín Canales es miembro del Comité Nacional de la Asociación Francisco de Vitoria (FdV), y es de todos los consultados el más partidario del uso de la tecnología. A la pregunta de si se imagina a máquinas dictando sentencias, su respuesta es sí, aunque matiza que todavía no se dan las condiciones. "Yo sí lo veo, un algoritmo se basa en miles de datos, aprende con esos datos y usa estadística, son datos que nosotros tendríamos que estudiar y él va a disponer de toda la jurisprudencia", explica. Admite que habría que fijar una serie de límites, como la ética o la transparencia, al confeccionar el algoritmo para evitar sesgos. A su juicio, tan importante es una sentencia que envía a un ciudadano a la cárcel como la resolución que le dice a un padre que solo puede ver dos días a sus hijos.

El juez Martín introduce, además, un punto de vista novedoso que tiene que ver con la percepción que tendrá la ciudadanía de la inteligencia artificial dentro de varias generaciones. "Actualmente, el ciudadano siente mucho rechazo porque su futuro judicial lo decida una máquina, pero, dentro de muchos años, cuando el ser humano se haya acostumbrado a convivir con una inteligencia artificial, perfectamente integrada y desarrollada, quizás ese rechazo ya no sea el mismo".

La experiencia de la inteligencia artificial ya se está usando en jurisdicciones internacionales. Uno de los casos más destacados es el de las fiscalías de distrito en China, que utilizan esta herramienta para elaborar sus escritos de acusación y presentar cargos contra los sospechosos. El índice de acierto es de un 97% tras un estudio que ha analizado 17.000 casos durante cinco años. Eso abre la puerta a nuevas preguntas como la utilidad del juicio oral, el respeto al principio de contradicción o qué pasa con ese 3% de error.

TE PUEDE INTERESAR

Inteligencia artificial GPT-4 en medicina: ¿realidad o ficción?

Dr. Rafael Hernández Estefanía

En Holanda también se emplea un método de justicia algorítmica para los procesos de separación matrimonial, existen sistemas para predecir sentencias del Tribunal Europeo de Derechos Humanos, en Gran Bretaña se recurre a una aplicación para resolver reclamaciones civiles por cantidades inferiores a 10.000 libras esterlinas. En España, la Policía Nacional trabaja con un sistema de IA llamado Veripol que sirve para detectar denuncias falsas en comisaría con un índice de acierto del 91%. Sirve para detectar, por ejemplo, las palabras más empleadas en testimonios inventados gracias al análisis de cientos de textos.

Un juez de la Audiencia Nacional, acostumbrado a investigar los delitos más graves del ordenamiento jurídico español, coincide en las reservas actuales contra la IA, pero considera que sí se podría aplicar para agilizar los juzgados en casos menores como reclamaciones de dinero al estilo de la experiencia británica. Otro magistrado del mismo órgano judicial pone el acento en la privacidad. Se refiere a que la fiabilidad del algoritmo será mayor en función de la información de la que disponga, y teme que eso pueda llevar a incluir en bases de datos cuestiones demasiado personales de los ciudadanos. Por ese motivo ya se ha prohibido en Italia el conocido Chat GPT y en España se encuentra bajo investigación de las autoridades.

La tesis general de los consultados coincide: sí a la inteligencia artificial como herramienta al servicio de los jueces o pleitos menores, pero no como sustitutivo, al menos de momento. El juez Jorge Rodríguez-Zapata fue el encargado de dar la réplica a Manuel Marchena en su discurso ante la Real Academia de Doctores de España. Rodríguez-Zapata fue magistrado del Tribunal Constitucional y del Tribunal Supremo, y, a su juicio, "que la inteligencia artificial cree jueces robot humanoides es algo que suscita más recelos que aviones o automóviles autónomos sin conductor". "Aunque la tecnología puede asistir a los jueces al analizar y estructurar los casos, la decisión final requiere cualidades humanas como consideraciones de ética, intuición y creatividad, o, en definitiva, la inteligencia emocional", concluye.