RisCanvi

Jesús, madrileño de origen, explica que la primera vez que escuchó dentro de la cárcel la palabra RisCanvi cogió un diccionario. “Pensé que era inglés”, dice hoy sonriente sentado en un bar en Sabadell. RisCanvi es en realidad el nombre de un algoritmo que se utiliza en las cárceles de Cataluña desde hace 15 años. Un programa informático —cuyo nombre proviene de la combinación de las palabras riesgo y cambio, en catalán— que trata de medir cómo de probable es que un interno vuelva a cometer un crimen.

Jesús hoy está en libertad condicional y acaba de regresar de Montmeló, una ciudad cercana a Barcelona, donde trabaja para una empresa de muebles. Pero, como todos y cada uno de los cerca de 8.000 presos y presas que hay en las prisiones catalanas, él también ha sido analizado en múltiples ocasiones por RisCanvi.

Como otros sistemas predictivos que calculan la probabilidad de que algo (negativo) ocurra de nuevo, esta herramienta se basa en una lista de factores considerados de riesgo. Cuestiones como el tipo de crimen cometido, la personalidad del preso, su comportamiento en la cárcel o su vida fuera de ella.

RisCanvi no es un caso único en el mundo: desde hace años, protocolos similares se utilizan en otros lugares del planeta. Sin embargo, en el contexto español y catalán, este algoritmo ha pasado por debajo del radar de la opinión pública. En parte, por la opacidad del Gobierno catalán sobre su uso, utilidad y detalles técnicos.

Información en exclusiva obtenida ahora por El Confidencial ha permitido recrear el funcionamiento interno de RisCanvi. Así como conocer el peso —es decir, su importancia en el cálculo final— de cada uno de los 43 factores de riesgo que componen la herramienta.

Igualmente, entrevistas con internos, abogados y otras voces autorizadas muestran cómo este algoritmo tiene una relevancia decisiva en las resoluciones judiciales que afectan a la situación penal de los presos en Cataluña. En especial, cuando los internos afrontan la fase final de su condena, momento en el que pueden acceder a los permisos de salida dentro de su proceso de rehabilitación social.

RisCanvi nació como respuesta a la alarma social generada por varios crímenes de tipo sexual ocurridos en Cataluña en la década de los 2000. Desde entonces las autoridades penitenciarias de la Generalitat han hecho varios cambios en este sistema. Hoy RisCanvi calcula cinco escalas de riesgo diferentes:

Para entender cómo RisCanvi afecta a la vida de los presos en Cataluña hay que fijarse en las diferentes fases en las que este sistema interviene. Cuando un interno llega por primera vez a la cárcel se le aplica una versión más simple del algoritmo (RisCanvi Screening). Si el nivel de riesgo asignado por la herramienta es alto, se le aplica la versión completa (RisCanvi Complete).

Los encargados de introducir las variables que alimentan el algoritmo son los profesionales de la junta de tratamiento de la cárcel: psicólogos, educadores sociales, criminólogos y otros especialistas. Tras entrevistarse con los reos introducen los valores asignados a cada variable en un programa informático (eRisCanvi), basándose en su juicio profesional. Este proceso se realiza al menos cada seis meses mientras el interno sigue en prisión.

Los niveles de riesgo en cada una de las escalas de RisCanvi son tenidos en cuenta por los profesionales para diseñar el programa de rehabilitación del preso. Cuando la junta decide solicitar un permiso de salida al exterior envía a los juzgados de vigilancia penitenciaria un informe en el que argumenta su petición, donde incluye los niveles de riesgo asignados por el algoritmo.

¿Pero en qué se traducen todas estos datos al hablar de un preso de carne y hueso? Hasta ahora, conocer de qué manera RisCanvi modifica su puntuación de riesgo en función de las características del interno resultaba imposible. A través de la ley de transparencia El Confidencial ha accedido a datos inéditos sobre el peso de cada una de las variables que el algoritmo tiene en cuenta.

Jesús llegó a Cataluña siendo muy joven. Una jueza lo envió aquí para seguir un programa de rehabilitación contra sus adicciones, explica hoy Jesús, lo más lejos posible de su Madrid natal y del círculo de conocidos que le suministraba la droga. Así llegó a Sabadell. La ciudad que hoy es su casa y donde conoció a su pareja y están creciendo sus dos hijos.

Una de las discusiones en torno a herramientas como RisCanvi es hasta qué punto el pasado de una persona puede determinar su futuro. Los datos históricos son una pieza clave en el cálculo matemático de esta herramienta.

Sobre personas como Jesús, multirreincidente con varias condenas de prisión a sus espaldas, la mochila de su pasado probablemente ha tenido una importancia decisiva en todos los permisos que le negaron en los últimos años. También el haber acumulado varios delitos sin sentencia firme durante demasiado tiempo. “Hasta que no te bajan todos los juicios, no te baja RisCanvi. Yo estuve con RisCanvi alto cinco años”, explica. Una de las variables moduladoras del algoritmo, efectivamente, penaliza a los internos que están en prisión provisional.

Antonio Andrés Pueyo, catedrático de Psicología de la Universidad de Barcelona y cerebro detrás del equipo de investigadores que creó este protocolo a finales de la década de los 2000, defiende que RisCanvi aporta a los profesionales que tratan al interno una fuente de información objetiva. Que les ayuda a tomar decisiones más justas dentro del espinoso mundo de la gestión de riesgos en una cárcel.

Pueyo explica que este protocolo de valoración de riesgo se creó como “un recurso más para la rehabilitación” de los presos. “La primera variable importante para tratar a un interno es saber su riesgo de reincidir. Si el riesgo es bajo, incluso puede ser tratado fuera de prisión, porque no es muy preocupante su reiteración delictiva. Pero si el riesgo es alto, no”, señala.

Los factores que tiene en cuenta el algoritmo están basados en la evidencia científica recogida por el equipo de Pueyo, en colaboración con el Departament de Justícia, sobre quién, cómo y cuándo reincide estando en prisión y al salir de ella. Con el objetivo de “individualizar” al máximo las intervenciones sobre cada preso, “de acuerdo a sus necesidades criminógenas —aquellas que llevan a un delincuente a reincidir—”, explica este experto. Por eso, RisCanvi no sólo tiene en cuenta el delito por el que la persona ha sido condenada, sino también otros factores relacionados con su conducta actual, su personalidad y su contexto personal.

Sin embargo, en los últimos años, múltiples voces han puesto en duda el uso de este tipo de sistemas algorítmicos en áreas tan sensibles, desde el punto de vista de los derechos, como las prisiones. Entienden que es un peligro que ciertos datos históricos y variables subjetivas condenen a muchos reclusos a seguir más tiempo del debido entre rejas, especialmente si vienen de un contexto social pobre y excluido. Además, esto puede dificultar su proceso de rehabilitación social —el fin último de cualquier condena, según el código penal español—.

Abdou (nombre ficticio) es senegalés y llegó a Europa a punto de cumplir la mayoría de edad. A diferencia de Jesús, él sigue entre rejas. Entró a una de las principales prisiones catalanas en 2017 para cumplir varias condenas, la más larga de dos años. Abdou no tiene papeles y ha tenido problemas con el alcohol. Tiene familia aquí, incluidos dos hijos, pero en prisión solo le visita su abogada, Mireia Salazar.

A Salazar el caso de Abdou le llegó a través del colectivo Top Manta, que agrupa a vendedores ambulantes de Barcelona y donde la mayoría son senegaleses. A comienzos de febrero, la junta de tratamiento de la prisión donde cumple su condena propuso al juez un permiso de salida de tres días. Pero la fiscalía se opuso a la concesión del permiso porque, entre otros argumentos, el RisCanvi le asignaba un riesgo alto en reincidencia violenta, reincidencia delictiva general y quebrantamiento de condena.

Para Salazar, este caso es “paradigmático” sobre cómo RisCanvi afecta a los derechos de parte de la población reclusa. “Se ha trabajado mucho para controlar los ingredientes que cocinan RisCanvi”, explica esta letrada. Entre ellos, el resarcimiento del daño derivado del delito, el pago de la indemnización, el hecho de que la persona tenga ingresos estables y el restablecimiento de lazos familiares, explica.

Desde la Dirección General de Asuntos Penitenciarios del gobierno catalán aseguran que RisCanvi es “de uso restringido a los profesionales penitenciarios” y que su utilización está prevista “en clave interna y de manera exclusiva” por ellos. Sin embargo, en la práctica, los resultados de esta herramienta son utilizados frecuentemente por jueces y fiscales para argumentar una aprobación o denegación de un permiso, según ha podido comprobar El Confidencial en múltiples autos de los juzgados de vigilancia penitenciaria de Cataluña.

A diferencia de lo que ocurre con los profesionales dentro de la prisión, a los magistrados les llega únicamente el nivel de riesgo asignado por la herramienta, pero no necesariamente qué hay detrás de un riesgo alto, medio o bajo. Este dato de apariencia científica tiende a interpretarse de manera aislada y descontextualizada por estos agentes, tal y como ha señalado la doctora en Derecho penal de la Universidad de Navarra Lorena Alemán Aróstegui. Lo que puede dar lugar a situaciones tan paradójicas como la de Abdou, en la que una junta de tratamiento solicita un permiso para el interno porque es bueno para su rehabilitación, pero luego el fiscal y el juez lo rechazan al ver su puntuación en RisCanvi.

“Cuando hay personas que emiten un juicio así y que luego haya un RisCanvi que te lo tumbe, es algo que a mí como abogada me parece surrealista. Es no saber a qué te estás oponiendo”, critica Salazar.

Carlos Martínez Mirón preside la comisión de derecho penitenciario del colegio de abogados de Barcelona, el ICAB. Este letrado coincide con Salazar en que el resultado del algoritmo tiene un peso decisivo en el acceso de los presos a beneficios penitenciarios. “Cuando en un informe de un psicólogo o criminólogo de la cárcel aparece el RisCanvi, el fiscal siempre se aferra a eso. Cuando hay un riesgo medio o alto en algún ítem, se aferran a eso [para rechazar un recurso]”, asegura.

Sin embargo, para Martínez Mirón, tras una década y media en uso, la perspectiva de los jueces sobre RisCanvi puede estar cambiando. “RisCanvi antes era palabra de Dios y no se podía contradecir. Pero ahora tienen interés en ver cómo funciona. Porque se percatan de que esto no deja de ser un algoritmo y a veces falla, como también puede fallar la valoración de un psicólogo o trabajador social”, asegura.

El letrado pone como prueba el hecho de que varios jueces de vigilancia penitenciaria se están interesando en los últimos años por un curso anual organizado desde el ICAB y en el que un representante de la Generalitat acude para hablar sobre este protocolo de gestión del riesgo. “¿Por qué? Porque ellos mismos se encuentran que RisCanvi es un algoritmo que nadie sabe cómo funciona, que nadie sabe cómo va, que hay veces que acierta y hay veces que no”.

En 2016, una investigación periodística en Estados Unidos reveló cómo un algoritmo predictivo usado por jueces de todo el país discriminaba a los detenidos negros, al acusarles erróneamente de que reincidirían en sus delitos con más frecuencia que a los detenidos blancos.

Este trabajo puso en el primer plano la cuestión de los sesgos en los sistemas algorítmicos y de inteligencia artificial —a diferencia de RisCanvi, el predictor de EEUU sí estaba construido con técnicas de aprendizaje automático, una de las grandes ramas de la IA—. Y, de algún modo, abrió una nueva línea de investigación científica sobre cómo intentar construir algoritmos más justos y más ecuánimes. En este campo trabaja desde hace años Carlos Castillo, investigador y profesor en el ICREA (Institució Catalana de Recerca i Estudis Avançats) y en la Universitat Pompeu Fabra de Barcelona.

Castillo, que lleva años estudiando RisCanvi desde la perspectiva de los datos, no cree que RisCanvi sea “cuestionable” como fórmula de predicción de reincidencia. “Si se trata de predecir si alguien va a cometer un delito de aquí a tres años, no hay mucho más que hacer que lo que hace RisCanvi”, sostiene este científico, quien asegura que esta herramienta “está cerca de la mayor precisión que se puede conseguir con un sistema predictivo”. “La pregunta es si predecir la reincidencia es algo cuestionable, no si esta fórmula lo es”, advierte.

En las escasas declaraciones y análisis públicos sobre RisCanvi, el Departament de Justícia del Gobierno catalán argumenta que sus resultados ofrecen a los profesionales que trabajan con los presos un análisis objetivo y valioso de los riesgos que, de alguna manera, complementa su juicio clínico. El trabajo más reciente de Castillo y su equipo apoya esta idea: las predicciones hechas por los equipos de tratamiento de las cárceles catalanas cuando usan RisCanvi son mejores que cuando no lo utilizan, según un artículo científico publicado hace escasas semanas.

“Respecto a la predictibilidad, una persona experta que use RisCanvi es mejor que una persona que no use RisCanvi. ¿Cuánto mejor? Un poco mejor”, defiende. Otra cuestión diferente, puntualiza Castillo, es el contexto en el que el sistema está funcionando hoy.

La recién aprobada ley europea de IA establece que los modelos predictivos usados en el ámbito judicial y penitenciario tienen un “riesgo alto” para los derechos de la ciudadanía. Y que, por tanto, han de cumplir una serie de requisitos relacionados con la transparencia, la calidad de los datos y otro tipo de garantías.

En opinión de Castillo, RisCanvi no pasaría hoy los filtros exigidos por Europa. Entre otros motivos, por el uso de datos de entrenamiento desactualizados y la baja calidad de sus predicciones sobre los grupos menos representados en las prisiones de Cataluña, como las mujeres y los extranjeros. “La situación más común en inequidad algorítmica es que para el grupo del que tienes menos datos el sistema funciona peor. Esto afecta sobre todo a las minorías”, señala.

Jesús cuenta que hoy está feliz con su nueva vida. Lo hace justo antes de que aparezca por el bar su hijo adolescente. Esta mañana, al salir de casa, se olvidó las llaves y ha venido a recoger las de su padre. Cuando la conversación vuelve a sus días dentro de prisión, Jesús retoma un rictus serio y explica cómo dentro “se frustraba mucho”. Sentía que todos los esfuerzos que hacía para encauzar su vida caían en saco roto. “Hacía las cosas sinceramente, no era un paripé para que me dieran un permiso. ¡Me estaba rehabilitando!”, exclama.

El uso de algoritmos predictivos en el sector público ha tenido hasta ahora un rasgo común. Las personas analizadas por estos sistemas prácticamente nunca son informadas de la existencia de dichos algoritmos. Ni de cómo estos afectan de forma directa a su vida y a sus derechos. Cuando uno pasa sus días entre rejas este detalle adquiere todavía mayor crudeza. Jesús explica que en sus años en la cárcel ha conocido múltiples casos de internos que, tras serles negado un beneficio penitenciario —aun cumpliendo los requisitos para obtenerlo-, han explotado de la peor manera. En forma de autolesión o haciendo daño a otros.

El papel de un algoritmo en decisiones tan delicadas como otorgar o no un permiso a un preso sigue siendo hoy objeto de debate. Para Jesús es fundamental que haya “más luz y menos opacidad” en torno a estos protocolos. “Habría que llegar a un punto en que las personas sepan cómo se puede bajar el RisCanvi sin que pase todo esto. (...) La información para empezar a hacer las cosas bien tendría que estar mucho más a mano”.

En su caso, ese hacer las cosas bien, tuvo un punto de inflexión en noviembre de 2016. Una noche, diez meses después de su última entrada en prisión, encontró a su compañero de celda sin vida en la cama de al lado, por culpa de una sobredosis. Pocos días después Jesús conoció a su madre, Gràcia Amo, hoy portavoz de una asociación que agrupa a familiares de presos de cárceles catalanas, para defender mejoras en las condiciones de vida de los internos. A punto de irse a descansar tras un largo día, Jesús atribuye “un 50% de sus rehabilitación” a las conversaciones que mantuvo desde ese día con Amo, hoy su amiga y confidente.

“Vi un dolor en esa mujer que no quería que tuviesen los míos. Eso me dio mucha fuerza”, relata Jesús. “Además, en esta condena tenía a mis hijos y me preocupaba no verlos. Quería estar con ellos fuera. Tenía que hacer las cosas bien. Tenía que bajar el RisCanvi”.