Procesia

05.11.2020 / Noticias

Inteligencia Artificial y Justicia 4.0

Inteligencia Artificial y Justicia 4.0

Realidad Virtual, Inteligencia Artificial, Internet de las cosas. Seguramente a todos nos resulten familiares estos conceptos, asociados a la idea de nuevas tecnologías que nos harán la vida más fácil. Al igual que nuestros antepasados debieron asistir asombrados al espectáculo de que una máquina de vapor pudiera recorrer varios kilómetros de vías ferroviarias o al hecho de que las ciudades contaran con un sistema de alumbrado eléctrico, hoy nos encontramos ante la denominada Revolución industrial 4.0, en constante evolución desde que en 2013 Alemania acuñara este término, y caracterizada, en síntesis, por el empleo de sistemas virtuales e inteligentes de alta tecnología capaces de ejecutar tareas reservadas, hasta ahora, a las personas.

La idea de la Revolución 4.0 puede parecer reservada, como las anteriores revoluciones industriales, al ámbito de la producción de bienes y servicios, pero, sin embargo, la Inteligencia Artificial y la robótica tienen ya presencia en el ámbito jurídico a nivel mundial.

En términos generales, las aplicaciones básicas de IA tienen como finalidad facilitar la realización de tareas sencillas que puedan ser automatizables, tales como el envío masivo de notificaciones a los ciudadanos o la clasificación de documentos judiciales. Sin embargo, estas actividades realizadas por autómatas son solo una pequeña muestra, no por ello poco relevante, de lo que la IA es capaz de aportar a los sistemas judiciales.

En 1956, Philip K. Dick imaginó en uno de sus relatos de ciencia ficción la historia de John Anderton, jefe de la policía de Washington en el año 2054, quien debe demostrar su inocencia en relación con un crimen que se ha predicho que cometerá en un futuro. El relato, titulado The Minority Report, fue llevado en 2002 a la gran pantalla por Steven Spielberg.

Resulta inquietante que apenas sesenta años después de que la imaginación de K. Dick diera lugar a una historia imposible, hoy podamos estar hablando de la existencia de máquinas de IA desarrolladas para conocer la inclinación de los ciudadanos a cometer delitos, algo que ya abordaron hace casi dos siglos Lombroso, Garófalo y Ferri, precursores de la Criminología moderna con sus teorías sobre el delincuente nato según sus rasgos antropomórficos, “peligrosidad social” y “peligrosidad criminal”.

En China la aplicación Cloud Walk y en Estados Unidos el sistema FAST (Future Attribute Searching Technology), ambos basados en técnicas de Inteligencia Artificial, son capaces de predecir la propensión de las personas a la comisión de un acto criminal a través del análisis de la frecuencia del pulso cardíaco, de la temperatura corporal e incluso el estudio de sus movimientos corporales o faciales.

Pero la IA no solo se está desarrollando para llegar a predecir el comportamiento criminal, sino también para conocer de forma anticipada la tendencia de los tribunales a la hora de resolver los asuntos de los que conocen: un grupo de investigadores de la Universidad de Pennsylvania y la Universidad de Sheffield, liderados por el Dr. Nikolaos Aletras, han desarrollado un sistema de IA que mediante técnicas de aprendizaje (Machine Learning) sobre documentos judiciales, consigue predecir los resultados del Tribunal Europeo de los Derechos Humanos (TEDH) con un porcentaje de fiabilidad del 79%. En la misma línea, el sistema Casecrunch de Reino Unido predice la aceptación o rechazo de 750 quejas planteadas en casos de fraudes con seguros de créditos ante el Defensor del Usuario, realizando esta tarea con más rapidez que un grupo de 100 abogados expertos.

Primeros pasos en España

En España, el desarrollo de estas técnicas disruptivas se halla aún en una etapa incipiente. La Revolución 4.0 en el ámbito de la justicia española  ha venido precedida por el camino iniciado a través de la Ley 18/2011 de 5 de julio, reguladora del uso de las tecnologías de la información y comunicación en la Administración de Justicia, piedra angular de la reforma estructural en el funcionamiento de los sistemas de gestión procesal y de comunicación entre los profesionales y los tribunales: firma electrónica, videoconferencia, tramitación digital, visor electrónico de documentos, presentación telemática de escritos… Todos ellos son términos asociados a la E-Justicia, cuya implantación plena es el objetivo fundamental de las tareas llevadas a cabo por el Ministerio de Justicia y las comunidades autónomas con competencias asumidas en esta materia.

No obstante, la IA ha sido ya abordada en España en el ámbito de la investigación policial, entre cuyos hitos cabe destacar el sistema Veripol, un sistema de inteligencia artificial utilizado por la Policía para detectar denuncias falsas, y que basándose en el aprendizaje de patrones de lenguaje natural, tiene, según sus creadores, un porcentaje de fiabilidad cercano al 90%. Asimismo, aunque basándose en técnicas de Big Data, el sistema VioGEN, de la Secretaría de Estado de Seguridad del Ministerio del Interior, es una herramienta que mide el riesgo en los delitos de Violencia de Género y ayuda en la prevención del delito y su reincidencia.

Es cierto que aún no nos encontramos en un escenario como el que reflejaba la famosa película de Spielberg, pero al mismo tiempo, parece que no estamos tan lejos de la idea esencial del relato: ¿el avance imparable de la Revolución 4.0 podrá dar lugar a que sea posible la imposición de una pena basándose fundamentalmente en parámetros predictivos del comportamiento? ¿Llegarán a existir robots capaces de administrar justicia?

Resulta difícil responder a estas preguntas negativa o afirmativamente de forma tajante, pero desde una perspectiva tecnológica, la posibilidad de que la robótica avance hasta ese punto en el ámbito de la Justicia no es, ni mucho menos, descartable: China y Estonia (el país más digitalizado del continente europeo), se hallan inmersos en proyectos de creación de “jueces virtuales” que servirán de apoyo a los magistrados de carne y hueso en la toma de decisiones.

Una reflexión ética necesaria

Ante el impresionante desarrollo tecnológico que sin duda está por venir, parece necesario que sea el poder legislativo quien ponga los límites a esta “Justicia inteligente”, y en este sentido hay que subrayar los esfuerzos ya indicados en el ámbito de la Unión Europea con la publicación de la Carta Ética Europea sobre el uso de inteligencia artificial en los sistemas judiciales (Diciembre de 2018), en la que reconociendo el papel de la robótica para la mejora de la seguridad y eficacia de la Justicia, pone sobre aviso al legislador, señalando la necesidad de respetar los Derechos Humanos y los principios de calidad, seguridad y transparencia en todos los desarrollos tecnológicos que se realicen dentro de las técnicas de Inteligencia Artificial en los sistemas judiciales.

Presunción de inocencia, Derecho a la intimidad personal y aseguramiento de la Independencia Judicial deberían ser las líneas rojas en el desarrollo de cualquier técnica disruptiva de Inteligencia Artificial que quiera aplicarse para el mejor funcionamiento de la administración de Justicia.

Ahora bien, si la IA aprendiera a predecir tendencias criminales y a resolver conflictos del mismo modo en que ahora lo hacen los Jueces ¿no sería posible que también pudiera legislar y crear las normas en las que apoyarse para ejecutar estas tareas? Tal vez en este punto y parafraseando de nuevo a Philip K. Dick, cabría preguntarse si acaso, en un futuro no demasiado tardío, los androides no soñarán con ovejas eléctricas.[1]

Antonio De La Fuente Figuero
Procesalista especialista en IT
Consultor Senior de Procesia Proyectos y Servicios

 

 

[1] ¿Sueñan los androides con ovejas eléctricas? (Do Androids Dream of Electric Sheep?), novela corta de Philip K.Dick inspiradora de la película Blade Runner (Ridley Scott, 1982).