La aplicación de la inteligencia artificial en el Derecho
Diariamente encontramos noticias acerca de los formidables desarrollos de la inteligencia artificial, de sus aplicaciones actuales y potenciales, y del profundo impacto laboral, económico y social que su progresiva implantación en diversos sectores profesionales está ocasionando y puede ocasionar en el futuro inmediato. Sin duda, la creciente asunción por parte de sistemas algorítmicos de determinadas tareas hasta ahora realizadas exclusivamente por humanos (desde la automatización de diagnósticos clínicos hasta la realización de operaciones bursátiles, pasando por la conducción autónoma), ha suscitado delicadas cuestiones éticas y jurídicas que el jurista, atento a la realidad, se ha aprestado a afrontar.
En esta línea se han emprendido múltiples esfuerzos encaminados a formular propuestas adecuadas para la necesaria regulación de esta nueva realidad. Así, en las diversas disciplinas jurídicas se ha comenzado a debatir acerca de cuestiones tales como la conveniencia o no de reconocer personalidad jurídica a los robots “inteligentes”, el régimen de responsabilidad que debería aplicarse a los daños que pudieran causar, las implicaciones jurídico-laborales de su introducción en las empresas o la posibilidad de sujetarles al pago de determinados impuestos, entre otras [1]. Y, al objeto de establecer un marco ético y jurídico que promueva el desarrollo de una inteligencia artificial respetuosa con los valores y principios democráticos, desde las instituciones europeas se viene publicando en los últimos años un creciente conjunto de normativas, declaraciones, directrices y estudios, entre los que se pueden destacar el Reglamento 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, de Protección de Datos; la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica; la Declaración sobre inteligencia artificial, robótica y “sistemas autónomos”, de 9 de marzo de 2018; el estudio Algorithms and Human Rights, publicado por el Consejo de Europa en marzo de 2018; la Comunicación de la Comisión Europea al Parlamento, al Consejo, al Comité Económico y Social y al Comité de las regiones titulada Generar confianza en la inteligencia artificial centrada en el ser humano, de 8 de abril de 2019; las Directrices éticas para una IA fiable, publicadas por la Comisión Europea en abril de 2019; y el Libro blanco sobre la inteligencia artificial de la Comisión Europea, de 19 de febrero de 2020. De este modo, en los últimos años se viene conformando un creciente corpus doctrinal y normativo sobre “inteligencia artificial y Derecho”, en el que aquella es tratada por el jurista como una nueva materia objeto de regulación. En este sentido, cabe hablar ya de la conformación de un incipiente “Derecho de la inteligencia artificial” como un nuevo sector jurídico, con una identidad específica.
Sin embargo, la aplicacion de la Inteligencia Artificial en el derecho no tiene una relación unidireccional. Al igual que ha sucedido en otros sectores profesionales, la actividad jurídica es también en buena medida susceptible de ser automatizada. Frente a los procesos de mecanización propiciados por anteriores revoluciones tecnológicas, una de las características más singulares de la denominada cuarta revolución industrial es precisamente que afecta también a tareas de carácter cognitivo o intelectual realizadas por profesionales “de cuello blanco”. Y el trabajo del jurista no escapa a esta nueva realidad. El desarrollo de las tecnologías de big data (capacidad de almacenamiento, procesamiento y análisis de ingentes volúmenes de datos no estructurados) y de ramas de la inteligencia artificial como el aprendizaje automático o machine learning (capacidad de las máquinas para aprender a realizar determinadas tareas a partir de la detección de patrones en la información mediante el análisis de datos masivos) y el procesamiento del lenguaje natural (capacidad de los sistemas para interactuar con el ser humano en un lenguaje no formal) permite hoy la creación de una serie de herramientas para automatizar diversas tareas jurídicas que hasta hace menos de una década era sencillamente inimaginable que pudieran dejar de ser realizadas por profesionales expertos[2].
Asistimos así a la emergencia de un nuevo campo de interés para el jurista: el de la “inteligencia artificial en el Derecho”. Un dominio centrado básicamente en el estudio de lo que podemos denominar la “inteligencia artificial jurídica” -esto es, el conjunto de herramientas de inteligencia artificial diseñadas y/o utilizadas para la automatización de las diversas tareas jurídicas-, de los desafíos e implicaciones epistemológicas que comporta el desarrollo o la adaptación de dichas herramientas a las peculiaridades del razonamiento jurídico, y de los efectos que su utilización puede tener tanto sobre los esquemas mentales y los métodos de trabajo tradicionales del jurista como sobre la práctica profesional del Derecho.
En este contexto, asistimos, en el ámbito de la administración de justicia, a un creciente debate en torno a las posibilidades de aplicar sistemas de inteligencia artificial para simplificar y automatizar distintas fases del proceso judicial [3], para introducir en los tribunales procedimientos completamente automatizados de negociación y mediación [4], para asistir a los jueces en la toma de decisiones [5] , e incluso para tomar directamente esas decisiones en sustitución de aquellos [6]. Cuestiones sumamente delicadas y con profundas implicaciones teóricas y prácticas, que han motivado la promulgación por parte de la Unión Europea, en diciembre de 2018, de la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno [7]. Asimismo, cada vez es mayor el número de gobiernos que, en aras de la eficiencia y la reducción de costes, recurren a sistemas algorítmicos para la toma automatizada de ciertas decisiones administrativas (selección de beneficiarios de servicios sanitarios y asistenciales, determinación de los servicios a que tiene derecho cada uno de ellos, asignación de becas académicas, contratación y renovación de contratos de empleados públicos, concesión de visados, determinación de beneficios penitenciarios, etc) [8]. Y el ámbito de la abogacía ya está experimentando importantes transformaciones como consecuencia del desarrollo de herramientas de inteligencia artificial capaces de automatizar tareas como la lectura y el análisis de contratos, la elaboración de todo tipo de documentos jurídicos, la selección del material electrónico relevante en el proceso, la gestión de riesgos legales, la elaboración de informes legales o la resolución de problemas jurídicos específicos mediante sistemas expertos, entre otras [9].
Este dominio de la aplicación de la inteligencia artificial al Derecho es en el que se ubica el presente trabajo, que pretende explorar algunos de los principales ángulos de interés de la inteligencia artificial jurídica para el jurista. El desarrollo de ese tipo de herramientas plantea una serie de dificultades singulares que tienen que ver, fundamentalmente, con las peculiares características de la argumentación jurídica. Por un lado, la resolución de problemas jurídicos de una cierta entidad normalmente precisa la realización de complejas cadenas de razonamientos interdependientes. Exigencia que choca con una de las principales dificultades de la inteligencia artificial. Como advierten Brynjolfsson & Mitchell [10], los sistemas de aprendizaje automático son muy eficientes en el descubrimiento de asociaciones empíricas de datos, pero esta eficiencia disminuye a medida que las tareas implican largas cadenas de razonamientos que requieren diversos conocimientos de background o de sentido común. Por otro lado, es preciso tener en cuenta que, a la hora de establecer una tarea de aprendizaje a la que se pueda aplicar un algoritmo de aprendizaje automático, es muy importante no sólo la cantidad sino también la calidad de los datos suministrados al sistema. De hecho, la corrección de los resultados del aprendizaje automático depende fundamentalmente de la disponibilidad de ground-truth data, esto es, de datos con valor de “verdad” que puedan ser utilizados para entrenar el algoritmo y para testar su rendimiento [11]. Pero, como sabemos, en el ámbito jurídico es muy difícil obtener o establecer datos a los que se pueda asignar el valor de “verdad” [12], debido fundamentalmente a la indeterminación inherente a la tarea de interpretación y aplicación del Derecho [13]. Una indeterminación que viene motivada no sólo por la incidencia de factores textuales sino también por el complejo proceso de continua interacción entre normas y hechos que implica la argumentación jurídica, especialmente en el ámbito judicial, lo que convierte a la noción de “relevancia jurídica” en un objetivo sumamente escurridizo, casi imposible de determinar apriorísticamente antes de iniciarse la investigación jurídica. Además, especialmente cuando nos movemos en el ámbito judicial, no debe olvidarse que las respuestas jurídicas no constituyen meras predicciones estadísticas sino decisiones que han de ser justificadas normativamente y cuya toma implica delicadas cuestiones institucionales sobre la competencia y legitimidad del órgano decisor.
Estas características especiales de la lógica jurídica, en algunos casos, impiden o limitan seriamente -al menos por el momento- las posibilidades de la inteligencia artificial en ciertas áreas de la actividad legal. Y, en otros, condicionan el diseño de las herramientas tecnológicas y/o las metodologías para su utilización. Pero por otra parte, en buena medida, la necesidad de superar estas dificultades es la razón que ha motivado la singularidad y la sofisticación de algunas de dichas herramientas, como los sistemas de “codificación predictiva” que trataré posteriormente, los cuales, si bien fueron diseñados específicamente para el ámbito jurídico, pronto se convirtieron en la punta de lanza de los sistemas de recuperación de la información por sus extraordinarias capacidades, extendiéndose a otros campos profesionales. Además, en sentido inverso, la aplicación a las tareas jurídicas de los métodos empíricos y cuantitativos en los que se basan los modelos algorítmicos de los sistemas de aprendizaje automático ha venido a enriquecer el arsenal metodológico del jurista, aportando nuevos enfoques alternativos o complementarios al tratamiento de los problemas jurídicos. Por todas estas razones, el creciente interés por el desarrollo de la inteligencia artificial jurídica ha ido de la mano de un renovado interés también por algunos de los problemas metodológicos clásicos de la teoría jurídica, aunque planteados ahora desde nuevas preocupaciones y dimensiones.
En el próximo artículo repasaremos algunos de los principales sistemas de inteligencia artificial jurídica, resaltando algunas de sus singularidades y aportaciones metodológicas. Posteriormente, en el tercer artículo abordamos el enorme salto cualitativo y el cambio de paradigma metodológico que en el campo de la inteligencia artificial jurídica supone el tránsito de los tradicionales sistemas expertos, basados en reglas predeterminadas, a los actuales sistemas de aprendizaje automático, basados en datos, cuya máxima expresión son las sofisticadas plataformas de legal question answering. Posteriormente, en el cuarto artículo, se tratan los sistemas de codificación predictiva, cuya utilización ha sido admitida ya jurisprudencialmente en diversos países anglosajones para seleccionar de manera automática el material documental relevante en el proceso judicial, provocando incluso la modificación de determinados principios y normas procesales. Finalmente, el último apartado está dedicado al examen de los sistemas de análisis predictivo, que intentan aportar una nueva seguridad jurídica a partir de la detección de patrones, tendencias y sesgos en la actuación de jueces y tribunales.
Continúa leyendo más al respecto de la Inteligencia Artificial en el Derecho al hacerte Miembro de la Comunidad Con Compliance.
1 Cfr., a modo de ejemplo, Barrio Andrés 2019a.
2 Ante la pregunta “¿qué es la inteligencia artificial jurídica?”, Goodman (2016: 21) no duda en responder que ésta “se reduce a dos aplicaciones principales: aprendizaje automático (o computación cognitiva) y procesamiento del lenguaje natural”.
3 Cfr. las propuestas en este sentido, en relación a la administración de justicia española, de Nieva Fenoll 2018, y Bueno de Mata 2019.
4 Esta introducción de los sistemas de resolución automática de disputas en línea en la administración de justicia es una de las aportaciones más interesantes de los tribunales online recientemente creados en algunos países. Hasta ahora, el caso de mayor éxito es el British Columbia Civil Resolution Tribunal, en Canadá, que funciona desde 2016. Se trata de una plataforma digital que cuenta con una arquitectura de varias capas: en la primera de ellas cuenta con una herramienta de inteligencia artificial que ayuda al usuario a diagnosticar su problema legal y a resolverlo -si es posible- por sí mismo; si no es así, en la segunda fase dispone de un sistema de resolución automática de disputas que permite a las partes alcanzar un acuerdo negociado; si esta herramienta tampoco tiene resultado, entra en juego un humano para “facilitar” el acuerdo; y sólo si fallan todos los procedimientos anteriores un juez decide el caso online. Siguiendo dicho modelo, una de las piezas centrales de la ambiciosa reforma de la administración de justicia emprendida en Inglaterra y Gales ha sido la implantación de un tribunal civil en línea, con una arquitectura similar a la de aquel, para la resolución de reclamaciones por un importe de hasta 25.000 libras.
5 Herramientas predictivas de inteligencia artificial ya están siendo utilizadas para esta función. Entre los ejemplos más notorios se hallan los sistemas algorítmicos de evaluación del riesgo de reincidencia criminal habitualmente empleados en la justicia penal estadounidense para decidir sobre la concesión o no de libertad provisional; y los sistemas de análisis predictivo diseñados para predecir y generar la solución de un caso -como los sistemas “Prometea”, utilizado por la Fiscalía General adjunta al Tribunal Superior de Justicia de la Ciudad de Buenos Aires, y “PretorIA”, recientemente puesto en marcha en la Corte Constitucional de Colombia-, a los que me referiré en el apartado final de este trabajo.
6 Hasta el momento, los proyectos de implantar sistemas inteligentes que sustituyan a los jueces no han pasado de ser meros anuncios que, a pesar de las expectativas generadas, no parecen estar próximos a hacerse realidad. Dentro de su programa de reforma de la Administración de Justicia (2018-2020), el gobierno francés anunció la introducción de un sistema algorítmico de resolución automática de disputas para asuntos por un valor de entre 4.000 y 6.000 euros. Y en marzo de 2019, el Ministro de Justicia estonio anunció la próxima puesta en funcionamiento de un “juez-robot” para resolver reclamaciones contractuales por un importe inferior a 7.000 euros, cuyas decisiones podrán ser apeladas ante un juez humano. Pero poco más se ha sabido hasta el momento.
7 También cabe mencionar en este ámbito la Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos.
8 Sobre los problemas que plantea la utilización de estos sistemas desde el punto de vista de las garantías administrativas y la necesidad de configurar un procedimiento administrativo debido tecnológico, cfr. el número monográfico de la Revista General de Derecho Administrativo, nº 50, 2019, titulado “Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data”, coordinado por los profesores A. Boix Palop y L. Cotino Hueso.
9 Cfr. Solar Cayón 2019 y Barrio Andrés 2019b.
10 Brynjolfsson & Mitchell 2017: 1532.
11 Para este proceso de aprendizaje del algoritmo se utilizan datos que asocian inputs y outputs relativos a la función deseada. Así, por ejemplo, en el ámbito médico se introducen en el programa informático datos que ligan expedientes médicos con sus correspondientes diagnósticos, de manera que el algoritmo pueda detectar las correlaciones existentes entre ellos y aprender a realizar futuros diagnósticos de manera automática.
12 Brynjolfsson & Mitchell (2017: 1531) mencionan precisamente el campo del Derecho -junto con la diagnosis psiquiátrica- como uno de los más problemáticos para obtener ground-truth data.
13 En este sentido es interesante apuntar cómo una de las vías ensayadas ya en los años 80 del siglo XX para intentar soslayar o mitigar este problema que plantea la aplicación de la inteligencia artificial al razonamiento jurídico fue el diseño de algoritmos que, siguiendo la estela de la filosofía jurídica de Hart, permitieran distinguir entre casos fáciles y casos difíciles. Cfr. Ashley 2017: 21-23.
Comments