Los ámbitos en que puede intervenir la tecnología dentro del proceso civil son muy variados; así, Pérez Ragone[1] señala que una primera manifestación puede reconocerse en la digitalización de proceso, desde la conducción y gestión virtualizada, a través de la celebración de audiencias por videoconferencia, presentación de documentos mediante medios electrónicos y mecanismos online de resolución de disputas.
Una segunda manifestación es la aparición de la inteligencia artificial como herramienta que pretende dotar a la toma de decisiones dentro de un proceso de celeridad, eficiencia y seguridad, en la medida en que la gran capacidad de procesar información permitiría ampliar exponencialmente las relaciones de variables y escoger aquella que demuestre mayor racionalidad y se acerque al paradigma de la decisión justa.
Como en otras disciplinas, los principales problemas que sobrevienen con una mayor presencia de la inteligencia artificial en la toma de decisiones se refieren a permitir que la misma pueda operar de manera autónoma o permanezca como apoyo sustancial de la actividad judicial, constituyéndose como aportes epistémicos para su argumentación o razonamiento probatorio.
Los sesgos producidos por un input incorrectamente llevado a cabo y la incapacidad de raciocinio de algoritmo, a lo que se suman los problemas de transparencia ante la opacidad sobre la manera en que los algoritmos toman decisiones en sistemas de aprendizaje profundo, permiten mantener el escepticismo de que se pueda llegar a la instancia en que la máquina remplace completamente al juez ; en este sentido, se ha señalado que los tres grandes problemas de implementación de la inteligencia artificial en la toma de decisiones judiciales, como reemplazo al juez humano, son la traducción de Derecho en códigos informáticos; los problemas de las decisiones o juicios discrecionales que requieren ponderación valórica que la máquina no puede proporcionar; y, finalmente, la adecuada utilización de lenguaje judicial[2]
A pesar de los avances, por ahora, la inteligencia artificial mantiene su categoría de estar al servicio de operador jurídico, y constituirse en una herramienta que mejore la toma de decisiones[3]. Cabe señalar que el proyecto de Reglamento del Parlamento Europeo y del Consejo de Europa coloca a los sistemas de inteligencia artificial que incidan en la aplicación de la ley como aquellos que pueden ser considerados de alto riesgo, por lo que requieren algunas previsiones esenciales como la supervisión humana y la transparencia respecto de la operación realizada por el algoritmo para la toma de decisiones.[4] En efecto, el numeral 8 del Anexo III que desarrolla los sistemas de alto riesgo señala como uno de los que incluyen esta categoría a aquellos “destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios”.
Lo resaltado en negrita se refiere a la más reciente reforma de la versión de abril de presente año, por lo que la naturaleza de sistema como soporte para investigar e interpretar los hechos se extiende no solamente al quehacer judicial sino también a los mecanismos alternativos. La norma europea busca aplicar la rigurosidad de los principios que rigen los sistemas de alto riesgo a aquellos sistemas que puedan usarse para brindar soporte al juez en la evaluación, administración y valoración de los elementos probatorios. ¿Es posible que un sistema de IA pueda realizar estas operaciones intelectuales propias de la experiencia y conocimiento de juez?
Si se toma en cuenta que la inteligencia artificial se traduce, esencialmente, en un software que busca cumplir con determinados procedimientos como si fuesen realizados por seres humanos, los cuales son desarrollados en base al manejo de macrodatos que son gestionados y procesados buscando la mayor eficiencia[5], y que la función señalada tiene como centro modelos probabilísticos y algoritmos predictivos que le permiten intervenir, con distintos grados de autonomía, en predicciones, recomendaciones o toma de decisiones[6], la inteligencia artificial puede ser simbólica, basada en conocimiento apoyado en reglas de expertos para producir los resultados; o subsimbólica si incorpora la tecnología machine learning, por la cual,a partir de determinados datos se genera un aprendizaje automático basado en algoritmos[7]. Este proceso tiene distintos grados de claridad respecto de la manera en que se llegan a conclusiones, por lo que los daños que puedan producirse ante su uso y la necesidad de su reparación se convierten en un asunto desafiante al definir quién y bajo qué estatuto es responsable[8].
Con base en ello, la aplicación de la inteligencia artificial en el razonamiento probatorio podría cumplir con los parámetros señalados, especialmente si el sistema tiene alta opacidad y automatización. El volumen y la calidad de los datos recogidos y utilizados para un sistema de inteligencia artificial pueden afectar drásticamente a la función del sistema para comunidades y poblaciones específicas. Por lo tanto, sin un volumen de datos suficiente o una representación de diferentes comunidades, los datos pueden producir resultados discriminatorios[9].
Chile se ha sumado al intento poco frecuente de lograr que el ordenamiento jurídico pueda anticipar un marco regulatorio lo suficientemente fortalecido para garantizar los derechos de las personas en un contexto en que la automatización de la justicia seguirá en constante avance. El proyecto de Ley 16821-19 refundido con el 15869-19 y presentado por el Ejecutivo el 7 de mayo de 2024 acoge el modelo basado en el riesgo de Reglamento IA europeo; y aunque no aborda expresamente los sistemas que brinden soporte al juez para la investigación e interpretación de hechos y de la ley, deja para una norma posterior, de permanente actualización, la determinación de los sistemas que implican alto riesgo, en la que, seguramente, se cumplirá el efecto Bruselas y acogerá el contenido del Anexo III.
* Doctor en Derecho por la Universidad de Talca. Docente Investigador en Derecho Privado Universidad Central de Chile y miembro de claustro de Doctorado en Derecho de dicha universidad. Correo: edison.calahorrano@ucentral.cl. ORCID: https://orcid.org/0000-0003-0408-5737
[1] PÉREZ RAGONE (2021), p. 207.
[2] PÉREZ RAGONE (2021), p. 210.
[3] BATTELLI (2021), p. 72
[4] PARLAMENTO EUROPEO (2021), disponible en: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_ES.pdf. Fecha de Consulta: 4 de junio de 2024.
[5] RAMÓN (2021), p. 331
[6] PARLAMENTO EUROPEO (2022), sección 12.
[7] Banco Interamericano de Desarrollo (2020), p. 5
[8] COMISIÓN EUROPEA (2020), pp. 15-16.
[9] TSCHIDER (2021), pp. 1565.