INTELIGENCIA ARTIFICIAL PARA UNA JUSTICIA MÁS HUMANA

por Pablo Bravo | Oct 23, 2019 | Editorial | 0 Comentarios

Los avances en Inteligencia Artificial (IA) están causando asombro en todo el mundo. Desde vehículos autónomos, diagnóstico de enfermedades e imitar el estilo de pintores. Estos avances en IA también generan preocupación. No sólo surgen dudas éticas sobre aplicar IA en situaciones especialmente sensibles. Sino que, además, mucha gente está preocupada por perder sus trabajos debido a la automatización. En esta columna explicaré, por una parte, que los avances en IA son bastante más modestos de lo que parecen. Y, por la otra, que el escenario preocupante de la automatización es, por el contrario, auspicioso.

En esta tendencia el Derecho no es excepción. Además de la capacidad de argumentación de IBM Watson, los predictores de decisiones judiciales están teniendo un especial revuelo. En 2014, por ejemplo, Katz, Bommarito & Blackman lograron —con una combinación de conocimiento experto y machine learning— predecir correctamente las decisiones de la Corte Suprema de Estados Unidos en un 70%. En 2016, Aletras, Tsarapatsanis, Preotiuc, Pietro & Lamos — ahora sólo con machine learning — lograron predecir las decisiones de la Corte Europea de Derechos Humanos en un 79%. Prediciendo las decisiones de las Cortes de Apelaciones de Brazil, este año Lage-Freitas, Allende-Cid, Santana & Oliveira-Lage también lograron un 79%. Y en 2017, Sulea, Zampieri, Vela y Van Genabith lograron predecir correctamente las decisiones de la Corte Suprema francesa (Cour de cassation) en un 96% (!).

A simple vista, un 96% de predicción correcta resulta impactante. Apresuradamente, algunos podrían pensar que si una máquina es capaz de predecir un 96% de sus decisiones, quizás el Estado francés podría considerar reemplazar a los más de 200 de jueces de la Cour de cassation por dicha máquina. Así, se creería, el Estado francés podría ahorrar anualmente los cerca de tres millones de euros que gasta en salario de esos jueces a cambio de una máquina que, en el 96% de los casos, diría lo mismo.

Pero, en realidad, estos predictores no están tan avanzados.

Estas aplicaciones no predicen la decisión del tribunal a partir de los escritos de las partes o la prueba rendida en juicio. Estas aplicaciones de machine learning lo que realmente hacen es predecir (binariamenteel “acoge” o “rechaza”) a partir del texto contenido en la misma sentencia. Dicho en términos procesales, a partir de la parte expositiva y considerativa del fallo, el machine learning predice la parte resolutiva. Así visto, las altas tasas de predicción que tienen estas aplicaciones simplemente confirman algo que siempre supimos: que basta con leer los primeros párrafos de una sentencia para anticipar en qué dirección (favorable o desfavorable) concluirá.

Los avances que se han logrado en IA son ciertamente importantes. Pero esos resultados llamativos se logran, en realidad, en contextos de laboratorio: ahí donde las variables están claramente definidas, los datos son suficientemente abundantes, limpios y la tarea es perfectamente repetitiva. Pero el mundo real — incluida la práctica del Derecho — no es de laboratorio, es compleja. Las tecnologías de IA que tenemos hoy no están suficientemente desarrolladas como para ser aplicables en esa complejidad. De tanto en tanto, sin embargo, en el mundo real también se dan situaciones específicas que se asemejan al contexto de laboratorio. Es sólo ahí, en esos contextos acotados, donde la IA podría ser aplicada satisfactoriamente.

En la administración de justicia lo que podría ser automatizado con IA son sólo tareas precisas, particularmente repetitivas y simples. Por ejemplo, identificación de nombres, frases y números; una clasificación muy general de un documento en alguna categoría — i.e., familia, laboral o civil — según el tipo de palabras que contiene; facilitar la búsqueda de legislación y jurisprudencia pertinente a un caso, entre otros. Como podemos ver, entonces, lo que se podría automatizar son ciertas partes del trabajo “de escritorio”. En fin, el verdadero impacto de la IA en la administración de justicia sería ahorrar tiempo de jueces y funcionarios en dichas tareas de escritorio. Y al necesitar gastar menos tiempo en sus escritorios, jueces y funcionarios van a tener más tiempo para atender cara-a-cara a los usuarios del sistema de justicia. Es en ese sentido que la IA no hará la administración de justicia más artificial. Todo lo contrario, la hará más humana porque las máquinas se encargarán del papeleo.

Repensando la independencia judicial desde el acceso a los datos

por Matías Aránguiz | Sep 30, 2019 | Editorial | 0 Comentarios

La ciencia de datos está revolucionando el acercamiento que la sociedad tiene ante ciertas instituciones y comportamientos. El acceso y procesamiento de información con nuevas herramientas nos ha permitido entender la realidad de forma distinta. Uno de los grandes beneficios de la ciencia de datos ha sido poder ver los efectos de los actos de instituciones de poder desde una perspectiva agregada.

Históricamente, hemos observado a las instituciones desde casos y comportamientos particulares; en el caso del Derecho, se analiza tal o cual sentencia, se revisan los argumentos en un determinado caso y, en ocasiones, la mirada abarca la evolución de una institución jurídica en el tiempo. De esta forma, el material con que el jurista ha creado conocimiento ha tendido a ser un botón de muestra del cual se desprenden generalidades. Salvo contadas excepciones, desde lo particular se extrae información a la que le atribuimos efectos generales: el Derecho ha sido la ciencia del análisis de un caso y situaciones particulares.  

Sin embargo, hoy es posible ver de forma agregada los comportamientos institucionales. Con técnicas de análisis de datos podemos ver qué es lo que pasa con una perspectiva general; podemos observar tendencias, evoluciones, casos anómalos y su posible justificación. Por ejemplo, ya es viable detectar grupos de situaciones que se repiten en determinados grupos de jueces o comportamientos que se reiteran en ciertas zonas geográficas, pero que en otras no.

Bajando más aún el ejemplo, somos capaces de identificar casos en los que jueces de algún grupo etario tienden a fallar de cierta manera y grupos de jueces que, viviendo en zonas similares, tienen tendencias con inclinaciones injustificadas —sesgos— hacia ciertos grupos de la población.

Ya se ha mencionado el término “agregado” y para entender el concepto es necesario graficar la diferencia entre información individual e información agregada. Pensemos en el caso de un cliente que se acerca su abogado y le consulta cómo han respondido los tribunales ante cierto problema. El abogado puede hacer referencia a una o más sentencias que conozca y sobre la base de esa información, responde la pregunta que se le formuló. El conocimiento de este abogado puede ser una perfecta representación de la realidad, pues la Corte constantemente falla en determinada dirección, pero también puede tratarse de un caso de excepción, pues ese caso que el abogado conoce representa un porcentaje pequeño de veces en que la Corte falló en tal sentido.

El problema con este ejemplo es que sin información agregada los abogados, investigadores y la sociedad en general no está capacitada para conocer qué porcentaje de los casos siguen tal o cual tendencia. Sólo tenemos conocimiento de aquello que hemos experimentado, nos han contado, hemos leído, o bien a la que hemos accedido porque alguien preparó un estudio sobre alguna evolución jurisprudencial, esto es, a la experiencia añadimos la confianza que depositamos en información de terceros.

¿Por qué esta introducción acerca de herramientas de análisis de comportamientos institucionales? Porque hoy nos es permitido redefinir alcances y límites de elementos específicos dentro de un ámbito más general: podemos incluso aplicarlo a la independencia judicial.

Así es como desde la óptica de las instituciones de poder y la información agregada, podríamos aplicar un lente bifocal en esta materia. En primer lugar, nos encontramos con la clásica impermeabilidad que el Poder Judicial debe mantener frente a incentivos o intereses particulares externos, junto a la transparencia del actuar institucional que le permite ser evaluado desde afuera.

Este punto parece no ser alterado con el análisis de datos agregados ya explicado, salvo para entender actuaciones anómalas en un contexto de tendencias: si hoy se dicta una sentencia fuera de la normalidad, utilizando análisis agregado podría ser más fácil identificarla, ponerla en un contexto y solicitar de la autoridad una justificación.

En segundo lugar, respecto al análisis que se pueda hacer desde fuera, no nos referimos a un escrutinio odioso de crítica a la institucionalidad, sino a (i) un análisis democratizante desde un punto de vista constitucional, que entrega legitimación democrática y (ii) el ejercicio de control social sobre el Poder Judicial, factible de ser ejercido por cualquiera, de modo que constituya un aporte al crecimiento de la institución.

Este Poder del Estado no cuenta con un revisor externo, a diferencia del Legislativo y del Ejecutivo que, entre otros mecanismos, son evaluados socialmente en cada elección.

Es por ello que se hace fundamental el trabajo que abogados —sea por interés personal o en representación de sus clientes—, académicos e investigadores puedan realizar en un rol contralor del actuar de los tribunales. Esta revisión de terceros valida que la institución opere dentro de un Estado de Derecho; lo que se conoce como accountability y respecto de la cual existe innumerable literatura.

Hoy no existe en Chile acceso público a las bases de datos de sentencias del Poder Judicial. Si lo hubiere, podríamos realizar análisis agregado, con todos los beneficios que ello implicaría y que ya describimos. Por más que una institución sea consciente de su necesidad de revisión y tenga equipos internos que constantemente evalúen sus actuaciones, siempre existirán nuevas formas y puntos de vista que aportarán al análisis. En ciencia de datos se dice que una sola base de datos va a tener tantas interpretaciones como analistas revisándolas.

Con miras a la mejora constante de la institución, es imperativo incorporar la visión de diferentes actores, mediante la revisión que distintos grupos pueden desarrollar; lo que se ha denominado Crowdsourcing.

Si bien podría parecer peligroso que cualquiera se sienta habilitado para hacer cuestionamientos institucionales, ese trabajo, al igual que el desarrollado por el periodismo, logrará peso no solo por el contenido del mensaje, sino por la credibilidad que genera quien lo emite.

Insisto: abrir una institución al diálogo la valida socialmente y el trabajo conjunto con actores externos, más allá de ser una oportunidad, es ya una necesidad. Requerimos como país tener acceso a las bases de datos de las sentencias del Poder Judicial, por ellos y por nosotros.

PALABRAS AL CIERRE
1ER FORO ANUAL DE LA RED CHILENA DE INVESTIGADORES EN DERECHO PROCESAL

por Enrique Letelier | Sep 6, 2019 | Editorial | 0 Comentarios

El gran escritor florentino Giovanni Papini (n. 1881) plasmaba en el relato “El tribunal electrónico” de su libro El Libro Negro, publicado a mediados del siglo XX, obra que es la continuación de su magnífico Gog, las acongojadas reflexiones del personaje principal:

«La construcción de máquinas pensantes ha progresado muchísimo durante los últimos años, especialmente en nuestro país, que ostenta ahora el primado de la técnica, así como Italia tuvo en sus tiempos el primado del arte, Francia el de la elegancia, Inglaterra el del comercio y Alemania el de las ciencias militares.

En estos días se realizan en Pittsburg los primeros experimentos para utilizar máquinas en la administración de la justicia. Después de haberse construido cerebros electrónicos matemáticos, dialécticos, estadísticos y sociológicos, ya se ha fabricado en esta ciudad, fruto de dos años de trabajo, el primer aparato mecánico que juzga.

Tal aparato gigante, con un frente de siete metros, se alza en la pared de fondo del aula mayor del tribunal. Los jueces, abogados y oficiales de justicia no ocupan sus lugares habituales, sino que se sientan como simples espectadores entre las primeras filas del público. La máquina no tiene necesidad de ellos, es más segura, precisa e infalible que sus reducidos cerebros humanos. (…)

La primera audiencia del novísimo tribunal comenzó hoy por la mañana, a las nueve horas. El primer imputado fue un joven obrero de la industria siderúrgica, acusado de haber asesinado a una jovencita que se le resistía. (…)

Apareció luego una mujer, quien de acuerdo con la acusación había falsificado la firma de su patrón para apoderarse de algún millar de dólares. Este segundo proceso se despachó aún con más facilidad y rapidez… (…)

El tercer proceso fue más importante y duró algo más. Se trataba de un espía reincidente, que vendió a una potencia extranjera documentos secretos referentes a la seguridad de nuestro país. El interrogatorio, hecho por la máquina mediante señales acústicas y luminosas, duró por espacio de varios minutos. El acusado solicitó ser defendido, y el cerebro mecánico, después de reconocer el buen derecho de la demanda, mediante un disco parlante enumeró las razones que podían alegarse para atenuar la vergonzosa culpa. Se siguió una breve pausa y en seguida otro disco respondió punto por punto, en forma concisa y casi geométrica, a aquellas tentativas de disculpa.

El asistente consultó a diversas secciones de la máquina, y las respuestas, expresadas inmediata y ordenadamente mediante signos brillantes, fueron desfavorables al acusado.

Finalmente, después de algunos segundos de silencio opresivo, se iluminó el cuadrante más elevado de toda la máquina: apareció, primeramente, el lúgubre diseño de una calavera, y luego, un poco más abajo, las dos terribles palabras: «silla eléctrica». (…)

No tuve voluntad ni fuerza para asistir a otros cuatro procesos que debían ventilarse aquella misma mañana. No me sentía bien, una sensación de náuseas amenazaba hacerme vomitar. (…)

Regresé al hotel y me tendí en la cama pensando en lo que había visto. He sido siempre favorecedor de los prodigiosos inventos humanos debidos a la ciencia moderna, pero aquella horrible aplicación de la cibernética me confundió y perturbó profundamente. Ver a aquellas criaturas humanas, quizá más infelices que culpables, juzgadas y condenadas por una lúcida y gélida máquina, era cosa que suscitaba en mí una protesta sorda, tal vez primitiva e instintiva, pero a la que no lograba acallar. Las máquinas inventadas y fabricadas por el ingenio de los hombres habían logrado quitar la libertad y la vida a sus progenitores. Un complejo conjunto mecánico, animado únicamente por la corriente eléctrica, pretendía ahora resolver, en virtud de cifras, los misteriosos problemas de las almas humanas. La máquina se convertía en juez del ser viviente; la materia sentenciaba en las cosas del espíritu… Era algo demasiado espantoso, incluso para un hombre entusiasta por el progreso, como yo me jacto de serlo.

Necesité una dosis de whisky y algunas horas de sueño para recuperar un poco mi serenidad. El tribunal electrónico tiene, sin duda, un mérito: el de ser más rápido que cualquier tribunal constituido por jueces de carne humana.»

Muchos años más tarde los creadores de la serie Star Trek, en el episodio “La medida de un hombre” (Temp. 2, ep. 09), mostraban a la tripulación de la nave nodriza discutiendo si el androide Data debía ser tratado como un ser libre o como una cosa propiedad de la Federación. Tan interesante debate de ciencia ficción llevó nada menos que a Robert Alexy a reflexionar por esos cauces y publicar, en coautoría con Alfonso García Figueroa, su conocida monografía Star Trek y los Derechos Humanos (Tirant Lo Blanch, 2009).

Entre el asombro del personaje de Papini y los reclamos del androide Data subyace la pregunta sobre el límite de lo posible: ¿podrán las máquinas reemplazar a los seres humanos en la tarea tan preciosa y a la vez compleja de juzgar? ¿Llegará el momento en que seres dotados de inteligencia artificial reclamen, en su favor, derechos que hasta ahora son reconocidos solo para los humanos? Entre nosotros urge la necesidad de abrir los ojos, observar y pensar continuamente sobre la realidad en la que nos movemos, para constatarla y comprenderla.

En este primer foro, que con tan buen éxito ha iniciado en Viña del Mar y concluido en Valparaíso, hemos escuchado la exposición de diecisiete trabajos que abordaron muchos temas relacionados con la justicia electrónica. De aquí una primera conclusión: existe una realidad de fenómenos y epifenómenos referidos a e-Justice más rica y variada de la que estuvo en nuestras mentes cuando, hace muchos meses, decidimos que este sería nuestro primer gran tema de derecho procesal sobre el que impulsaríamos el debate y comunicaríamos las conclusiones, abriendo el espacio para todos y todas quienes se animasen a participar.

Estos días hemos oído y podido conversar sobre muchos temas enfocados hacia el fenómeno de la justicia electrónica: el acceso a la justicia, el ejercicio y tutela jurisdiccional de los derechos, el uso de las TICs en el proceso, las aplicaciones y rendimiento de la inteligencia artificial, la gestión de casos, el análisis económico del proceso, la prueba y sus diversas manifestaciones, el juicio jurisdiccional, los sesgos cognitivos y un ethos común a todos estos temas. De seguro han quedado muchos otros fuera de este debate, pero sin duda el contendido de nuestras conversaciones ha servido para que pensemos críticamente sobre la realidad.

Resta agradecer profundamente a los asistentes al Foro, a los expositores que han confiado en nuestra Red como un espacio para dar a conocer sus investigaciones y debatirlas científicamente y a los miembros de la Red de Investigadores en Derecho Procesal, sin cuyo generoso trabajo esta actividad académica no habría tenido tan buenos y provechosos resultados.

Les invitamos a participar en el 2º Foro anual de la Red, cuyo tema y lugar de realización haremos saber oportunamente.

Buenas noches.

¿TIENE EL IMPUTADO EL DERECHO A MENTIR EN EL PROCESO PENAL?

por Ramón Beltrán | Ago 23, 2019 | Editorial | 0 Comentarios

“Todo hombre tiene no sólo un derecho, sino también el más estricto deber de la veracidad en las declaraciones que no puede eludir, aunque puedan perjudicarle a él mismo o a otros”[1]. Con estas palabras Kant, replicando en 1797 una insinuación proferida por Constant, manifestaba la necesidad de reconocer un deber incondicional de decir siempre la verdad. Ello por cuanto, a juicio del filósofo de Königsberg, el que miente, por más bondadosa que pueda ser su intención, transgrede no sólo un imperativo de carácter ético-formal, sino que también “un sagrado mandamiento de la razón, incondicionalmente exigido y no limitado por conveniencia alguna”[2].

Desde luego, podemos estar de acuerdo que tal deber se dirige en pos de configurar un sistema cognoscitivamente coherente y, de esta forma, tendiente a satisfacer una pretensión básica de racionalidad. Sin embargo, tal manifestación del rigorismo kantiano también puede entrañar una serie de inconvenientes. De hecho, lo ideal sería que seamos veraces y aceptemos las consecuencias que nuestro actuar puede traer aparejado. Pero como lo seres humanos somos falibles e imperfectos, dados a adaptar la realidad de acuerdo nuestros propios intereses, la mentira se nos presenta como un recurso prácticamente inevitable. No por nada, el simple test de “Sally-Ann”, que es utilizado en la psicología y las ciencias cognitivas para evaluar la capacidad de los seres humanos de atribuir pensamientos e intenciones en otras personas, muestra que la mayoría de los niños adquieren el concepto de verdad sólo después de haber aprendido los conceptos de engaño y error[3]. Quizás por ello, en situaciones de interacción y adaptación social, la mentira sea siempre graduable y multiforme, de forma tal de mostrar facetas de rechazo, tolerancia e, incluso, justificación.

Ahora bien, reconociendo tal realidad, es sabido que en el campo punitivo existen situaciones en las que por no hacer daño a los demás o a uno mismo, omitimos decir la verdad. En estos casos, se dice, guardar silencio nos puede evitar males mayores. Primero, porque lo más probable es que las personas a quienes se les impute un hecho criminal, por su propio instinto natural de conservación, decidan no declarar por el justo temor de verse expuestas a represalias, por el deseo de proteger a sus cercanos, o bien por resguardar aspectos reservados de su vida privada. Segundo, porque incluso si aquéllos decidieren renunciar a su derecho a guardar silencio, el peligro de perjudicar su propia defensa con una mala declaración podría también echar por tierra una eventual estrategia absolutoria. De ahí que, por tanto, al alero del art. 93 letra g) del Código Procesal Penal, el imputado tenga siempre en nuestro país el derecho “a guardar silencio o, en caso de consentir en prestar declaración, a no hacerlo bajo juramento”.

¿Pero el que podamos silenciar una verdad implica amparar un derecho a la falsedad o, más precisamente, un derecho a mentir? ¿Existirá acaso alguna consecuencia jurídica si, renunciando a su derecho a guardar silencio, el imputado declara de forma tendenciosamente mendaz? ¿Podrá achacársele la comisión del delito de perjurio, falso testimonio u obstrucción a la investigación?

Para responder a estas interrogantes se debe considerar que, de conformidad al articulo 19 Nº 7 letra J) de nuestra Constitución, en nuestro Derecho el “principio de no autoincriminación” constituye una prerrogativa en favor del imputado que lo exime de cualquier tipo de pena que se derive de su declaración mendaz. Ello, por cuanto, si el imputado decide declarar y, por ende, renunciar a su derecho a guardar silencio, el principio de no autoincriminación lo favorecería en un triple sentido: en primer lugar, si declara la verdad de los hechos, a no acusarse penalmente así mismo o a sus más parientes cercanos; en segundo lugar, si depone de forma mendaz bajo juramento o promesa, a no cometer el delito de perjurio en causa propia; y, en tercer lugar, si se niega a declarar de forma íntegra y completa, a no cometer el delito de desacato o una figura punible similar. De allí, entonces, que tal principio funcione en nuestro sistema como una causa de exclusión de pena que, en términos generales, tiende a eliminar las consecuencias punitivas que se siguen de la infracción del deber general de sinceridad (eo ipso, “exhortación a decir la verdad”) manifestado en el artículo 98 del Código Procesal Penal.

Es más, frente a una declaración falsa del imputado, tampoco podría irrogársele a éste la comisión del tipo penal de falso testimonio (art. 206 del CP), ni menos el de obstrucción a la investigación (inc. 2 del art. 269 bis del CP): en el primer caso, por tratarse de un delito especial propio que requiere de un tipo de autor distinto del imputado; y, en el segundo caso, por encontrase aquél excluido de su punibilidad por aplicación de lo dispuesto en el artículo 17 del CP, en relación con el artículo 302 del CPP.  Por tanto, a no ser que en la declaración se lesionen bienes jurídicos de terceros, el imputado se encontraría precisamente protegido por el principio de no autoincriminación respecto de toda declaración falsa que manifieste en juicio oral. 

¿Significa lo anterior reconocer el derecho del imputado a mentir en juicio? Evidentemente que no. De hecho, una cosa es no decir la verdad que se sabe, callarla, silenciarla y otra, muy distinta, es lisa y llanamente mentir. La persona que manifiesta su voluntad de declarar y, de este modo, se somete libremente a la dialéctica procesal del juicio oral, tiene siempre el deber –y la conveniencia– de decir la verdad. No porque del relato fáctico mendaz se derive necesariamente una respuesta punitiva directa, lo cual, como vimos, resulta difícil de determinar, sino porque quien voluntariamente depone debe aceptar las reglas básicas del principio contradictorio y, de este modo, debe someterse a un control de confirmación o refutación sobre su concreta narración fáctica. Tal declaración, por ende, puede ser mendaz, incompleta e, incluso, inductivamente errónea, pero más allá de las prebendas que se quieran obtener a partir de ello, lo cierto es que su sola manifestación no puede reconocerse como un auténtico y genuino “derecho”.

Pensar lo contrario, esto es, atribuir a una declaración mendaz la categoría de “derecho”, sería tanto como desconocer la finalidad misma del proceso penal: que su razón de ser constituye un constante ejercicio de formulaciones intelectuales, planteamiento de conjeturas y elaboración de posibles hipótesis, a objeto precisamente de determinar el carácter veritativo de aquellas aserciones que resulten probadas. El acusado que decide declarar en el juicio oral, por tanto, tendrá siempre el derecho y la posibilidad de ser oído y de ejercer su defensa en conformidad a su propia visión de los hechos. Sin embargo, ejerciendo tal prerrogativa, deberá también someterse a las reglas propias del interrogatorio cruzado y, en ese sentido, aclarar las contradicciones en las que incurra e, incluso, si resulta necesario, ser contrastado con los demás relatos y medios de prueba con una clara finalidad: develar si fue o no veraz en sus propias declaraciones.

[1] KANT, Immanuel, “Sobre un presunto derecho de mentir por filantropía” en Teoría y práctica (2ª edición, Madrid, Tecnos, 1993), p. 61.

[2] Ibídem., p. 64.

[3] Cfr. D’AGOSTINI, Franca, Menzogna (Torino, Bollati Boringhieri, 2012), p. 16.