El peligro de las alucinaciones en la justicIA
Josefa Sciaraffia Ávila[1]
La inteligencia artificial (en adelante IA) es una tecnología antigua, ya que data de la década de los 60, pero que ha tomado auge en nuestro tiempo producto del internet, avances en materia de softwares y la disposición masiva de datos. En tal sentido, ya no es una promesa futurista. Está aquí, se usa a diario y, silenciosamente (sobre todo considerando que existen versiones gratuitas) y por supuesto también ha entrado a los tribunales. Abogados, jueces y funcionarios recurren cada vez más a herramientas basadas en IA para redactar o mejorar escritos, resumir antecedentes o buscar jurisprudencia. El problema no es ese. El verdadero riesgo aparece cuando la IA se equivoca y no lo logramos advertir por una falta de revisión, pereza intelectual o confianza excesiva en esta tecnología.
En tal sentido, uno de los fenómenos más preocupantes asociados a esta tecnología es las llamadas alucinaciones, que son desviaciones de los resultados esperados por parte de la IA, lo que puede implicar introducir elementos imaginarios o sin sentido; siendo propio de los sistemas de algoritmos complejos [1], es decir, IA de tipo generativa.
En palabras sencillas, las alucinaciones son respuestas que suenan convincentes, bien redactadas y seguras, pero que contienen información falsa, inventada o simplemente inexistente. La IA no miente en sentido humano, sino que cumple su objetivo de programación, el cual es entregar una respuesta al usuario, aun cuando no cuenta con la información para ello. Por lo tanto, las alucinaciones son peligrosas para la justicia en la medida que pueden implicar tomar decisiones del proceso en base a una información equivocada. Ahora bien, la UNESCO en sus recientes directrices para el uso de sistemas de IA en cortes y tribunales (2026), abandona el término alucinaciones por antropomorfizar a los sistemas de IA, refiriéndose a las mismas como “información incorrecta, imprecisa, ficticia o sin sentido” [2].
Este riesgo no es teórico. Ya existen casos concretos en los que la IA ha contribuido a errores judiciales. En España, el sistema VioGén, diseñado para evaluar el riesgo de víctimas de violencia intrafamiliar, calificó como no apreciable el peligro que enfrentaba una mujer que posteriormente fue víctima de femicidio, como consecuencia se condenó al Estado por su responsabilidad [3]. No se trató de una falla humana aislada, sino de una confianza excesiva en un sistema automatizado.
Tampoco se trata de una realidad lejana para Chile, ya que una encuesta reveló que un 9,8% de los jueces reconoce utilizar IA, principalmente a través de chatbots basados en lenguaje natural como ChatGPT, Gemini y Copilot, con fines de edición de textos, investigación jurídica, elaboración de resúmenes y procesamiento de documentos [4]. A ello se suma el uso creciente y no cuantificado de estas tecnologías por parte de abogados litigantes, quienes las emplean para preparar escritos y argumentos. En ambos casos, el problema surge cuando el contenido generado no es revisado con el debido cuidado.
El ejemplo más ilustrativo es el de la jurisprudencia inexistente. En 2023, un tribunal de Nueva York sancionó a abogados que citaron fallos que nunca existieron, generados por una herramienta de IA [5]. La multa fue ejemplar, pero el mensaje aún más claro: delegar sin control en la IA puede tener consecuencias graves. En Chile, ya se han detectado los primeros casos. En uno, el tribunal optó por no sancionar [6], y en otro, se impuso una multa por infracción a la buena fe procesal y el deber de colaboración [7].
Esto plantea una pregunta incómoda pero inevitable: ¿está preparado nuestro sistema judicial para convivir con la IA? La respuesta, por ahora, es negativa. No obstante, por un lado, el Poder Judicial ha comenzado a incorporar IA de manera institucional, como ocurre con el piloto “Justa”, orientado a divorcios de común acuerdo y a la transcripción de audios [8]. Por otro, no existe todavía una regulación (ley ni auto acordado) que establezca estándares, deberes, responsabilidades y sanciones frente al uso y mal uso de estas herramientas.
La Corte Suprema ha dado un primer paso al incorporar orientaciones sobre el uso responsable de la IA en el Código de Ética Judicial, en cual en el artículo 17 recalca algo fundamental: la decisión jurisdiccional es indelegable [9]. La IA puede asistir, pero no reemplazar el juicio humano. Y, sobre todo, sus resultados deben ser siempre revisados. Sin embargo, estas directrices tienen un alcance limitado al no implicar sanciones concretas por su inobservancia y no resolver el problema de fondo. Complementa lo anterior, la reciente Guía Básica sobre Inteligencia Artificial Generativa para el ejercicio de Juezas y Jueces de la Academia Judicial, que en materia de alucinaciones insta por la verificación humana para evitarlas [10]
Hoy, frente a la ausencia de una regulación específica sobre las alucinaciones de la IA, solo queda recurrir a normas tradicionales como: las facultades disciplinarias del Código Orgánico de Tribunales (en adelante COT) [11], en particular, las previstas para el superior jerárquico como castigo a las faltas cometidas por jueces de los artículos 535 a 538, 540 y 541 (extensibles en el caso que el responsable de la alucinación sea el tribunal). Y las que cuenta los jueces para hacer frente a las faltas cometidas por los litigantes de los artículos 530, 531, 542 y 543 (aplicables en el caso que el responsable de la alucinación sea un litigante). A lo que se suma, artículo 2 letra d) Ley N°20.886 [12], que consagra el principio de buena fe en la tramitación electrónica, el cual permite al juez de oficio o a petición de parte sancionar todo acto u omisión en contra de este principio. No obstante, la ley no establece de forma expresa en qué consiste tal posibilidad sancionatoria, por lo que necesariamente nos remite a auxiliarnos de las mencionadas normas del COT.
Si bien, las normas aludidas constituyen una herramienta útil, están pensadas para un escenario distinto, anterior al uso de la IA. Aplicarlas a esta nueva realidad exige interpretaciones creativas y, a veces, incluso forzadas. Por lo tanto, el debate ya no es si la IA debe usarse en la justicia. Eso es un hecho, ya que no podemos desconocer su utilidad. La pregunta relevante es cómo se regula su uso y quién asume la responsabilidad cuando falla. Porque cuando una IA inventa un fallo, no responde ante el tribunal. Lo hace el juez o abogado que lo cita. Cuando un sistema automatizado no detecta un riesgo, no enfrenta un juicio. Lo enfrenta el Estado.
Así, las alucinaciones de la IA no son simples errores técnicos. Son un desafío jurídico, ético e institucional. Ignorarlas o minimizarlas no las hará desaparecer. Al contrario: cuanto más se normalice el uso de estas herramientas sin reglas claras, mayor será el riesgo de que la justicia paradójicamente se base en ficciones. Regular no es prohibir. Es asumir que la tecnología llegó para quedarse y que, como toda herramienta poderosa, exige límites, transparencia y responsabilidad. En juego no está solo la eficiencia del sistema judicial, sino algo mucho más delicado: la confianza en que las decisiones que afectan derechos y libertades se adoptan sobre hechos reales, y no sobre alucinaciones digitales.
Referencias
[1] Barría Huidobro, Cristián: “Alucinaciones de la inteligencia artificial: impacto en tecnología, política y sociedad”, Revista Estrategia Poder y Desarrollo, vol. 3, N°5, pp. 49-50 (2024).
[2] UNESCO: Directrices para el uso de sistemas de IA en cortes y tribunales (2026).
[3] Sentencia de Sala contenciosa administrativo de la audiencia nacional N°2350 (2020).
[4] Universidad Adolfo Ibáñez: “Percepción de Jueces Civiles sobre el uso de TICs en Chile”, Laboratorio de Justicia Centrada en las Personas” (2025).
[5] United States District Court Southern District of New York, Mata v. Avianca, No. 22-CV-1461 (PKC), WL 4114965 (2023).
[6] 16º Juzgado Civil de Santiago, Rol 17.675-2024, resolución de incidente (2025).
[7] 2º Juzgado Civil de Concepción, Rol C- 6127-2025 (2026).
[8] Poder Judicial, notas de prensa: https://www.pjud.cl/prensa-y-comunicaciones/noticias-del-poder-judicial/118822, y https://www.pjud.cl/prensa-y-comunicaciones/noticias-del-poder-judicial/124067 (2024 y 2025).
[9] Acta N°244 XXVIII Jornadas de reflexión de la Corte Suprema. Acuerdo relativo al Código de Ética Judicial, pp. 20-22 (2025).
[10] Academia Judicial de Chile: Guía Básica sobre Inteligencia Artificial Generativa para el ejercicio de Juezas y Jueces (2026).
[11] Código Orgánico de Tribunales (1943).
[12] Ley Nº20.886 modifica el Código de Procedimiento Civil, para establecer la tramitación digital de los procedimientos judiciales (2015).
[1] Abogada. Doctoranda en Derecho de la Pontificia Universidad Católica de Chile. Profesora de Derecho Procesal en la Universidad Diego Portales, Universidad Alberto Hurtado y Universidad Academia de Humanismo Cristiano.