Derecho
Presidente de la Corte Superior de Justicia de Lima Norte (2023-2024)Asistente: ChatGPT-4 (1) (2)
En el sistema de justicia la IA se usa desde hace varios años y en distintos países, pero con algunas reservas, incluso en algunos las han prohibido (3), debido a las controversias en torno a fiabilidad, sesgos e inequidad de los algoritmos.
[Lea también: Juzgado usa inteligencia artificial para dictar fallo]
Teniendo en cuenta la información de ChatGPT y la bibliografía consultada podemos hacer una lista de algunos algoritmos y modelos matemáticos que se han utilizado en el sistema de justicia de varios países:
1. Compas: es un sistema de puntuación de riesgo que se utiliza en los Estados Unidos para predecir la probabilidad de que una persona reincida en la delincuencia.
El sistema utiliza una variedad de factores como el historial de delitos de una persona, su edad, su género y su raza, para generar una puntuación de riesgo que se utiliza para informar las decisiones judiciales.
2. Harmony: es otro sistema de puntuación de riesgo que se utiliza en Reino Unido para evaluar el riesgo de que una persona cometa un delito violento.
3. LSI-R: es un sistema de evaluación de riesgos que utiliza Canadá y opera de forma similar a Harmony y Compas.
4. Riscambi es otro programa de predicción del nivel de reincidencia de que un reo comenta un nuevo delito que España utiliza con la finalidad de otorgarle beneficios penitenciarios.
5. PredPol: en cambio, es un modelo matemático creado en EE. UU. (UCLA.2000) para predecir la probabilidad de que se produzca un delito en una determinada área geográfica en un momento determinado.
El modelo utiliza datos históricos sobre la delincuencia y otros factores, como las condiciones meteorológicas y la hora del día, para generar predicciones de dónde y cuándo se producirán los delitos. Funciona en Atlanta y ha logrado reducir en 19% el número de delitos.
6. Case Law Analytics. Es un sistema de predicción que utiliza modelos matemáticos, algoritmos y se apoya en la IA para proporcionar servicios de cuantificación de riesgos para abogados basados en una asociación de larga data entre abogados y matemáticos. El sistema ha permitido, por ejemplo, anticipar correctamente el 79° de los veredictos del Tribunal Europeo de Derechos Humanos. Considera todas las decisiones dictadas anteriormente y frente a un nuevo caso predice la posible solución.
7. Socrates (Brasil 2017): Es un programa de inteligencia artificial que procesa una data de 108 millones de casos. Se basa en el análisis de casos repetitivos. El Tribunal Supremo de Justicia tiene el programa Sócrates que ha tomado 300,000 decisiones judiciales para predecir los casos futuros. (Pereyra. 2017).
8. El Tribunal de Internet (China 2019) es un megasistema horizontal conectado con todos los organismos públicos y privados, todo el proceso y la sentencia se dicta por IA. Existe un Juez que supervisa y controla la decisión, pero si decide apartarse debe fundamentar su decisión.
El sistema funciona al revés, la IA no asiste al sistema y al juez, sino que el juez asiste al Tribunal de Internet. La crítica incide que es un gran sistema de control; la persona que es condenada y no cumple la sentencia, no puede comprar un boleto de bus o avión, no tiene acceso al crédito ni al comercio electrónico. (véase. https://www.dw.com/es/las-cortesde-china-ya-utilizan-inteligencia-artificialpara-resolver-casos/a-64471873).
9. El juez holográfico en China (2019) es un sistema que ha tomado todos los rostros de los jueces de China, los ha mezclado y ha generado el rostro del juez holográfico, que junto a la realidad aumentada son prototipos para interactuar en un proceso judicial, que permitiría a una persona estar en su casa mientras un holograma suyo podría estar participando digitalmente en un juicio; o permitir la enseñanza del juicio oral del proceso de forma virtual, en línea, mediante el juego de roles y la participación de hologramas. (Pereyra. 2017).
10. DoNotPay: es un abogado robot que brinda consejos legales, que está interviniendo en los Tribunales de EE. UU. para casos simples como las multas de tránsito, incluso, recientemente, habría sido demandado por haber intervenido en un Tribunal sin tener título en derecho (4).
11. ROSS es un sistema de predicción desarrollado en base a la tecnología del superordenador Watson, termina dando una respuesta del caso basado en toda la legislación vigente, la doctrina y la jurisprudencia aplicable al caso.
12. Prometea 2017 es un sistema de estandarización y redacción automatizado de dictámenes fiscales para casos de amparos habitacionales, en los que la fiscalía debía emitir opinión sobre si el reclamante tenía o no derecho a que se proteja su derecho a una vivienda digna. Juan G. Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial (IALAB) Universidad de Buenos Aires (Derecho) es el creador de Prometea.
“El sistema funciona como un sistema de estadísticas dirigida. Esto es tomando como referencia ciertas palabras clave predefinidas por un grupo de expertos, reconoce con un grado de probabilidad los fallos relevantes almacenados en una base de datos y predice la solución adecuada al caso. La herramienta de IA desarrollada permite realizar un dictamen jurídico de forma íntegra…”
13. PretorIA, es un sistema que puede “leer”, detectar, predecir y elaborar resúmenes sobre miles de sentencias en pocos segundos. “Está basado en la experiencia Prometea (Argentina), pero hubo que hacer un código nuevo porque el objetivo es totalmente diferente y la magnitud es mucho mayor. Además, hubo que adaptarse a la cultura jurídica que fue quizás el desafío mayor.
La Corte Constitucional de Colombia es de las cortes que más casos atiende. Argentina recibe 30 mil casos por año y la de Colombia supera los 700 mil”. El sistema es capaz de leer e interpretar y a partir de allí realiza automáticamente y sin intervención humana tres grandes tareas:
1) la búsqueda de información de interés para la selección de las sentencias
2) la categorización siguiendo criterio de relevancia establecidos por la Corte Constitucional.
3) la elaboración de estadísticas que permiten visualizar de manera íntegra las tutelas presentadas en ese ámbito de la justicia.
En un primer momento, los criterios de categorización y de estadísticas estarán disponibles solo para sentencias relacionadas con temas de salud.
14. Estonia: El país más avanzado del planeta en materia digital, está implementado la inteligencia artificial en casos de pequeños montos, en donde el proceso y la sentencia se gestiona con IA. Ott Velsberg, director de datos de Estonia, tiene la labor de diseñar una IA robot que se encargue de la enorme acumulación de disputas legales en las cortes, al menos en lo que respecta a reclamos menores. (Pereyra, Uruguay-2017, Cárdenas Perú-2023. ChatGPT-4).
Como se puede advertir, los sistemas de predicción Compas (EE. UU.), Harmony (Reino Unido), LSI-R (Canadá), Riscambi (España) son modelos de predicción de soluciones jurídicas, pero han sido cuestionados y limitados por su alto sesgo, por ejemplo, por razón de la raza.
El sistema de predicción Prometea (Argentina) tiene una aplicación relativa, pues se aplica para recomendaciones no vinculantes de una sola dependencia del Ministerio Público Fiscal de la Ciudad de Buenos Aires; y, el sistema Pretoria, que no es un sistema de predicción de decisiones judiciales, sino un modelo estadístico, se viene aplicando en la Corte Constitucional de Colombia para buscar, seleccionar y categorizar sentencias, así como para elaborar estadísticas integrales de una materia determinada.
PretorIA (2020), no obstante ser un sistema basado en la versión inicial de Prometea (5) (2017), es un paso atrás en la construcción de un modelo de predicción de decisiones o recomendaciones judiciales, debido a que “uno de los problemas con los que se encontraron a la hora de crear PretorIA es que no había suficientes datos de entrenamiento (disponibles y digitalizados) para desarrollar una solución, es decir que faltaba los volúmenes necesarios de información (big data) para entrenar el sistema empleando redes neuronales.
Y ese fue uno de los motivos por los cuales optaron por generar otro tipo de modelo de predicciones, basado en un sistema de aprendizaje automático supervisado, siguiendo la técnica de clasificación o topic model que requiere “interactuar mucho entre humano y máquina hasta que logras buenas tasas de acierto que supera el 90%”
En nuestro país, como en todos los demás países del mundo, nos hemos visto obligados a abreviar tiempos en el uso de las tecnologías de la información, ya que, por la necesidad y las circunstancias de la emergencia sanitaria del 2020 y 2021, hemos tenido que implementarlas en todas las actividades y procedimientos públicos y privados.
Al igual que en la experiencia argentina creemos que la IA es factible, por ahora, en los casos específicos, repetitivos y no complejos, debido a que aún no se ha alcanzado a generar una big data, una total transformación digital de los procesos, ni la gobernanza de todos los datos que genera el Poder Judicial.
La estandarización y sistematización de los datos y documentos es más rápido y viable en los casos simples, estándares o habituales, los casos complejos o emblemáticos requieren creatividad, alto nivel de razonamiento y decisiones innovativas de parte del Juez. No obstante, en teoría, todas las actividades y procesos jurídicos podrían estandarizarse y sistematizarse.
El derecho sintéticamente es un algoritmo, pues, como bien sostiene Guastini, “el derecho es un discurso, una secuencia de enunciados. Un enunciado a su vez es una secuencia de palabras dotada de forma sintáctica y sentido completo. Los enunciados de los cuales está compuesto el Derecho son enunciados de un lenguaje normativo o preceptivo o, dicho de otra manera, directivo”. (Guastini.2018. Filosofía del Derecho Positivo, p. 27 y 28).
Por ahora, entonces, debemos convenir que los sistemas de predicción de soluciones judiciales, esto es, el uso de algoritmos, modelos matemáticos y redes neuronales para asistir al sistema judicial y al juez mediante un programa que proyecte decisiones judiciales, es más factible en los juicios urgentes de probabilidad, como las medidas judiciales provisionales, que cuenten con procesos y actividades digitalizadas, estandarizadas y sistematizadas, con base de datos de gran volumen y un sistema interoperable.
El propio ChatGPT nos advierte que “es importante tener en cuenta que estos sistemas y modelos matemáticos pueden ser útiles para ayudar a los jueces y magistrados a tomar decisiones informadas, pero también deben ser utilizados con precaución y en conjunto con la experiencia y el juicio humano. (Chat GPT3.5, consultado el 24.02.2023 a las 20:00 horas).
Los sesgos (riesgo de prejuicio o discriminación) (6) y la ausencia de un código ético de los algoritmos y los modelos matemáticos son los otros dos grandes retos que representa la inteligencia artificial, especialmente, en el sistema de justicia, pues “no podemos hacer ley de nuestros prejuicios” ni debemos ser asistidos por algoritmos o modelos matemáticos inequitativos.
Además, debe advertirse de otras limitaciones relacionadas con los presupuestos financieros, los medios y los tiempos para implementar IA en los sistemas de justicia, como bien resaltan el informe de Prometea, en efecto, cuando el costo de aprendizaje es elevado, la tarea es urgente o sujeta a plazos, la carga de trabajo es grande y las viejas rutinas conviven con las nuevas herramientas tecnológicas, existe un alto riesgo de fracaso de cualquier proyecto de IA.
Los límites y riesgos de la IA en el sistema de justicia es un tema crítico y capital, requiere mayor amplitud y análisis, lo que excede estas líneas; por ahora, solo estamos en condiciones de enunciarlos, dejando para otra oportunidad su desarrollo. La IA en el sistema de tutela de la víctima de violencia familiar
En la Corte de Lima Norte el sistema judicial de tutela de la víctima de violencia regulado por la Ley 30364: “Ley para prevenir, sancionar y erradicar la violencia contra las mujeres y los integrantes del grupo Familiar”, vigente desde 24 de noviembre del 2015, se viene implementando mediante dos procedimientos distintos:
El sistema de protección a cargo del Juez de Familia especializado en Violencia otorga protección a la víctima de violencia mediante un proceso urgente, que exige solo un juicio de probabilidad, concede las medidas requeridas por la víctima o las más adecuadas al caso, sin necesidad de escuchar a la otra parte.
El sistema de sanción a cargo del Juez penal que requiere de un proceso debido, un proceso de cognición y de prueba plena de los hechos y la responsabilidad del denunciado.
El sistema de tutela de la víctima de violencia en la Corte de Lima Norte funciona mediante un sistema interoperable, desde julio del 2020; mediante una interfaz, este sistema vincula el Sidpol (antes), Siproviv (ahora), de la Policía Nacional con el SIJ, el EJE y el Sernot del Poder Judicial.
[Lea también: Unidad de flagrancia para la capital]
Este sistema interoperable permite registrar la denuncia de violencia en el Siproviv desde la Comisaría Básica y de Familia y, en tiempo real, transmitirla al SIJ y EJE del Módulo de Violencia de los Juzgados de Familia, donde se califica y emite las medidas de protección inmediatamente, sistema interoperable que se ha replicado en todo el país.
Uno de los objetivos estratégicos del Plan Institucional del Poder Judicial al 2030 busca la transformación digital, en ese marco jurídico desde el 24 de febrero del 2022, el sistema de protección funciona mediante el expediente judicial electrónico EJE que promueve la migración del expediente físico al expediente digital.
Además, el sistema cuenta con un instrumento de gestión de calidad que permite registrar las denuncias de violencia, medir y gestionar los plazos y las actividades en cada etapa y emitir medidas en cuatro horas, para los casos de riesgo severo, dicho plazo se cuenta desde el registro de la denuncia hasta la notificación de la resolución que concede medidas de protección.
El sistema de gestión de calidad mide la eficacia del sistema en función al tiempo y resuelve la dilación del proceso, pero no mide ni controla la congruencia ni predictibilidad de las decisiones, por ello, hay necesidad de dar el siguiente paso y medir la eficacia del sistema en función de la congruencia procesal y de los precedentes judiciales, mediante un sistema automatizado de predicción de medidas de protección. Para ello se requiere verificar cuatro pasos previos:
1. Digitalización de las actividades y procesos.
2. Estandarizar y sistematizar datos y documentos
3. Una base de datos de gran volumen (big data)
4. Validar el sistema interoperable.
Superada la verificación de la infraestructura necesaria, corresponde desarrollar el algoritmo para procesar la información de cada etapa del proceso y generar puntos de conexión que permitan la transferencia de información y datos con la finalidad de proyectar las medidas requeridas por la víctima o las más adecuadas al caso.
El sistema requiere de un modelo que permita relacionar las variables del caso (tipo de violencia, riesgo y gravedad) con las previstas por la ley, aquellas con las variables de casos similares ya resueltos, del mismo modo, debe vincular la gravedad de los hechos y el riesgo de la víctima con las características de las medidas previstas por la ley, todo esto, con la finalidad de proyectar los hechos, los fundamentos y las medidas más adecuadas al caso concreto, predicción que le permitirá al juez tomar decisiones más rápido y con mejor información.
Enseguida se describe, por ejemplo, las redes de conexión que podrían vincular hechos de violencia episódicos y riesgo leve con medidas genéricas y específicas de baja intervención y restricción de derechos que podrían predecir las medidas de protección necesarias para proteger a la víctima de violencia sicológica episódica en riesgo leve.
El sistema tutelar de protección contra la violencia familiar es un terreno dúctil para la automatización del proceso y la predicción de la decisión mediante IA, el sistema no requiere probar el hecho de violencia o el riesgo de la víctima, basta que estos sean probables, por tanto, es posible anticipar la decisión basado en un sistema automatizado.
En ese sentido, consideramos que es factible el uso de la IA en el sistema tutelar contra la violencia familiar, esto es, un algoritmo que mediante técnicas de aprendizaje automático vincule, de forma congruente, los hechos de violencia de un caso concreto con las medidas de protección requeridas, que conecte los hechos del caso y el nivel de riesgo con las variables previstas en la ley y las registradas en casos similares y, procesando lenguaje natural, proyecte las medidas adecuadas para el caso.
Este sistema además descartará, automáticamente, las medidas impertinentes e incongruentes con el caso propuesto.
Lea también en El Peruano
El @TC_Peru sostiene que los magistrados tienen el deber de descartar aquellas pruebas que considerasen no pertinentes o irrelevantes fundándose en razones objetivas y no en una valoración arbitraria, como garantía del debido proceso. ??https://t.co/HfN9AO6agI pic.twitter.com/C7C9ZnVSa4
— Diario El Peruano (@DiarioElPeruano) April 10, 2023
 | Jurídica 846: La IA en el sistema de justicia [Nuevo] Nuevos desafíos en la función jurisdiccional |
|---|---|
 | Jurídica 845: Seguridad minera Las novedades regulatorias del Osinergmin |
 | Jurídica 844: Devolución de aportes al Fonavi Principales fundamentos adoptados por el TC. |
