Buch lesen: "Prueba Digital"

Queda rigurosamente prohibida, sin la autorización escrita de los titulares del copyright, bajo las sanciones establecidas por las leyes, la reproducción total o parcial de esta obra por cualquier medio o procedimiento, comprendidos la fotocopia y el tratamiento informático.

© 2021, Editorial Albremática S.A.

Digitalización: Proyecto451

Versión: 1.0

ISBN edición digital (ePub): 978-987-8343-36-5

Director

Horacio R. Granero

Doctor en Ciencias Jurídicas, Profesor Emérito de la Universidad Católica Argentina. Responsable del Departamento Sherlock- Legal de Inteligencia Artificial de Albremática SA.

Coordinadoras

Romina A. Lozano

Directora Editorial de elDial.com

Marcia Rillos

Jefa de contenidos de elDial.com

Especialista en Derecho Penal y Procesal Penal

María Inés Abarrategui F.

Doctora en Ciencias Políticas (UCA)

Especialista en Derecho del Trabajo y SS.

Creadora de contenidos de elDial.com

Débora Goiak

Especialista en Derecho Público y Administrativo

Creadora de contenidos de elDial.com

Agradecimientos

Agradecemos al Centro de Documentación Jurídica y Jurisprudencia del Superior Tribunal de Justicia de la Provincia del Chubut por facilitar fallos destacados sobre la temática de esta obra, y a la Dra. Anastasia Bosque por su investigación jurisprudencial.

Prólogo
Repensar el Derecho Procesal ante una Justicia Predictiva

Decíamos al prologar la tercera edición (1) que el lema en aquel momento era “Repensar el derecho Procesal ante una sociedad disruptiva” y el libro tuvo una extraordinaria aceptación gracias a la excelencia de los artículos y los autores que gentilmente colaboraron en su elaboración, y que nos ha alentado a desarrollar esta cuarta edición que hoy prologamos y que nos hace repensar el derecho Procesal pero esta vez desde la óptica de la Inteligencia Artificial, ante la posibilidad de contar con una Justicia Predictiva.

La IA no es otra cosa que un programa capaz de efectuar inferencias de diversos tipos, lógicos, estadísticos y una combinación de ambos, la inferencia estadística, que se basa en matemáticas de muy alto nivel, calculando y ajustando automáticamente datos. Para ello cuenta con algoritmos -secuencia de instrucciones que llevan a cabo una serie de procesos para dar respuesta a determinados problemas- y diversos procedimientos, como las denominadas redes neuronales que intentan emular el modo de conocimiento que desarrolla nuestro cerebro.

El auge actual de la IA se da, principalmente, por la conjunción de tres circunstancias críticas que se dieron simultánea y recientemente en el universo de la tecnología: primero, la potencia de procesamiento de la computadora aumentó de 103 hasta 107, luego costo del almacenamiento de datos se redujo de 12.4 dólares por GB a 0.004 dólares por GB y, por último, hubo un crecimiento astronómico de datos. Pensemos que GPT-3, por ejemplo, el sistema de IA más moderno diseñado hasta la fecha, desarrollado por la empresa de Elon Musk en agosto 2020, realiza 175.000 millones de iteraciones de datos en forma casi instantánea.

En otras palabras, ahora estamos en una época en la que es fácil aprovechar la potencia de la computadora para participar en el desarrollo de sistemas, es relativamente barato su uso, hay una enorme cantidad de datos a nuestro alcance y muchos de esos datos -en algunos casos- ya están pre procesados para su utilización.

La pregunta es si los abogados podremos aplicar esta tecnología en nuestro provecho, y si corremos peligro que nos reemplace en nuestra labor profesional. Ciertamente son cada vez más amplios los campos en que la IA estará presente en el ámbito jurídico, quizás primordialmente en las denominadas herramientas de analítica predictiva, como ser las que analizarán los precedentes judiciales dictados hasta el presente, y donde se ingresarán los problemas específicos de un caso –incluidos, por ejemplo, factores como el tribunal asignado- y proporcionarán una predicción de los resultados probables.

¿Esto significa que los abogados tendremos menos trabajo? Los abogados del futuro proporcionarán por lo menos cuatro funciones básicas que la inteligencia artificial no puede proporcionar –al menos por ahora- capacidad de juicio, empatía con el cliente, creatividad de las soluciones a adoptar y adaptabilidad a las circunstancias de cada caso, entre otras.

Por mi parte considero que los abogados proporcionaremos la última milla de entrega de soluciones. Para tomar un ejemplo simple: supongamos que una herramienta de análisis predictivo le dice al usuario que, en un caso determinado ante un juez identificado en una jurisdicción en particular, la probabilidad de un resultado exitoso es del 60%. Esa predicción en realidad no le dice al abogado o al cliente lo que el cliente debería hacer en realidad, es decir, si el cliente debería proceder o no. Eso requiere que un abogado use su propio juicio para asesorar al cliente, usando la comprensión del abogado de las necesidades del cliente (empatía), en qué camino elegir.

Los abogados del futuro necesitarán una comprensión íntima y continua de cómo identificar y utilizar las soluciones de IA para satisfacer las necesidades de sus clientes sabiendo evaluar las fortalezas y debilidades relativas de determinadas soluciones.

En los próximos años veremos cómo nuestros sistemas dejan de ser herramientas para convertirse en compañeros. Ni cafés ni conversaciones de pasillo. Nosotros a lo nuestro y ellos a lo suyo, pero sin parar de aprender. Porque esta ola traerá plataformas que centralizarán, estructurarán, explotarán y automatizarán una parte importante de nuestro trabajo. En menos de 5 años veremos como la industrialización del conocimiento modifica drásticamente la estructura de los despachos, dando paso a catálogos de servicios con foco total en nuestros clientes que nos permitirán reforzar esa excelencia que siempre nos hemos de exigir.

Veremos cómo la tecnología hace converger la función de las asesorías jurídicas y las firmas que les asesoran. Y, finalmente, veremos a los abogados convertidos en gestores de activos. De activos legales obviamente.

No siempre corresponde partir del pasado para encontrar las soluciones del presente, sino parecería que sería necesario hacerlo desde del futuro, y para ello entra a jugar el nuevo concepto sistémico de predicción elaborado, buscando el equilibrio entre el mero cientificismo y la obstinación de la posibilidad que otras ciencias y técnicas, ajenas a lo estrictamente legal sean herramientas útiles para el hombre de Derecho.

Definitivamente, todavía se necesita un ser humano informado en el circuito, pero no debemos desconocer el cambio de paradigma en el desarrollo de productos de inteligencia artificial, indudablemente muy potente y –se podría llegar a decir- súper inteligente.

Los artículos de esta cuarta edición están enmarcados en este nuevo ecosistema que nos toca vivir, y que no dudamos, es apasionante.

Sean estas últimas palabras de felicitaciones al excelente Equipo de Redacción de elDial.com, liderado por la Dra. Romina Lozano que han realizado un excelente trabajo de recopilación de notas de doctrina y fallos de reciente y muy importante aplicación.

Dr. Horacio R. Granero

Buenos Aires, agosto 2021

1- E-Mails, chats, WhatsApp, SMS, Facebook, filmaciones con teléfonos móviles y otras tecnologías. Validez probatoria en el proceso civil, comercial, penal y laboral. (Director: Horacio R. Granero) - elDial.com – 2019.

Presentación
¿Puede la Inteligencia Artificial predecir si tengo razón o no en un juicio?

Por Horacio R. Granero (*)

Cualquier cosa que insista en las importantes repercusiones de la tecnología en el mundo real, y las responsabilidades de sus creadores con respecto a ellas, seguramente será bienvenida en una época en que los sistemas automatizados están implicados en todas las facetas de la existencia humana, sin embargo, cuando se trata de las formas en que se discuten los códigos de ética de la IA, existe una tendencia preocupante incluso cuando el mundo despierta a la importancia de este campo.

Los tecnólogos creen que los desafíos éticos de la IA se pueden resolver escribiendo códigos, pero los desafíos son mucho más complejos. Esta es la creencia de que los códigos de IA son recetas para automatizar la ética misma; y que una vez que se haya alcanzado un amplio consenso en torno a dichos códigos, el problema de determinar una dirección futura éticamente positiva para el código informático habrá comenzado a resolverse.

Pero… no existe un conjunto de principios éticos que puedan justificarse racionalmente de una manera que cada ser racional acepte. Si bien existe una convergencia global emergente en torno a cinco principios éticos (transparencia, justicia y equidad, no maleficencia, responsabilidad y privacidad), queda sin considerar la divergencia sustancial en relación con la forma en que se interpretan estos principios, por qué se consideran importantes, a qué tema, dominio o actores pertenecen, y cómo deben implementarse.

Los códigos éticos son mucho menos parecidos a código de computadora que lo que sus creadores podrían desear. No son tanto conjuntos de instrucciones como aspiraciones, formuladas en términos que generan más preguntas de las que responden y este problema no va a desaparecer, en gran parte porque no existe un conjunto único de principios éticos que puedan justificarse racionalmente de una manera que cada ser racional acepte.

Quizás el mito más revelador de nuestro tiempo es el de la súper inteligencia de máquinas, cuya promesa convierte simultáneamente la ética de la inteligencia artificial en un enfrentamiento con amenazas existenciales y un proceso de diseño destinado a desterrar la sinrazón humana.

¿Puede un programa de inteligencia artificial determinar si tengo razón o no en un juicio? ¿La justicia predictiva es posible?

Hasta hace algunos años, intentar predecir cómo un juez podría fallar en un caso, requería encontrárselo muchas veces en la corte o buscar consejos de colegas sobre qué argumentos el juez encontraba persuasivos.

Un antecedente de las empresas de “legal analytics” sería Lex Machina (1) (ahora propiedad de LexisNexis) que permite a las empresas y a sus abogados estimar sus chances de ganar un caso tan pronto como son notificadas de la demanda. Para realizar estos cálculos, usan diversa información como cuántas veces el abogado de la otra parte presentó ciertos tipos de casos, en qué tribunal, con qué tasa de éxito, a quiénes representaron y a qué abogados se enfrentaron. Una vez que un juez ha sido asignado al caso, las compañías de legal analytics proporcionan estadísticas sobre su desempeño. Lex Machina, surgió en la Facultad de Derecho de Stanford, empezó con litigios de propiedad intelectual. Una vez que tuvo acceso a la gran base de datos de LexisNexis, se expandió a otras áreas de la ley de alto volumen de casos como empleo, impuestos, negligencia médica, seguros y quiebras.

Muchos abogados comerciales de Estados Unidos establecieron alertas en el sistema electrónico de registros judiciales, que como Pacer (2), les avisa cuando se presenta una nueva demanda contra una empresa de su área. Pocos minutos después de que aparece el alerta, el equipo legal de la empresa demandada empieza a recibir llamadas de abogados que se ofrecen para defender a la compañía.

A medida que se extienden los casos de uso del legal analytics, también surgen más empresas para satisfacer la demanda. Entre ellas se encuentra Premonition (3) con sede en Nueva York, que provee datos sobre el historial de litigios de jueces, abogados y bufetes de abogados, incluidas las tasas de victorias / derrotas para juicios en comparación con los competidores, las tasas de éxito de diferentes tipos de demanda en tribunales individuales y una base de datos de quien demanda y quien es demandado con mayor frecuencia.

Law Litigation Analytics (4) y Gavelytics (5) ofrecen un servicio similar. Empresas como Casetex (6) y Judicata (7) ofrecen un análisis en profundidad de los documentos legales más relevantes para el caso en que un abogado está trabajando, como casos similares presentados por otras firmas, el historial de casos relevantes y las citas de los jueces.

En la Argentina se desarrolló Sherlock-Legal, el programa de inteligencia artificial de Albrematica SA, empresa editora de elDial.com, que analiza a través del procesamiento con lenguaje natural fallos de tribunales argentinos en general en base a preguntas formuladas por sus clientes el software produce una lista de casos más procedentes, citas relevantes y una evaluación en términos porcentuales de las probabilidades de ganar o perder del cliente manifestando, a criterio del programa que, a su vez, se basa en algoritmos desarrollados en base a los datos de jurisprudencia, si le pregunta del solicitante es positiva o negativa. A través de una interfaz gráfica dinámica, intuitiva y muy sencilla de utilizar se efectúan las preguntas por parte del usuario, las que mediante algoritmos diversos se analizan sintáctica, gramática y pragmáticamente y se interpretan con el fin de encontrar en primer lugar, dentro de los sumarios de los fallos de la base, aquellos fragmentos relacionados que considera más relevantes.

Sherlock despliega un grupo de las distintas respuestas que considera pertinentes, generándose gráficos que indican los porcentajes de aceptación o rechazo y dando, finalmente, su opinión en forma automática sobre la probabilidad que ésta sea afirmativa o negativa con relación a la consulta efectuada. Por último, al desear consultar cada uno de los resultados, se despliegan los fragmentos más relevantes y la opción de visualizar el texto completo del sumario y el fallo completo, siendo posible calificar tanto si la respuesta se considera pertinente y si el algoritmo clasificó correctamente el precedente judicial mostrado. De esa forma Sherlock va aprendiendo de los errores y aciertos que comete, completando el entrenamiento de la herramienta para la obtención de mejores respuestas. El programa cuenta con un historial de preguntas realizadas para poder reiterar alguna consulta anterior y un tutorial para guiar al usuario en la obtención de la respuesta correcta. Desde el punto de vista técnico, el problema a resolver por el equipo de desarrollo consistió principalmente en generar una herramienta que responda relacionando preguntas realizadas en lenguaje natural con parte de los textos jurídicos de la base de datos, razón por lo que se optó por un modelo de Question Answering (QA) para un dominio cerrado. La respuesta “larga” serían los textos relacionados dentro del sumario y la respuesta “corta” -en el caso de las preguntas fácticas- es ésta era “si” o “no, según el caso, teniendo presente que, en el caso en análisis, una diferencia fundamental con el modelo de QA es que en el ámbito jurídico a una pregunta dada puede haber más de una respuesta, tanto sea en el caso de la “larga” como de la “corta”.

El programa, se resume a dos módulos, buscando hallar sumarios pertinentes con la pregunta realizada (problema de la pertinencia) y luego hallar el/los párrafos dentro de los sumarios pertinentes que directa o indirectamente mejor respondan se busca dar una respuesta a la pregunta realizada, analizando si ésta es por “si” o por “no”. En el primer Módulo, con relación al problema de la pertinencia que realiza en primer lugar un análisis sintáctico de la pregunta realizada y luego el programa se queda con los lemas y entidades. Posteriormente se obtienen las raíces de la palabras, se quitan los stopwords y se busca en la base de fallos utilizando un modelo de Bag of words (Bag of N-grams words) o sea vectores de ocurrencia de las palabras/N-gramas de dimensión n que forman matrices para todos los sumarios y TF-IDF (Term frequency – Inverse document frequency), técnica de recuperación de información que pesa la frecuencia de un término (TF) y su frecuencia de documento inversa (IDF). Cada palabra o término tiene su respectivo puntaje TF e IDF y el producto de los puntajes TF e IDF de un término se lo considera el peso TF * IDF de ese término. En un paso siguiente se utilizan criterios de similitud para encontrar documentos similares como el criterio del coseno (utilizando los vectores creados para los documentos se aplica el teorema del coseno resultando una nueva matriz) y se generan distintos escenarios para la pregunta, verificándose los resultados contra un modelo entrenado por Naive Bayes si la lista de documentos resultante es la más pertinente. En el segundo Módulo, con respecto al problema de la respuesta se recibe en primer lugar la pregunta junto con los ids de los documentos que fueron previamente pre-procesados, se analizan los documentos, buscando el/los fragmento/s que más se acerquen a la respuesta, se analiza, en el caso de preguntas fácticas si el/los fragmentos seleccionados responden por “si” o por “no” y para una aproximación sintáctica (resolver oraciones en voz pasiva y oraciones subordinadas) se pre procesa el texto y se lo divide en párrafos (que permite resolución de anáforas) para luego dividirlo en sentencias y finalmente se construyó una representación sintáctica en forma de árbol y se consideran las respuestas todas por “si” y se busca la negación para las respuestas por “no”. Sherlock-Legal se presenta también como una función adicional del buscador tradicional de elDial.com que permite al usuario la posibilidad de conseguir antecedentes judiciales similares al elegido como más pertinente, ampliando así la búsqueda en forma automática a casos que, aplicando inteligencia artificial, considera más relevantes. El sistema es aplicable a jurisprudencia o cualquier base de datos sea de índole legislativa o documental en general. (8)

En setiembre de 2020 el equipo de I+D de Albrematica comenzó a analizar la mejora de la performance en las respuestas y para ello implementó una etapa en la que se encuentra investigando los desarrollo en NLU y NLP, principalmente en el método BERT -que básicamente implica entrenar una red neuronal para aprender “lenguaje”, y luego esta red se usa como una columna vertebral para realizar diversas tareas de NLP- y en GPT-3

Lo que lo hizo revolucionario a BERT fue el hecho de que fue la primera representación de lenguaje profundamente bidireccional, lo que significa que miró las palabras después de una palabra dada, no solo las palabras anteriores. Esto, se cree, es lo que lo hace superior a las representaciones unidireccionales. Además, su arquitectura está basada en transformadores, lo que le ayuda a ponderar el contexto en el que aparece una palabra en una oración. Todos estos factores combinados explican su éxito de alguna manera.

Ahora bien, en comparación con BERT, la arquitectura tradicional agnóstica de tareas que requiere decenas de miles de ejemplos específicos de tareas para ajustar una tarea posterior, GPT-3 permite realizar una nueva tarea (clasificación, respuesta a preguntas, traducción, razonamiento y muchas otras) a partir de solo unos pocos ejemplos o instrucciones sin ajustes precisos. Esta es una gran ventaja sobre otros modelos de lenguaje convencionales como BERT, ELMO, XLM.

Al enviar el mensaje de texto, la API GPT-3 devolverá la finalización, intentando hacer coincidir el patrón que le dio en los ejemplos. Hace que el modelo de vanguardia sea más accesible para los desarrolladores para explorar posibles casos de uso y reduce significativamente la barrera de adoptar inteligencia artificial / PNL. Los desarrolladores ya no necesitan gastar esfuerzos adicionales en adquirir conjuntos de datos específicos de tareas, dominar el complicado proceso de ML y ajuste fino, y manejar la infraestructura de ML. El cambio de paradigma proviene de 3 ángulos diferentes para los posibles cambios con el debut o la era de AIAS (AI as A Service).

En noviembre 2021 Albrematica obtuvo de OPEN AI la autorización para efectuar pruebas de GPT-3 en su plataforma, avocándose el equipo técnico a su inmediato análisis, arribando a resultados auspiciosos por las capacidades predictivas demostradas hasta el momento de la herramienta. Se efectuaron pruebas con los diversos “engines” provistos para la prueba (Da Vinci, Ada, Babbage) y se aplicaron diversas “temperaturas” (profundidad) a las búsquedas para las mismas preguntas, con resultados igualmente favorables, especialmente en la función Q&A.

Los defensores de legal analytics insisten en que es solo cuestión de tiempo antes de que haya conjuntos de datos masivos para cubrir amplias áreas de la ley. Y afirman que esto conducirá a un mejor sistema de justicia. Desde mostrar qué casos son una pérdida de tiempo y dinero hasta exponer qué jueces son rebeldes y atípicos, creen que el uso de datos puede mejorar la forma en que funciona el sistema legal. Por otra parte, habría que hacer una salvedad respecto a las bases de información. Una cosa es la predicción en Estados Unidos o el Reino Unido, con bases de datos ordenadas y accesibles y un concepto jurídico y otra son los países latinos, quizás con menos historial registrado y con un concepto (y sistema) jurídico diferente.

“A medida que ampliamos nuestro conjunto de datos, esperamos que el ministerio de justicia y los reguladores vean cómo se aplica justicia en todo el país y dónde están las inconsistencias”, dice Edward Bird, director de Solomonic (9), una compañía del Reino Unido formada por un grupo de abogados comerciales y científicos de datos que intenta replicar algunos de los modelos analíticos de Estados Unidos. “Los mejores jueces en los tribunales comerciales del Reino Unido son extremadamente consistentes. Pero en casos de menor valor, es posible que uno obtenga un resultado diferente, dependiendo de quién sea el juez. Esto no debería ocurrir”. “Si finalmente llegamos a un punto en que los datos realizan la predicción, ¿esto puede generar un cortocircuito en el sistema legal?”, pregunta Bird. “¿Cómo esto afecta la posibilidad de acceso a la justicia de un demandante a quien se le dice ‘sus probabilidades de ganar no son más que este número, y la corte no revisará su caso?” (10)

Francia ha ya tomado una decisión importante sobre este tema en relación con una materia muy concreta: prohibir por ley, con penas de hasta cinco años de prisión, que se puedan realizar patrones sobre las decisiones de jueces y tribunales. En concreto, el artículo modificado establece que: “Los datos de identidad de magistrados y miembros de la judicatura no podrán ser reutilizados con el propósito o al efecto de evaluar, analizar, comprar o predecir su práctica profesional cierta o supuesta” (11). Los argumentos que parecen haber motivado esta prohibición son varios. El principal parece ser la voluntad de proteger a los jueces frente a la posibilidad de que se les acuse de tener sesgos a la hora de tomar sus decisiones y, en relación con ese mismo argumento, evitar otras prácticas indeseables como el forum shopping o incluso la recusación recurrente de un juez para la revisión de determinadas materias. Sin embargo, rápidamente han surgido otras voces que se oponen a esta prohibición con argumentos igual de consistentes como, por ejemplo, que uno de los síntomas de salud de una democracia es, precisamente, la posibilidad de auditar el comportamiento de las instituciones públicas o que, mediante dicha prohibición, se limitan los derechos de defensa de los individuos.

Como se puede comprobar, tanto los argumentos a favor, como en contra, versan sobre principios o valores fundamentales de un Estado democrático y de derecho que, como tales, son los pilares de la convivencia de las sociedades modernas. Por este motivo no es difícil conjeturar que el asunto será objeto de una profunda discusión y no es descartable que, incluso, sea objeto de revisión por el tribunal constitucional francés.

Las nuevas tecnologías ofrecen grandes posibilidades de cambio, pero, en nuestra mano está, como sociedad, luchar porque dicho cambio sea sólo para bien y que, como individuos, salgamos de este debate reforzados y con mayor protección de nuestros derechos, nunca al revés. (12)

El principio de precaución es, quizás, la respuesta a estas preguntas. La incertidumbre que rodea aún a la posibilidad de replicar una consciencia humana y una empatía emocional equivalente en la inteligencia artificial nos llevaría a proponer la aplicación jurídica del principio de precaución para prevenir los graves riesgos con los que nos enfrentamos (máquinas adoptando decisiones automatizadas discrecionales que eventualmente afectan a derechos de humanos).

El Código de conducta ética para los ingenieros en robótica anexo a la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103 -INL-) incorpora entre otros el principio de precaución según el cual “Las actividades de investigación en el ámbito de la robótica deben llevarse a cabo de conformidad con el principio de precaución, anticipándose a los posibles impactos de sus resultados sobre la seguridad y adoptando las precauciones debidas, en función del nivel de protección, al tiempo que se fomenta el progreso en beneficio de la sociedad y del medio ambiente”. (13)

Algo similar ocurre actualmente con la decisión que se encuentra a estudio de la Unión Europea con respecto al reconocimiento facial por inteligencia artificial, que está siendo cada vez más utilizado en todo tipo de escenarios, por los eventuales ataques de invasión a la privacidad, y en un documento de 18 páginas plantea una directiva según la cual la Unión Europea estaría a punto de anunciar la prohibición de sistemas de reconocimiento facial en áreas públicas durante los próximos años. Esa prohibición podría ir de los tres a los cinco años, y durante ese tiempo “se podría identificar y desarrollar una metodología sólida para evaluar los impactos de esta tecnología y las posibles medidas de gestión de riesgos”. El documento plantea excepciones como proyectos relacionados con la seguridad o la investigación y desarrollo en este ámbito.