Servicios personalizados
Español (pdf)
Articulo en XML
Referencias del artículo
Traducción automática
Enviar articulo por email
Citado por SciELO 
Citado por Google 
Similares en
SciELO 
Similares en Google 
Permalink
1. Introducción
La tecnología ha sido siempre un factor de cambio transversal en las sociedades al impactar en la economía, las instituciones y el medio ambiente. La Cuarta Revolución Industrial, como se nomina el momento actual, se basa en una conjunción de tecnologías digitales, físicas y biológicas (Porcelli, 2020:2), y entre ellas, la Inteligencia Artificial (IA) es quizás el hito más importante al punto tal de ser comparada con la electricidad1.
La IA diluye los límites entre los seres humanos y la tecnología, al permitir que ésta última realice cosas que sólo los humanos podian hacer (tal como resolver planteos judiciales)2. Esto interpela no sólo nuestra singularidad como especie; sino, además, la forma en que interactuamos entre nosotros y con el resto del mundo, cómo comprendemos el entorno y nos comprendemos, obligándonos a focalizar nuestra atención en conceptos como el de vulnerabilidad humana y social. Pero, mas importante todavía, proporciona un espejo en el cual mirarnos como sociedad (UNESCO, 2019).
Por lo tanto, mientras entendamos a la bioética como un campo del saber orientado a asegurar el respeto de la persona humana frente a las innovaciones tecnológicas, su mirada interdisciplinaria, global, plural, laica y de carácter social, no podrá faltar.
En palabras de López Baroni, sea por la preocupación que genera la posibilidad de que los seres humanos sean reducidos a un conjunto de datos procesados masivamente por algoritmos sofisticados e interpretados de manera predictiva; por la necesidad de evitar que las proyecciones subjetivas de quienes programan se transformen en sesgos que refuercen situaciones de exclusión o marginalidad; o bien, por lo imperioso de garantizar la trazabilidad de la decisión que le es legada al programa informático, no parece razonable que la bioética aborde este fenómeno particular reduciéndolo a un análisis netamente biológico, minusvalorando el resto (López Baroni, 2019:8).
La "algoritmización de la vida" (Barona Vilar, 2019 en Suarez Xavier, 2022:145)3, impacta en la organización social poniendo en crisis la subjetividad antropocéntrica fuente del ordenamiento jurídico existente y obligando a repensar la dimensión ética de la condición humana y sus manifestaciones culturales, como el derecho y la administración de justicia (Gil Domínguez, 2019:29).
Este nuevo entorno exterioriza, así, una fragil dualidad: ser un aliciente que promueve un discurso plural, accesible e inclusivo, al facilitar el ejercicio de ciertos derechos humanos; y ser un espacio que pone en jaque constantemente la libertad, la privacidad y la igualdad de los individuos. Lo descripto se vuelve especialmente delicado en contextos como el latinoamericano, atravesados por diferencias estructurales, donde la exclusión social, las asimetrías de poder, los índices de analfabetismo y las practicas paternalistas en los diversos ámbitos continuan caracterizando la cotidianeidad (Macias, 2015).
Nuestro objetivo, entonces, pasará por exponer algunos de los desafios y/o dificultades vinculados a la implementación ética de la IA en la administración de justicia regional, y que entendemos derivados de las peculiaridades que exhibe Latinoamerica.
Convencidos del matiz multidimensional de la bioética, la metología consistió en construir un marco teórico indispensable referido al tema. Asi, se consultaron diversas fuentes: doctrinales, tales como libros, artículos y ensayos científicos; normativas, examinando tanto el derecho comparado, nacional como local; y periodísticas, para aproximarnos al debate desde los distintos pensamientos imperantes.
El material fue obtenido -en su mayoría- a partir de bases de datos localizadas en línea. Entre ellas podemos mencionar: Observatorio de Bioética y Derecho (OBD), Perspectivas bioéticas - FLACSO Argentina, Dialnet, ProQuest, Lejister.com, indices.csic.es, ssrn.com, Springer Link, Red de Bibliotecas virtuales CLACSO, Biblioteca virtual CEJA - JSCA, Repositorio Digital de la CEPAL, Eur-Lex, ec.europa.eu, undocs.org, academia.edu, oecd.org, redalyc.org, ResearchGate, Google Académico, Biblioteca Digital del Ministerio de Justicia de la Nación, etc. Y, las palabras claves utilizadas en la búsqueda fueron "inteligencia artificial", "administración de justicia", "derecho", "ética", "desigualdad", "conectividad", "Latinoamérica", "justicia argentina", entre otras, circunscribiendo el arco temporal a partir del año 2000 en adelante.
2. Inteligencia Artificial y Derecho: aproximaciones iniciales
La IA es cualquier sistema que por medio de un algoritmo, esto es, una estructura procedimental basada en un conjunto de reglas y secuencias, busca una solución concreta a un planteo dado procurando simular el comportamiento y comprensión humanos (Muñoz, 2020b:1-2).
Desde un punto de vista teórico suele diferenciarse entre IA débil/blanda y fuerte. La primera realiza tareas concretas de manera muy eficiente e incluye tanto el machine learning o aprendizaje automático4 como las redes neuronales5. La segunda, en cambio, sería capaz de soportar tareas múltiples simultáneamente, con la potencialidad de superar o reemplazar a la inteligencia humana6.
De lo expuesto se sigue que el término IA aparece indisolublemente ligado al de big data7, ya que el crecimiento exponencial de la tecnología ha permitido procesar masivamente enormes cantidades de datos provenientes de textos, imágenes, audios o videos, redes sociales y medios de comunicación, así como establecer relaciones entre ellos (Cerrillo-Martínez, 2018).
Tales herramientas avizoran cambiar el modo en que el derecho es creado, aprendido y practicado (Alarie et al., 2016:2), en tanto su incorporación parece inevitable cuando no imperiosa.
Precisamente, en los últimos años han surgido los denominados sistemas expertos jurídicos (SEJ), que son
(...) una serie de programas que permiten obtener inferencias válidas a partir de bases de datos estructuradas, siguiendo trayectos que no se prevén en ex ante, justificando cada recorrido con la disposición de las reglas aplicadas y poniendo a disposición una interfaz hombre-máquina para facilitar la introducción de reglas nuevas en aquellos puntos en que la base de conocimiento revela ser incompletas o no actualizada (...) (Granero, 2018:123).
Los ensayos privados por poner en marcha la IA en el derecho alcanzan tanto el Legaltech como el Lawtech8.
Mientras que el sector público ha procurado llevar esta tecnología a la administración de justicia con variados ejemplos: los "jueces robot" de Estonia; Split up en Australia, una plataforma destinada a hacer predicciones sobre la distribución de bienes en divorcios; Expertius en México, un sistema de apoyo en los juicios de alimentos; y los tribunales cibernéticos en China para determinados asuntos relativos a las operaciones en red, comercio electrónico y propiedad intelectual9.
En el marco de la Unión Europea el proyecto MIREL apunta a crear una red internacional e intersectorial para definir un marco formal y desarrollar herramientas para el Mining y el Razonamiento con textos legales. Su objetivo es traducirlos en representaciones formales que puedan ser utilizadas para la consulta de normas, la verificación del cumplimiento y el apoyo a la toma de decisiones10.
Y, en el ámbito sudamericano, encontramos a Prometea (Argentina); Pretoria (Colombia); Synapses, Victor y Socrates (Brasil).
Prometea11 es un software desarrollado para los dictámenes del Ministerio Público Fiscal ante el Tribunal Superior de Justicia de la Ciudad de Buenos Aires que trabaja a partir del reconocimiento del lenguaje natural, concentrando su labor -principalmente- en dos campos de actuación: a) La automatización de tareas reiterativas (control de plazos, autosuficiencia de las piezas presentadas, etc.); y b) La elaboración predictiva y automática de dictámenes jurídicos por medio de aprendizaje automático supervisado.
Pretoria fue desarrollada para la Corte Constitucional de Colombia para abordar, fundamentalmente, la congestión judicial relacionada con las acciones de tutela en el derecho a la salud12. Entre las tareas que realiza destaca la preselección de dichas acciones organizándolas por urgencia de acuerdo con parámetros establecidos por los magistrados y la sistematización de jurisprudencia que hace la propia IA, sirviendose además de una herramienta conversacional activada por comando de voz (Calderon Valencia et al., 2021:156).
Synapses opera como una plataforma para almacenar, entrenar, distribuir y auditar modelos de IA. Dentro de sus funcionalidades se cuentan la automatización de documentos, la detección de casos prioritarios y la realización de predicciones, permitiendo la interoperabilidad de datos entre distintas organizaciones a nivel nacional (Lefevre Cerviniet al., 2022:51)13. Victor, que actúa en el Supremo Tribunal Federal, identifica los recursos presentados, los agrupa por materia y selecciona aquellos vinculados a temas de Repercución General, lo que luego es revisado por los ministros. Y Socrates, que opera en el Superior Tribunal de Justiça, se dedica a realizar búsquedas en la base de datos, identificando las demandas repetitivas y grupos de procesos en los cuales cabe el juicio por Recurso Repetitivo14.
3. Dificultades que plantea la IA en la administración de justicia
A la complejidad propia del ecosistema digital, la administración de justicia añade otras referidas puntualmente al funcionamiento de los SEJ.
3.1. Dificultades de tipo éticas
El hecho de que los SEJ operen a partir de datos y algoritmos los dota falsamente de un aura de neutralidad, solapando las decisiones humanas de diseño y programación que se encuentran detrás: qué características y limitaciones debe tener la tecnología; qué datos usar, cómo analizarlos y presentarlos; la disposición de una interfaz de usuario y el diseño, etc. (Surden, 2017:2-3).
i. Un primer grupo de preocupaciones gira entorno a los sesgos
Los sesgos en los datos, afectan el funcionamiento del sistema ya que el modelo se entrena con datos viciados. Esta situación puede originarse por el etiquetado incorrecto, en los casos de aprendizaje supervisado, cuando la respuesta correcta (output) es asignada por codificadores humanos; por errores en el muestreo (sub representación o sobre representación de una población), lo que provoca que la población este mal representada, y haya una mayor propensión a equívocos; o, por sesgos históricos, como por ejemplo raciales, de género o clase, ya que el modelo entrenado con esos datos reproducirá la realidad, perpetuando los inconvenientes existentes (Hacker, 2018:5-6).
La mayor parte de los casos de subrepresentación se encuentran ligados a sesgos arraigados en el inconsciente colectivo, provocando la revictimización de los grupos históricamente desfavorecidos. En efecto, la vida de aquellas personas que se encuentran menos datificadas, ya sea debido a la pobreza (ej.: no estar involucrados en la economía formal), a la geografía (ej.: acceso menos fluido a la tecnología), o a su estilo de vida, provoca una omisión sistémica y no aleatoria de ellas (Lerman, 2013, en Baroca y Selbst, 2016:684), que dificulta sobremanera su abordaje y solución, ya que "... las generalizaciones estadísticamente sólidas, pero no universales son simultáneamente racionales e injustas..." (Schauer, 2006, en Baroca y Selbst, 2016:688).
Los sesgos en la programación, a su turno, plantean problemas análogos dadas las decisiones subjetivas que subyacen a la formalización de los algoritmos (Surden, 2017:2-3).
ii. Un segundo grupo de inquietudes se relaciona con la discriminación
Baroca y Selbest hacen hincapié en un tipo particular que se inserta en las instituciones por medio de sesgos implícitos inconscientes. Advierten que ese tipo de "discriminación institucional" conjugada con la IA y la minería de datos, podría no sólo reflejar los patrones existentes de discriminación; sino, incluso, sugerir que los grupos desfavorecidos realmente merecen un trato menos favorable, dado ese manto de objetividad que parece rodear los resultados que arroja (Baroca y Selbest, 2016:673-674)15.
La falta de transparecia, finalmente, se añade a las dificultades éticas de los SEJ abarcando temas como: saber si se está interactuando con un sistema de IA; si existen mecanismos para prevenir una discriminación o prejuicio por parte de dicho sistema; cuál es el tratamiento que se efectúa de los datos; y cómo funciona el proceso para adoptar una decisión determinada, es decir, cómo opera la "trazabilidad" (Vega-Iracelay, 2018:29).
3.2. Dificultades de razonamiento
El derecho se expresa a traves del lenguaje natural, y esto provoca que en los SEJ aparezcan incovenientes derivados de ese procesamiento. Esto incluye dificultades de tipo semántico, ambigüedades, provenientes de construcciones lógicas o sintacticas, de definir la connotación específica que adquiere algun término jurídico (ej. "causa próxima", "causa remota", estados psicológicos), etc.
Ocurre que detrás de la traducción del derecho y las relaciones legales en estructuras informáticas, como reglas y ontologías (formalización), existen una serie de elecciones subjetivas sobre el significado y alcance de la ley, que lleva a hacer prevalecer una interpretación jurídica sobre otras posibles (Surden, 2017:4-5).
Lo dicho no resulta una cuestión menor si se repara en que los problemas jurídicos son de tipo divergente, es decir, que existen múltiples soluciones y el estado de solución se establece en forma decisional (Martínez Bahena, 2012:833); que cada opción determina el funcionamiento del algoritmo; y que los principios procesales requieren una adecuada fundamentación de la decisión propuesta y del modo en que se ha arribado a ella, en aras de evitar la arbitrariedad.
3.3. Dificultades de tipo jurídicas
El aumento de la IA hasta ahora ha ocurrido -en general- en un vacío regulatorio, aunque aumentan las propuestas en el ambito académico16.
En la práctica son pocos los países que han desarrollado normativa específica en materia de IA, siendo el caso chino -quizás- el más conocido17. El Parlamento de la Unión Europea se ha embarcado también en esta tarea18 con el objetivo de diseñar un marco jurídico que permita abordar las oportunidades y desafíos de la IA.
Y la UNESCO ha publicado su "Recomendación sobre la Ética de la Inteligencia Artificial" (2021)19 encaminada a garantizar que estas transformaciones promuevan los derechos humanos y los Objetivos de Desarrollo Sostenible. Este documento enfatiza en la necesidad de: a) una reflexion ética sobre la IA basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes; b) promover la justicia social, la equidad y luchar contra todo tipo de discriminación, garantizando la accesibilidad de las tecnologías, una educación abierta en competencias digitales, y la alfabetización mediática e informacional; y c) alcanzar sociedades pacíficas, justas y solidarias, sobre la base de un futuro interconectado.
En el terreno americano, a su turno, aparecen algunos ensayos que procuran alinearse con esa tendencia, tales como los Principios de la OCDE sobre la Inteligencia Artificial (2019); o bien, la Directiva sobre la toma de decisiones automatizada de Canadá (2019)20.
Pese a lo expuesto, ya han comenzado a tratarse -puntualmente- las implicancias de la IA en la administración de justicia por algunos documentos. Nosotros, por la extensión del presente trabajo, sólo mencionaremos dos: la Carta Ética Europea sobre el uso de la Inteligencia Artificial en los sistemas judiciales y su entorno21; y la Resolución Nro 332 sobre ética, transparencia y buen gobierno en la producción y uso de Inteligencia Artificial en el Poder Judicial y otras disposiciones del Consejo Nacional de Justicia de Brasil22.
El primero, haciendose eco de algunos de los escollos indicados, pretende guiar la implementación de la IA en el ámbito judicial a través de de una serie de principios: 1) Respeto por los derechos fundamentales, el diseño y la implementación de herramientas y servicios de IA deben ser compatibles con los derechos fundamentales; 2) No discriminación, preveniendo el desarrollo o la intensificación de cualquier discriminación entre individuos o grupos de individuos, con especial cautela en el manejo de datos sensibles; 3) Calidad y Seguridad, que implica uso de fuentes certificadas, diseño de modelos multidisciplinarios, y desarrollo en entorno tecnológico seguros; 4) Transparencia, Imparcialidad y Justicia, códigos abiertos, lenguaje claro, sometimiento a procesos de certificación y auditorias; y 5) Control por el usuario, incrementar la autonomía del usuario por medio de la información.
El segundo, parte de reconocer la potencialidad de la IA para contribuir agilidad y coherencia del proceso de toma de decisiones junto con la necesidad de velar por el respeto de los derechos humanos. Así, define una serie de conceptos claves como algoritmo, modelo de IA, usuario, etc. (art. 3); resalta la necesidad de garantizar los derechos fundamentales, la seguridad jurídica y la igualdad (arts. 4 y 7), junto con la utilización de muestras representativas y la protección de datos sensibles (art. 6); precisa los estandares de publicidad y transparencia, incluida la adecuada información al usuario sobre la implementación de la IA y la trazabilidad de la decisión (arts. 8, 17 a 19); de calidad (art. 9); y de seguridad y responsabilidad (arts. 13 a 16, 25 a 27), incluyendo la utilización de fuentes preferentemente gubernamentales, inalterabilidad de los datos utilizados, almacenamiento seguro, etc.
4. Desafíos derivados del contexto latinoamericano
A lo señalado precedentemente esta parte del continente americano, suma un plus de complejidad derivado de condicionantes que operan en la región y obligan a repensar las tácticas de implementación de la IA.
4.1. Pobreza y desigualdad: la deuda histórica
América Latina padece una condición de latente fragilidad social, con altos índices de pobreza, que la han vuelto la región más desigual del mundo.
Si bien el surgimiento de la pobreza como fenómeno colectivo, se relacionó con la irrupción de las formas de dominación y explotación coloniales en los sistemas comunitarios locales preexistentes. Lo cierto es que su reproducción a lo largo del tiempo se asoció a relaciones sociales más contextuales, ya que ni el advenimiento del trabajo libre ni los Estados republicanos hacia el siglo XIX, lograron modificar sustancialmente las relaciones semiserviles atadas a la fuerza de un patrón en los sistemas de hacienda (Álvarez Leguizamón, 2008:79-82).
Esto dio lugar a democracias circunscriptas a un grupo selecto de ciudadanos, fuertemente paternalistas y racistas (Álvarez Leguizamón, 2008:87), todo lo cual deterioró la extensión de los derechos al resto de la población.
El siglo XX y los procesos de urbanización trajeron consigo las nociones de marginalidad, subdesarrollo y tercer mundo, ligando la idea de progreso a ciertos estándares de infraestructura, producción, economía y satisfacción de necesidades básicas, que reportaban a un enclave cultural concreto: el norteamericano (Álvarez Leguizamón, 2008:82-83 y 96-97). Mientras que la globalización reportó la idea -lamentablemente- de pobreza estructural y necesidades básicas insatisfechas (Álvarez Leguizamón, 2008:106-110).
De lo expuesto hasta aquí se colige que la pobreza y la desigualdad en Latinoamérica son una constante, que trasciende los distintos momentos históricos y las diversas formas de gobierno o estatidad. Incluso, se ha intentado explicar este fenomeno a la luz de la idea de colonialidad del poder. Esto es, la subsistencia en el ideario colectivo de elementos propios de una clasificación racial/étnica como piedra angular del patrón de poder, lo que opera en cada una de las dimensiones, materiales y subjetivas, de la existencia cotidiana y a escala social (Quijano, 2014).
En ese orden de ideas, el mayor riesgo es la naturalización de esas diferencias presentandolas como ontológicas. Justamente, hablar de la "inevitabilidad de la pobreza" permite legitimarla, desplazar el foco de atención desde el Estado y los colectivos hacia las acciones individuales (Cimadamore y Cattani, 2008:13), y negar -en algun punto- la igualdad de las personas y la universalidad de los derechos humanos.
La complejidad del fenomeno descripto impone analizarlo desde una perspectiva multidimensional, prestando especial atención a sus ejes estructurantes: distinciones de género, étnicas y raciales, territoriales y etarias, ya que tanto la pobreza como la pobreza extrema no afectan a todos por igual, sino que tienen mayor incidencia en ciertos grupos demográficos. Por esa razón, es necesario conocer cómo operan esos ejes y las relaciones que se establecen entre ellos23.
Ello por cuanto esas diferencias provocan consecuencias en una doble dimensión: a nivel individual, atraviesan transversalmente a quien las padece, vulnerando su propia autonomía y afectando el ejercicio de sus derechos (Abramo, 2016:17); mientras que, a nivel comunitario, acarrean inestabilidad social y deslegitimación política, sobre todo cuando las oportunidades de mejora son acentuadamente dispares y aparecen avaladas por una "cultura del privilegio" (CEPAL, 2019:24).
4.2. Conectividad: una meta urgente
La conectividad es la piedra angular sobre la cual se erige el desarrollo tecnológico y sus beneficios derivados. El acceso a internet es hoy un derecho humano esencial al ser el canal por el cual se viabilizan otros derechos fundamentales, como la educación, la información, la participación, el entretenimiento, etc.
No obstante, tal como sucede con otros recursos simbólicos o culturales, el acceso a las nuevas tecnologías está desigualmente repartido entre zonas geográficas (rurales y urbanas), y grupos sociales y económicos (Galperín, 2004, en Marín et al., 2013:6)24. Y es que si hay una región en el cual "el lugar importa" esa región es -sin duda- América Latina. La heterogeneidad territorial ha dado lugar a espacios con dinámicas exitosas de desarrollo, y a la par a un número considerable que no logran salir de la trampa del estancamiento (Abramo, 2016:61), marcando diferencias en la distribución de oportunidades y bienestar dentro de un mismo país.
De cara a esa realidad, los países de América Latina y el Caribe han adoptado instrumentos de planificación a mediano y largo plazo: por un lado, el Plan de Acción sobre la Sociedad de la Información de América Latina y el Caribe (eLAC)25; y por otro, diversas estrategias nacionales de desarrollo digital (ENDD) (Martínez et al., 2020: 54-55)26. El resultado de ese tipo de abordaje ha sido un progreso en la conectividad en los últimos años mejorando la disponibilidad de redes fijas, la banda ancha móvil y el acceso con regularidad a internet.
Pero, a pesar de las mejoras27, las velocidades de conexión están por debajo del promedio mundial, lo que limita los tipos de servicios y aplicaciones disponibles (OECD, 2020:97); el acceso a Internet en América Latina y el Caribe sigue estando fuertemente vinculado al nivel de ingresos de los hogares (diferencia de 40 puntos porcentuales entre el quintil más rico y el más pobre); a la edad de las personas (el uso de Internet es considerablemente superior entre las personas de 15 a 34 años) y a las áreas geográfica lo que parece ser el indicador más visible28 (LEO, 2020:19).
La escena descripta, no sólo mina el goce de derechos esenciales y el inmenso potencial social, económico y productivo de la región; sino que, además, obstaculiza la implementación de las nuevas tecnologías que utilizan los datos como materia prima, dadas las pérdidas que se ocasionan por la calidad en el tipo internet.
4.3. Brecha digital: otra cara de la desigualdad contemporánea
La brecha digital puede ser entendida como la separación que existe entre las personas (o comunidades y países) que utilizan las nuevas tecnologías de la información y comunicación (TICs) como una parte rutinaria de su vida diaria, y aquellas que no tienen acceso a las mismas y que, aunque lo tengan, no saben cómo utilizarlas (Felicié, 2003:7).
Hablamos de una nueva dimensión de exclusión, ya que el pleno disfrute de las TICs exige que las personas cuenten con habilidades y competencias que les permitan adaptarse a los cambios que operan en este campo, tan rápido como van sucediendo. Máxime cuando aquellas inciden en distintos aspectos de sus vidas y a lo largo de toda su vida.
Esta noción, por ende, tensiona tanto el goce efectivo de los derechos, como la idea misma de ciudadanía al vincularse directamente con las posibilidades de participación política en el ámbito digital (Martínez et al., 2020:35-36)
Y el riesgo, claro está, es la revictimización de los grupos históricamente más vulnerables: poblaciones indígenas o afrodescendientes (lenguaje), pobres, mujeres, adultos mayores y quienes residen en áreas rurales (Martínez et al., 2020:10).
De esta manera, el mundo digital replica los ejes estructurantes de la desigualdad a los cuales haciamos referencia mas arriba. Ello es asi, debido a que en las categorías indicadas se advierten los mayores incovenientes para acceder a las TICs: sea por los costos que implica ampliar el acceso a tecnologías digitales en áreas rurales, por las barreras económicas para adquirir tecnología de punta, capacitación y herramientas; sea por la formación en contenido digital, dados los roles de género, la disponibilidad de contenido en idioma nativo, o la facilidades de acceso motivacional, material, de uso y competencias para los "inmigrantes digitales" (Martínez et al., 2020:25-37).
4.4. Inestabilidad social, política e institucional: jaque mate a los sistemas democráticos
Las asimetrías existentes, la anomia social, la emergencia devenida en una constante y la consolidación de gobiernos debilitados por la inestabilidad, desgastan profundamente los sistemas democráticos provocando un descreimiento generalizado en la institucionalidad.
América Latina suma, así, otro flagelo más: la desconfianza en el ámbito político e institucional. Esto lo demuestran los datos recogidos por las publicaciones de la OECD, que dan cuenta de una caída estrepitosa de la confianza sondeada en la población, que van desde 19 puntos porcentuales en el gobierno nacional a 4 puntos en caso del Poder Judicial, en un lapso de solo 10 años (2008-2018).
Y como si fuera poco, la implementación de servicios de personalización masiva y filtrado selectivo de contenidos cuestiona la esfera pública y la democracia deliberativa habermasiana creando "enclaves deliberativos" que no hacen otra cosa que reforzar las posiciones individuales, contribuyendo a extremar y polarizar la esfera pública (Sunstein, 2001, en Cotino Hueso, 2017: 140-141).
La IA permite dirigir la información a grupos socioeconómicos o áreas geográficas para influir en la opinión, creando espacios de interacción en redes sociales que son uniformes y filtran las perspectivas contrarias. Esto retroalimenta que personas con visiones análogas a las propias entren en contacto, fomentando la polarización; y a la par, facilita la difusión de noticias falsas que llegan audiencias masivas (OECD et al., 2020:181-182) .
En consecuencia, el riesgo de manipulación de las personas -tangente a la posverdad y a la particularización de contenidos- genera preocupación en las principales democracias del mundo, y cuanto más en aquellas que se definen como "debilitadas".
La digitalización altera los modos de interacción entre el Estado, el mercado y los individuos, imponiendo nuevas dinámicas (Martínez et al., 2020:48). Sin embargo, las dirigencias no han logrado estar a la altura, todo lo cual se ha traducido en una incapacidad de tomar decisiones a largo plazo en torno a los principales desafíos que plantea la innovación tecnológica: infraestructura y capital humano.
Las dirigencias políticas se ven impedidas de elaborar núcleos duros de consenso que trasciendan el gobierno de turno, alrededor de los cuales se articulen estrategias de inclusión tecnológica a mediano y largo plazo.
Ello frena la inversión privada por la inseguridad jurídica que les reporta a las empresas, y al mismo tiempo, la inversión y capacitación del sector público queda preso de la "urgencia contingente". Es decir, la posibilidad latente que el presupuesto originariamente destinado a un sector sea desviado a otro que el nuevo gobierno, de acuerdo con su posicionamiento ideológico, considere más prioritario.
4.5. Resabios de una justicia arcaica
La justicia aparece como un campo rezagado tanto en su arquitectura como en la posibilidad de modificar la oscura percepción que la ciudadania tiene de ella.
Los resultados para América Latina en la medición del Barómetro Global de la Corrupción realizado por Transparency International (2017) señalaban que un 62% de la población consideraba que la corrupción habia aumentado. Asimismo, las mediciones del World Justice Project (WJP) sobre el Estado de Derecho en la región, a partir del análisis de una serie de factores entre los que se incluye el funcionamiento de la justicia civil y de la justicia penal, los ubicó por debajo de la media mundial del 0.56/1 en el periodo 2017/2018 (Elena y Mercado, 2018:17-21).
Esa opacidad, que históricamente se ancló a la necesidad de defender su independencia (Elena y Mercado, 2018:21), hoy conforma otro ejemplo más de desconexión entre las instituciones y la ciudadanía.
La formalidad del proceso29 y el planteamiento antagónico persistente en los códigos procesales es quizás el primordial aspecto de este funcionamiento disfuncional. Enmarcar las disputas cotidianas en términos adversariales desde el inicio es contraproducente, dado que el foco no está colocado en la resolución sino la elaboración de reclamos y defensas altamente agresivos, con una inversión considerable de tiempo y dinero (Salter y Thompson, 2017:120).
La deficiente calidad de la producción escrita y la comunicación judicial30, a su vez, dificultan notoriamente el control lógico/formal de lo que pretende ser un silogismo, colocando a los destinatarios de tales pronunciamientos en una situación de vulnerabilidad, al tiempo que amenaza la transparencia de los actos de gobierno.
De esta manera, el proceso tanto en su génesis como en su funcionamiento, en vez de actuar como un puente entre las partes y Poder Judicial, efectivizando la garantía de acceso a la justicia, termina operando como una valla con muros tan altos que solo algunos pocos logran sortear con éxito.
El panorama descripto, por consiguiente, demanda replantear cualquier estrategia de modernización incorporando modificaciones a nivel de cultura judicial, si lo que se persigue es un cambio real.
5. Reflexiones a modo de colofón
La invención de nuevas condiciones para la realización de la vida colectiva, entre ellas la IA, es un acto revolucionario que requiere ser encarado con criterio de realidad.
En nuestro caso, lo dicho supone reflexionar con los pies puestos en Latinoamérica y con la mirada centrada en las particularidades socioculturales, políticas y económicas de la región. Es decir, ser concientes que en esta parte del mundo la implementación ética de la IA en la administración de justicia, no afronta únicamente las dificultades que señalabamos como provenientes del desarrollo de una nueva tecnología (vg. sesgos, discriminación, transparencia, etc.) aplicada a un campo específico de actuación (vg. razonamiento divergente, procesamiento de lenguaje natural, etc.). Sino que por el contrario, debe enfrentar condionantes intrínsecos de la región, ya sea historicos como la pobreza, la inestabilidad social e institucional, o la caracterización de la justicia; o bien, mas actuales como la conectividad y la brecha digital.
En ese orden de ideas, como primera relexión, podemos decir que las asimetrías existentes en la región obligan a reforzar las políticas de intervención en el ámbito social y educativo para que la innovación tecnológica, como un bien simbólico y cultural, pueda ser aprovechada por la mayor parte de las personas.
Las tecnologías derivadas de la Cuarta Revolución Industrial se han vuelto un factor condicionante -cuando no, determinante- del efectivo goce de los derechos humanos. Esta situación reflota las discusiones de antaño acerca de la distribución de los bienes y la riqueza en las sociedades contemporáneas. Y, al mismo timpo, instala una inédita controversia vinculada a las nuevas formas de control y poder que operan sigilosamente en el mundo virtual, provocando efectos masivos y palpables en la vida cotidiana de las personas.
Luego, más allá de las aristas que pueda tomar esa disputa en la actualidad, el centro gravitatorio continúa siendo el mismo: la justicia como valor cardinal de la vida en sociedad para los seres humanos.
Frente a esa conyuntura, la clave parecería estar dada por no perder de vista la heterogeneidad de las sociedades a las que se destinan esas nuevas tecnologías, sumado al sentido asignado a la palabra igualdad.
Entender como interactúan -actual e históricamente- los ejes estructurantes de la desigualdad y cómo la tecnología puede impactar en ellos es esencial, si lo que se pretende es revertir los patrones preexistentes de la exclusión y la desigualdad, evitando al mismo tiempo la aparición de nuevas jerarquías.
Vale decir que, en la comprensión de cómo se conforma la famosa "brecha digital" y cómo interactúan sus variables, se encuentra el quid -al menos inicial- para cualquier planificación que apunte a incentivar el uso y difusion de tales tecnologías, con el fin de avanzar hacia sociedades más inclusivas, solidarias y cohesionadas.
Transformar esta realidad implica recorrer un camino signado por urgencias de sociedades que reclaman espacios mas igualitarios y equitativos, y en el cual la reflexion teórica se cruza con lo experimental.
Por consiguiente, generar estructuras integradas y transversales, capaces de superar los esquemas actuales que en su mayoría resultan focalizados o subsidiarios se torna insoslayable. Al igual que articular políticas económicas y fiscales que apunten a una efectiva redistribución de la riqueza, junto con una fuerte intervención en los sectores sociales y educativos, en aras garantizar derechos interdependientes.
Y es que la posibilidad de provocar un cambio a nivel sistémico, a partir de la implementación de este tipo de tecnología, depende no sólo de que esté disponible para toda la población, sino además de que ésta sepa cómo utilizarla (alfabetización digital).
Como segunda reflexión podemos decir que la administración de justicia requiere de una profunda revisión, más allá de los adelantos que pueda aportar la IA. Y, del mismo modo, cualquier innovación que se implemente debería buscar actuar a escala nacional en los paises de la región, para reducir los riesgos de incrementar las disparidades hacia el interior de aquellos.
La actuación de la IA es igual a parametrizar, y parametrizar es sinónimo de estandarizar y regularizar. Dicho de otro modo, menos discrecionalidad, mayor predictibilidad y seguridad jurídica, y -por ende- mejor control y nitidez en los actos de los poderes públicos.
Pero, para que esa utilidad pueda ser realmente aprovechada por la ciudadania, son necesarias -al menos- tres cosas: redefinir el enfoque del proceso; pensar en gobernanza de datos y algoritmica (sobre el funcionamiento de la IA); y proponerse una implementación simétrica y sincrónica dentro los Estados.
La reingeniería procesal y judicial implica cuestionar la estructura procedimental; el sentido y objetivo del diseño formal existente; la razón de ser que subyace a las prácticas jurídicas sostenidas en el ámbito tribunalicio; y el perfil de profesionales (jueces, funcionarios , empleados y abogados) que trabaja en ello, con miras a generar una justicia abierta, transparente y al servicio de la población.
La gobernanza de los datos generados y la gobernanza algorítmica son igualmente fundamentales para no vulnerar desde el propio Estado los derechos de sus ciudadanos, máxime en un ámbito como el Poder Judicial al cual las personas acuden en búsqueda del reconocimiento, restablecimiento o reparación de derechos ya transgredidos, desconocidos o no garantizados, y muchos de los datos que llegan a conocimiento judicial son "sensibles".
El modo de implementación de la IA, el programa o planificación que se desarrolle al respecto, finalmente, resulta clave a raiz de los contrastes emergentes en Latinoamérica. Sucede que la conciencia adquirida sobre los ejes estructurantes de la desigualdad impone la obligación -al menos moral- de evitar que la tecnología se convierta en uno más. Ello si verdaderamente creemos, tal como lo pregonamos en los distintos documentos de derechos humanos, que la igualdad es más que un derecho: es una condición intrínseca y preexistente indispensable para el goce efectivo de aquellos.
Como ultima reflexión podemos apuntar que es menester repensar los desarrollos teóricos de la ética remarcando la perspectiva de la justicia. Ello con el objetivo de elaborar documentos tendientes a guiar la implementación ética de la IA en la administración de justicia, pero con principios ajustados a la realidad regional.
La pobreza y la desigualdad en Latinoamérica erosionan la libertad y la autonomía de las personas, enervando cualquier posibilidad de elaborar consensos en condiciones de simetria, y reduciendo -por ende- los intentos a una cínica declamación.
La falta de infraestructura, de inversión y de capacitación, a su vez, se erigen como barreras en términos de posibilidad real, al menos en el estado actual, para imaginar la aplicación de la IA en la administración de justicia a gran escala.
Por último, la idea del ciudadano del mundo, conectado con todo y todos, conspira contra la toma de conciencia de quien está excluido, disipando las posibilidades de poner en marcha una conciencia crítica y una acción modificadora.
En ese escenario, entonces, la inclusión enfocada desde lo social cobra relevancia como un principio ético a fin de lograr una justicia a medida para Latinoamerica. Este principio debería contemplar:
Educar crítica y reflexivamente desde la multi-interculturalidad.
Pensar en clave de "vulnerabilidad digital" para diseñar mecanismos de integración a mediano y largo plazo, en pos de que las nuevas tecnologías actúen como alicientes de los sistemas democráticos, en vez de subvertirlos.
Dialogar abierta e interdisciplinariamente con la comunidad destinataria de tales tecnologías.
Alinear los cursos de acción concretos con las directrices de los organismos internacionales.
En resumen, cualquier pretensión de aplicar éticamente la IA a la administración de justicia latinoamericana impone superar los estereotipos derivados de una dicotomía instituyente instalada en el imaginario social: la inmersión tecnológica como respuesta de todos los males de la justicia versus la antesala de un escenario apocalíptico.
Esto supone -simultáneamente- ser conscientes, por un lado, de su capacidad disruptiva evitando cualquier mirada simplista que pudiese conducir a diluir la responsabilidad individual, institucional o colectiva.
Y por otro, que la justicia social deja de ser una utopía y se vuelve tangible cuando los beneficios de las innovaciones tecnológicas llegan a todos, garantizando el goce efectivo de los derechos humanos involucrados en condiciones de igualdad.
