Complejidades éticas en la aplicación de la inteligencia artificial en la justicia

Hernando Herrera Mercado
Ex presidente de la Corte de Arbitraje de la Cámara de Comercio de Bogotá, árbitro y presidente de la Corporación Excelencia en la Justicia

A la desafiante nueva era de la “automatización” del quehacer humano no escapan los sistemas judiciales. El aumento del empleo de la inteligencia artificial (IA) en la administración de justicia es una irrebatible prueba de esta realidad. Es de suponer que la IA podría suscitar una justicia más rápida, aprovechando su enorme capacidad de digerir, manejar y comparar datos. Incluso, planteamientos más optimistas sostienen que la IA podría generar una justicia “más justa”, toda vez que esa herramienta no estaría supeditada a la subjetividad humana. Visto desde la otra orilla, se clama por una estricta regulación que impida que el uso indiscriminado de la IA en los procesos judiciales termine por “deshumanizar” la administración de justicia y conduzca a la irresponsable sustitución del raciocinio judicial humano por el de la máquina.

En todo caso, dentro de las inquietudes más relevantes que se plantean frente a la aplicación de la IA en la administración judicial, se encuentran las que aluden a las amenazas que se cernirían sobre la “ética”. Valga la pena anotar, en una breve aproximación, que la ética es un parámetro que regula el comportamiento humano, y que como está dicho en estudios sobre la materia, “permite su dirección a lo que se considera aceptable y positivo”. En otras palabras, establece lo que es bueno y lo que es malo. Definidas estas materias, abordaremos dos cuestiones que precisamente incumben a la ética, y que se suscitan por el empleo la IA en la justicia. Atañen a que el arbitrario y descontrolado empleo de la IA en el ámbito judicial podría conducir a la mengua del parámetro ético (que debería guiar junto con otros importantes criterios) en la determinación de los jueces y a la incertidumbre sobre la real fiabilidad o capacidad que ese sistema posea para llegar a resolver adecuadamente un dilema ético involucrado en una situación litigiosa.

En torno al primero de estos aspectos, resulta interesante dar cuenta de un informe de la Unesco, que, desde luego, replicaría perfectamente en el escenario del empleo de la IA en lo judicial. Según esa organización, toda vez que la tecnología que en parte sustenta la IA se basa en motores de búsqueda (“procesa macrodatos y prioriza los resultados con la mayor cantidad de clics dependiendo tanto de las preferencias del usuario como de la ubicación”), una indiferente utilización de la IA, peligrosamente, podría conducir al incremento de los prejuicios y los estereotipos del mundo real. En tal sentido, es evidente que existiría un riesgo de vulneración de “parámetros típicamente éticos” como la no discriminación y de otros valores axiales al ser humano y, en consecuencia, la acción judicial soportada únicamente en la IA también podría verse contagiada por dichos sesgos no propiamente éticos.

También existen inquietudes en torno a la capacidad de la IA para apropiadamente absolver un “dilema ético”. Profundizando al respecto, diríamos que un dilema ético se origina cuando dos de las reglas que conforman ese marco entran en conflicto. La duda recae porque al estar desprovista del sentido humano, la IA resolvería dicho dilema solamente primando los criterios del algoritmo. Ciertamente, tal y como se ha anotado por técnicos, “la IA busca una solución concreta a un planteamiento procurando simular la comprensión humana”, pero no replica a la perfección el comportamiento de esta especie. Desde ese punto de vista, habrá que tenerla como una herramienta útil de soporte, pero que no se encuentra en capacidad de emular, por entero, aspectos tan propiamente humanos como el parámetro que guía el recto proceder de las personas. Entonces, pensando nuevamente en la escena judicial, ante esa insuficiencia, resulta imposible delegar a la IA la solución de un problema jurídico que involucre un dilema ético. 

Dicho lo que antecede, es oportuno manifestar que desde luego no se convoca a erradicar la utilización de la IA en los procesos judiciales, pero sí llamar la atención en cuanto a la necesaria cautela para que ese empleo no suponga el menoscabo de aquello que nos hace humanamente trascendentes y que en buena medida recae en la ética.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, con los datos identificadores y documentos sin límite.

Paute en Ámbito Jurídico. 

Siga nuestro canal en WhatsApp.