NOVEDAD: Corte Constitucional define criterios para que despachos judiciales usen inteligencia artificial

En febrero del 2023, el Juzgado Primero Laboral de Cartagena resolvió una acción de tutela utilizando insumos generados por ChatGPT (un chatbot basado en inteligencia artificial - IA - que resuelve preguntas y es capaz de entregar varios párrafos con cierta precisión), en su momento, el juez de instancia argumentó que la Ley 2213 del 2022 así lo permite y que pretendía optimizar los tiempos empleados en la redacción de sentencias.

Lo anterior generó un amplio debate sobre el uso de tecnologías basadas en IA en la toma de decisiones relacionadas con derechos fundamentales, el caso concreto se refiere a un menor con autismo que no contaba con los recursos económicos para el pago de cuotas moderadoras y copagos de su servicio de salud. (Lea: ChatGPT y rol judicial)

Esta decisión llegó a revisión de la Corte Constitucional, que si bien confirmó que no existió vulneración al debido proceso en la actuación, manifestó su interés por el respeto de los derechos fundamentales, el debido proceso en la administración de justicia y previno sobre el inadecuado entendimiento de estas herramientas, especialmente por las que califica como “posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA”. (Lea: ¿Se debe autorizar el uso de inteligencia artificial generativa en la justicia?)

La decisión de tutela tiene efectos inter comunis y el primer énfasis del alto tribunal es que “todo juez de la República que utilice tecnologías de IA como apoyo para resolver acciones de tutela debe hacer un uso responsable y ético de ellas”. Y es que considera que su uso en el sistema judicial puede generar un impacto en materia de derechos fundamentales, por lo cual no se puede admitir o fomentar en los operadores judiciales su uso libre e intuitivo. (Lea: Directrices para usar ChatGPT)

Además, ordenó al Consejo Superior de la Judicatura que emita lineamientos sobre el uso de IA en los despachos judiciales, para que no se afecten dos principios angulares: el debido proceso y la autonomía e independencia judicial. La administración de justicia tendrá cuatro meses para divulgar una guía o manual sobre la implementación de la IA generativa en la Rama Judicial, especialmente el uso de ChatGPT. (Lea: Recomendaciones de Gonzalo Ramírez Cleves para usar la inteligencia artificial en el Derecho)

Criterios orientadores de la Corte Constitucional

La relevancia de esta decisión, que puede descargar al final de esta nota, es que en el país se convierte en la primera guía para avanzar y controlar el uso de herramientas como ChatGPT, bajo algunos criterios como estos:

1. Transparencia, obligación de evidenciar con claridad y precisión el uso, alcances y ubicación en las actuaciones o decisiones de los resultados obtenidos por la utilización de IA.

2. Responsabilidad, el usuario de la herramienta debe estar capacitado y comprender los impactos del uso de estas tecnologías. (Lea: ¿Jueces deben tener límites al motivar sus fallos con IA generativa?)

3. Privacidad, se refiere al deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administración de justicia.

4. No sustitución de la racionalidad humana, es la imposibilidad ética y jurídica de sustituir la acción y la responsabilidad del individuo en la gestión de las decisiones judiciales.

5. Seriedad y verificación, obliga a un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de IA.

6. Igualdad y equidad, obliga a erradicar todas las formas de discriminación relacionadas con la aplicación de sesgos derivada del uso de tales tecnologías.

7. Control humano, debe existir un escrutinio sobre las actuaciones y decisiones en que se usen herramientas de IA.

8. Seguimiento continuo y adaptación, trata de la obligación de consultar los avances jurídicos, sociológicos y tecnológicos que se vayan implementando. (Lea: Tribunal norteamericano suspende a abogado por presentar escrito elaborado con IA con precedentes inexistentes)

Lineamientos para la administración de justicia

Pero no solo son los criterios los que se destacan en esta decisión, lo principal son las órdenes al Consejo Superior de la Judicatura para el uso de IA en la Rama Judicial, veamos:

(i) La IA no puede ser usada para sustituir el razonamiento lógico y humano que le compete realizar a cada juez al interpretar los hechos, valorar las pruebas, motivar y adoptar la decisión. (Lea: Estamos analizando variables de inteligencia artificial y su incidencia en la administración de justicia: Diana Remolina)

(ii) La IA se podrá utilizar en el sistema judicial para gestión administrativa y documental, así como apoyo a la gestión judicial y corrección y síntesis de textos.

(iii) Se deberán garantizar principios de transparencia, responsabilidad y privacidad respecto al uso de IA.

(iv) Debe haber un humano responsable, es decir, una persona individualizable e identificable a quien se le puedan plantear preocupaciones relacionadas con las decisiones tomadas por las intervenciones realizadas por la IA.

(v) Materializar un lenguaje claro y comprensible para los seres humanos sobre las respuestas que genera la IA.

(ix) definir un sistema de control, seguimiento, alerta, evaluación y mejora en cuanto a las prácticas que impliquen el uso de herramientas de IA como ChatGPT por los despachos judiciales.

(x) Desarrollar habilidades digitales en los operadores jurídicos, especialmente sobre los sistemas de IA.

Mientras se oficializan estas órdenes, la Corte Constitucional indica que se deben aplicar los parámetros mencionados si se usan herramientas de IA para la emisión de providencias.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, con los datos identificadores y documentos sin límite.

Paute en Ámbito Jurídico

Siga nuestro canal en WhatsApp.