Corte estudia tutela para determinar si la inteligencia artificial debe tener límites

La Corte Constitucional estudia una tutela que plantea el debate sobre si las herramientas de la inteligencia artificial deben o no tener límites en Colombia. Los magistrados Paola Meneses y José Fernando Reyes señalaron que el alto tribunal debe pronunciarse sobre las definiciones, los límites y controles a la inteligencia artificial, y que se determine cuándo, cómo y por quiénes puede ser utilizada.

En el caso concreto, el fallador de segunda instancia dejó constancia en su providencia que utilizó la herramienta Chatgpt, de la empresa OpenAI, para ayudarse en la resolución del caso y en la elaboración de la providencia, fundamentado en lo establecido en la Ley 2213 del 2022, que implementa el uso de las tecnologías de la información y las comunicaciones en las actuaciones judiciales para agilizar el trámite de los procesos.

Por su parte, la Defensoría del Pueblo en su solicitud de insistencia señaló que no desconoce que el espíritu de la norma es facilitar el acceso a la justicia, así como el ejercicio del juez, a veces tan engorroso por el número de asuntos sometidos a su conocimiento, pero tal normativa no implica que se pueda hacer uso indiscriminado de cualquier TIC, o que permitida pueda aplicarse sin control o regulación, puesto que ello daría lugar a un cambio de las reglas de juego para el administrado, dando paso a una posible vulneración del derecho al debido proceso.

La inteligencia artificial, instrumentalizada en las diferentes aplicaciones y aplicativos que ya se encuentran al alcance de cualquier persona, en manos de un operador judicial exige un máximo de cuidado y control, puesto que ejerce una de las funciones públicas previstas para garantizar la efectividad de los derechos, como uno de los fines del Estado formulados en el artículo 2 de la Constitución Política, se afirma. (Lea: ¿Es válido utilizar respuestas generadas por inteligencia artificial para motivar fallos judiciales?)

Concluyó la entidad que se hace necesario ese pronunciamiento en orden a preservar el interés general, por cuanto este tipo de herramientas no debe ser utilizado sin la existencia de una regulación que establezca cuándo, cómo y por quienes puede ser utilizada, cuando se trata de la definición de un derecho dentro de un proceso judicial o administrativo, de modo que no llegue el momento en que cualquier operador judicial decida utilizar cualquier desarrollo tecnológico que no tenga una validación técnica y operativa por parte de la administración de la Rama Judicial. En el documento adjunto a esta nota podrá consultar la solicitud de la Defensoría.