Inteligencia artificial y derechos humanos: desafíos éticos en la regulación internacional

Víctor Mosquera Marín

Es abogado, doctor en Derecho Internacional Público y magíster en Protección Internacional de los Derechos Humanos por la Universidad La Sapienza de Roma

El Consejo de Europa ha adoptado el primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de inteligencia artificial (IA)

La IA se ha convertido en una tecnología transformadora, con aplicaciones que abarcan desde la salud hasta la seguridad y la educación. Sin embargo, con este avance también emergen riesgos importantes en relación con los derechos humanos. En este contexto, la adopción del primer tratado internacional sobre IA por el Consejo de Europa marca un hito fundamental en la regulación de esta tecnología, estableciendo estándares jurídicos vinculantes para garantizar que la IA respete los derechos fundamentales.

La IA, tal como se describe en los informes más recientes, no tiene una definición única debido a su naturaleza cambiante. Los sistemas de IA son capaces de procesar grandes volúmenes de datos para tomar decisiones autónomas o semiautónomas en ámbitos clave, desde la justicia hasta el empleo. Este poder de decisión plantea dilemas éticos, especialmente cuando los algoritmos que utilizan no son transparentes y pueden incorporar sesgos. Estos sesgos pueden agravar las desigualdades existentes, generando discriminación y afectando a grupos vulnerables de manera desproporcionada.

Uno de los principales riesgos asociados con la IA es la categorización y clasificación de personas mediante algoritmos opacos. Esta práctica puede erosionar la dignidad humana y violar el derecho a la privacidad, como se subraya en el tratado del Consejo de Europa. Para evitar estos peligros, es crucial implementar mecanismos de supervisión humana y asegurar que los sistemas de IA sean explicables. Además, el desarrollo de la IA debe estar alineado con principios éticos que promuevan la igualdad de género y la no discriminación, evitando que estas tecnologías refuercen estereotipos dañinos o perpetúen la exclusión social.

El tratado del Consejo de Europa establece un marco normativo que busca equilibrar el desarrollo de la IA con la protección de los derechos fundamentales. Exige a los Estados miembros que adopten medidas de transparencia y rendición de cuentas para evitar que la IA se utilice de manera que socave los derechos humanos. Esta normativa internacional no solo es relevante para Europa, sino que está abierta a países de todo el mundo, reconociendo que la naturaleza global de la IA requiere cooperación internacional y un marco regulador unificado.

A nivel jurídico, este tratado refuerza la necesidad de un enfoque basado en los derechos humanos para el desarrollo de la IA. Los sistemas deben diseñarse y aplicarse de forma que promuevan la justicia social, garantizando que los beneficios de la IA estén disponibles para todos, y no solo para aquellos con acceso privilegiado a las tecnologías. Los países deben esforzarse por reducir las brechas digitales y garantizar que las poblaciones marginadas y vulnerables no queden excluidas del acceso a los beneficios de la IA.

Además, el marco ético descrito en los documentos de la Unesco y otras organizaciones internacionales resalta la importancia de la educación en competencias digitales y la alfabetización mediática para asegurar una adopción responsable de la IA. Esto implica capacitar a las nuevas generaciones para entender el funcionamiento de los sistemas de IA y sus implicaciones sociales y políticas, fomentando un uso ético de estas tecnologías.

La IA ha enfrentado decisiones judiciales recientes que buscan limitar su impacto negativo en los derechos humanos. Un ejemplo clave es el rechazo de sistemas de IA que generan decisiones automatizadas en procesos judiciales o administrativos, debido al riesgo de discriminación y vulneración del debido proceso. En países como el Reino Unido y EE UU, se han cuestionado algoritmos utilizados en sistemas de vigilancia y contratación, ya que perpetúan sesgos raciales y de género. Estas decisiones subrayan la necesidad de una supervisión humana que asegure el respeto a los derechos fundamentales.

El reciente tratado del Consejo de Europa también resalta la importancia de regular la IA para que no viole la privacidad, la no discriminación y otros derechos humanos. La transparencia de los algoritmos y la responsabilidad ética son aspectos claves para evitar un uso injusto de la tecnología.  

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, con los datos identificadores y documentos sin límite.

Paute en Ámbito Jurídico

Siga nuestro canal en WhatsApp.