Riesgos y prevención de la inteligencia artificial en la educación superior

Jairo E. Márquez D.

PhD en educación e ingeniero de sistemas

Docente investigador de la Universidad de Cundinamarca

La integración de la inteligencia artificial (IA) en la educación superior ha generado tanto expectativas como preocupaciones. Por un lado, la IA promete revolucionar la enseñanza y el aprendizaje, ofreciendo experiencias personalizadas y eficientes. Desde sistemas de tutoría automatizados hasta herramientas de evaluación y análisis de datos, la IA promete mejorar la eficacia y la personalización del aprendizaje. Sin embargo, a medida que estas tecnologías se integran en los entornos académicos, surgen preocupaciones sobre los riesgos asociados con su uso.

Algunos riesgos más representativos sobre el uso de la IA en la educación superior son los siguientes:

- Desigualdad en el acceso a la tecnología: las instituciones que no cuentan con los recursos necesarios para implementar tecnologías avanzadas pueden quedar rezagadas, perpetuando de esta manera la desigualdad en el acceso a una educación de calidad. Estudiantes de entornos desfavorecidos pueden verse privados de las ventajas que ofrece la IA, como la personalización del aprendizaje y el acceso a materiales educativos, entre otros.

- Pérdida de la interacción humana: la educación superior tradicional se fundamenta en la interacción entre estudiantes y profesores, lo cual es crucial para el desarrollo de habilidades críticas y sociales. La creciente dependencia de la IA puede deshumanizar el proceso educativo, limitando las capacidades cognitivas y creativas de los estudiantes, reduciendo las oportunidades de aprendizaje colaborativo. Esto, a su vez, puede afectar negativamente su preparación para el mundo laboral.

- Sesgo algorítmico: la IA aprende de datos, y si estos contienen sesgos, puede perpetuarlos o amplificarlos, lo que termina en discriminación indirecta contra ciertos grupos de estudiantes y afecta su experiencia educativa. Además, la falta de transparencia en los algoritmos dificulta la identificación y corrección de estos sesgos, comprometiendo la equidad en el sistema educativo.

- Privacidad y seguridad de los datos: los sistemas de IA emplean grandes cantidades de datos personales para funcionar eficientemente. Esto plantea serias preocupaciones sobre la privacidad y la seguridad de la información. La posibilidad de filtraciones de datos o el uso indebido de la información personal puede poner en peligro la privacidad de los estudiantes.

Con base en los hallazgos enumerados, creo que estos se pueden prevenir de la siguiente manera:

- Promoción de la equidad en el acceso a la tecnología: las instituciones educativas deben adoptar políticas que garanticen un acceso equitativo a la tecnología. Esto implica invertir en infraestructura tecnológica y en la capacitación de docentes y estudiantes. Además, las universidades deben colaborar con gobiernos y organizaciones para desarrollar programas que cierren la brecha digital y brinden oportunidades a estudiantes de entornos desfavorecidos.

- Fomento de la interacción humana: la IA es una herramienta valiosa, pero no debe sustituir la interacción en el aprendizaje. Las instituciones deben equilibrar tecnologías avanzadas con la enseñanza tradicional, promoviendo entornos colaborativos que fomenten la interacción entre estudiantes y profesores, asegurando el desarrollo de habilidades sociales y emocionales.

- Transparencia y ética en el uso de algoritmos: es fundamental que las instituciones educativas adopten prácticas transparentes en el uso de algoritmos de IA, realizando auditorías regulares para identificar sesgos y asegurar decisiones justas. También deben establecer directrices éticas claras para el desarrollo e implementación de tecnologías de IA en la educación, empezando por el currículo.

- Protección de datos y privacidad: las universidades deben implementar políticas que cumplan con las normativas de protección de datos y garanticen la privacidad de los estudiantes. Esto incluye medidas de seguridad robustas y educación sobre derechos relacionados con datos personales. La transparencia en la recopilación y uso de datos es esencial para mantener la confianza en la IA en la educación.

En resumen, frente a los beneficios que tiene la aplicación de la IA en la educación superior, hay que analizar, con detenimiento, los riesgos que esta conlleva. Es fundamental garantizar la equidad en el acceso a la tecnología, promover la interacción humana en el proceso educativo, asegurar la transparencia en los algoritmos utilizados y proteger la privacidad de los datos.

Adoptando un enfoque ético y proactivo, las instituciones educativas pueden maximizar los beneficios que la IA ofrece, creando un entorno de aprendizaje justo y accesible para todos. La responsabilidad de construir un futuro educativo inclusivo recae en todos los actores del sistema educativo, desde administradores y educadores hasta estudiantes y legisladores. Solo a través de un esfuerzo conjunto se podrá aprovechar al máximo el potencial de la IA, asegurando que su implementación beneficie a toda la comunidad educativa.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, con los datos identificadores y documentos sin límite.

Paute en Ámbito Jurídico

Siga nuestro canal en WhatsApp.