Los desafíos éticos y formativos de la IA en la Universidad

La inteligencia artificial llegó y con ella, los retos para la educación en todos los niveles. Jovani Alberto Jiménez Builes, director del Grupo de Investigación en Inteligencia Artificial en Educación de la Universidad Nacional de Colombia, reflexiona sobre los retos, oportunidades y riesgos que trae consigo esta tecnología, que promete transformar el aprendizaje y la enseñanza.

Los paradigmas de la educación deben ser transformados y en ese sentido la inteligencia artificial trae ventajas y preguntas. Desde la resolución de tareas administrativas hasta la personalización del aprendizaje, se asoma una revolución en la forma en que enseñamos y aprendemos. Pero, mientras varias aplicaciones tienen el potencial de enriquecer procesos educativos, también plantean preocupaciones éticas, especialmente en términos de privacidad, sesgo y el impacto sobre los docentes y estudiantes.

“Las plataformas basadas en IA pueden adaptar los contenidos a las necesidades específicas de cada estudiante, lo que mejora la flexibilidad, la autonomía y la efectividad del proceso educativo. Los sistemas tradicionales, como Moodle, presentan contenido estático que no toma en cuenta las diferencias de ritmo y estilo de aprendizaje entre los estudiantes. La IA, en cambio, ofrece una experiencia más dinámica y personalizada, permitiendo que cada estudiante avance según su propio nivel de comprensión”, declaró el profesor Jovani Alberto Jiménez Builes, director del Grupo de Investigación en Inteligencia Artificial en Educación de la Universidad Nacional de Colombia.

En su artículo "Inteligencia artificial en la educación: reflexiones acerca de su uso y desafíos éticos emergentes" (2025), advierte que la IA no debe verse como un sustituto de los docentes, sino como una herramienta que les permite innovar, automatizar tareas repetitivas y focalizarse en lo que realmente importa: guiar y motivar a los estudiantes en su proceso de aprendizaje. La automatización de tareas administrativas, como la calificación y el seguimiento del rendimiento, puede liberar a los educadores para que se concentren en el aspecto humano de la enseñanza: fomentar la curiosidad, creatividad, comunicación y colaboración entre los estudiantes.

A pesar de los beneficios de la IA, su integración en la educación plantea retos como la privacidad de los datos, el sesgo algorítmico y la equidad en el acceso a la tecnología. A menudo los sistemas de IA requieren grandes cantidades de datos para mejorar su precisión y efectividad —información personal, académica y de comportamiento—, peor la recopilación y almacenamiento de estos, especialmente cuando se almacenan en servidores de grandes corporaciones tecnológicas fuera del país, genera serias preocupaciones sobre la privacidad y la seguridad.

“Otro de los grandes desafíos éticos es el sesgo en los algoritmos de IA, que, como son diseñados por humanos, reflejan las mismas imperfecciones y prejuicios que existen en la sociedad. Esto puede generar subestimación de minorías o tratamiento desigual de personas con discapacidades, afectando negativamente a ciertos grupos de estudiantes, como aquellos de comunidades marginalizadas. Es necesario que los desarrolladores de tecnologías de IA implementen medidas para garantizar que los algoritmos sean inclusivos y justos”, enfatizó Jiménez Builes.

En este sentido, los gobiernos y las universidades son fundamentales en la formación crítica de sus docentes y estudiantes, asegurándose de que comprendan los riesgos asociados con el uso de estas tecnologías.

“Los estudiantes deben aprender a interactuar con la IA, no como simples receptores pasivos de información, sino como agentes activos en el aprendizaje. Las habilidades de pensamiento crítico y una comprensión profunda de los desafíos éticos que la IA presenta, son enfoques que ayudarían a los futuros profesionales a adaptarse a un mundo cada vez más automatizado y digitalizado, mientras que al mismo tiempo brindarían herramientas para enfrentar los dilemas éticos y sociales relacionados con el uso de la IA”, sintetizó el experto Jiménez Builes.

Una de las grandes preocupaciones que surge en la actualidad, por ejemplo, es si la IA reemplazará a los docentes. Aunque la IA puede ser útil en la corrección de tareas, el contacto humano es fundamental para la enseñanza. "Lo que la IA hace es facilitar tareas repetitivas y administrativas, pero los profesores siguen siendo indispensables para guiar, motivar y responder a las necesidades emocionales y cognitivas de los estudiantes. La IA no puede sustituir la empatía y la comprensión humana que un docente aporta", afirmó

Mirando hacia el futuro, Jiménez considera que la inteligencia artificial posee un enorme potencial, pero también sostiene que ha sido sobredimensionada, ya que programas como ChatGPT gozan de una visibilidad mediática excesiva, a pesar de que esta tecnología tiene más de 60 años de historia. En este contexto, el profesor cita al filósofo alemán Günther Anders en su obra La obsolescencia del hombre. Sobre el alma en la época de la segunda revolución industrial (1956), donde plantea que el destino de la naturaleza humana es, en esencia, artificial, ya que las herramientas “virtuales” han permitido a la humanidad responder a sus inquietudes, y la IA no es más que una continuación de esa misma tendencia.

"Hoy por hoy, lo que conocemos como inteligencia artificial generativa, como ChatGPT, ha sido sobredimensionado. Esta tecnología tiene sus orígenes en la Segunda Guerra Mundial, y si bien hemos visto avances, aún falta mucho por desarrollar. La IA va a cambiar la forma en que vivimos, trabajamos y aprendemos, pero debemos ser conscientes de los riesgos que conlleva su mal uso, como la manipulación de la información, el fraude académico y la invasión de la privacidad. La tecnología no es ni buena ni mala, todo depende de cómo la utilicemos", concluyó.