Ética, sesgos, privacidad y gobernanza

Abstract

La rápida incorporación de la inteligencia artificial (IA) en la educación superior está transformando la enseñanza, la investigación y la gestión universitaria mediante tutorías inteligentes, aprendizaje adaptativo, evaluación automatizada y analítica predictiva. En América Latina y el Caribe, este proceso ocurre en un contexto de expansión de matrícula y persistentes desigualdades en acceso, calidad e infraestructura digital. Aunque la IA ofrece oportunidades para personalizar el aprendizaje y optimizar procesos, también plantea desafíos éticos sustantivos: los algoritmos pueden reproducir sesgos, el uso intensivo de datos personales amenaza la privacidad y la opacidad (“caja negra”) dificulta explicar decisiones que afectan trayectorias académicas (Molina & Medina, 2025). En contextos desiguales, estos riesgos pueden derivar en nuevas formas de exclusión si no existen marcos claros de gobernanza. En el Foro Internacional organizado por la UNICyT se abordó la pregunta sobre qué marcos y prioridades deben establecer las instituciones para garantizar un uso justo, transparente y responsable de la IA que contribuya al cierre de la brecha digital. Este texto sintetiza esa reflexión crítica y propone marcos institucionales orientados a la equidad, la transparencia y la inclusión, partiendo de que la ética no limita la innovación, sino que la hace socialmente legítima y sostenible.