Sesgo algorítmico: cuando un sistema decide quién prospera y quién no

Sesgo algoritmo e inequidad 

Imagina que alguien te promete que nunca más tendrás que perder horas en las tareas administrativas de tu institución educativa. Suena bien, ¿verdad? Ahora imagina que esa misma persona añade algo aún más seductor; todos esos datos que recogemos sobre los estudiantes tendrán por fin un propósito. Servirán para predecir tasas de deserción, estimar cuántos alumnos se matricularán el próximo año e incluso identificar, por su nombre, a quienes necesitarán apoyo adicional en ciertas asignaturas. Con eso sobre la mesa, la automatización promete mucho más: evaluar de forma automática, personalizar el aprendizaje y adaptar la enseñanza a las necesidades de cada estudiante para hacerla más eficaz.

El panorama es tentador. Pero detrás de esa promesa existe una pregunta incómoda: ¿a qué costo? La automatización de la educación plantea serios dilemas éticos y uno de ellos ya no es una hipótesis. Estudios como el de Sahlgren (2021) lo confirman. A través del sesgo algorítmico, estas herramientas, lejos de promover la inclusión, terminan profundizando las desigualdades. Por eso, en este blog quiero explorar de dónde nace ese sesgo, por qué necesitamos hablar de él y, sobre todo, qué podemos hacer al respecto.

Sabemos que el sistema educativo arrastra desigualdades estructurales. No todos los estudiantes acceden a las mismas oportunidades y factores como la raza, el género o el nivel socioeconómico siguen marcando la diferencia. El problema es que la automatización, lejos de corregir esas brechas, puede terminar consolidándolas. Cuando un algoritmo se entrena con datos históricos, tiende a heredar y amplificar los patrones que contienen, generando predicciones y recomendaciones sesgadas en contra de grupos minoritarios y marginados.

El caso del algoritmo desarrollado por Ofqual (Oficina de Regulación de Calificaciones y Exámenes del Reino Unido) ilustra la manera en que la estandarización algorítmica puede perpetuar inequidades estructurales. Diseñado para calcular las calificaciones de los exámenes A-levels, requisito determinante para el acceso a la educación superior, con base en el histórico de las escuelas y la posición interna del estudiante, en 2020 el sistema redujo la nota del 40 % de los aspirantes, afectando desproporcionadamente a jóvenes pertenecientes a minorías étnicas (negros y asiáticos) y de bajos ingresos (Sahlgren, 2021). Al favorecer a las instituciones privadas frente a las públicas, el algoritmo restringió la movilidad social y el acceso a universidades. Tras intensas protestas estudiantiles frente al Ministerio de Educación, el Gobierno británico se vio obligado a descartar las calificaciones calculadas por el modelo.

Estos sesgos algorítmicos se originan en diversas etapas del ciclo de desarrollo, desde la recolección de datos y la selección de características hasta el diseño del modelo y la interpretación de los resultados. Los datos con los que se entrena el modelo, por ejemplo, pueden no reflejar la diversidad de la población estudiantil; sobrerrepresentan a los grupos mayoritarios y subrepresentan a las poblaciones minoritarias. El resultado son modelos que rinden peor cuando evalúan a estudiantes de orígenes poco presentes en los datos.

Los sesgos también pueden colarse por una puerta trasera. Aunque un algoritmo no use directamente datos como la raza o los ingresos de una familia, puede apoyarse en otros datos que, sin quererlo, revelan esa misma información. El código postal es el ejemplo clásico. No dice de qué raza es alguien, pero como los barrios suelen estar segregados por origen étnico y nivel económico, en la práctica funciona como un sustituto de ambos. A estas variables "disfrazadas" se les llama variables proxy. Algo parecido ocurre al decidir qué información se le da al algoritmo para que aprenda. Si se incluyen, por ejemplo, las notas de exámenes estandarizados que ya de por sí perjudican a ciertos grupos, el algoritmo no corrige esa injusticia, por el contrario, la aprende y la repite.

Hay además un efecto que se retroalimenta a sí mismo. Imagina que el algoritmo etiqueta a un estudiante como de "bajo rendimiento". A partir de ahí, el sistema le ofrece contenidos más fáciles y menos exigentes. Pero al no enfrentarse nunca a retos mayores, el estudiante nunca tiene la ocasión de demostrar que puede con más y sus siguientes resultados vuelven a confirmar la etiqueta inicial. Así se cierra un círculo vicioso, la predicción termina provocando aquello que decía predecir.

Cuando nadie detecta este círculo, sus consecuencias son graves. Un estudiante puede quedar encasillado en un itinerario académico limitado no por sus capacidades reales, sino por una decisión automática que se retroalimenta sola, privándolo de desarrollar todo su potencial y alejando a la escuela de la educación justa y equitativa que desea perseguir.

Investigaciones (Cooke et al., 2022) revelan que los sistemas tutores inteligentes que emplean predicciones algorítmicas para adaptar la dificultad del contenido pueden dar lugar a una "clasificación o seguimiento algorítmico" (algorithmic tracking), mediante el cual los estudiantes de entornos desfavorecidos son dirigidos sistemáticamente hacia rutas de aprendizaje menos exigentes, limitando su acceso a contenidos avanzados y reduciendo su movilidad académica. (Hanifa, 2025)

Tal como abordamos en nuestro blog ¿Es realmente prometedora la hiperpersonalización de la IA en la educación? (Cárdenas, 2026), un aprendizaje personalizado sesgado puede restringir los contenidos a los que acceden los estudiantes y limitar su exposición a temas y perspectivas diversas, todo ello a partir de suposiciones algorítmicas sobre qué es "relevante" para cada quien, con frecuencia teñidas de estereotipos demográficos.

Lo mismo ocurre con los sistemas de evaluación automatizada. Muchos se apoyan en criterios que reflejan normas académicas que no son universales y terminan penalizando a estudiantes con ideas sólidas, pero con menos dominio de la escritura académica formal. “Esto agrava las inequidades en el acceso a una educación de calidad, dado que los resultados de estas evaluaciones influyen en decisiones trascendentales como la admisión universitaria" (Hanifa, 2025).

Frente a esto, se han propuesto distintas acciones para avanzar hacia una equidad algorítmica. Una es la transparencia y explicabilidad de los algoritmos. Consiste en que la comunidad educativa entienda cómo se toman las decisiones y pueda, así, identificar y corregir los sesgos. Otra es el diseño participativo, que involucre desde el inicio a los grupos marginados tanto en la definición de las soluciones como en la evaluación de las herramientas. Pero ninguna de estas medidas sustituye la supervisión humana. Por muy sofisticados que sean estos sistemas, la decisión final debe seguir estando en manos de educadores y directivos, capaces de sopesar el contexto, cuestionar una recomendación automática y responsabilizarse de sus consecuencias.

Con todo, la equidad algorítmica es más compleja de lo que parece. Por eso dedicaremos los próximos blogs a explorar qué dice la literatura sobre el tema, cómo se está llevando a la práctica en distintos lugares del mundo y qué desafíos éticos plantea para la educación.

BIBLIOGRAFÍA

Cárdenas. D. C. (2025). ¿Es realmente prometedora la hiperpersonalización de la IA en la educación? Fundación Convivencia. 

Hanifa, F. N. (2025). Assessing algorithmic fairness: bias analysis and equity principles in AI-based assessment and personalized learning systems. Zaw. Fikr J. Islam. Educ., 1, 181-190.

R3D (agosto 21 de 2020). Gobierno de Reino Unido suspende uso de algoritmo que favorecía a estudiantes de escuelas privadas.

Otto Sahlgren (2023) The politics and reciprocal (re)configuration of accountability and fairness in data-driven education, Learning, Media and Technology, 48:1, 95-108, DOI: 10.1080/17439884.2021.1986065