¿Cómo se manifiestan el sesgo y la inequidad de la IA en la educación, y qué podemos hacer al respecto?

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

El sesgo y la inequidad en la IA educativa no son un solo problema. La investigación de esta base de conocimiento documenta sesgos que entran en casi todas las etapas del ciclo de vida de un sistema (los datos de entrenamiento, el comportamiento del modelo, los prompts, la puntuación, la retroalimentación, las decisiones de asignación y la infraestructura que los sostiene), y afecta de manera distinta a docentes, desarrolladores, investigadores y administradores. El patrón se repite de forma lo bastante consistente para decirlo sin rodeos: pida cifras por subgrupo, no promedios; defina «desfavorecido» por los resultados y no por el tamaño del grupo; y trate la equidad como algo que se diseña y se audita, no como algo que se añade después.

Dónde aparecen el sesgo y la inequidad

Puntuación y evaluación. La puntuación con IA puede penalizar el idioma en el que escribe un estudiante en lugar de la comprensión que expresa: la puntuación en física subestima sistemáticamente a los estudiantes cuyas explicaciones son menos fluidas y castiga por lo que saben a quienes escriben en una segunda lengua y a quienes tienen menos confianza (sesgo lingüístico en la puntuación automatizada). La corrección automatizada también comprime hacia el centro de la distribución, lo que expone más a los estudiantes más fuertes y a los más débiles, y su desacuerdo con los evaluadores humanos varía según el nivel de rendimiento y según rasgos superficiales del lenguaje como la amplitud de vocabulario (OpRaise, 2026). Para el panorama completo de la calificación, consulte la FAQ sobre equidad y fiabilidad de la calificación.

Tutoría, retroalimentación y sistemas adaptativos. El modelo interno de un tutor adaptativo puede perjudicar a grupos enteros de forma invisible: una auditoría de equidad del seguimiento de conocimiento bayesiano sobre los registros de MATHia de 8.549 estudiantes durante dos cursos escolares encontró una paridad estadística agregada de −0,077 que ocultaba 36 de 50 habilidades sesgadas contra los lectores en desarrollo, con un sesgo a nivel de habilidad de hasta −0,262; el tutor no tenía un componente de habilidad lectora, así que los estudiantes que leían con menos fluidez perdían terreno en matemáticas (Stinar et al., 2026). Las herramientas de retroalimentación tienen su propio sesgo documentado: cuatro LLM ampliamente utilizados desplazan la retroalimentación de escritura en direcciones alineadas con estereotipos cuando reciben la identidad de un estudiante (más elogios, menos crítica, suposiciones de capacidad limitada), incluso con ensayos idénticos (Tan et al., 2026). Los tutores basados en LLM también varían según la etiqueta demográfica de quien aprende: en EduFair-Bench, las desviaciones del tono correctivo superaron 0,10 en todos los modelos de química y física, el andamiaje por pasos se correlacionó hasta |r| = 0,144 con condiciones demográficas en matemáticas, y el tono seguía la etiqueta y no la calidad del razonamiento (EduFair-Bench). Incluso el contexto demográfico presente de forma invisible en el historial de una conversación desplaza las salidas: el condicionamiento implícito infló las puntuaciones automatizadas de ensayos hasta 1,57 puntos en un modelo porque la señal la llevaba el contexto y no un atributo declarado (Rooein, Benedetto y Hovy, 2026).

Cuadros de mando y alertas tempranas. McConvey et al. (2026) sometieron a pruebas de estrés seis intervenciones de equidad posteriores al hecho en un sistema de alerta temprana replicado y construido a partir de 168.550 registros de estudiantes: ninguna produjo ganancias consistentes. Las disparidades se redistribuyeron, no se redujeron; dos métodos usaron el tamaño del grupo para definir la desventaja y dirigieron las 706 correcciones a estudiantes internacionales, que ya tenían la tasa de éxito prevista más alta (0,916 frente a 0,756); y un método cumplió su objetivo de igualdad de oportunidades de género al llevar la tasa de falsos positivos de las mujeres de 0,561 a 0,837. Los estudiantes agrupados en «Género desconocido» tuvieron las tasas de verdaderos positivos más bajas con todos los métodos.

Salida generativa: texto, imágenes y avatares. Los modelos reproducen las normas dominantes a menos que se los examine explícitamente. Una revisión sistemática de 31 estudios sobre herramientas de texto a imagen en educación encontró imágenes que centraban de forma consistente figuras blancas, masculinas, occidentales, delgadas y sin discapacidad, y la diversidad de edad, cuerpo y capacidad estaba en gran medida ausente (Alon et al., 2026). Los asistentes de formación de equipos encaminan a los estudiantes hacia experiencias distintas: tres LLM que asignaron 11.200 tareas de ingeniería de software enviaron a los hombres a Interface Design en lugar de Core Development un 80% menos a menudo que a las mujeres, y la nacionalidad alteró las asignaciones con independencia del mérito (Entezami et al., 2026). Incluso las señales de identidad de un avatar cambian la confianza: los avatares blancos fueron valorados como más creíbles y competentes en dos experimentos (N = 396), mientras que los avatares de mujeres negras mayores fueron penalizados, con un efecto amplificado en tareas STEM (Anthis y Kyriakidou-Zacharoudiou, 2026). Las herramientas de escritura pueden transferir el sesgo al trabajo de los propios estudiantes: un prompt con sesgo de género produce ensayos más estereotípicos en cuanto al género, de modo que el sesgo de la herramienta se convierte en la salida de quien aprende (transferencia de sesgo de género en la escritura asistida por LLM).

Datos, etiquetas e infraestructura. El sesgo está presente antes de que se entrene ningún modelo. Las herramientas comerciales de detección de nombres pasaron por alto nombres africanos con una exhaustividad de 0,7647 y nombres asiáticos con 0,8640, frente a 0,9024 para nombres europeos y 0,9091 para nombres estadounidenses, unas brechas que un modelo ajustado eliminó (Ji et al., 2025). Los corpus de entrenamiento y la tokenización desfavorecen estructuralmente a los hablantes de lenguas subrepresentadas (Structural Silence), los perfiles de estudiantes generados por LLM llevan sesgos regionales y de género que se propagan aguas abajo (López-Pernas et al., 2026), y las etiquetas de verdad de referencia que hay detrás de los modelos merecen el mismo escrutinio que los modelos (fiabilidad de la verdad de referencia).

Las herramientas de detección golpean más duro a los escritores multilingües. Como los detectores clasifican según la predictibilidad textual, la baja perplejidad y la densidad de fórmulas de la escritura en una lengua adicional activan falsas marcas de «IA»: estudios documentados clasificaron erróneamente grandes proporciones de ensayos TOEFL auténticos de hablantes no nativos (Angelier, 2026), y editar un trabajo de un hablante no nativo desplazó los veredictos en ambos sentidos: 10,7 puntos menos de probabilidad de ser marcado con un detector y 5,8 puntos más con otro (Park, Jeong y Kim, 2026).

El acceso y la calidad de las herramientas también son cuestiones de equidad. La brecha digital es fundacional (acceso digital), y las brechas de calidad la agravan: el nivel gratuito del mismo modelo fue inexacto en 49 de 150 respuestas (32,7%) frente a 18 de 150 (12%) del nivel premium, lo que llevó a los docentes a llamarlo «prácticamente inútil para las matemáticas» (Canonigo, 2026). El profesorado espera de forma abrumadora que la IA generativa amplíe las inequidades: el 81% de 1.057 docentes encuestados lo dijo, y el 58% dijo que mucho (Watson y Rainie, 2026). Y los beneficios de la tutoría con IA no se distribuyen automáticamente: las ganancias se concentran donde la asignación sigue la necesidad, como cuando la tutoría humana proactiva dirigida a los estudiantes más alejados por debajo de un umbral produjo un crecimiento marginalmente mayor (75%, p = 0,065) justo en ese grupo (Gurung et al., 2026), o cuando los materiales de estudio con IA verificados por expertos trasladaron la mayor parte de una ganancia de 2,34 puntos al quintil inferior (Dang y Nguyen, 2026).

Qué hacer al respecto, según su papel

Si es docente: pregunte a cualquier herramienta que adopte cuáles fueron sus tasas de error en los subgrupos que enseña realmente, no solo su precisión global. Revise con cuidado el trabajo de los escritores multilingües antes de aceptar el veredicto de un detector: esas herramientas clasifican mal la escritura en una lengua adicional. Use prompts neutros cuando genere materiales didácticos (un prompt neutro evita en gran medida inducir un lenguaje diferenciado por género), y compare la salida de la IA con sus propios estándares en lugar de tratarla como autoritativa (¿Cómo enseño a los estudiantes a verificar los resultados de la IA?). Para la calificación, mantenga una persona en el circuito en los casos limítrofes.

Si es desarrollador de software: audite en todas las condiciones de identidad (idioma, género, cultura, discapacidad) con entradas que solo varíen el contexto del estudiante (el resultado de la señal implícita muestra que los atributos declarados no son el único canal). Pruebe con sujetos reservados, no solo con ítems reservados: las ganancias de equidad que se mantenían en una partición de validación se desvanecieron en un modelo real de atención del estudiante en 4 de 10 ejecuciones (Fragkiadakis et al., 2026). Prefiera la mitigación en el modelo (ajuste fino, entrenamiento invariante al dialecto, objetivos conscientes de la equidad como GroupDRO) a los ajustes posteriores de la salida (enfoques de mitigación de sesgos). Nunca infiera desventaja a partir del tamaño del grupo, e informe métricas por subgrupo, incluidos los grupos que tuvo que excluir porque la muestra era demasiado pequeña (Ye et al., 2026 excluyó por esta misma razón a estudiantes de inglés y a estudiantes con IEP; dígalo cuando lo haga).

Si es investigador: informe una métrica de equidad, y punto: una revisión de alcance de 421 estudios que aplicaban PLN a las evaluaciones de estudiantes encontró una métrica formal de equidad en solo 8 (1,9%) (Eicher y da Silva, 2026), y de 12 estudios de puntuación con IA frente a humanos, diez guardaban silencio sobre el sesgo demográfico, lingüístico o social (Xu, Lu y Abdi, 2026). Pruebe en todas las dimensiones demográficas, no solo el género; informe las exclusiones de grupos pequeños; y evalúe la equidad junto con la precisión, no como algo secundario. Cuando audite modelos como tutores de historia o tutores en distintos contextos, use pruebas con condiciones de identidad antes de sacar conclusiones (el filtro paternalista es el ejemplo de advertencia).

Si es administrador: incluya el reporte por subgrupos y la auditoría antes de la adopción como condiciones contractuales cuando adquiera herramientas predictivas o generativas: los autores del estudio de alerta temprana enmarcan la gobernanza de la contratación y no la optimización de métricas como la principal salvaguarda (McConvey et al., 2026). Esté atento a las brechas de nivel de calidad que dejan a las aulas con menos recursos con un rendimiento de las herramientas materialmente peor, y combine el acceso con apoyo y formación en lugar de limitarse a emitir licencias. Use las palancas de la política institucional de IA para exigir la declaración de uso y el reporte de equidad, y canalice las discusiones de I+D y supervisión a través de las convenciones de investigación sobre equidad, ética y seguridad.

Qué no funciona

Las afirmaciones de precisión global. Una paridad agregada de −0,077 coexistió con 36 de 50 habilidades sesgadas contra un grupo; un modelo de aspecto equilibrado pasó por alto casi por completo a los estudiantes con dificultades en una partición desequilibrada (Hooshyar et al., 2026 encontró un 8%, 12% y 16% de exhaustividad para los estudiantes de bajo rendimiento con una precisión del 80%). Los promedios son compatibles con un daño concentrado.

Arreglos de paridad posteriores al hecho. Todas las intervenciones del estudio de alerta temprana redistribuyeron errores, corrigieron a los ya favorecidos o lograron la paridad haciendo a un grupo menos visible. Arreglar el proceso supera a parchear la salida.

Una mitigación hecha una sola vez. El sesgo vuelve a entrar por los datos, los prompts, la puntuación y el despliegue; la investigación muestra estrategias complementarias (objetivos de entrenamiento justos, diseño de prompts, invariancia al dialecto, puntuación que separa la comprensión del lenguaje, explicabilidad, supervisión humana) precisamente porque ningún arreglo individual cubre todo el proceso (Mitigación de sesgos).

Dónde profundizar

La página Mitigación de sesgos cataloga fuentes y enfoques de mitigación a lo largo del proceso; Equidad cubre las dimensiones de acceso, representación y resultados con evidencia para cada una; Sesgo de automatización cubre el fallo del lado del lector, la confianza excesiva en una recomendación sesgada o simplemente equivocada; y Efectos diferenciales entre grupos de estudiantes reúne los estudios que rastrean cómo la misma herramienta incide de forma distinta en distintos grupos.