En esta página

Esta página está traducida al español. Las páginas de artículo siguen escritas en inglés. Leer esta página en inglés

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

La mitigación de sesgos en la educación con IA — la identificación, la medición y la reducción del comportamiento injusto y pautado por la identidad en tutores de IA, calificadores, sistemas de recomendación y sistemas educativos. El sesgo puede entrar en cualquier etapa de la canalización de la IA —los datos de entrenamiento, el comportamiento del modelo, los prompts, la calificación y el despliegue— y manifestarse como un trato diferencial del estudiantado en función del idioma, el género, la raza, la cultura u otras características identitarias. La mitigación abarca la curación de datos, los algoritmos de desesgado, el diseño de prompts, los métodos de calificación justa, la explicabilidad y la evaluación. Es la contraparte técnica de la equidad en la educación con IA y una preocupación central de la ética en la educación con IA.

Preguntas para reflexionar

  • El sesgo puede entrar en cualquier etapa de la canalización de la IA —los datos de entrenamiento, el comportamiento del modelo, los prompts, la calificación y el despliegue—. Antes de leer, ¿en qué punto de esa cadena esperaba usted que residiera el sesgo? Puede aparecer casi en cualquier lugar. ¿Cuál es un lugar que no había considerado?
  • La investigación muestra que la calificación automática de física con IA subestima sistemáticamente al estudiantado cuyas explicaciones escritas tienen una calidad lingüística más baja: la IA califica el lenguaje, no la comprensión. ¿Por qué un sistema que coincide bien con evaluadores humanos en conjunto podría seguir penalizando de forma sistemática a quienes escriben en una lengua no nativa o con menos fluidez?
  • Un estudio encontró que un prompt con sesgo de género induce a que los ensayos del estudiantado muestren una «brecha agéntica» mayor y más contenido estereotípico de género: un sesgo transferido de la herramienta al propio trabajo de quien aprende. ¿Qué dice esto sobre el sesgo como algo que no es solo una nota injusta, sino una fuerza capaz de remodelar lo que el estudiantado produce y quién cree ser?
  • Otro estudio mostró que los LLM desplazan sus comentarios en direcciones alineadas con los estereotipos cuando se personalizan con atributos del estudiantado: se apoyan en el elogio y suavizan la crítica con el estudiantado «marcado», incluso ante ensayos idénticos. ¿Cómo podría un comentario sesgado «con amabilidad» ser más dañino que una nota obviamente errónea, por ser más difícil de detectar?
  • La mitigación abarca la curación de datos, los algoritmos de desesgado, el diseño de prompts neutros, los métodos de calificación justa, la explicabilidad y la supervisión humana. ¿Qué única palanca de mitigación cree usted que marcaría la mayor diferencia en un sistema de IA en el que confía, y qué tendría que auditar para saber que ha funcionado?
  • Un prompt neutro evita en gran medida inducir un lenguaje diferenciado por género, lo que sugiere que el diseño del prompt es una mitigación práctica. Pero si el sesgo puede reintroducirse a través de los datos, la calificación o el despliegue, ¿por qué arreglar solo el prompt podría ser una respuesta incompleta?

Introducción

La mitigación de sesgos importa porque la IA en la educación no es neutral: los sistemas entrenados con datos lingüísticos y culturales dominantes pueden desfavorecer sistemáticamente a quienes aprenden desde posiciones marginadas, desde la calificación basada en IA que penaliza a quienes escriben en una lengua no nativa hasta los tutores LLM que responden de forma distinta según el grupo. El sesgo es una preocupación transversal que aparece en la calificación automatizada, la calificación automatizada de ensayos, el seguimiento del conocimiento, los sistemas de recomendación y los tutores de IA conversacional.

Solyst et al. (2026) muestran que la mitigación de sesgos puede enseñarse y no solo diseñarse técnicamente: jóvenes a quienes se pidió interrogar las salidas de un modelo de texto a imagen produjeron evaluaciones sistemáticas de la representación, y sus peticiones de imágenes de personas se inclinaban hacia lo blanco antes de la intervención.

La equidad es la dimensión menos examinada en la literatura que compara la calificación con IA y la humana: de doce estudios revisados, diez no decían nada sobre sesgo demográfico, lingüístico o social, y el género fue la única dimensión evaluada (Xu, Lu y Abdi, 2026).

Fuentes de sesgo

La investigación documenta sesgos que entran en múltiples puntos de la canalización:

  • Sesgo lingüístico y de calificación: la calificación de física basada en IA subestima sistemáticamente la comprensión conceptual del estudiantado cuyas explicaciones escritas tienen una calidad lingüística más baja: la IA califica el lenguaje, no la comprensión, penalizando a quienes escriben en una lengua no nativa o con menos fluidez. Es un fallo directo de validez y de equidad en la calificación automatizada.

  • Transferencia de sesgo de género en la escritura asistida por LLM: Colaboración contaminada muestra que, cuando el estudiantado escribe con un prompt de LLM con sesgo de género, sus ensayos presentan una brecha agéntica significativamente mayor y más sugerencias de ocupaciones estereotípicas de género (N = 123); la transferencia del sesgo es asimétrica y suprime la agencia en los ensayos dirigidos a mujeres. Un estudio de verificación (N = 1.600 ensayos de LLM, R² = 0,399) confirma que un prompt con sesgo de género induce un lenguaje diferenciado por género.

  • Rechazos diferenciales e injusticia epistémica: El filtro paternalista audita cuatro LLM como tutores de historia (1.800 respuestas) y expone un «filtro paternalista»: los modelos rechazan, suavizan o reencuadran de forma diferencial el contenido sensible según quién aprende, una injusticia epistémica con implicaciones directas de equidad.

  • Sesgo de selección en la analítica del aprendizaje: el seguimiento del conocimiento desesgado aborda el sesgo de selección que surge de recomendaciones de ejercicios no aleatorias: entrenar con los registros observados mediante un riesgo empírico estándar produce estimaciones de dominio sesgadas que acumulan errores en los bucles de recomendación adaptativa.

  • Sesgo de datos y de anotación: la investigación sobre anotaciones de datos y fiabilidad de la verdad de referencia examina cómo las etiquetas y la fiabilidad interevaluador que sustentan los modelos de IA conllevan sesgo, y argumenta en contra de tratar κ > 0,8 como un sello binario de aprobación.

  • La detección de identidad conlleva sesgo cultural. Ji et al. (2025) probaron la detección de PII a nivel de nombre entre grupos culturales con pruebas U de Mann-Whitney de dos colas: las líneas base disponibles comercialmente detectaron nombres africanos con un recuerdo de 0,7647 a 0,9244 y brechas significativas frente a otros grupos, mientras que GPT-4o-mini con ajuste fino osciló entre 0,9748 y 0,9840 en las cuatro culturas sin diferencias significativas: el sesgo residía en los detectores de línea base y no en el modelo ajustado.

  • Conocimientos marginados: IA generativa y conocimientos minorizados documenta cómo los datos de entrenamiento y el comportamiento del modelo marginan los sistemas de conocimiento no dominantes y las perspectivas sobre la discapacidad.

  • Comentarios automatizados alineados con estereotipos (pedagogías marcadas): Tan et al. (2026) muestran que cuatro LLM ampliamente usados desplazan sistemáticamente sus comentarios de escritura en direcciones alineadas con los estereotipos cuando los comentarios se personalizan con atributos del estudiantado —raza, etnia, designación de aprendiz de inglés (ELL), discapacidad de aprendizaje, rendimiento o motivación—, produciendo un sesgo de comentarios positivos y un sesgo de retención de comentarios (abuso del elogio, crítica menos sustantiva, supuestos de capacidad limitada) con el estudiantado marcado, incluso ante ensayos idénticos. La métrica de concentración «Marked Words» ofrece un método concreto para auditar ese sesgo en los comentarios automatizados.

  • Sesgo visual en las herramientas de texto a imagen: Alon, Hadar Shoval y Levkovich (2026) revisan sistemáticamente 31 estudios revisados por pares (2023–2025) sobre sesgo y representación en los usos educativos del texto a imagen generado por IA. Usando un marco analítico de seis partes (género; raza, etnia y nivel socioeconómico; cultura y religión; edad; cuerpo y (dis)capacidad; contenido), encuentran una representación sesgada omnipresente: las imágenes con frecuencia se centraban en figuras blancas, masculinas, occidentales, delgadas y sin discapacidad, mientras que la diversidad relacionada con la edad, el cuerpo y la capacidad se pasaba en gran medida por alto. La mayoría de los estudios se apoyaban en auditorías de imágenes y métodos cualitativos, con pocos diseños experimentales o basados en intervenciones, lo que revela puntos ciegos importantes en cómo la investigación educativa mide y responde al sesgo visual.

  • Las señales de identidad de los avatares reproducen sesgos del mundo offline. En dos experimentos (N = 396), los avatares blancos —y, en contextos STEM, los avatares masculinos asiáticos— se valoraron como más creíbles y competentes, mientras que los avatares de mujeres negras de más edad se penalizaron; las tareas STEM y procedimentales amplificaron el sesgo y las tareas reflexivas e interpersonales lo atenuaron (Anthis y Kyriakidou-Zacharoudiou (2026)).

  • La no discriminación como valor ético central. Agarwal et al. (2026), una revisión sistemática de 25 artículos, identifican la no discriminación (definiciones que usan sesgo/discriminación/diversidad) como uno de los seis valores éticos principales para la IA en la educación, junto con la custodia de datos, la supervisión humana, la buena voluntad, la explicabilidad y la idoneidad educativa. La revisión señala que los valores están estrechamente acoplados y pueden entrar en conflicto —por ejemplo, la no discriminación frente a la custodia de datos—, produciendo dilemas éticos, y que ninguna norma sobre la no discriminación se dirige directamente a las personas usuarias finales, lo que deja al estudiantado en un papel en gran medida pasivo en la literatura ética.

  • Sesgo de asignación en la formación de equipos asistida por IA. Entezami et al. (2026) muestran el sesgo entrando en una clase de tareas fuera de la calificación y la retroalimentación: tres LLM que asignaban clases de ingeniería de software de 28 estudiantes a cuatro equipos dirigieron a los hombres al Diseño de Interfaces en lugar del Desarrollo Central al menos un 80% menos a menudo que a las mujeres (GPT-5.2 OR < 0,01), y la nacionalidad alteró las asignaciones con independencia del mérito. Suministrar las habilidades lo redujo pero no lo eliminó - el 99,2% de las asignaciones basadas en habilidades coincidió con uno de dos equipos de referencia, pero el género siguió decidiendo entre opciones igualmente válidas (OR 2,53 GPT-4.1, 2,81 GPT-5.2, 1,43 DeepSeek) - y la generación de imágenes en paralelo sesgó las imágenes de una sola persona hacia hombres y piel clara (género V = 0,64 y 0,65; tono de piel V = 0,57 y 0,61) mientras que las imágenes con varias personas se mantuvieron comparativamente equilibradas.

  • Las auditorías por subgrupos pueden documentar paridad en un codificador automatizado. Ye, Borman y Borman (2026) encontraron que un codificador de ensayos BERT con ajuste fino alcanzó una exactitud de 0,92 para estudiantes amenazados por el estereotipo y de 0,94 para quienes no lo estaban, con un recuerdo de 0,98 en ambos grupos. La exactitud por género se agrupó en 0,95 frente a 0,93 y la de los grupos con precio reducido o gratuito en 0,95 frente a 0,94, mientras que quienes aprenden inglés (8%) y el estudiantado con planes de educación individualizados (10%) quedaron excluidos del análisis por subgrupos porque las submuestras eran demasiado pequeñas.

La exactitud agregada puede ocultar un modelo incapaz de encontrar al estudiantado con dificultades. Hooshyar et al. (2026) entrenaron tres familias de modelos con una cohorte estonia y la dividieron de dos maneras. En el conjunto equilibrado, las familias fueron comparables. En la división desequilibrada, con 125 estudiantes por debajo del primer cuartil frente a 328 por encima, los árboles de decisión, una red bayesiana y los bosques aleatorios alcanzaron un recuerdo del 8%, el 12% y el 16% para el estudiantado de bajo rendimiento con una precisión del 80%, y solo el modelo neuro-simbólico superó el 50%.

Enfoques de mitigación

La investigación ilustra varias estrategias complementarias:

  • Modelado consciente de la equidad: El marco híbrido HKG-GRU integra la optimización de robustez distribucional por grupos (GroupDRO) para la equidad junto con la explicabilidad y la estabilidad contrafactual, evaluado con registros de Moodle (152 estudiantes, ~150.000 interacciones). Demuestra que los sistemas de recomendación pueden entrenarse para ser justos y transparentes, no solo precisos.
  • Estimadores desesgados: El aprendizaje doblemente robusto con suavidad temporal (TSDR) combina un modelo de propensión con un modelo de imputación del error, conservando la insesgadez si cualquiera de los dos es correcto, para eliminar el sesgo de selección de las estimaciones de dominio del seguimiento del conocimiento.
  • Mitigación a nivel de prompt: el estudio sobre el sesgo de género muestra que un prompt neutro evita en gran medida inducir un lenguaje diferenciado por género, de modo que el diseño del prompt es una palanca de mitigación práctica.
  • Entrenamiento invariante al dialecto: Fang y Liu (2026) muestran que entrenar la invariancia al dialecto supera a parchearla: eliminar el término contrastivo de transferencia de estilo casi triplicó la tasa de volteo contrafactual (4,3% a 11,8%) y amplió diez puntos la brecha de falsos negativos en dialectos no estándar, a un costo de solo 0,8 de Macro-F1 y reduciendo en 18,4 puntos los falsos negativos de inglés afroamericano vernáculo.
  • Calificación validada e independiente del idioma: abordar el sesgo de calificación exige una calificación que separe la comprensión conceptual de la calidad lingüística, y auditar las puntuaciones en busca de sesgo lingüístico.
  • Explicabilidad: la IA explicable en la educación aporta transparencia sobre por qué un sistema produjo una determinada puntuación o recomendación, lo que permite detectar y corregir comportamientos sesgados y sostiene la confianza.
  • Auditoría de toda la canalización: la auditoría de habilidades de persona y auditorías sistemáticas como el estudio del filtro paternalista muestran el valor de auditar los modelos en distintas condiciones identitarias antes del despliegue.
  • La medición de la equidad está en gran medida ausente donde el análisis escala. Una revisión de alcance PRISMA-ScR de 421 estudios que aplican PLN a la evaluación del estudiantado sobre la docencia encontró una métrica de equidad formal en solo 8 estudios (1,9%) y riesgo de uso institucional en 18, mientras que las limitaciones del estudio aparecían en el 70,5% y las protecciones de privacidad en el 42,3%; los autores leen la coexistencia como que la adopción de LLM amplió el repertorio técnico sin ganancias proporcionales en validación ni en reporte de uso responsable (Eicher y da Silva (2026)).
  • El tamaño del grupo no es un indicador de desventaja: dos de seis métodos de equidad post hoc dirigieron correcciones a grupos ya aventajados porque usaban el tamaño del grupo para definir la desventaja; reasignar la desventaja por la disparidad observada redirigió un método pero dejó al otro volteando cero predicciones — un límite a lo que puede reclamar la mitigación post hoc (McConvey et al. (2026)).

La mitigación a lo largo de la canalización de la IA

La mitigación de sesgos no es una solución única, sino un proceso continuo que recorre la canalización:

  1. Curación de datos — diversificar los datos de entrenamiento y auditar las etiquetas en busca de brechas basadas en la identidad y anotaciones injustas.
  2. Entrenamiento del modelo — aplicar objetivos de desesgado y de equidad (por ejemplo, GroupDRO, estimadores doblemente robustos).
  3. Diseño del prompt y del sistema — diseñar prompts y sistemas neutros que no respondan de forma diferencial a la identidad de quien aprende.
  4. Calificación y evaluación — validar que la calificación automatizada mide la comprensión y no el lenguaje ni proxies demográficos.
  5. Evaluación y auditoría — auditar los modelos en distintas condiciones identitarias (idioma, género, cultura) y exigir explicabilidad para sacar a la luz el sesgo.
  6. Supervisión humana — mantener la revisión con la persona en el bucle, especialmente en casos de baja confianza o de alto riesgo.

Relación con conceptos afines

La mitigación de sesgos es el mecanismo técnico a través del cual se operacionaliza la equidad, y un requisito central de la ética y del diseño responsable de IA. Se conecta con la evaluación de la IA en la educación (el sesgo como criterio de evaluación), con la medición educativa y la validez de la evaluación (la equidad en la calificación) y con la privacidad (como preocupación afín de la IA responsable). También se conecta con la dependencia excesiva (pues los sistemas sesgados son especialmente dañinos cuando se confía en ellos en exceso) y con la alfabetización en IA (ayudar a las personas usuarias a reconocer y cuestionar una IA sesgada).

Implicaciones para la IA en la educación

  • Auditar toda la canalización: el sesgo puede entrar en las etapas de datos, modelo, prompt, calificación y despliegue; mitíguelo en todas ellas.
  • Probar en distintas condiciones identitarias: evaluar tutores, calificadores y sistemas de recomendación de IA en busca de comportamiento diferencial según el idioma, el género, la cultura y la discapacidad.
  • Separar la comprensión del lenguaje en la calificación: la calificación automatizada no debe penalizar a quienes escriben en una lengua no nativa o con menos fluidez por la comprensión conceptual que demuestran.
  • Hacer que los sistemas sean explicables: la transparencia sobre las decisiones de la IA es esencial para detectar y corregir el sesgo.
  • Combinar la mitigación técnica y la humana: emparejar los algoritmos de desesgado con la supervisión humana con la persona en el bucle, especialmente en casos de alto riesgo o baja confianza.

La mitigación del sesgo se refiere al sesgo dentro del sistema. El sesgo de automatización se refiere al sesgo en la persona que lee su salida —aceptar una recomendación que alguien habría cuestionado si hubiera llegado a ella por su cuenta— y sobrevive incluso cuando el modelo es exacto.

Concepciones erróneas

  • «El sesgo es un problema de calificación y de retroalimentación.» El sesgo entra en clases de tareas ajenas a la calificación: tres LLM que asignaban clases de ingeniería de software de 28 estudiantes a cuatro equipos dirigieron a los hombres al menos un 80% menos de veces que la distribución de referencia. La formación de equipos portaba un sesgo de magnitud comparable al de la calificación.
  • «Proporcionar la habilidad pertinente elimina el sesgo.» Proporcionar habilidades lo redujo pero no lo eliminó: el 99,2% de las asignaciones basadas en habilidades coincidía con uno de dos equipos de referencia, y aun así el género decidía entre opciones igualmente válidas (OR 2,53). Un emparejamiento de tareas casi perfecto coexistió con un efecto de género, así que la exactitud en el criterio principal no es evidencia de equidad.
  • «Un único enfoque de mitigación es suficiente.» La investigación ilustra estrategias complementarias —entre ellas el modelado consciente de la equidad— porque el sesgo que entra en la formación de equipos no se aborda con una corrección dirigida al texto de salida.

Conceptos conectados

Artículos conectados

Preguntas frecuentes relacionadas

Recursos relacionados

Incrustar esta página

Copia el código de abajo para incrustar esta página en un sistema de gestión del aprendizaje u otro sitio web. La versión incrustada muestra solo el contenido de la página: oculta el encabezado, la navegación y el pie de página del sitio.