Mitigación de sesgos

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

La mitigación de sesgos en la educación con IA — la identificación, la medición y la reducción del comportamiento injusto y pautado por la identidad en tutores de IA, calificadores, sistemas de recomendación y sistemas educativos. El sesgo puede entrar en cualquier etapa de la canalización de la IA —los datos de entrenamiento, el comportamiento del modelo, los prompts, la calificación y el despliegue— y manifestarse como un trato diferencial del estudiantado en función del idioma, el género, la raza, la cultura u otras características identitarias. La mitigación abarca la curación de datos, los algoritmos de desesgado, el diseño de prompts, los métodos de calificación justa, la explicabilidad y la evaluación. Es la contraparte técnica de la equidad en la educación con IA y una preocupación central de la ética en la educación con IA.

Preguntas para reflexionar

• El sesgo puede entrar en cualquier etapa de la canalización de la IA —los datos de entrenamiento, el comportamiento del modelo, los prompts, la calificación y el despliegue—. Antes de leer, ¿en qué punto de esa cadena esperaba usted que residiera el sesgo? Esta página sugiere que puede aparecer casi en cualquier lugar. ¿Cuál es un lugar que no había considerado?
• La investigación muestra que la calificación automática de física con IA subestima sistemáticamente al estudiantado cuyas explicaciones escritas tienen una calidad lingüística más baja: la IA califica el lenguaje, no la comprensión. ¿Por qué un sistema que coincide bien con evaluadores humanos en conjunto podría seguir penalizando de forma sistemática a quienes escriben en una lengua no nativa o con menos fluidez?
• Un estudio encontró que un prompt con sesgo de género induce a que los ensayos del estudiantado muestren una «brecha agéntica» mayor y más contenido estereotípico de género: un sesgo transferido de la herramienta al propio trabajo de quien aprende. ¿Qué dice esto sobre el sesgo como algo que no es solo una nota injusta, sino una fuerza capaz de remodelar lo que el estudiantado produce y quién cree ser?
• Otro estudio mostró que los LLM desplazan sus comentarios en direcciones alineadas con los estereotipos cuando se personalizan con atributos del estudiantado: abusan del elogio y retienen la crítica con el estudiantado «marcado», incluso ante ensayos idénticos. ¿Cómo podría un comentario sesgado «con amabilidad» ser más dañino que una nota obviamente errónea, por ser más difícil de detectar?
• La mitigación abarca la curación de datos, los algoritmos de desesgado, el diseño de prompts neutros, los métodos de calificación justa, la explicabilidad y la supervisión humana. ¿Qué única palanca de mitigación cree usted que marcaría la mayor diferencia en un sistema de IA en el que confía, y qué tendría que auditar para saber que ha funcionado?
• Un prompt neutro evita en gran medida inducir un lenguaje diferenciado por género, lo que sugiere que el diseño del prompt es una mitigación práctica. Pero si el sesgo puede reintroducirse a través de los datos, la calificación o el despliegue, ¿por qué arreglar solo el prompt podría ser una respuesta incompleta?

Introducción

La mitigación de sesgos importa porque la IA en la educación no es neutral: los sistemas entrenados con datos lingüísticos y culturales dominantes pueden desfavorecer sistemáticamente a quienes aprenden desde posiciones marginadas, desde la calificación basada en IA que penaliza a quienes escriben en una lengua no nativa hasta los tutores LLM que responden de forma distinta según el grupo. El sesgo es una preocupación transversal que aparece en la calificación automatizada, la calificación automatizada de ensayos, el seguimiento del conocimiento, los sistemas de recomendación y los tutores de IA conversacional.

Fuentes de sesgo

La investigación recogida en esta base de conocimiento documenta sesgos que entran en múltiples puntos de la canalización:

• Sesgo lingüístico y de calificación: la calificación de física basada en IA subestima sistemáticamente la comprensión conceptual del estudiantado cuyas explicaciones escritas tienen una calidad lingüística más baja: la IA califica el lenguaje, no la comprensión, penalizando a quienes escriben en una lengua no nativa o con menos fluidez. Es un fallo directo de validez y de equidad en la calificación automatizada.
• Transferencia de sesgo de género en la escritura asistida por LLM: Colaboración contaminada muestra que, cuando el estudiantado escribe con un prompt de LLM con sesgo de género, sus ensayos presentan una brecha agéntica significativamente mayor y más sugerencias de ocupaciones estereotípicas de género (N = 123); la transferencia del sesgo es asimétrica y suprime la agencia en los ensayos dirigidos a mujeres. Un estudio de verificación (N = 1.600 ensayos de LLM, R² = 0,399) confirma que un prompt con sesgo de género induce un lenguaje diferenciado por género.
• Rechazos diferenciales e injusticia epistémica: El filtro paternalista audita cuatro LLM como tutores de historia (1.800 respuestas) y expone un «filtro paternalista»: los modelos rechazan, suavizan o reencuadran de forma diferencial el contenido sensible según quién aprende, una injusticia epistémica con implicaciones directas de equidad.
• Sesgo de selección en la analítica del aprendizaje: el seguimiento del conocimiento desesgado aborda el sesgo de selección que surge de recomendaciones de ejercicios no aleatorias: entrenar con los registros observados mediante un riesgo empírico estándar produce estimaciones de dominio sesgadas que acumulan errores en los bucles de recomendación adaptativa.
• Sesgo de datos y de anotación: la investigación sobre anotaciones de datos y fiabilidad de la verdad de referencia examina cómo las etiquetas y la fiabilidad interevaluador que sustentan los modelos de IA conllevan sesgo, y argumenta en contra de tratar κ > 0,8 como un sello binario de aprobación.
• Conocimientos marginados: IA generativa y conocimientos minorizados documenta cómo los datos de entrenamiento y el comportamiento del modelo marginan los sistemas de conocimiento no dominantes y las perspectivas sobre la discapacidad.
• Comentarios automatizados alineados con estereotipos (pedagogías marcadas): Tan et al. (2026) muestran que cuatro LLM ampliamente usados desplazan sistemáticamente sus comentarios de escritura en direcciones alineadas con los estereotipos cuando los comentarios se personalizan con atributos del estudiantado —raza, etnia, designación de aprendiz de inglés (ELL), discapacidad de aprendizaje, rendimiento o motivación—, produciendo un sesgo de comentarios positivos y un sesgo de retención de comentarios (abuso del elogio, crítica menos sustantiva, supuestos de capacidad limitada) con el estudiantado marcado, incluso ante ensayos idénticos. La métrica de concentración «Marked Words» ofrece un método concreto para auditar ese sesgo en los comentarios automatizados.
• Sesgo visual en las herramientas de texto a imagen: Alon, Hadar Shoval y Levkovich (2026) revisan sistemáticamente 31 estudios revisados por pares (2023–2025) sobre sesgo y representación en los usos educativos del texto a imagen generado por IA. Usando un marco analítico de seis partes (género; raza, etnia y nivel socioeconómico; cultura y religión; edad; cuerpo y (dis)capacidad; contenido), encuentran una representación sesgada omnipresente: las imágenes con frecuencia se centraban en figuras blancas, masculinas, occidentales, delgadas y sin discapacidad, mientras que la diversidad relacionada con la edad, el cuerpo y la capacidad se pasaba en gran medida por alto. La mayoría de los estudios se apoyaban en auditorías de imágenes y métodos cualitativos, con pocos diseños experimentales o basados en intervenciones, lo que revela puntos ciegos importantes en cómo la investigación educativa mide y responde al sesgo visual.
• La no discriminación como valor ético central. Agarwal et al. (2026), una revisión sistemática de 25 artículos, identifican la no discriminación (definiciones que usan sesgo/discriminación/diversidad) como uno de los seis valores éticos principales para la IA en la educación, junto con la custodia de datos, la supervisión humana, la buena voluntad, la explicabilidad y la idoneidad educativa. La revisión señala que los valores están estrechamente acoplados y pueden entrar en conflicto —por ejemplo, la no discriminación frente a la custodia de datos—, produciendo dilemas éticos, y que ninguna norma sobre la no discriminación se dirige directamente a las personas usuarias finales, lo que deja al estudiantado en un papel en gran medida pasivo en la literatura ética.

Enfoques de mitigación

La investigación recogida en esta base de conocimiento ilustra varias estrategias complementarias:

• Modelado consciente de la equidad: El marco híbrido HKG-GRU integra la optimización de robustez distribucional por grupos (GroupDRO) para la equidad junto con la explicabilidad y la estabilidad contrafactual, evaluado con registros de Moodle (152 estudiantes, ~150.000 interacciones). Demuestra que los sistemas de recomendación pueden entrenarse para ser justos y transparentes, no solo precisos.
• Estimadores desesgados: El aprendizaje doblemente robusto con suavidad temporal (TSDR) combina un modelo de propensión con un modelo de imputación del error, conservando la insesgadez si cualquiera de los dos es correcto, para eliminar el sesgo de selección de las estimaciones de dominio del seguimiento del conocimiento.
• Mitigación a nivel de prompt: el estudio sobre el sesgo de género muestra que un prompt neutro evita en gran medida inducir un lenguaje diferenciado por género, de modo que el diseño del prompt es una palanca de mitigación práctica.
• Calificación validada e independiente del idioma: abordar el sesgo de calificación exige una calificación que separe la comprensión conceptual de la calidad lingüística, y auditar las puntuaciones en busca de sesgo lingüístico.
• Explicabilidad: la IA explicable en la educación aporta transparencia sobre por qué un sistema produjo una determinada puntuación o recomendación, lo que permite detectar y corregir comportamientos sesgados y sostiene la confianza.
• Auditoría de toda la canalización: la auditoría de habilidades de persona y auditorías sistemáticas como el estudio del filtro paternalista muestran el valor de auditar los modelos en distintas condiciones identitarias antes del despliegue.

La mitigación a lo largo de la canalización de la IA

La mitigación de sesgos no es una solución única, sino un proceso continuo que recorre la canalización:

1. Curación de datos — diversificar los datos de entrenamiento y auditar las etiquetas en busca de brechas basadas en la identidad y anotaciones injustas.
2. Entrenamiento del modelo — aplicar objetivos de desesgado y de equidad (por ejemplo, GroupDRO, estimadores doblemente robustos).
3. Diseño del prompt y del sistema — diseñar prompts y sistemas neutros que no respondan de forma diferencial a la identidad de quien aprende.
4. Calificación y evaluación — validar que la calificación automatizada mide la comprensión y no el lenguaje ni proxies demográficos.
5. Evaluación y auditoría — auditar los modelos en distintas condiciones identitarias (idioma, género, cultura) y exigir explicabilidad para sacar a la luz el sesgo.
6. Supervisión humana — mantener la revisión con la persona en el bucle, especialmente en casos de baja confianza o de alto riesgo.

Relación con conceptos afines

La mitigación de sesgos es el mecanismo técnico a través del cual se operacionaliza la equidad, y un requisito central de la ética y del diseño responsable de IA. Se conecta con la evaluación de la IA en la educación (el sesgo como criterio de evaluación), con la medición educativa y la validez de la evaluación (la equidad en la calificación) y con la privacidad (como preocupación afín de la IA responsable). También se conecta con la dependencia excesiva (pues los sistemas sesgados son especialmente dañinos cuando se confía en ellos en exceso) y con la alfabetización en IA (ayudar a las personas usuarias a reconocer y cuestionar una IA sesgada).

Implicaciones para la IA en la educación

• Auditar toda la canalización: el sesgo puede entrar en las etapas de datos, modelo, prompt, calificación y despliegue; mitíguelo en todas ellas.
• Probar en distintas condiciones identitarias: evaluar tutores, calificadores y sistemas de recomendación de IA en busca de comportamiento diferencial según el idioma, el género, la cultura y la discapacidad.
• Separar la comprensión del lenguaje en la calificación: la calificación automatizada no debe penalizar a quienes escriben en una lengua no nativa o con menos fluidez por la comprensión conceptual que demuestran.
• Hacer que los sistemas sean explicables: la transparencia sobre las decisiones de la IA es esencial para detectar y corregir el sesgo.
• Combinar la mitigación técnica y la humana: emparejar los algoritmos de desesgado con la supervisión humana con la persona en el bucle, especialmente en casos de alto riesgo o baja confianza.

Conceptos conectados

• Efectos diferenciales entre grupos de estudiantes
• IA explicable
• Salvaguardas
• Equidad
• Ética
• Evaluación de la IA en educación
• Evaluación automatizada
• Evaluación automatizada de ensayos
• Medición educativa
• Seguimiento del conocimiento
• Grandes modelos de lenguaje (LLM)
• IA generativa
• Privacidad
• IA con intervención humana (HITL)
• Confianza
• Descarga cognitiva
• Alfabetización en IA
• Experiencia del estudiantado
• IA en la educación
• Sistemas de recomendación y rutas de aprendizaje

Artículos conectados

• Face value: How avatar identity shapes epistemic trust in AI-mediated learning

• Harnessing Generative Artificial Intelligence in Computer Science Education: Pedagogical Innovation, Ethical Responsibility, and the Future of Assessment

• Artificial Intelligence in Online Education: A Systematic Review of Its Impact on Learner Engagement and Satisfaction

• Same Question, Different Answer? Measuring and Mitigating Prompt Privilege for Equitable AI Access — Privilegio del prompt: medir y mitigar las disparidades de accesibilidad en el acceso a los LLM

• Neuro-symbolic pedagogical alignment (NSPA) for long-horizon classroom discourse analysis: Mitigating dialect bias via counterfactual preference optimization — Alineamiento pedagógico neuro-simbólico (NSPA)

• AI-based scoring systematically underestimates conceptual understanding of linguistically weak students' explanations in physics — Sesgo lingüístico en la calificación basada en IA

• Contaminated Collaboration: Measuring Gender Bias Transfer in LLM-Assisted Student Writing — Transferencia de sesgo de género en la escritura asistida por LLM

• The Paternalistic Filter: Epistemic Injustice and Differential Refusal in LLM-Mediated History Education for Marginalized Romanian Students — El filtro paternalista y los rechazos diferenciales

• Fair and explainable educational recommendations with a hybrid Graph-GRU framework — Recomendaciones educativas justas y explicables

• Temporal Smoothness Doubly Robust Learning for Debiased Knowledge Tracing — Seguimiento del conocimiento desesgado

• Modernizing Ground Truth: Four Shifts Toward Improving Reliability and Validity in AI in Education — Modernizar la verdad de referencia para la fiabilidad de la IA

• Data Annotations as Pedagogical Hints: From Subjective Labels to Critical Thinking — Las anotaciones de datos como pistas pedagógicas

• Explainable Artificial Intelligence in Education (XAI-ED) — IA explicable en la educación

• When Agents Learn to Be You: Benchmarking Privacy Leakage, Impersonation Risk, and Defenses in Persona Skills — Privacidad y auditoría de sesgos de habilidades de persona

• Generative artificial intelligence and the marginalization of minoritized knowledges in higher education — La IA generativa y la marginación de los conocimientos minorizados

• Generative AI in Higher Education: A Systematic Review of Opportunities, Challenges, and Pedagogical Innovations (2022–2025) — IA generativa en la educación superior: revisión sistemática

• Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback — Pedagogías marcadas: sesgos alineados con estereotipos en los comentarios automatizados de escritura

• Can AI deliver appropriate support for diverse student profiles? A large-scale evaluation — ¿Puede la IA ofrecer un apoyo adecuado a perfiles diversos de estudiantado? Una evaluación a gran escala

• Bias and Representation in AI-Generated Text-to-Image in Education: A Systematic Review — Sesgo y representación en el texto a imagen generado por IA: revisión sistemática (Alon et al. 2026)

• Identifying the ethical values and norms for artificial intelligence in education: A systematic literature review — Valores y normas éticas para la IA en la educación

• Can large language models reproduce higher education grade bands? Cross-model study of calibration and grading bias in authentic student writing — ¿Pueden los grandes modelos de lenguaje reproducir las bandas de calificación de la educación superior? Estudio transmodelo de calibración y sesgo de calificación en escritura auténtica del estudiantado

• From Sentiment Classification to Actionable and Responsible Feedback: A Scoping Review and Evidence Map of NLP in Student Evaluation of Teaching, 2015–2026 — De la clasificación de sentimiento a los comentarios accionables y responsables: revisión de alcance y mapa de evidencia sobre el PLN en la evaluación del estudiantado sobre la docencia, 2015–2026

• Generative AI May Reinforce Social Biases in Software Engineering Education — La IA generativa puede reforzar los sesgos sociales en la enseñanza de la ingeniería de software