¿Cómo debería la investigación sobre IA en educación incorporar la equidad, la accesibilidad, la privacidad, la ética y la seguridad pedagógica?

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

Estos aspectos deberían tratarse como requisitos de diseño y resultados de evaluación desde el principio, y no como limitaciones añadidas a la sección de discusión una vez completado un estudio de eficacia.

Equidad

Para la equidad, examine no solo quién tiene acceso a la IA, sino también quién tiene las habilidades para usarla con eficacia y quién recibe en última instancia sus beneficios. El concepto Brecha digital de esta base de conocimiento distingue las brechas de acceso, de habilidades y de resultados, lo que significa que el acceso igualitario a un chatbot no equivale a un beneficio educativo equitativo. Por lo tanto, quien investiga debería informar de los resultados de los subgrupos pertinentes e investigar la eficacia diferencial en lugar de basarse solo en los promedios generales (véase Efectos diferenciales entre grupos de estudiantes).

La investigación recién añadida muestra cómo se acumulan las inequidades estructurales. Un estudio comparativo de 45 universidades nigerianas (15 federales, 15 estatales, 15 privadas) encontró una integración de la IA solo moderada (M = 4,79 en una escala de 10 puntos, rango 1,83-7,83), y el tipo de gobernanza no la predijo (F(2,42) = 1,01, p = 0,372); la antigüedad de la institución (β = 0,43, p = 0,016) y la ubicación en el suroeste (β = 0,31, p = 0,029) sí lo hicieron. Las capacidades internas se reforzaban mutuamente (r = 0,79-0,80), y las colaboraciones internacionales y las alianzas con la industria se compusieron entre sí (r = 0,74): "las conexiones engendran conexiones". Los marcos de política fueron la dimensión más débil (M = 4,09; solo el 27% de las instituciones obtuvieron 6 o más), lo que expone una brecha entre la estrategia formal y la actividad operativa del plan de estudios. Por lo tanto, las intervenciones de equidad deberían dirigirse a las instituciones más nuevas y a las regiones desatendidas en lugar de suponer que la categoría institucional determina la capacidad, y deberían tener en cuenta los contextos del Sur global de los que todavía falta gran parte de la base de evidencia.

Accesibilidad

Para la accesibilidad, incluya al estudiantado con discapacidad en el diseño y la evaluación, pruebe las interfaces reales frente a los requisitos de accesibilidad, ofrezca formas equivalentes de participar y de demostrar el aprendizaje, y distinga la accesibilidad técnica de una pedagogía genuinamente inclusiva. Véase Accesibilidad. Un estudio de diseño sensible a los valores con estudiantes, profesorado y desarrolladores de colegios comunitarios muestra cómo se ve esto en la práctica: produjo 16 características alineadas con valores que abarcan la explicabilidad (E1-E5), el control humano en el bucle (H1-H9) y la privacidad (P1-P4), y sacó a la luz tensiones de valores en lugar de soluciones ordenadas, incluidas la transparencia frente a la interpretabilidad, la privacidad frente a la información didáctica, y la agencia del estudiante frente al andamiaje guiado por el sistema.

Privacidad y ética

Para la privacidad y la ética, recoja solo los datos necesarios para el propósito educativo, haga transparentes el uso de los datos y las limitaciones del sistema, mantenga una rendición de cuentas humana significativa, y examine la imparcialidad, el consentimiento, el sesgo, la explicabilidad, la autonomía del estudiante y las consecuencias de las decisiones mediadas por IA. Estas son dimensiones centrales de la Ética. El estudio de diseño anterior muestra que se trata de compensaciones que hay que gestionar, y no de requisitos independientes que se puedan ir marcando uno a uno: el estudiantado quería control sobre el análisis del aprendizaje y los datos afectivos, mientras que el profesorado quería visibilidad para apoyar el aprendizaje. A medida que los sistemas adquieren agencia propia, la cuestión de la gobernanza se agudiza. Una revisión crítica de la gobernanza de la IA agéntica sostiene que la autonomía no debería superar la madurez de la evidencia ni la solidez de un control humano responsable, y propone un lenguaje de notificación compartido (niveles de autonomía A0-A4, niveles de supervisión O0-O4 y etapas de madurez de la evidencia M0-M5) de modo que los usos consecuentes (A4: admisiones, calificación, progresión) exijan una validación replicada y relevante para el contexto y una autoridad humana continua, en lugar de una puntuación alta en un benchmark.

Seguridad pedagógica

Para la seguridad pedagógica, mida los daños que los benchmarks convencionales de IA pasan por alto: la dependencia excesiva, la divulgación excesiva de respuestas, el refuerzo de concepciones erróneas, la pérdida de agencia, la supresión de la metacognición, el trato inequitativo, el daño motivacional y la desalineación instruccional. Las pruebas de seguridad deberían incluir interacciones realistas de varios turnos y escenarios específicos de cada disciplina, y no solo indicaciones únicas. La síntesis sobre Seguridad pedagógica y el benchmark SafeTutors muestran por qué sistemas técnicamente "útiles" o precisos pueden aun así socavar el aprendizaje. Quienes ejercen la práctica convergen en una respuesta de diseño compatible: en un estudio de diseño participativo con seis docentes de secundaria, el profesorado diseñó de forma independiente "expertos acotados" en lugar de agentes autónomos: sistemas con un dominio de alcance estrecho que operan bajo supervisión humana, con límites de dominio, filtrado de contenido y anulación por parte del profesorado como tres capas de protección. Recibieron con agrado la IA para presentar contenido, ofrecer práctica y dar retroalimentación formativa, pero se negaron a delegar el establecimiento de objetivos o la evaluación sumativa, y enmarcaron la supervisión como una responsabilidad profesional y no como desconfianza hacia la tecnología.

Triangulación metodológica

Por último, combine la evidencia cuantitativa y cualitativa. Los resultados cuantitativos desagregados pueden revelar efectos diferenciales; las entrevistas, las observaciones, los grupos focales y los métodos participativos o de codesarrollo pueden sacar a la luz barreras, daños, supuestos culturales y experiencias del estudiantado que las puntuaciones agregadas pasan por alto. La síntesis Métodos de investigación en AIED trata explícitamente la triangulación metodológica como importante porque ningún método único maximiza a la vez la inferencia causal, la validez ecológica, la comprensión contextual y la generalizabilidad.

La transparencia sobre cómo el propio análisis asistido por IA produjo sus hallazgos forma parte de esa obligación. La propuesta de justificabilidad sostiene que una interpretación asistida por IA debería seguir siendo inspeccionable, rebatible y revisable, respaldada por artefactos como tablas de temas con enlaces a las fuentes, pilas de lentes y ríos de evidencia, de modo que un resumen fluido no pueda ocultar la ruta analítica que lo produjo. La revisión sobre IA agéntica añade una disciplina de separación de niveles de resultado: los resultados a nivel de artefacto (precisión, calidad de la retroalimentación) pueden ser necesarios para un beneficio del estudiante, pero nunca son evidencia suficiente de uno, y los resultados de equidad e institucionales son precisamente donde la evidencia es más escasa.

Dónde encaja esto en la base de conocimiento

Estos requisitos conectan directamente con los Diez hallazgos principales para el profesorado (hallazgos 9 y 10), con las refutaciones de grupos de interés en ¿Cómo abordar las concepciones erróneas más comunes sobre la IA en la educación? y con la agenda de evidencia pendiente en Lacunas de investigación en AIED. Para métodos que se toman en serio estas restricciones, véase Evaluar intervenciones de IA: métodos.