¿Cuáles son las mejores prácticas y consejos para diseñar software educativo de IA eficaz?

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

La IA educativa debería diseñarse como un sistema instruccional, y no solo como un modelo de propósito general con una interfaz educativa. La investigación reciente sobre diseño recogida en esta base de conocimiento concreta esa afirmación: los sistemas más sólidos se construyen como expertos acotados bajo supervisión humana, codiseñados con el profesorado y el estudiantado que los usarán y fundamentados en contenido verificable en lugar de en la memoria del modelo. Un conjunto práctico de reglas de diseño:

• Alinee el sistema con objetivos de aprendizaje explícitos.
• Ofrezca andamiaje en lugar de completar el trabajo cognitivo objetivo.
• Fundamente las respuestas en contenido aprobado por el profesorado o de fuentes autorizadas cuando la fiabilidad factual importe.
• Comunique la incertidumbre.
• Ofrezca una vía de intervención humana.
• Diseñe respuestas «amables pero correctas» en lugar de respuestas que se limiten a dar la razón a quien las usa.
• Dé al profesorado configuración significativa y supervisión.
• Minimice los datos innecesarios del estudiantado y recoja solo lo pedagógicamente necesario (véase Privacy).
• Diseñe la accesibilidad desde el principio.
• Compruebe si el rendimiento es desigual entre poblaciones de estudiantes (véase Equidad).
• Evalúe la interacción sostenida de varios turnos en lugar de indicaciones aisladas de demostración.

Seguridad pedagógica

La página Seguridad pedagógica insiste en que las pruebas de seguridad convencionales son insuficientes para la educación. Un sistema puede evitar el contenido tóxico y aun así causar daño educativo al revelar en exceso las respuestas, reforzar los conceptos erróneos, suprimir la reflexión, fomentar la dependencia o desviarse de los objetivos instruccionales. Recomienda una evaluación de seguridad consciente de la disciplina y de varios turnos, aseguramiento de la calidad con intervención humana, fundamentación y alineación hacia la orientación en lugar de hacia el suministro de respuestas.

El SafeTutors referente de evaluación convierte esa advertencia en cifras. En todos los modelos probados, desde modelos abiertos de 3.8B hasta GPT-5-mini, el daño pedagógico fue universal, la escala del modelo no mejoró la seguridad de forma fiable y las tasas de fallo aumentaron del 17.7% en interacciones de un solo turno al 77.8% en conversaciones de varios turnos, mientras que los patrones de infracción variaron según la asignatura. La taxonomía del referente, con 11 dimensiones y 48 subriesgos (cognitivos, epistémicos, metacognitivos, motivacionales-afectivos, de desarrollo y equidad, de alineación instruccional y otros), es una lista de comprobación de diseño utilizable. La lección práctica para quien especifica software educativo: un sistema puede ser preciso y «seguro» según las métricas convencionales mientras erosiona en silencio el aprendizaje, así que la evaluación de varios turnos y consciente de la disciplina es un requisito y no un filtro final.

Accesibilidad y equidad

La accesibilidad debería incluir requisitos operativos concretos como la operabilidad con teclado, la compatibilidad con lectores de pantalla, subtítulos y transcripciones, un contraste adecuado, alternativas textuales utilizables y compatibilidad con tecnologías de asistencia; las funciones de accesibilidad generadas por IA siguen necesitando control de calidad. Véase accesibilidad.

Las pruebas de equidad deberían examinar toda la cadena de procesamiento y desagregar el comportamiento por lengua, discapacidad, cultura y otras características relevantes del estudiantado, en lugar de confiar solo en la precisión agregada. Véase la orientación sobre mitigación de sesgos de esta base de conocimiento, resumida junto a Equidad.

Diseñe una autoridad acotada, no la autonomía

El estudio de diseño participativo de Reichert y sus colegas con seis docentes de secundaria corrige de forma útil el supuesto de que la IA educativa debería ser un agente autónomo. Cuando se les pidió prototipar sobre el papel chatbots de aula, todos los docentes describieron un experto acotado, es decir, una capacidad especializada confinada a un dominio estrictamente definido y que opera bajo supervisión humana, en dos dimensiones. Los límites de autoridad mantenían al profesorado con el control último, porque la responsabilidad profesional del aprendizaje y la seguridad del estudiantado no se puede delegar; los límites de experiencia reflejaban la falta de conocimiento contextual de la IA sobre estudiantes concretos, la dinámica del aula y las normas institucionales.

La arquitectura que esbozaron tenía cuatro componentes interconectados (delimitación del contenido, presentación del contenido, adaptación al estudiante y supervisión del profesorado) apoyados en tres capas protectoras: límites de dominio que restringen el alcance, filtrado de contenido que permite una personalización segura y anulación por parte del profesorado en casos ambiguos. La delegación era selectiva: al proyectarla sobre los nueve eventos de la instrucción de Gagné, el profesorado aceptaba la IA para presentar contenido, aportar problemas de práctica y ofrecer retroalimentación formativa, pero la rechazaba para fijar objetivos o realizar evaluaciones sumativas. En particular, priorizaron la transparencia conductual (límites visibles y señales de incertidumbre) sobre las explicaciones del modelo, y los seis pidieron registro completo de las conversaciones, alertas en tiempo real y capacidad de anulación como expresión de responsabilidad profesional y no de desconfianza.

Diseñe con las partes interesadas, no solo para ellas

Ko y Hughes aplicaron el diseño sensible a los valores a un sistema de tutoría inteligente con estudiantes y profesorado de community college, un grupo de interés históricamente excluido del diseño de plataformas de aprendizaje, y encontraron tensiones de valores que hay que gestionar más que resolver: transparencia frente a interpretabilidad, privacidad frente a conocimiento instruccional y agencia del estudiantado frente al andamiaje guiado por el sistema. El estudiantado prefería explicaciones colaborativas y humanizadas a la transparencia cruda del modelo, y el prototipo resultante codificó 16 funciones alineadas con valores en controles de IA explicable, intervención humana y privacidad.

La revisión de Wang, Liu e Islam de 28 estudios empíricos sobre codiseño entre profesorado e IA añade un vocabulario de diseño: la IA generativa se usa sobre todo para planificar clases, generar indicaciones e idear de forma creativa, con la IA actuando como asistente o generador de contenido mucho más a menudo que como codiseñadora, y con cuatro posibilidades recurrentes (eficiencia, capacidad de respuesta, creatividad y equidad) que el profesorado puede usar para juzgar qué herramienta encaja con qué problema de diseño. Ambos estudios tratan el diseño como una colaboración humano-IA en la que la persona permanece en el circuito, es decir, investigación de usabilidad y no divulgación, y ambos encontraron que las partes interesadas consultadas señalaron requisitos que ningún referente de precisión capturaría.

Fundamente y verifique; no confíe en el modelo

La fundamentación es una decisión arquitectónica, no una indicación. EduGuard, un tutor seguro con recuperación aumentada para programación introductoria, combina una recuperación de contenido del curso aprobado por el profesorado con un verificador de afirmaciones arquitectónicamente separado, un control explícito de la dependencia excesiva y un referente de 600 consultas redactado por el profesorado que abarca conceptos erróneos, depuración de errores, consultas con mezcla de idiomas y peticiones adversarias de respuesta directa, y mejora las líneas de base de tutores socráticos basados en GPT-4o-mini y Llama. Para quien diseña, esta es la forma concreta de «fundamentar las respuestas en contenido aprobado por el profesorado»: separe los componentes que verifican de los componentes que conversan y pruebe con casos que intentan activamente extraer respuestas. Véase riesgo de alucinación.

Para ver cómo estos principios de diseño se traducen en un tutor construido (diagnóstico, escaleras de pistas, retroalimentación y evaluación), véase ¿Cuáles son las buenas prácticas para desarrollar un tutor de IA eficaz?; para los valores pedagógicos predeterminados que deciden si una herramienta bien construida se usa bien, véase ¿Cómo se debería diseñar la IA dentro de la experiencia de aprendizaje?.

Trate la entrega del estudiante como entrada no confiable para cualquier calificador de IA. El modelo de amenaza que más consejos de diseño omiten es el contenido adversario dentro del propio artefacto evaluado. La evaluación adversaria de tipo red team de Humble (2026) comprobó si el estudiantado podía manipular un sistema de calificación basado en LLM mediante inyección de indicaciones incrustada en sus entregas, y encontró que la manipulación funciona: las inyecciones que dan instrucciones al calificador, lo reencuadran o adoptan un rol desplazan la nota sin cambiar el trabajo. Las consecuencias de diseño se derivan del mismo principio de separación de la arquitectura de verificación anterior: mantenga la rúbrica y las instrucciones de calificación fuera de la ventana de contexto que controla el estudiante, elimine o marque el contenido que se parezca a instrucciones en las entregas, no deje que una entrega establezca sus propios criterios y conserve una decisión humana sobre cualquier nota relevante. Un calificador de IA que lee sus instrucciones en el mismo texto que está juzgando ha entregado la rúbrica a quien se examina.