Base de conocimiento AIEdAIEd KB
En esta página

Esta página está traducida al español. Las páginas de artículo siguen escritas en inglés. Leer esta página en inglés

Conceptos

IA con intervención humana (HITL)

Creada 2026-09-25 · Actualizada 2026-09-25

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

La IA con intervención humana (HITL): el patrón de diseño en el que los sistemas de IA educativos intercalan de forma estratégica la generación automatizada con el juicio de personas expertas, y preservan así la calidad y la seguridad pedagógicas mientras escalan la producción. En lugar de automatizar por completo la evaluación, la retroalimentación o la instrucción, la HITL mantiene a una persona (docente, especialista en la materia o quien aprende) en el bucle de decisión allí donde su juicio tiene el mayor valor marginal: para evaluar la calidad, dirimir los casos límite y proteger la agencia de quien aprende y la seguridad. La pregunta central de diseño no es si incluir a las personas, sino dónde en el flujo de trabajo su supervisión es más valiosa y menos reemplazable.

Preguntas para reflexionar

  • La pregunta central del diseño HITL no es si incluir a las personas, sino dónde en el flujo de trabajo su juicio es más valioso. En un sistema de evaluación o de retroalimentación con IA, ¿en qué punto insistiría usted en que una persona permanezca en el bucle?
  • Los estudios sobre la generación automática de preguntas con IA encontraron que los ordenadores manejan bien la claridad y la validez, pero que las personas siguen siendo necesarias para los distractores significativos y una buena retroalimentación. ¿Por qué algunas partes del juicio educativo podrían resistirse a la automatización?
  • Una evaluación encontró que tres LLM dieron recomendaciones de apoyo al estudiantado inconsistentes e insensibles, y concluyó que el juicio humano sigue siendo necesario antes de que la IA asesore sobre el estudiantado. Cuando una IA «recomienda» apoyo para un estudiante con dificultades, ¿qué podría salir mal si ninguna persona lo revisa?
  • La página sugiere que las personas y los algoritmos detectan tipos distintos de problemas: automatizar lo que es verificable con precisión y preservar el juicio donde el matiz es irreemplazable. ¿Dónde está, en su propia práctica, la frontera entre ambos?
  • Mantener a una persona en el bucle se enmarca como una protección de la agencia y la seguridad de quien aprende, y no solo de la calidad. ¿Cómo podría la automatización total cambiar de forma sutil la percepción que el estudiantado tiene de quién es responsable de su aprendizaje?
  • Si la IA se vuelve más autónoma, la supervisión HITL se describe como una barrera de seguridad central. ¿A qué nivel de autonomía de la IA se sentiría incómodo, y qué le dice esa incomodidad sobre dónde corresponde la supervisión?

Introducción

La HITL es una respuesta a los límites y los riesgos de la IA en la educación totalmente autónoma: los sistemas automatizados pueden generar a escala, pero carecen del juicio contextual, ético y pedagógico que aportan el profesorado y las personas expertas. Dos implementaciones recientes ilustran arquitecturas distintas:

El apoyo prescriptivo es un ámbito en el que cada vez se sostiene más que la supervisión humana no es opcional. López-Pernas et al. (2026) comprobaron si tres LLM podían recomendar planes de apoyo al estudiantado a partir de indicadores de analítica del aprendizaje y encontraron una sensibilidad limitada a la necesidad y una fuerte inconsistencia entre modelos, por lo que concluyeron que el juicio con intervención humana sigue siendo necesario antes de que el asesoramiento prescriptivo con LLM pueda desplegarse de forma segura y ética.

Una tercera arquitectura sitúa el juicio humano antes del modelo en lugar de en su salida. En el estudio de Lee, Atif y Kang (2026) sobre la clasificación de las preguntas del estudiantado, tres personas expertas de nivel doctoral gobernaron todo el flujo de trabajo: refinaron las definiciones operativas de cada papel constructivista, etiquetaron de forma independiente hasta que el kappa de Fleiss subió de 0,60 a 0,83 tras resolver las discrepancias, y validaron los ítems retrotraducidos y parafraseados que se usaron para equilibrar el conjunto de entrenamiento.

CODE-GEN: generación de preguntas de opción múltiple con intervención humana

Duan et al. (2026) construyeron un sistema RAG agéntico con dos agentes:

  • Agente generador: produce preguntas de programación de opción múltiple alineadas con los objetivos de aprendizaje del curso
  • Agente validador: evalúa la calidad en siete dimensiones pedagógicas

Evaluación: 6 especialistas en la materia juzgaron 288 preguntas generadas por IA. Tasas de éxito validadas por personas: 79,9%-98,6% en las distintas dimensiones.

Dimensiones en las que la IA es fuerte (baja carga humana):

  • Claridad de la pregunta, validez del código, alineación con los conceptos, validez de la respuesta correcta

Dimensiones que requieren personas (alta carga humana):

  • Diseño de distractores pedagógicamente significativos
  • Retroalimentación explicativa de alta calidad

Idea estratégica: el esfuerzo humano debería concentrarse allí donde el juicio didáctico es irreemplazable; la verificación computacional puede automatizarse por completo.

MAIC: generación de guiones con intervención humana

Yu et al. (2024) desplegaron un aula multiagente (agente docente, agente de ayudante y arquetipos de compañeros de clase) en la Universidad de Tsinghua con más de 500 estudiantes y más de 100.000 registros de aprendizaje. El profesorado participa en la generación de los guiones y en su supervisión, lo que garantiza que el aumento de la IA a gran escala no desplace la experiencia pedagógica.

PedaCo: doble control de acceso para la generación de vídeo con IA

Kim, Baek y Kwak (2026) amplían la HITL al vídeo didáctico generado por IA mediante PedaCo (cocreación pedagógica), un flujo de trabajo con dos capas complementarias de control que hacen realidad una resistencia fundamentada anclada en la teoría cognitiva del aprendizaje multimedia (CTML) de Mayer. La primera capa sitúa a la persona en la fase de guion: un LLM redacta un guion, un revisor de IA señala posibles infracciones de la CTML (por ejemplo, «la escena 3 introduce términos técnicos sin explicación previa») y el profesorado decide aceptar, revisar o regenerar. La segunda capa ejecuta métricas automatizadas tras la síntesis sobre la coherencia, la redundancia, la contigüidad temporal, la modalidad y la calidad de la imagen, que el profesorado revisa. En un estudio intrasujeto (23 docentes), el enfoque basado en la revisión mejoró todos los principios de la CTML (valoración media de 3,07 a 3,86, p<.01), y el profesorado valoró la eficiencia de producción con un 4,26/5: una fricción percibida como productiva y no como una carga. El principio de diseño se hace eco de la síntesis sobre HITL de esta base de conocimiento: las personas y los algoritmos detectan distintos tipos de problemas, así que los sistemas más eficaces automatizan donde la verificación computacional es precisa (la sincronización temporal) y preservan el juicio humano donde el matiz pedagógico es irreemplazable (el tono, la adecuación al público).

Por qué importa la HITL en la era de la IA

El diseño con intervención humana se ha vuelto central en los debates de esta base de conocimiento sobre la IA agéntica y el uso responsable de la IA por varias razones convergentes:

  • Seguridad pedagógica. La Pedagogical Safety exige que la IA con autoridad didáctica real mantenga la supervisión humana, de modo que los errores, los sesgos o las salidas dañinas se detecten antes de llegar a quien aprende. Esto es especialmente importante para los agentes autónomos que persiguen objetivos de forma proactiva.
  • Validez y control de calidad. La HITL es una puerta de calidad para la evaluación automatizada y la generación: las personas dirimen allí donde la puntuación automatizada no es fiable (véase la investigación sobre la calificación de ensayos con LLM en métodos de investigación) y validan los ítems generados. Una revisión sistemática guiada por PRISMA de 42 estudios sobre calificación y retroalimentación (2023–2025) llega explícitamente a la misma conclusión: los LLM igualan a los evaluadores humanos en tareas cortas y bien estructuradas, pero no pueden sustituir por completo el juicio humano en trabajos complejos, abiertos o subjetivos, y la máxima eficacia de calificación se alcanza en sistemas híbridos que combinan la calificación impulsada por IA con la supervisión y la verificación del profesorado (Can ChatGPT Replace the Teacher in Assessment? A Review of Research on the Use of Large Language Models in Grading and Providing Feedback). Falahat et al. (2026) muestran de forma concreta dónde cae esa frontera: ChatGPT-5 igualó al profesorado en ítems objetivos de exámenes de farmacia (CCC 0,935-1,000), pero no fue fiable en ítems de respuesta corta ni de ensayo incluso cuando se le dio una rúbrica, lo que llevó a los autores a recomendar una calificación híbrida con revisión humana para evaluaciones complejas, subjetivas o de alto riesgo.
  • Agencia de quien aprende. Mantener a una persona en el bucle preserva la agencia y sostiene el aprendizaje autorregulado, y contrarresta la dependencia excesiva que puede inducir una asistencia totalmente autónoma.
  • Confianza y calibración. Una supervisión humana transparente sostiene la calibración de la confianza: quien aprende y quien enseña saben que hay una persona cualificada detrás del sistema.
  • La agencia acotada como arquitectura, no como advertencia legal. El marco AGAI-HE de Ilieva et al. (2026) para el apoyo al aprendizaje agéntico incorpora la supervisión al propio modelo, como una tercera capa junto a las capas de flujo de trabajo pedagógico y de apoyo agéntico: define el uso aceptable de la IA, los límites pedagógicos, las reglas de privacidad, los requisitos de declaración, la verificación de fuentes, los puntos de control del profesorado, los mecanismos de integridad y la responsabilidad humana final, y exige que cada función agéntica se remonte a un requisito de aprendizaje, un propósito de evaluación o un control de gobernanza. Es una concreción del principio de que la HITL es una propiedad del diseño del sistema y no una declaración de política, y el estudio de percepción con 130 estudiantes de los autores recuerda que añadir orquestación agéntica bajo esa supervisión no se registró, por sí solo, como un mejor apoyo al aprendizaje que un chatbot.
  • Con qué frecuencia mira la persona es en sí mismo una decisión de diseño. Venetsanos (2026) separa la frecuencia de la supervisión de su ubicación: la HITL de alta frecuencia, que revisa cada salida de la IA antes de que llegue al estudiantado, aporta control de calidad, detección rápida de errores, responsabilidad y calibración continua, pero puede anular la eficiencia que motivó la automatización y convertirse en un cuello de botella en los picos de corrección; la HITL de baja frecuencia, que comprueba muestras y revisa solo los casos señalados, escala y acorta los plazos, pero corre el riesgo de que los errores se propaguen sin detectarse entre entregas, debilita la responsabilidad y crea un problema de equidad si parte del estudiantado recibe una revisión humana más exhaustiva que el resto. En lugar de prescribir una respuesta universal, el marco exige que la disyuntiva se decida de forma explícita en función de las tolerancias disciplinares al error, de si la evaluación es formativa o sumativa, del tamaño de la cohorte y de los recursos institucionales, y fija un valor por defecto en la dirección opuesta al argumento habitual de eficiencia: empezar con una supervisión de alta frecuencia y reducirla solo cuando pruebas sustanciales demuestren una fiabilidad, una seguridad y una justicia aceptables, de modo que la carga de la prueba recae en demostrar que una supervisión menor es segura. El artículo también advierte de que los principios que sustentan esa supervisión pueden desplazar el esfuerzo del personal en lugar de reducirlo, lo que deja las ganancias netas de eficiencia como una cuestión empírica abierta.

Dónde aparece la HITL en la investigación de la base de conocimiento

  • Evaluación y calificación automatizadas: los sistemas HITL combinan la generación y la puntuación con IA con la validación humana en la calificación de respuestas cortas (Confidence Estimation in Automatic Short Answer Grading with LLMs), la evaluación de autoexplicaciones (Exploring the Effectiveness of Using LLMs for Automated Assessment of Student Self Explanations in Programming Education) y la corrección automática de ensayos (PsyScore: A Psychometrically-Aware Framework for Trait-Adaptive Essay Scoring and ZPD-Scaffolded Feedback). Cvengros y Kortemeyer lo concretan en la calificación manuscrita de química general, una situación de alto riesgo: como la fiabilidad de un LLM Multimodal AI varía según el formato de la respuesta (las respuestas textuales y de reacciones químicas son fiables, mientras que el dibujo y las gráficas puntúan peor que el azar) y el estudiantado no detecta los falsos positivos, convierten las puntuaciones brutas de la IA en una política selectiva de aceptación o aplazamiento mediante filtros de confianza (umbrales de crédito parcial, un umbral de riesgo basado en la teoría de respuesta al ítem y la exclusión por tipo de problema) que remiten a las personas los ítems inciertos y gráficos, un enfoque que los autores vinculan a los marcos de regulación que designan la IA en la evaluación educativa como de alto riesgo y exigen una supervisión humana documentada.
  • Sistemas de retroalimentación: se exige una supervisión humana documentada.
  • Puntuación HITL operativa en una evaluación nacional (2026): Curi et al. (2026) concretan la HITL a escala institucional en el examen Acredita EB de Uruguay. Como los errores del calificador LLM son sistemáticamente conservadores (puntúan por debajo), el flujo de trabajo usa una lógica de puntos de decisión que dirige la revisión humana exactamente a los candidatos cuyo resultado de apto o no apto depende de la sección de escritura: las respuestas marcadas como aptas por la IA se aceptan con confianza, mientras que las marcadas como no aptas (15,3%-16,5% de los casos) las verifican evaluadores expertos, lo que reduce la carga de calificación completa al menos un 50% con un riesgo residual de aprobar por un error de la IA de solo el 0,2%-0,6%. Esto es la HITL como estrategia de asignación de recursos: las personas dirimen precisamente allí donde el sesgo conservador de la IA alteraría de otro modo resultados de alto riesgo.
  • Sistemas de retroalimentación: el diseño de retroalimentación con intervención humana aparece en los sistemas de retroalimentación colaborativa y en la calificación de respuestas cortas consciente de la confianza.
  • Apoyo a la colaboración en el aula. CoBi mantiene al profesorado como la persona revisora de un sistema de IA que detecta discurso en grupos pequeños que resulta edificante: el profesorado prefirió explícitamente la revisión antes y después de la acción a una pantalla en tiempo real que los pondría «en evidencia», y la retroalimentación agregada a nivel de aula (y no individual) del sistema es precisamente lo que le permite navegar la tensión entre la privacidad, la vigilancia y la agencia del estudiantado.
  • Generación de preguntas y de contenido: más allá de CODE-GEN, la HITL guía la generación de preguntas para la evaluación y el andamiaje (CODE-GEN: A Human-in-the-Loop RAG-Based Agentic AI System for Multiple-Choice Question Generation, From Evaluated Models to Evaluation Aids: A Multi-Evidence Study of LLM-Based Difficulty Calibration for Programming Examinations).
  • Sistemas agénticos y multiagente: a medida que la IA se vuelve más autónoma, la supervisión HITL es una barrera de seguridad de diseño central (Agentic AI and Pedagogical Best Practice: The Tension Between Automation and Learning, Beyond Access: Guided LLM Scaffolding for Independent Learning in Undergraduate Statistics).
  • Enrutar por la consecuencia de la decisión, no por la incertidumbre del modelo (2026). Un estudio operativo de 2026 sobre la prueba nacional de acreditación Acredita EB de Uruguay (dos ediciones, de unos 5.000 a 6.000 candidatos cada una) muestra cómo es el diseño con intervención humana cuando lo guía la consecuencia de la decisión y no la incertidumbre del modelo. Un calificador GPT-5 coincidió con los evaluadores expertos en el 60-80% de los 15 ítems de la rúbrica, pero fue sistemáticamente conservador, y produjo discrepancias de aprobado humano y suspenso de la IA en el 15,3% (2024) y el 16,5% (2025) de las comparaciones de apto o no apto, y casi nunca al revés. El marco, por tanto, acepta los resultados de aprobado de la IA sin más y remite a revisión experta todos los resultados de suspenso de la IA que podrían cambiar el resultado de un candidato, después de descartar primero a los candidatos cuyo apto o no apto no puede depender de la sección de escritura, lo que reduce al menos un 50% las respuestas que necesitan una puntuación humana completa. Un segundo diseño de 2026 traza la frontera desde el otro lado: en una plataforma multiagente de pacientes estandarizados con IA (Yang et al.), la supervisión humana se reserva para lo que se juzga que la IA no es apta para decidir, con el profesorado y pacientes estandarizados humanos aportando la interpretación contextual, la remediación y los juicios de preparación, y el sistema no puede determinar de forma autónoma la competencia clínica.

Síntesis

El diseño con intervención humana no es solo una medida de seguridad: es una estrategia de asignación de recursos. La pregunta de frontera no es si incluir a las personas, sino dónde en el flujo de trabajo su juicio tiene el mayor valor marginal. Los sistemas HITL más eficaces concentran la experiencia humana escasa allí donde los sistemas automatizados son más débiles (el diseño de distractores, la retroalimentación explicativa, la resolución de casos límite, el juicio ético) y automatizan el resto: preservan la calidad, la seguridad y la confianza mientras escalan la producción.

  • La supervisión humana persiste en el trabajo asistido por IA. La investigación sobre revisiones sistemáticas encontró que las herramientas de automatización con IA reducían las cargas procedimentales (por ejemplo, el cribado), pero que las decisiones interpretativas seguían exigiendo una supervisión humana sustancial; la investigación sobre andragogía convierte la intervención humana en el bucle (modelos mentales compartidos, cocreación) en un principio central del diseño de IA.
  • La intervención humana a escala institucional. Qin (2026) describe cómo la Universidad de Lingnan desarrolló un modelo educativo con intervención humana que pone en primer plano el razonamiento ético, el juicio crítico y la responsabilidad social a la vez que democratiza el acceso a la IA generativa. El modelo sitúa a las personas como el lugar del juicio y de los valores incluso cuando la IA se integra en todo el currículo: una concreción institucional concreta de los principios de intervención humana en la educación superior.
  • Quien aprende como la persona en el bucle de su propia tutoría. El diseño sensible a los valores con estudiantes de colegios comunitarios produjo toda una familia de funciones HITL orientadas a quien aprende en un sistema de tutoría inteligente (control sobre la reevaluación y la revisión, metas y ritmo personalizados, marcadores para repasar, confirmación de la confianza por encima del dominio y un control del nivel de participación de la asistencia de IA), lo que sitúa al estudiante como un controlador activo del bucle de tutoría y no como un consumidor pasivo de decisiones adaptativas. El estudio también encontró al profesorado dividido sobre si ese control de quien aprende podía socavar la integridad de la ruta de aprendizaje guiada por el sistema, un caso de la pregunta más amplia de asignación de recursos sobre dónde el juicio humano (del estudiantado o del profesorado) aporta más valor.
  • Supervisión del asesoramiento sobre adopción de IA. Como los sistemas de IA conversacional consultados por usuarios escépticos pueden estar predispuestos a fomentar la adopción, la supervisión humana y la evaluación independiente son esenciales. Una auditoría que mostró que la mayoría de los modelos de frontera redirigen al personal escéptico de K-12 hacia la implicación subraya la necesidad de un asesoramiento con IA transparente y auditable en lugar de una confianza acrítica.

Conceptos conectados

Artículos conectados

Preguntas frecuentes relacionadas

Metadatos

NivelHigher Ed, K 12
Technologies and techniquesIA generativa, IA con intervención humana (HITL), Analítica del aprendizaje, Grandes modelos de lenguaje (LLM)
Assessment and measurementEvaluación
Research methods and evaluationBenchmark
Equity, ethics, and responsible usePedagogical Safety
Foundations of AI in educationIA en la educación
SourceHistoryEditChat

Incrustar esta página

Copy the code below to embed a chromeless version of this page in a learning management system or other website. The embedded view hides the site header, navigation, and footer.