Conceptos
Calibración de la confianza
Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.
Calibración de la confianza: la capacidad metacognitiva de alinear la confianza que uno deposita en un sistema de IA con su fiabilidad real en un contexto dado, sabiendo cuándo confiar y cuándo cuestionar su producción. La calibración de la confianza es el antídoto directo contra la dependencia excesiva: es la habilidad de ajustar la confianza a la evidencia y no a la fluidez segura de una IA.
Preguntas para considerar
- ¿Ha aceptado alguna vez una respuesta de IA que sonaba segura y plausible, y después descubrió que era errónea? ¿Qué había en la presentación, más que en el contenido, que le ganó la confianza?
- La mayoría de la gente supone que el riesgo es confiar demasiado en la IA. Pero el error opuesto también cuesta aprendizaje: rechazar una herramienta que funciona es en sí mismo un fallo de calibración. ¿Se inclina a aceptar o a evitar la producción de la IA, y qué podría estar perdiendo por ese sesgo por defecto?
- Una respuesta de IA fluida y segura "se lee como fiable tanto si lo es como si no". Antes de seguir leyendo, ¿qué criterios podría usar para decidir cuándo una salida que suena segura merece de verdad su confianza, y resistirían esos criterios en un tema oscuro y de alto riesgo del que no sabe nada?
- La calibración depende del contexto: verificar más donde los errores son costosos y menos donde son benignos. ¿Dónde, en su propio trabajo o estudio, es más alto el costo de una respuesta equivocada, y cómo ajustaría su esfuerzo de verificación en consecuencia?
- La investigación modela la confianza como algo moldeado no solo por el juicio individual sino por su entorno social, por lo que hacen sus pares y sus redes. Piense en una ocasión en que un compañero de clase, un colega o una comunidad en línea le convenciera de que una IA era (o no era) fiable. ¿Calibró a partir de la evidencia o de esa señal social?
- Un hallazgo: decir a los estudiantes que un tutor de IA puede equivocarse aumentó en realidad cuánto lo usaban. ¿Por qué advertir sobre la falibilidad podría hacer que la gente esté más dispuesta a implicarse, y qué sugiere eso sobre cómo la honestidad acerca de los límites de la IA debería moldear su propio uso de estas herramientas?
Introducción
La prosa fluida y segura de un modelo de lenguaje se lee como fiable tanto si lo es como si no. La calibración de la confianza es el contrapeso de esa ilusión: la práctica de evaluar la producción de la IA según su verificabilidad y según lo que está en juego en la tarea, en lugar de aceptarla por la fuerza de su presentación. Como la confianza suele medirse preguntando, las afirmaciones sobre calibración heredan los límites de las medidas autoinformadas: la confianza declarada y la conducta de verificación observada pueden divergir, como encontró un estudio de física.
El desarrollo de instrumentos empieza a abordar directamente esa brecha de medición: Nazaretsky et al. (2025) validaron un instrumento de cuatro factores (utilidad percibida, obstáculos, preparación y confianza, con 21 ítems y 665 estudiantes) cuyo movimiento distintivo consiste en separar la fiabilidad percibida de una herramienta de la disposición del estudiante que confía en ella, de modo que la utilidad y los obstáculos pueden puntuarse aparte de la disposición a confiar. Su modelo estructural sitúa la confianza antes de la utilidad percibida y no después, como suele leer la adopción el modelo de aceptación tecnológica, y las dos medias divergen en la dirección que le importa a la calibración: la confianza (3,31) quedó por debajo de la utilidad (3,62).
Por qué la confianza necesita calibración
La confianza sin calibrar adopta dos formas. La confianza excesiva (aceptar la producción de la IA sin verificación) produce la aceptación acrítica documentada en Dependencia excesiva y en la investigación sobre Descarga cognitiva, y agrava el riesgo de alucinación de los errores seguros de sí mismos. La confianza insuficiente (evitar la IA por completo) renuncia a beneficios legítimos. Ambas brotan de la misma raíz: confianza basada en la apariencia y no en la evidencia. La investigación sobre concepciones erróneas muestra que los estudiantes suelen caer en la confianza excesiva porque suponen que una IA que "suena bien" está en lo correcto.
Una confianza mayor no compra mejor juicio: entre 432 estudiantes de grado que resolvían problemas de Python con sugerencias de IA exactas y deliberadamente engañosas, una mayor confianza predijo una menor dependencia apropiada (r = -0,42), los estudiantes aceptaron el 86,03% de las recomendaciones engañosas, y la relación estaba moderada por la alfabetización en IA y la necesidad de cognición (Pitts, Rani y Mildort (2026)).
El orden del juicio importa tanto como el hábito. En un experimento de supervisión de seguridad con 416 evaluadores que juzgaron 3.957 ítems, mostrar las respuestas candidatas del modelo antes de que la persona registrara su propia respuesta redujo la exactitud de los evaluadores en los ítems que el modelo falló del 36,7% al 20,6%, mientras que la exactitud en los ítems que el modelo acertó subió 7,3 puntos (Shi et al., 2026). La verificación realizada después de leer la respuesta es una comprobación del acuerdo, no de la corrección.
Cómo funciona la calibración
- Hábitos de verificación: contrastar las afirmaciones de la IA con fuentes primarias y con la regla "la IA propone, usted verifica", en lugar de aceptar una salida que suena plausible.
- Un protocolo de verificación basado en el riesgo: Wang (2026) especifica seis dimensiones interdependientes que examinar (proceso, evidencia, acceso, reproducibilidad, legitimidad y fuente) y dirige la verificación hacia las afirmaciones que son centrales, sorprendentes, numéricas o difíciles de revertir, de modo que el esfuerzo siga el costo de equivocarse y no la fluidez de la respuesta.
- Conciencia del contexto: reconocer que la fiabilidad varía según la tarea; un tema muy transitado que el modelo ha visto extensamente es más seguro que uno oscuro, de alto riesgo o de evolución rápida.
- Ajuste según lo que está en juego: aplicar más escrutinio donde los errores son costosos (trabajos entregados, afirmaciones médicas o legales) y menos donde son benignos.
- Monitoreo metacognitivo: rastrear cuándo y por qué uno confía en exceso, lo que conecta la calibración con la metacognición y el aprendizaje autorregulado.
Dónde está realmente el límite de la dependencia
La investigación sobre calibración suele tratar la confianza como un juicio único. Serpil y Mor (2026) muestran que la valoración se divide en dimensiones que no obligan por igual. Entrevistando a 17 estudiantes de grado de inglés como lengua extranjera tras un semestre de usar GROK para recibir retroalimentación sobre su escritura, encontraron una experiencia percibida alta (los estudiantes atribuían a la herramienta mejoras en vocabulario, gramática, estructura y coherencia, y leían sus explicaciones de las revisiones sugeridas como evidencia de competencia), mientras que la fiabilidad, referida sobre todo a qué ocurría con sus datos, y la benevolencia, con una retroalimentación vivida como impersonal y a veces desmotivadora, se mantenían bajas. La dependencia siguió a las dimensiones débiles y no a la fuerte: los estudiantes autorizaban la herramienta para retroalimentación lingüística amplia y reservaban la orientación individualizada y relacional para el docente. La implicación para la calibración es que mejorar la precisión no mueve el techo de uso; la transparencia sobre los datos y el encuadre instruccional de una herramienta son en sí mismos intervenciones de calibración.
Las percepciones sociales asociadas al agente, y no la precisión, construyeron la credibilidad de la retroalimentación para Pérez-López et al. (2026): la competencia percibida llegaba directamente a la credibilidad, mientras que la calidez percibida solo operaba a través de la empatía de tipo humano (SEM, 230 estudiantes).
Du y Yuan (2026) separan la dependencia productiva de la dependencia dañina mediante seis criterios diagnósticos (contestabilidad, recuperabilidad, transferencia, trazabilidad, responsabilidad distribuida y pluralidad epistémica) y distinguen la asistencia instrumental (ayudar a producir un resultado) de la asistencia portadora de juicio (suministrar los estándares con los que se juzga el resultado), siendo esta última donde la dependencia se vuelve educativamente significativa.
- Los estudiantes pueden leer la falibilidad deliberada de un agente par como malfuncionamiento. En el estudio de Copa, se dijo a los estudiantes que el agente podía equivocarse y se les pidió evaluar sus sugerencias. Cuando una sugerencia degradó su modelo, varios concluyeron que el agente había dado información incorrecta y pasaron a ensayo y error en lugar de reexaminar el razonamiento. Un diseño que protege la agencia epistémica reteniendo respuestas presupone, por tanto, una habilidad de calibración que los estudiantes de este estudio todavía no tenían, lo que es una restricción más fuerte para los diseños de agentes pares que para los agentes de tutoría (Cohn et al., 2025).
- La calibración necesita una comprobación, no exposición. Jones et al. (2026) encontraron que un modelo que se equivocaba en todos los intercambios previos aún persuadía al 48% de los participantes cuando no recibían retroalimentación, frente al 21% de dependencia de uno sistemáticamente exacto una vez que llegaba la retroalimentación.
La calibración como problema de diseño
Tratar la descalibración puramente como un déficit del usuario, algo que se arregla enseñando a la gente a comprobar la producción de la IA, puede ser un error de categoría. Jaidka y Cai (2026) sostienen que las affordances de transparencia son inertes: esperan que un usuario actúe sobre ellas, y la mayoría no lo hace. En un estudio de seguimiento pasivo con 900 adultos estadounidenses, los lectores que vieron un resumen generado por IA hicieron clic en una fuente citada dentro de él solo en el 1% de las visitas, y hicieron clic en cualquier enlace de resultado aproximadamente la mitad de a menudo que los lectores que no vieron ningún resumen. La evidencia de encuestas muestra la misma brecha a escala: en un estudio de 81.000 personas en 159 países, la falta de fiabilidad fue la preocupación más citada sobre la IA, mientras que más de 48.000 encuestados en 47 países usaban en gran medida la IA a diario incluso cuando decían no confiar en ella. Confianza y dependencia se han separado, y el artículo sitúa la causa en señales de superficie: la fluidez, la seguridad y la velocidad sustituyen a la verificabilidad, de modo que confianza y corrección se desacoplan. En particular, la autoría de máquina puede inflar la credibilidad: los lectores calificaron los resúmenes científicos como más creíbles y más fiables cuando los escribía GPT que cuando los escribía un humano, sobre todo porque el modelo escribía en un lenguaje más sencillo.
La implicación de diseño es una tipología bidimensional de usuarios, la capacidad de verificar la producción de un chatbot cruzada con la motivación para hacerlo, que predice qué usuarios se descalibrarán y en qué dirección. Los autores la emparejan con dos familias de intervención que deben operar juntas: affordances de interpretabilidad (justificaciones, citas, señales de incertidumbre) que hacen posible la evaluación, y mecanismos de implicación que hacen que ocurra de verdad, dispuestos a través del modelo del queso suizo de Reason en ocho proposiciones comprobables. La alfabetización en IA se sitúa como la capa duradera por debajo de ambas, moviendo a los usuarios entre celdas de la tipología. El reencuadre importa para la educación porque desplaza la responsabilidad: si las citas transparentes no se clican en la población general, entonces exponer a los estudiantes a explicaciones de la IA no los calibrará; la affordance tiene que estar diseñada para forzar la comprobación.
- Una justificación puede absorber el golpe de la contradicción sin mejorar la calibración de la confianza. En cuatro experimentos de escenarios (N = 859), una recomendación de IA que contradecía el juicio de un docente de educación física redujo la confianza en la máquina de 5,42 a 4,31 (d = 1,061); ofrecer una justificación redujo esa penalización de -0,811 a -0,182, aunque la exactitud del consejo nunca se estableció (Yang (2026)).
Una tercera palanca opera sobre la propia estructura de la interacción: sustituir una recomendación única por un debate multiagente cuya posición agregada se retiene (Tuo et al., 2026) redujo el cambio perjudicial hacia una posición incorrecta de la IA del 42-60,5% al 5,7-8,2% entre 186 participantes. La palanca es protectora y no correctiva: los participantes que empezaron con un juicio equivocado recuperaron la decisión correcta solo en el 30,6% y el 24,7% de los ensayos, por debajo del azar para una elección binaria.
Coscia et al. (2026) aportan una palanca de diseño que sí movió la calibración: mostrar a los revisores criterios de fiabilidad codiseñados mientras comparaban respuestas de LLM elevó el acuerdo entre evaluadores del alfa de Krippendorff de 0,3987 a 0,4931, aunque el acuerdo agrupado siguió por debajo de 0,67 y las medidas adicionales añadieron sobrecarga. Para los niños, la palanca de diseño puede ser el propio registro del agente: en una prueba basada en juego con 12 niños de 8 a 10 años, Liu et al. (2026) encontraron que el fraseo de tipo compañero los orientaba a cuestionar directamente a la IA, mientras que el fraseo de tipo herramienta los orientaba a buscar evidencia. Los niños que diseñan chatbots muestran el patrón en otro registro: entre 115 estudiantes de 8 a 18 años, los más jóvenes fijaban confianza significativamente más alta, y algunos construyeron deliberadamente bots que daban respuestas incorrectas y aun así los calificaron como fiables (Ozturk et al. (2026)).
Con los agentes autónomos, el objeto de la calibración cambia. Nama (2026) sostiene que el usuario se convierte en un principal que ha delegado autoridad en un sistema cuyas acciones son en gran medida no observadas e irreversibles, lo que desplaza la competencia de juzgar resultados a entender qué se autorizó, supervisarlo y atribuir responsabilidad cuando ocurre un daño.
La procedencia se trata como requisito de primer orden en cuanto la IA toca la calificación o la certificación: las instituciones deben reconstruir cómo se tomaron las decisiones con consecuencias y quién tenía autoridad para confirmarlas, algo que un diseño de blockchain en consorcio ancla como registros a prueba de manipulación de eventos educativos, producciones de IA, acciones de calificación y certificados (Li et al. (2026)).
Conexiones
La calibración de la confianza es central para la alfabetización en IA y se sitúa junto a reducir el mal uso de la IA como intervención basada en habilidades: los estudiantes hacen mal uso de la IA en menor medida cuando pueden juzgar cuándo su producción merece confianza. Es también un objetivo de diseño: la seguridad pedagógica y las herramientas de transparencia buscan hacer legible la fiabilidad de la IA para que los estudiantes puedan calibrar con más precisión. La calibración también puede desplazarse a otro lugar cuando el artefacto mismo no ofrece nada que comprobar: en el curso de posgrado de Sidorkin (2026), donde la IA generaba las lecturas semanales, las citas en el texto aparecían en solo alrededor del 0,80 por ciento de las páginas, solo alrededor del 2,7 por ciento de los 837 turnos de estudiantes registrados contenía un movimiento consciente del riesgo, como corregir un supuesto de la IA o exigir un caso comprobable, y la confianza acotada declarada en los comentarios de la encuesta venía acompañada de cuatro de 24 encuestados usando lenguaje de dependencia y uno nombrando la necesidad de "supervisión del docente". Un artefacto no auditable transfiere por tanto el deber de verificación a quien pueda auditarlo, y la respuesta de diseño del estudio es institucionalizar esa supervisión en lugar de suponer que surgirá por sí sola una postura crítica.
-
La dependencia excesiva y la calibración como procesos poblacionales (2026): Un modelo de sistema adaptativo complejo de la dependencia de la IA muestra que la dificultad de la tarea y la calidad de la IA fijan una línea base tanto para la dependencia excesiva como para el arrepentimiento de calibración, mientras que la conectividad de la red y la prueba social determinan si la dependencia se propaga en cascada. Esto sugiere que la calibración no es solo un rasgo individual sino que está modulada por el entorno social e informacional (Modeling AI Overreliance as a Complex Adaptive System).
-
La calibración como objetivo explícito de la educación en aprendizaje automático (2026): ICE-T sostiene que la dependencia apropiada de la IA es en sí misma un resultado enseñado de la educación en aprendizaje automático. Integra la transferencia intermodal (los modos enactivo, icónico y simbólico de Bruner), el pensamiento computacional mediante la progresión Usar-Modificar-Crear y el pensamiento explicativo, dando a los estudiantes los modelos representacionales y la contextualización del error necesarios para calibrar la confianza y contrarrestar tanto la dependencia excesiva como la aversión a los algoritmos, lo que sitúa la enseñanza del aprendizaje automático como intervención de calibración y no solo como entrenamiento de habilidades.
-
Las explicaciones específicas del dominio pueden apoyar la calibración de los docentes (2025): En un experimento intra-sujeto con docentes de química en ejercicio que usaban una herramienta de recomendación con IA, Feldman-Maggor et al. (2025) encontraron que la explicabilidad ayudaba a los docentes a calibrar la confianza de forma indirecta al hacer el desempeño del sistema más comprensible, y que las explicaciones guiadas por el dominio en lenguaje curricular elevaban la confianza aprendida y la aceptación significativamente más que las basadas en la importancia de características de los datos. Aun así, varios docentes dijeron que se necesitaba experiencia real de aula antes de confiar plenamente en la herramienta, lo que subraya que la calibración se valida en última instancia mediante el uso y la práctica situados y no se confiere con la explicación sola.
-
La personalización no mueve la confianza de forma monótona; la pericia predice la auditoría (2026): En Bernstein y Sibia (2026), la confianza en las explicaciones de IA generativa no se movió en una sola dirección bajo personalización: un participante informó confiar más en una analogía adaptada y examinarla menos, otro informó confiar menos precisamente porque estaba muy personalizada. Lo que predijo consistentemente la auditoría fue la pericia de dominio, no la pertinencia, lo que apoya la idea de que la dependencia calibrada depende del conocimiento que el estudiante puede aportar a la comprobación y no de lo identificable que resulte la salida, y de que la pericia debería dividirse en conocimiento del dominio de origen y del dominio de destino.
-
Confianza condicional: utilidad de la retroalimentación frente a autoridad evaluativa (2026): AlGhamdi (2026) muestra que cuando estudiantes saudíes de informática saben que ChatGPT generó su nota de escritura, trazan una línea nítida entre aceptar la retroalimentación de la IA y cederle a la IA la autoridad de calificación: aceptan la primera para la revisión de superficie mientras reservan de forma consistente la autoridad evaluativa para el docente humano. Esta distinción entre utilidad de la retroalimentación y autoridad evaluativa es un caso concreto de calibración en el contexto de la evaluación: los estudiantes ajustan la confianza a la función de la IA (retroalimentación útil frente a calificación con consecuencias) en lugar de aceptarla o rechazarla en bloque, y la transparencia sobre la participación de la IA parece activar esta postura más calibrada y crítica.
-
Una herramienta que suprime y luego contradice sus propias advertencias (2026): Humble (2026) hizo red teaming de una herramienta de calificación con IA con instrucciones ocultas dentro de las entregas de los estudiantes. Dos de cinco inyecciones elevaron una nota suspensa sin advertencia visible (tasas de éxito del 100% y el 94%), una inyección en texto blanco en el cuerpo del documento falló en las nueve iteraciones, y en lugar de decir al usuario que había detectado algo, la herramienta desactivó el chat en silencio. El caso más crudo es una ejecución sobre un pdf que sí anunció que calificaría solo según las instrucciones oficiales de la tarea: volver a ejecutar el mismo archivo elevó la nota seis veces más sin advertencia, una tranquilidad que el autor describe como capaz de producir una falsa sensación de seguridad. Una señalización incoherente y autocontradictoria no da al usuario ninguna base fiable para juzgar cuándo depender de la herramienta, y el artículo es explícito en que no midió la confianza: el argumento se deriva de la manipulación y del comportamiento de notificación.
-
Controles de confianza colocados dentro de la ruta de inferencia (2025): Li, Yang y Fang (2025) tratan la calibración como arquitectura y no como informe: la calibración por dropout de Monte Carlo se combina con debiasing adversarial y una puerta de rechazo y derivación que retiene una puntuación cuando la varianza del dropout supera un umbral aprendido, alcanzando un error de calibración esperado de 0,032, una brecha de equidad del 1,8% y una reducción del 41% en la carga de revisión humana en TeacherEval-2023. Su propia sección de limitaciones es la cautela de calibración que se aplica a cualquier métrica de este tipo: la confianza es difícil de cuantificar solo con métricas de desempeño, la adopción por parte del docente depende de la fiabilidad percibida, la equidad y la pertinencia pedagógica, y los ensayos longitudinales de adopción y las encuestas de percepción son la evidencia que falta.
-
Constructos de confianza fragmentados, medidos sobre todo por autoinforme (2026): Una revisión sistemática examinó 1.565 artículos e incluyó 33 estudios empíricos sobre la confianza en sistemas habilitados por IA, y encontró que 21 (63,64%) informaban una definición tomada de nueve fuentes distintas y que 24 (72,73%) medían la confianza solo mediante autoinforme, con solo dos apoyándose únicamente en medidas conductuales. La explicabilidad fue el factor de diseño más estudiado (20 estudios) y aun así sus efectos fueron mixtos, ya que apilar varios tipos de explicación elevaba la carga cognitiva y a veces dejaba la confianza sin cambios. La recomendación de la revisión es diseñar para una confianza calibrada y no para la confianza máxima, juzgada por si un diseño ayuda a los usuarios a separar las salidas fiables de las que no lo son, que es el mismo estándar que esta página aplica a la conducta individual de verificación (Abramson et al. (2026)).
-
Calibrar las inferencias generadas por IA y no los datos brutos (2026): Hoppe, Loibl y Leuders (2026) sostienen que la evaluación apoyada por IA cambia el objeto de la calibración docente: una inferencia de un panel es el resultado de una interpretación algorítmica y no una señal que el docente observó, así que debe juzgarse por su plausibilidad y luego aceptarse, rechazarse o modificarse deliberadamente, un proceso cognitivo que llaman metadiagnóstico. Como los sistemas actuales se apoyan principalmente en datos de desempeño como la corrección y el tiempo de finalización, las señales de implicación y motivación todavía tienen que venir de la observación propia del docente, y los autores enmarcan el objetivo de formación como una confianza calibrada y no acrítica, construida junto con la alfabetización en datos y en IA. Es un análisis conceptual, así que la afirmación se argumenta y no se contrasta.
-
Un breve prompt de reflexión mueve la calibración de forma medible (2026): Ren (2026) asignó aleatoriamente a 342 estudiantes de grado a tomar decisiones de forma independiente, a recibir apoyo abierto de ChatGPT o al mismo apoyo más un breve prompt de reflexión. El apoyo abierto elevó la confianza final (76,1 frente a 68,4) y produjo un 62,4% de aceptación de consejos incorrectos de la IA, mientras que la reflexión redujo esa aceptación al 39,7% (OR = 0,40) y mejoró la calibración de la conciencia entre dependencia percibida y conductual (0,59 frente a 0,41) sin reducir la precisión de las recomendaciones, de modo que la dependencia que quedó era más discriminativa en lugar de uniformemente defensiva. Tratar la calibración como un problema de monitoreo apoya la tesis de la página de que los prompts metacognitivos, y no solo la exposición a los límites de un modelo, son lo que cambia la conducta.
-
La disponibilidad de la IA puede colapsar la disposición a admitir ignorancia (2026): A lo largo de cinco experimentos (N = 3.132), tener disponible un consejo de IA redujo la suspensión del juicio de 0,36 a 0,06 en un estudio y casi duplicó la confianza mientras la corrección agrupada cayó del 27,5% al 9,2%; lo que cambia es el umbral para responder. (Marcoccia et al., 2026)
-
La calibración como mediadora en una cadena hacia la transferencia (2026): Bu y Li (2026) prueban la calibración de la confianza como puente entre el apoyo contextual y los resultados de transferencia, y no como actitud general. En un diseño exploratorio secuencial de métodos mixtos (entrevistas y luego un instrumento de 22 ítems con una muestra analítica final de 642 estudiantes, CFI = 0,953), el apoyo contextual predijo la calibración de la confianza (β = 0,56) y la regulación colaborativa (β = 0,18), la calibración de la confianza predijo la regulación colaborativa (β = 0,49) y las ganancias percibidas de transferencia (β = 0,22), y la regulación colaborativa fue el motor proximal más fuerte de las ganancias percibidas de transferencia (β = 0,54), mientras que la ruta directa del apoyo contextual a la transferencia no fue significativa (β = 0,07). Dado que el resultado es transferencia percibida y no medida, y que los datos son transversales, el valor es interpretativo: enmarca la calibración como un constructo de proceso que convierte el apoyo contextual en un uso regulado y eficaz de la IA generativa.
-
La ansiedad como condición límite para que la alfabetización se convierta en confianza (2026): En una encuesta a 450 estudiantes universitarios de China continental que ya usaban ChatGPT, Hu (2026) encontró que la ruta de la alfabetización en IA a la confianza era la asociación más grande del modelo (beta = 0,50) y que la ansiedad ante la IA debilitaba ese vínculo (beta de interacción = -0,25), con pendientes simples que caían de 0,76 en una desviación estándar por debajo de la media de ansiedad a 0,25 por encima de ella, mientras que una ruta serial de alfabetización a confianza, a autoeficacia y a uso continuado era significativa. La calibración es por tanto en parte afectiva: el mismo conocimiento se traducía en menos confianza entre los estudiantes más ansiosos, y el diseño transversal deja abierto si la ansiedad bloquea la valoración que convierte el conocimiento en dependencia o refleja una evaluación sobre la que los estudiantes deciden no actuar.
-
La rotación de roles como estructura para practicar la crítica (2026): En un estudio de diseño con 62 psicólogos educativos en formación que pasaron por cuatro roles profesionales rotativos a lo largo de ocho semanas, Kenzhebayeva et al. (2026) hicieron que los participantes compararan recomendaciones generadas por IA con teoría psicológica y modificaran o rechazaran las que no encajaban con el caso, y aun así registraron dependencia excesiva de respuestas de IA aparentemente autorizadas, con algunos estudiantes buscando confirmación de la IA antes de ofrecer su propia interpretación incluso en ciclos posteriores. La rotación crea ocasiones repetidas para el juicio de aceptar o rechazar sin garantizarlo, y el estudio informa de implicación durante la intervención y no de ganancias de competencia medidas.
-
Las señales de identidad superficial mueven la confianza con independencia de la capacidad. A lo largo de dos experimentos (N = 396), los estudiantes calificaron avatares blancos, y avatares de hombres asiáticos en STEM, como más creíbles y competentes, penalizaron a los avatares de mujeres negras mayores en todas las medidas, y adoptaron con más facilidad la orientación de su endogrupo racial (Anthis y Kyriakidou-Zacharoudiou (2026)).
-
Una etiqueta de fuente mueve la aceptación sin mejorar la discriminación. Cuando 103 participantes juzgaron respuestas etiquetadas como ChatGPT o como computadora, la aceptación fue mayor con la etiqueta ChatGPT (68,0% frente a 63,4%, p = 0,002), y sin embargo la detección de señales no encontró diferencias por fuente en sensibilidad (p = 0,930) ni en criterio (p = 0,082) (Fabio, Rantuccio y Bruno, 2026). La etiqueta eleva la confianza sin elevar la precisión.
-
La dependencia es una decisión con precio, no solo una creencia. En un benchmark de 324 escenarios, cinco de siete modelos compraron verificación con valor esperado de la información cero o sobrecompraron salvaguardas, y suministrar posteriores explícitos corrigió algunos errores mientras creaba otros (Chu y Huang (2026)).
Implicaciones para la práctica
Para el profesorado
- Enseñe la comprobación, no la actitud. Una mayor confianza predijo una menor dependencia apropiada (r = -0,42) entre 432 estudiantes de grado que aceptaron el 86,03% de sugerencias deliberadamente engañosas, así que una instrucción que construye confianza generalizada empeora el problema.
- Incorpore la verificación a tareas donde es barata y visible: exija la fuente de una afirmación, el contraejemplo o la repetición de la ejecución. Los lectores a los que se mostró un resumen de IA hicieron clic en una fuente citada dentro de él solo en el 1% de las visitas e hicieron clic en los enlaces de resultados aproximadamente la mitad de a menudo, así que "citó algo" no certifica nada.
- Recuerde que la palanca es protectora y no correctiva. Los participantes que empezaron con un juicio equivocado recuperaron el correcto solo en el 30,6% y el 24,7% de los ensayos, por debajo del azar para una elección binaria, así que intervenga antes de que el estudiante se comprometa con el modelo equivocado y no después.
- Trate la confianza insuficiente también como un fallo de calibración; evitar una herramienta capaz no es la opción segura por defecto, es el mismo error apuntando en la otra dirección.
Para los desarrolladores
- Cambie la estructura de la interacción, no solo la etiqueta. Retener la posición agregada de un debate multiagente redujo el cambio perjudicial hacia posiciones incorrectas de la IA del 42-60,5% al 5,7-8,2%, una palanca estructural que no necesita confianza del usuario.
- Haga la procedencia inspeccionable en el punto de uso, ya que las tasas de clic en citas se desploman cuando el resumen se presenta como autorizado.
- Preserve la posición declarada por el estudiante y contraste con ella, en lugar de sustituir su borrador por una respuesta segura; los datos de recuperación muestran que esa sustitución rara vez se deshace.
Para los investigadores
- Mida la dependencia apropiada como resultado conductual contra la verdad de referencia, no como una puntuación de confianza. Las dos se correlacionan negativamente en el único estudio que midió ambas.
- Informe las tasas de recuperación de los participantes inicialmente equivocados por separado de la precisión global, porque el agregado oculta la cifra por debajo del azar que es la que más importa.
Quienes parecen más resilientes son los que más confiaron en la herramienta. En una encuesta a 300 estudiantes universitarios surcoreanos, Kim, Kim y Zhang (2026) encontraron que la confianza excesiva correlacionaba con la autoeficacia académica (r = 0,230), la motivación intrínseca (r = 0,224) y la expectativa de rendimiento (r = 0,360), y no con la alfabetización en IA (r = 0,051). En el modelo serial, la autoeficacia predijo la confianza excesiva directamente con B = 0,3901 (IC del 95% [0,2190, 0,5612]), por encima de su efecto total de 0,3397, lo que los autores leen como supresión. La calibración no puede deducirse de la confianza de quien aprende.
La calibración es un estado, no un resultado, y el resultado que autoriza tiene su propia página. El sesgo de automatización documenta el error concreto de aceptar un juicio automatizado sin comprobarlo: un docente que toma al pie de la letra una alerta de un panel, o un evaluador que acepta una puntuación automática de un texto que no volvió a leer.
Concepciones erróneas comunes
"Más confianza significa mejor uso de la herramienta." Confianza y calibración divergen, y la correlación va en la dirección equivocada. Entre 432 estudiantes de grado que resolvían problemas de Python con sugerencias de IA exactas y deliberadamente engañosas, una mayor confianza predijo una dependencia apropiada menor (r = -0,42), y los estudiantes aceptaron el 86,03% de las sugerencias engañosas. Una confianza generalizada no es el objetivo; una confianza ajustada sí lo es.
"Confiar de menos es la opción segura por defecto." Evitar por completo una herramienta capaz es un fallo de calibración que apunta en la otra dirección. Ambos desajustes le cuestan al estudiante: uno por dependencia, el otro por capacidad renunciada, lo que hace de "sé escéptico" una instrucción tan pobre como "confía en ella".
"La calibración puede corregirse a posteriori." La palanca es protectora y no correctiva. Los participantes que empezaron con un juicio equivocado recuperaron la decisión correcta solo en el 30,6% y el 24,7% de los ensayos, por debajo del azar para una elección binaria. Una vez que un estudiante se ha comprometido con el modelo equivocado, la corrección no es fiable, así que la intervención tiene que llegar antes del compromiso y no después.
"Comprobar es fácil, así que los estudiantes a los que les importa lo harán." Comprobar es barato y rara vez se hace. En un estudio de seguimiento pasivo con 900 adultos estadounidenses, los lectores que vieron un resumen generado por IA hicieron clic en una fuente citada dentro de él solo en el 1% de las visitas, e hicieron clic en cualquier enlace de resultado aproximadamente la mitad de a menudo que los lectores que no vieron ningún resumen. El resumen suprime la verificación en lugar de provocarla, así que la comprobación debe incorporarse a la tarea y no darse por supuesta a partir de la diligencia.
"Presentación y sustancia pueden separarse con un lector cuidadoso." La fluidez es lo que gana confianza inmerecida, y por eso la calibración es un problema de diseño y no solo una habilidad del estudiante. Un sistema cuya interfaz señala autoridad será creído en ese nivel con independencia de las instrucciones en contrario.
Conceptos conectados
- IA explicable
- Sesgo de automatización — el error de aceptación que autoriza una confianza descalibrada
- Alfabetización en IA
- Descarga cognitiva
- Riesgo de alucinación
- Metacognición
- Aprendizaje autorregulado
- Colaboración humano-IA
- Ideas erróneas sobre la IA
- Reducir el mal uso de la IA
- Seguridad pedagógica
- Medidas de autoinforme
- Mal uso de la IA y daño al aprendizaje
- Rendición cognitiva
Artículos conectados
- Do People Trust AI Assistants Even When They Are Consistently Wrong? — ¿Confía la gente en los asistentes de IA incluso cuando se equivocan sistemáticamente?
- AI assistance made people worse at catching the AI's mistakes — 416 evaluadores, 3.957 ítems: la asistencia con el candidato primero redujo la detección de errores en los ítems fallados por el modelo del 36,7% al 20,6% (Shi et al., 2026)
- When AI advice agrees or disagrees with human judgment: trust, self-efficacy, psychological resilience, and adaptive responses in physical education — Cuando el consejo de la IA coincide o no con el juicio humano: confianza, autoeficacia, resiliencia psicológica y respuestas adaptativas en educación física
- "Do You Trust It... or Check It?": Exploring Children's Verification Behaviors in Game-Based Human-AI Collaboration — Conductas de verificación de los niños en la colaboración humano-IA basada en juegos
- Who Should Grade My Work? Student Perspectives on Transparent AI-Assisted Writing Assessment in Higher Education — Perspectivas estudiantiles sobre la evaluación transparente de la escritura asistida por IA (AlGhamdi 2026)
- Countering the Risks of AI Overreliance: Leveraging Multi-Agent Debate for Complementary Human–AI Decision-Making in Legal Contexts — La calibración reencuadrada: retener la posición del sistema es protector, no correctivo
- Epistemic dependence in AI-mediated learning — Seis criterios diagnósticos que separan la dependencia productiva de la dependencia dañina (Du y Yuan 2026)
- Addressing Trust in AI Systems through Education: A Didactic Perspective — Addressing Trust in AI Systems through Education: A Didactic Perspective
- From Plausibility to Verifiability: The PEARLS Framework for Developing Epistemic Agency in Generative AI-Mediated Higher Education — El marco PEARLS para la agencia epistémica y la verificación de la producción de la IA (Wang 2026)
- Trust-utility gap in introductory physics education: Students' adoption, domain-specific skepticism, and preferences for AI integration
- Face value: How avatar identity shapes epistemic trust in AI-mediated learning
- Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named — Deuda de alfabetización agéntica: la brecha estructural de alfabetización en IA que crean los agentes autónomos (Nama 2026)
- Trust and Reliance on AI in Education: AI Literacy and Need for Cognition as Moderators — Trust and Reliance on AI in Education
- Calibrating Trustworthiness: Co-Designing Metrics and Visualizations for Evaluating LLMs in Education — Calibrating Trustworthiness: Co-Designing Metrics for LLMs in Education
- The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows — The LLM Fallacy and Misattribution of Competence
- AI as a Partner in Learning about, Doing, and Engaging with Science: Vigilance as the Key to Productive Augmentation — Epistemic Vigilance as the Key to Productive Augmentation
- AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
- Modeling AI Overreliance as a Complex Adaptive System — La dependencia excesiva de la IA modelada como sistema adaptativo complejo
- The Impact of Explainable AI on Teachers' Trust and Acceptance of AI EdTech Recommendations: The Power of Domain-specific Explanations
- Flawed but Memorable: Student Critical Reception of Interest-Personalized GenAI Analogies in Computing Education — Flawed but Memorable: Student Critical Reception of Interest-Personalized GenAI Analogies in Computing Education
- Why we believe chatbots: trust calibration as a design problem — La calibración de la confianza reencuadrada como problema de diseño: una tipología bidimensional de usuarios y ocho proposiciones de diseño (Jaidka y Cai 2026)
- Ethical implications of prompt injection in AI-mediated grading: An adversarial red-team evaluation — Inyección de prompts en la calificación mediada por IA: una herramienta que suprimió y contradijo sus propias advertencias (Humble 2026)
- Towards trustworthy and explainable-by-design large language models for automated teacher assessment — Inferencia condicionada por la confianza y evaluación explicable por diseño, con la confianza sin medir (Li et al. 2025)
- AI-assisted automated short answer grading of handwritten university-level mathematics exam — filtrado por confianza de las notas de IA y su tasa de falsos positivos
- Bounded reliance: A source credibility perspective on EFL students' engagement with AI-generated writing feedback — Bounded Reliance: A Source Credibility Perspective on EFL Students' Engagement with AI-Generated Writing Feedback
- Trust and interaction design in AI-enabled systems: a systematic literature review — La confianza en sistemas habilitados por IA: definiciones, medición y factores de diseño en 33 estudios empíricos (Abramson et al. 2026)
- Rethinking teachers’ diagnostic skills in AI-supported formative assessment: from diagnosis to meta-diagnosis — Del diagnóstico al metadiagnóstico: docentes que evalúan inferencias diagnósticas generadas por IA (Hoppe et al. 2026)
- College students’ metacognitive awareness of generative-AI reliance: an experimental study of decision confidence and attribution bias — Un prompt de reflexión reduce la aceptación de consejos incorrectos de la IA (Ren 2026)
- Trust calibration and perceived developmental gains in university students' collaboration with generative AI: an exploratory sequential mixed methods study — La calibración de la confianza como mediadora en una cadena del apoyo contextual a las ganancias percibidas de transferencia (Bu y Li 2026)
- Psychological predictors of continued ChatGPT use among university students: the roles of AI literacy, trust, and academic self-efficacy — La confianza como gozne entre la alfabetización en IA y el uso continuado, debilitada por la ansiedad ante la IA (Hu 2026)
- Designing an AI-integrated role-rotation pedagogical model to support competence-related learning in pre-service educational psychologists — La rotación de roles como estructura para manejar críticamente las recomendaciones de IA (Kenzhebayeva et al. 2026)
- Student Use of LLMs and the Limits of AI-Generated Question Difficulty in Data Science Courses — Student Use of LLMs and the Limits of AI-Generated Question Difficulty in Data Science Courses
- The critical role of trust in adopting AI-powered educational technology for learning: An instrument for measuring student perceptions — Un instrumento para estudiantes que valida la confianza en la tecnología educativa con IA como cuatro factores, con la confianza antes de la utilidad percibida (Nazaretsky et al. 2025)
- How Children Design and Reason about Trustworthy AI Chatbots — Cómo los niños diseñan y razonan sobre chatbots de IA fiables
- Trusting AI too much? Psychological correlates of overtrust and the role of AI literacy — La confianza excesiva correlacionó con la autoeficacia y la expectativa de rendimiento, pero no con la alfabetización en IA, en 300 estudiantes