En esta página

Esta página está traducida al español. Las páginas de artículo siguen escritas en inglés. Leer esta página en inglés

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

Calibración de la confianza — la capacidad metacognitiva de alinear la propia confianza en un sistema de IA con su fiabilidad real en un contexto dado, sabiendo cuándo confiar y cuándo cuestionar su salida. La calibración de la confianza es el antídoto directo contra la dependencia excesiva: es la habilidad de ajustar la confianza a la evidencia y no a la fluidez segura de una IA.

Preguntas para reflexionar

  • ¿Ha aceptado alguna vez una respuesta de IA que sonaba segura y verosímil y después descubrió que era errónea? ¿Qué fue lo que, en la presentación y no en el contenido, se ganó su confianza? Ese momento es el tema de esta página.
  • La mayoría de la gente da por supuesto que el riesgo es confiar demasiado en la IA. Pero la página sostiene que confiar demasiado poco —evitar por completo una herramienta capaz— es igualmente un fallo de calibración. ¿Se inclina usted por aceptar o por evitar la salida de la IA, y qué podría estar perdiendo por ese comportamiento por defecto?
  • Una respuesta de IA fluida y segura «se lee como digna de confianza, lo sea o no». Antes de seguir leyendo, ¿qué criterios usaría para decidir cuándo una salida que suena segura merece de verdad su confianza, y resistirían esos criterios ante un tema oscuro y de altas consecuencias del que usted no sabe nada?
  • La página sugiere que la calibración depende del contexto: verificar más donde los errores son costosos y menos donde son benignos. ¿Dónde es mayor el coste de una respuesta equivocada en su propio trabajo o estudio, y cómo ajustaría su esfuerzo de verificación en consecuencia?
  • La investigación modela la confianza como algo que no solo moldea el juicio individual, sino también el entorno social: lo que hacen los pares y las redes. Piense en alguna ocasión en que un compañero de clase, un colega o una comunidad en línea le convenciera de que una IA era (o no era) fiable. ¿Calibró a partir de la evidencia o de esa señal social?
  • Un hallazgo: decir al estudiantado que un tutor de IA puede cometer errores en realidad aumentó cuánto lo usaban. ¿Por qué podría advertir de la falibilidad hacer que la gente esté más dispuesta a implicarse, y qué sugiere eso sobre cómo la honestidad acerca de los límites de la IA debería moldear su propio uso de estas herramientas?

Introducción

La prosa fluida y segura de un modelo de lenguaje se lee como digna de confianza lo sea o no. La calibración de la confianza es el contrapeso a esa ilusión: la práctica de evaluar la salida de la IA frente a su verificabilidad y a las consecuencias de la tarea, en lugar de aceptarla por la fuerza de su presentación. Como la confianza suele medirse preguntando, las afirmaciones sobre la calibración heredan los límites de las medidas autoinformadas: la confianza declarada y la conducta de verificación observada pueden divergir, como encontró un estudio de física.

El desarrollo de instrumentos empieza a abordar esa brecha de medición de forma directa: Nazaretsky et al. (2025) validaron un instrumento de cuatro factores (utilidad percibida, obstáculos, disposición y confianza, con 21 ítems y 665 estudiantes) cuyo movimiento distintivo es separar la confiabilidad percibida de una herramienta de la disposición del estudiante que confía en ella, de modo que la utilidad y los obstáculos pueden puntuarse al margen de la disposición a confiar. Su modelo estructural sitúa la confianza antes de la utilidad percibida, y no después como el modelo de aceptación tecnológica suele leer la adopción, y las dos medias divergen en la dirección que importa para la calibración: la confianza (3,31) quedó por debajo de la utilidad (3,62).

Por qué hay que calibrar la confianza

La confianza no calibrada adopta dos formas. La confianza excesiva (aceptar la salida de la IA sin verificación) produce la aceptación acrítica que documentan la investigación sobre la dependencia excesiva y la dependencia excesiva, y agrava el riesgo de alucinación de los errores seguros. La confianza insuficiente (evitar la IA por completo) renuncia a beneficios legítimos. Ambas provienen de la misma raíz: una confianza basada en la apariencia y no en la evidencia. La investigación sobre las ideas erróneas muestra que el estudiantado suele caer por defecto en la confianza excesiva porque da por supuesto que una IA que «suena bien» tiene razón.

Cómo funciona la calibración

  • Hábitos de verificación: contrastar las afirmaciones de la IA con fuentes primarias y con la regla de «la IA propone, tú verificas», en lugar de aceptar salidas que suenan verosímiles.
  • Conciencia del contexto: reconocer que la confiabilidad varía según la tarea: un tema muy transitado que el modelo ha visto ampliamente es más seguro que uno oscuro, de altas consecuencias o que cambia rápido.
  • Ajuste según las consecuencias: aplicar más escrutinio donde los errores son costosos (trabajos entregados, afirmaciones médicas o jurídicas) y menos donde son benignos.
  • Monitorización metacognitiva: hacer seguimiento de cuándo y por qué uno confía en exceso, lo que conecta la calibración con la metacognición y el aprendizaje autorregulado.

Dónde está en realidad el límite de la confianza depositada

La investigación sobre calibración suele tratar la confianza como un único juicio. Serpil y Mor (2026) muestran que la valoración se divide en dimensiones que no obligan por igual. Al entrevistar a 17 estudiantes de grado de inglés como lengua extranjera tras un semestre usando GROK para recibir retroalimentación sobre su escritura, encontraron que la pericia percibida era alta —el estudiantado atribuía a la herramienta mejoras en vocabulario, gramática, estructura y coherencia, y leía sus explicaciones de las revisiones sugeridas como evidencia de competencia—, mientras que la confiabilidad, referida sobre todo a qué ocurría con sus datos, y la buena voluntad, con una retroalimentación vivida como impersonal y a veces desmotivadora, se mantenían bajas. La confianza depositada siguió a las dimensiones débiles y no a la fuerte: el estudiantado autorizó la herramienta para retroalimentación lingüística amplia y reservó la orientación individualizada y relacional para el docente. La implicación para la calibración es que mejorar la precisión no eleva el techo de uso; la transparencia sobre los datos y el encuadre didáctico en torno a una herramienta son en sí mismos intervenciones de calibración.

La calibración como problema de diseño

Tratar la mala calibración como un simple déficit de la persona usuaria —algo que se arregla enseñando a la gente a comprobar la salida de la IA— puede ser un error de categoría. Jaidka y Cai (2026) sostienen que las facilidades de transparencia son inertes: esperan a que la persona usuaria actúe sobre ellas, y la mayoría no lo hace. En un estudio de seguimiento pasivo con 900 personas adultas de EE. UU., quienes veían un resumen generado por IA hicieron clic en una fuente citada dentro de él solo en el 1% de las visitas, y en cualquier enlace de resultado aproximadamente la mitad de a menudo que quienes no veían ningún resumen. La evidencia de encuesta muestra la misma brecha a escala: en un estudio con 81.000 personas de 159 países, la falta de fiabilidad fue la preocupación más citada sobre la IA, mientras que más de 48.000 personas encuestadas de 47 países usaban en gran medida la IA a diario incluso cuando decían no confiar en ella. Confianza y uso se han ido separando, y el artículo sitúa la causa en las señales superficiales: la fluidez, la seguridad y la rapidez sustituyen a la verificabilidad, de modo que la seguridad y la corrección se desacoplan. En particular, la autoría de una máquina puede inflar la credibilidad: quienes leían valoraban los resúmenes científicos como más creíbles y más dignos de confianza cuando los escribía GPT que cuando los escribía una persona, sobre todo porque el modelo escribía en un lenguaje más sencillo.

La implicación de diseño es una tipología bidimensional de personas usuarias —la capacidad de verificar la salida de un chatbot cruzada con la motivación para hacerlo— que predice qué usuarios se descalibrarán en qué dirección. Los autores la emparejan con dos familias de intervención que deben operar juntas: las facilidades de interpretabilidad (razonamientos, citas, señales de incertidumbre) que hacen posible la evaluación, y los mecanismos de implicación que hacen que ocurra de verdad, dispuestos con el modelo del queso suizo de Reason en ocho proposiciones contrastables. La alfabetización en IA se sitúa como la capa duradera que sostiene ambas, y mueve a las personas usuarias entre las celdas de la tipología. El reencuadre importa para la educación porque desplaza la responsabilidad: si las citas transparentes no se hacen clic en la población general, entonces exponer al estudiantado a las explicaciones de la IA no lo calibrará por sí solo; la facilidad tiene que diseñarse para forzar la comprobación.

Conexiones

La calibración de la confianza es central para la alfabetización en IA y se sitúa junto a reducir el mal uso de la IA como intervención basada en habilidades: el estudiantado hace menos mal uso de la IA cuando puede juzgar cuándo su salida merece confianza. También es un objetivo de diseño: la seguridad pedagógica y las herramientas de transparencia buscan hacer legible la fiabilidad de la IA para que quienes aprenden puedan calibrar con más precisión. La calibración también puede desplazarse a otro lugar cuando el propio artefacto no ofrece nada que comprobar: en el curso de posgrado de Sidorkin (2026), donde la IA generaba las lecturas semanales, las citas en el texto aparecían en solo alrededor del 0,80 por ciento de las páginas, solo alrededor del 2,7 por ciento de los 837 turnos del estudiantado registrados contenían un movimiento consciente del riesgo, como corregir un supuesto de la IA o exigir un caso comprobable, y la confianza acotada que se reportaba en los comentarios de la encuesta venía acompañada de cuatro de 24 personas encuestadas usando lenguaje de dependencia y una mencionando la necesidad de «supervisión docente». Un artefacto no auditable transfiere por tanto el deber de verificación a quien pueda auditarlo, y la respuesta de diseño del estudio es institucionalizar esa supervisión en lugar de dar por supuesto que surgirá por sí sola una postura crítica.

  • La dependencia excesiva y la calibración como procesos poblacionales (2026): un modelo de sistema adaptativo complejo sobre la confianza en la IA muestra que la dificultad de la tarea y la calidad de la IA fijan una línea base tanto para la dependencia excesiva como para el arrepentimiento por la calibración, mientras que la conectividad de la red y la prueba social determinan si la confianza se propaga en cascada. Esto sugiere que la calibración no es solo un rasgo individual, sino que la modula el entorno social e informativo (Modeling AI Overreliance as a Complex Adaptive System).

  • La calibración como objetivo explícito de la educación en aprendizaje automático (2026): ICE-T sostiene que la confianza adecuada en la IA es en sí misma un resultado enseñado de la educación en aprendizaje automático. Integra la transferencia intermodal (los modos enactivo, icónico y simbólico de Bruner), el pensamiento computacional mediante la progresión Usar-Modificar-Crear y el pensamiento explicativo, y da a quien aprende los modelos representacionales y la contextualización del error necesarios para calibrar la confianza y contrarrestar tanto la dependencia excesiva como la aversión a los algoritmos, lo que sitúa la enseñanza del aprendizaje automático como una intervención de calibración y no solo como entrenamiento de habilidades.

  • Las explicaciones específicas de cada disciplina pueden apoyar la calibración del profesorado (2025): en un experimento intrasujeto con profesorado de química en activo que usaba una herramienta de recomendación con IA, Feldman-Maggor et al. (2025) encontraron que la explicabilidad ayudaba al profesorado a calibrar la confianza de forma indirecta, al hacer más comprensible el rendimiento del sistema, y que las explicaciones impulsadas por el dominio en lenguaje curricular aumentaban la confianza aprendida y la aceptación significativamente más que las basadas en datos e importancia de características. Aun así, varios docentes dijeron que necesitaban experiencia real en el aula antes de confiar plenamente en la herramienta, lo que subraya que la calibración se valida en última instancia mediante el uso y la práctica situados, y no se concede solo con una explicación.

  • La personalización no mueve la confianza de forma monótona; la pericia predice la auditoría (2026): en Bernstein y Sibia (2026), la confianza en las explicaciones de IA generativa no se movió en una única dirección bajo personalización: una persona participante reportó confiar más en una analogía adaptada y escrutarla menos, y otra reportó confiar menos precisamente porque estaba muy personalizada. Lo que predijo de forma consistente la auditoría fue la pericia en el dominio y no la pertinencia, lo que respalda la idea de que la confianza calibrada depende del conocimiento que quien aprende puede aportar a la comprobación y no de lo identificable que resulte la salida, y de que la pericia debería dividirse en conocimiento del dominio de origen y del dominio de destino.

  • Confianza condicional: utilidad de la retroalimentación frente a autoridad evaluativa (2026): AlGhamdi (2026) muestra que, cuando el estudiantado saudí de informática sabe que ChatGPT generó su nota de escritura, traza una línea nítida entre aceptar la retroalimentación de la IA y ceder a la IA la autoridad de calificación: acepta lo primero para revisiones superficiales y reserva de forma consistente la autoridad evaluativa para el docente humano. Esta distinción entre la utilidad de la retroalimentación y la autoridad evaluativa es un caso concreto de calibración en el contexto de la evaluación: el estudiantado ajusta la confianza a la función de la IA (retroalimentación útil frente a calificación con consecuencias) en lugar de aceptarla o rechazarla en bloque, y la transparencia sobre la implicación de la IA parece activar esta postura más calibrada y crítica.

  • Una herramienta que suprime y luego contradice sus propias advertencias (2026): Humble (2026) hizo un ejercicio de equipo rojo sobre una herramienta de calificación con IA con instrucciones ocultas dentro de las entregas del estudiantado. Dos de cinco inyecciones elevaron una nota de suspenso sin ninguna advertencia visible (tasas de éxito del 100% y el 94%), una inyección en texto blanco dentro del cuerpo del documento falló en las nueve iteraciones, y en lugar de informar a la persona usuaria de que había detectado algo, la herramienta desactivó el chat en silencio. El caso más crudo es una ejecución en pdf que sí anunció que calificaría solo según las instrucciones oficiales de la tarea: volver a ejecutar el mismo archivo subió la nota seis veces más sin advertencia, una garantía que el autor describe como capaz de producir una falsa sensación de seguridad. Una señalización incoherente y que se contradice a sí misma no da a la persona usuaria ninguna base fiable para juzgar cuándo confiar en la herramienta, y el artículo dice explícitamente que no midió la confianza: el argumento se deriva de la manipulación y del comportamiento de reporte.

  • Controles de confianza situados dentro de la ruta de inferencia (2025): Li, Yang y Fang (2025) tratan la calibración como arquitectura y no como reporte: combinan la calibración por dropout de Monte Carlo con el desesgo adversarial y una puerta de rechazo y derivación que retiene una puntuación cuando la varianza del dropout supera un umbral aprendido, y alcanzan un error de calibración esperado de 0,032, una brecha de equidad del 1,8% y una reducción del 41% en la carga de revisión humana en TeacherEval-2023. Su propia sección de limitaciones es la advertencia de calibración que se aplica a cualquier métrica de este tipo: la confianza es difícil de cuantificar solo a partir de métricas de rendimiento, la adopción por parte del profesorado depende de la fiabilidad percibida, la equidad y la relevancia pedagógica, y los ensayos longitudinales de adopción y las encuestas de percepción son la evidencia que falta.

  • Constructos de confianza fragmentados, medidos sobre todo por autoinforme (2026): una revisión sistemática examinó 1.565 artículos e incluyó 33 estudios empíricos sobre la confianza en sistemas habilitados por IA, y encontró que 21 (63,64%) reportaban una definición procedente de nueve fuentes distintas y que 24 (72,73%) medían la confianza solo mediante autoinforme, y solo dos se apoyaban únicamente en medidas conductuales. La explicabilidad fue el factor de diseño más estudiado (20 estudios), pero sus efectos fueron mixtos, ya que acumular varios tipos de explicación aumentaba la carga cognitiva y a veces dejaba la confianza igual. La recomendación de la revisión es diseñar para una confianza calibrada y no para la confianza máxima, juzgada por si un diseño ayuda a las personas usuarias a separar las salidas fiables de las que no lo son, que es el mismo estándar que esta página aplica a la conducta individual de verificación (Abramson et al. (2026)).

  • Calibrar las inferencias generadas por IA y no los datos brutos (2026): Hoppe, Loibl y Leuders (2026) sostienen que la evaluación apoyada por IA cambia el objeto de la calibración docente: la inferencia de un cuadro de mando es el resultado de una interpretación algorítmica y no una señal que el docente haya observado, así que debe juzgarse por su plausibilidad y luego aceptarse, rechazarse o modificarse de forma deliberada, un proceso cognitivo que llaman metadiagnóstico. Como los sistemas actuales se apoyan principalmente en datos de rendimiento, como la corrección y el tiempo de finalización, las señales de implicación y motivación aún tienen que venir de la observación del propio docente, y los autores enmarcan el objetivo de formación como una confianza calibrada y no acrítica, construida junto con la alfabetización en datos y en IA. Es un análisis conceptual, así que la afirmación se argumenta y no se pone a prueba.

  • Un breve prompt de reflexión mueve la calibración de forma medible (2026): Ren (2026) asignó aleatoriamente a 342 estudiantes de grado a tomar decisiones de forma independiente, a recibir apoyo abierto de ChatGPT o a ese mismo apoyo más un breve prompt de reflexión. El apoyo abierto elevó la confianza final (76,1 frente a 68,4) y produjo una aceptación del 62,4% de consejos incorrectos de la IA, mientras que la reflexión redujo esa aceptación al 39,7% (OR = 0,40) y mejoró la calibración de la conciencia entre la confianza percibida y la conductual (0,59 frente a 0,41) sin reducir la precisión de las recomendaciones, de modo que la confianza que quedó era más discriminativa y no uniformemente defensiva. Tratar la calibración como un problema de monitorización respalda la idea de la página de que lo que cambia la conducta son los prompts metacognitivos, y no solo la exposición a los límites de un modelo.

  • La calibración como mediadora en una cadena hacia la transferencia (2026): Bu y Li (2026) ponen a prueba la calibración de la confianza como puente entre el apoyo contextual y los resultados de transferencia, y no como una actitud general. En un diseño de métodos mixtos secuencial exploratorio (entrevistas y después un instrumento de 22 ítems, con una muestra analítica final de 642 estudiantes, CFI = 0,953), el apoyo contextual predijo la calibración de la confianza (β = 0,56) y la corregulación colaborativa (β = 0,18); la calibración de la confianza predijo la corregulación colaborativa (β = 0,49) y las ganancias percibidas de transferencia (β = 0,22); y la corregulación colaborativa fue el impulsor próximo más fuerte de las ganancias percibidas de transferencia (β = 0,54), mientras que la ruta directa del apoyo contextual a la transferencia no fue significativa (β = 0,07). Como el resultado es una transferencia percibida y no medida, y los datos son transversales, el valor es interpretativo: enmarca la calibración como un constructo de proceso que convierte el apoyo contextual en un uso regulado y eficaz de la IA generativa.

  • La ansiedad como condición límite para que la alfabetización se convierta en confianza (2026): en una encuesta a 450 estudiantes universitarios de China continental que ya usaban ChatGPT, Hu (2026) encontró que la ruta de la alfabetización en IA a la confianza era la asociación más grande del modelo (beta = 0,50) y que la ansiedad por la IA debilitaba ese vínculo (beta de interacción = -0,25), con pendientes simples que caían de 0,76 a una desviación típica por debajo de la media de ansiedad a 0,25 por encima de ella, mientras que una ruta serial de la alfabetización a la confianza, a la autoeficacia y al uso continuado era significativa. La calibración es, por tanto, en parte afectiva: el mismo conocimiento se traducía en menos confianza entre el estudiantado más ansioso, y el diseño transversal deja abierto si la ansiedad bloquea la valoración que convierte el conocimiento en confianza depositada o refleja una evaluación sobre la que el estudiantado decide no actuar.

  • La rotación de roles como estructura para practicar la crítica (2026): en un estudio basado en el diseño con 62 futuros psicólogos educativos que pasaron por cuatro roles profesionales rotatorios a lo largo de ocho semanas, Kenzhebayeva et al. (2026) hicieron que las personas participantes compararan las recomendaciones generadas por IA con la teoría psicológica y modificaran o rechazaran las que no encajaban con el caso, y aun así registraron dependencia excesiva de respuestas de IA aparentemente autorizadas, con algunos estudiantes buscando la confirmación de la IA antes de ofrecer su propia interpretación incluso en ciclos posteriores. La rotación crea ocasiones repetidas para el juicio de aceptar o rechazar sin garantizarlo, y el estudio reporta implicación durante la intervención y no ganancias de competencia medidas.

Conceptos conectados

Artículos conectados

Preguntas frecuentes relacionadas

Incrustar esta página

Copy the code below to embed a chromeless version of this page in a learning management system or other website. The embedded view hides the site header, navigation, and footer.