En esta página

Esta página está traducida al español. Las páginas de artículo siguen escritas en inglés. Leer esta página en inglés

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

Confianza: la disposición de estudiantes, educadores e instituciones a apoyarse en una persona o en un sistema de IA para el aprendizaje, el juicio y la toma de decisiones. En la educación con IA, la confianza abarca dos ámbitos relacionados pero distintos: la confianza en la IA (la seguridad en la competencia, la transparencia, la fiabilidad y la benevolencia de un sistema o agente de IA) y la confianza interpersonal (la confianza relacional entre estudiantes y docentes, entre estudiantes y pares, y en el conjunto de la institución). Ambas son de doble filo: la confianza apropiada permite una implicación productiva, mientras que la confianza excesiva invita a la dependencia excesiva y la confianza insuficiente bloquea un uso beneficioso. El reto central es la calibración: alinear la confianza con la fiabilidad real, pertenezca esa fiabilidad a un modelo o a una persona.

Preguntas para reflexionar

  • Cuando dice que 'confía' en una herramienta de IA frente a confiar en un docente o en un colega, ¿está describiendo lo mismo? ¿Qué hay de parecido y qué de fundamentalmente distinto entre depositar la confianza en un sistema y depositarla en una persona?
  • Existe una 'brecha entre confianza y utilidad' documentada: la competencia aparente de una herramienta suele superar su fiabilidad real. Recuerde una herramienta que parecía impresionante pero le falló, o una que parecía limitada y resultó fiable. ¿Qué moldeó la brecha entre cómo se veía y lo que realmente podía hacer?
  • Piense en una IA que siempre está de acuerdo con usted y nunca cuestiona sus ideas. Puede resultar cómoda y digna de confianza, pero ¿es el acuerdo lo mismo que la fiabilidad? ¿A qué podría estar renunciando si la herramienta en la que se apoya nunca le lleva la contraria?
  • El entusiasmo o el escepticismo de un docente hacia la IA puede contagiarse al estudiantado. En un curso que conoce bien, ¿cómo influiría en que los estudiantes aceptaran o cuestionaran la herramienta?
  • Los estudiantes suelen decidir si declaran su uso de IA según su comodidad con el docente más que según la política. Si fuera (o es) estudiante, ¿qué le haría estar dispuesto a ser honesto sobre su uso de la IA, y qué le haría ocultarlo? ¿Qué dice eso sobre cómo se construye realmente la confianza en un aula?
  • Un hallazgo: un tutor de IA que advierte 'puedo cometer errores' llevó a los estudiantes a buscar más ayuda, no menos. ¿Qué sugiere eso sobre si reconocer los límites socava o fortalece la confianza que sostiene el aprendizaje real?

Introducción

La confianza en la IA está moldeada por la competencia percibida, la transparencia, la consistencia y por si el sistema parece alineado con los objetivos del estudiante; está estrechamente ligada a la alfabetización en IA (saber en qué confiar), al pensamiento crítico (evaluar la producción) y al diseño de una IA responsable. La confianza interpersonal, en cambio, se construye mediante relaciones, la revelación de información, la retroalimentación y el cuidado pedagógico: las cualidades en las que se apoyan los estudiantes cuando deciden si un docente o una IA es una fuente fiable de orientación. Los dos ámbitos interactúan cada vez más: la IA está entretejida en las relaciones entre docentes y estudiantes, así que cómo confían los estudiantes en su docente moldea cómo confían (o cuestionan) las herramientas de IA que ese docente recomienda.

La confianza es una víctima medida, no solo un principio. En Gillette et al. (2026), los estudiantes dijeron confiar menos en sus compañeros tras descubrir un uso no declarado de IA generativa en un trabajo en grupo, y lo calificaron de "perjudicial para la confianza y la ética de la academia", mientras que unos pocos sospechaban que los docentes usaban IA generativa y se lo ocultaban a los estudiantes.

La confianza en los sistemas de IA

La investigación examina cuándo confían los estudiantes de forma apropiada en la orientación generada por IA. Las advertencias sobre la falibilidad de la IA pueden mejorar la calibración: una intervención sencilla de transparencia que decía a los estudiantes que un tutor de IA podía equivocarse aumentó la búsqueda de ayuda en un sistema de tutoría inteligente de matemáticas, lo que sugiere que reconocer los límites con honestidad fomenta una dependencia apropiada en lugar de socavarla. El codiseño de métricas de fiabilidad con ingenieros de aprendizaje muestra que la confianza se construye mejor sobre criterios observables y acordados que sobre una capacidad supuesta. Los estudios de física y de generación de imágenes revelan una brecha entre confianza y utilidad persistente: los usuarios deben sopesar la competencia aparente de una herramienta frente a su fiabilidad real en una tarea. Entre los usuarios más jóvenes, Vahedian Movahed y Martin (2025) encontraron que el 52% de los niños (de 6 a 14 años) confiaba en general en un chatbot adaptado a su edad y el 35% confiaba en él como en un docente o un amigo, y cerca de un tercio estaba dispuesto a confiarle confidencias. Los niños también ponían a prueba su credibilidad con preguntas de respuesta conocida, y la confianza no mostró diferencias estadísticamente significativas por curso, lo que ilustra cómo la confianza temprana puede formarse antes de la evaluación crítica.

La transparencia sobre qué es un sistema, y no solo sobre lo que puede hacer, también moldea la calibración: el prototipo de acompañamiento Amico hacía explícitos su identidad y sus límites, y su piloto entre Italia y China encontró que los estudiantes lo reconocían como una herramienta de apoyo acotada y no como un tutor autónomo o un sustituto relacional, evitando una confianza excesiva de tipo antropomórfico (Benedetti (2026)).

En las instituciones de educación superior, la palanca puede ser la utilidad más que las reglas: en una encuesta a 2.121 estudiantes, profesorado y personal de una misma universidad, la utilidad percibida superó a la claridad de las políticas como correlato de la confianza en la IA (β = 0,402 frente a 0,223) (Braun y Khafizov, 2026). La desconfianza en la exactitud puede coexistir con la confianza en el manejo de la herramienta. En una encuesta a 8.021 estudiantes de cuatro universidades australianas, el 51% desconfiaba de la exactitud factual de la IA generativa mientras que el 76% se sentía capaz de obtener los resultados que quería, y el uso lo impulsaba la utilidad más que la confianza o el cumplimiento de las normas (Chung et al., 2026).

La modelización de la dependencia excesiva de la IA como sistema adaptativo complejo reformula la confianza como un proceso a nivel de población: que las personas confíen en un asistente cuando acierta y lo verifiquen cuando se equivoca depende de dinámicas sociales y bucles de retroalimentación, no solo del juicio individual. La adulación amenaza la calibración desde la dirección opuesta: una IA que siempre da la razón puede parecer fiable precisamente porque nunca cuestiona al usuario, lo que invita a una aceptación acrítica (adulación contextual y IA aduladora en la interacción social). En contextos corporizados como la robótica educativa, la confianza está moldeada más por lo que hace el robot que por su aspecto (contexto de la tarea y confianza en la interacción humano-robot educativa), y la identidad del avatar moldea la confianza epistémica que los estudiantes depositan en el contenido de IA. La confianza en las herramientas de analítica también depende del contexto. Mejia-Domenzain et al. (2026) encontraron que las preocupaciones y las barreras de adopción del profesorado divergían marcadamente según el contexto de aprendizaje: el profesorado de aula invertida (universidad) se preocupaba sobre todo por la anonimización de los datos y por la posibilidad de que los estudiantes se excluyeran, mientras que el de escritura reflexiva (formación profesional) temía el mal uso de la herramienta por parte de otros educadores e insistía en la necesidad de contextualizar los datos, aunque ambos grupos informaron de una autoeficacia y unos beneficios percibidos similares en una encuesta sobre confianza en la IA. El hallazgo de que la confianza en la herramienta se desacopla de la confianza en su gobernanza de datos y en su uso social subraya que construir una confianza apropiada en la analítica exige atender a preocupaciones específicas de cada contexto, y no solo a la competencia aparente del sistema.

Cuán explicable es un sistema, y en qué términos, también moldea si el profesorado confía en sus recomendaciones. En un experimento intra-sujeto con 41 docentes de química en activo que usaban la herramienta de recomendación de agrupamientos GrouPer, Feldman-Maggor et al. (2025) encontraron que la IA explicable construye confianza de forma indirecta al aumentar la comprensibilidad del desempeño del sistema, y que las explicaciones guiadas por el dominio, formuladas en lenguaje curricular y pedagógico, fomentaban una comprensibilidad y una confianza aprendida significativamente mayores que las explicaciones puramente guiadas por los datos (importancia de las características). Cabe destacar que la comprensibilidad por sí sola resultaba insuficiente para algunos docentes, que decían necesitar experiencia real en el aula con la herramienta antes de apoyarse plenamente en ella, lo que refuerza que la confianza en la IA es dinámica y se valida en un uso situado, y no se concede con la explicación.

La percepción del riesgo y la confianza no son opuestos. Un estudio de percepción con 130 estudiantes sobre IA generativa agéntica en educación superior encontró un riesgo percibido moderadamente elevado (M = 3,33, DE 0,89) junto con una confianza y una intención de adopción más favorables (M = 3,62, DE 0,81), y, en contra de una expectativa simple de disuasión, una asociación positiva entre el riesgo percibido y la intención de seguir usando (ρ de Spearman = 0,317, p < 0,001) (Ilieva et al. 2026). Los autores lo interpretan como una adopción informada y no como indiferencia: los usuarios implicados o experimentados reconocen tanto el valor como los límites de la tecnología, y solo el 45,4% dijo confiar en los agentes bajo la guía de un docente. Para la calibración de la confianza, la implicación es que la conciencia del riesgo no es la ausencia de confianza, puede ser un componente de ella, mientras que el diseño transversal deja indistinguibles la conciencia, la exposición y la autoselección.

La confianza en la IA se comporta como una vía que va de la valoración a la dependencia, y no como una actitud única: el empoderamiento percibido y la amenaza percibida de la IA eran casi independientes (r = 0,030) pero movían la confianza en direcciones opuestas (β = 0,576 y β = −0,328), y la confianza mantenía asociaciones indirectas significativas con la dependencia de la IA generativa en ambas direcciones (Zhu et al. (2026)).

Un modelo estructural somete ese papel de puente a una prueba empírica. En la encuesta de Bu y Li (2026) a 642 estudiantes universitarios, el apoyo contextual predecía la calibración de la confianza (β = 0,56), la calibración de la confianza predecía la regulación colaborativa (β = 0,49) y las ganancias percibidas de transferencia (β = 0,22), y la vía directa del apoyo contextual a las ganancias no era significativa.

La confianza por delante de todas las vías clásicas de aceptación. Zhu (2026) añadió la confianza al UTAUT en una encuesta a 450 estudiantes de arte y diseño de Zhejiang y encontró que era el predictor directo más fuerte de la intención de usar IA generativa (β = 0,425). Le siguieron la influencia social (0,155), el control metacognitivo (0,146) y la expectativa de desempeño (0,128). La influencia social también concentró la vía más grande hacia la confianza (β = 0,262), y el 42,1% de su asociación total con la intención pasaba por la confianza.

El constructo es más débil de lo que sugiere el coeficiente. Mide confianza instrumental en la tecnología con un complemento de valor artístico —confianza declarada y no fiabilidad calibrada—, y los dos ítems de autoría se descartaron tras formar su propio factor en un piloto con 121 estudiantes. Un estudiante puede confiar en este modelo de forma apropiada o indiscriminada, y el instrumento no puede distinguir una cosa de la otra.

La transparencia puede ser la vía más fuerte hacia la confianza sin que la confianza sea la vía más fuerte hacia el uso. Wang et al. (2026) encuestaron a 653 estudiantes sobre avatares de IA y encontraron que la transparencia predecía la confianza con β = 0,542 —la vía más fuerte de su modelo—, mientras que esa confianza predecía la intención de adopción con solo β = 0,196, por detrás de la ventaja relativa (0,267) y la utilidad percibida (0,247).

AlGhamdi (2026) respalda una explicación específica de la función y no global de la confianza en los algoritmos: ni la aversión a los algoritmos ni la apreciación de los algoritmos describían a estos 13 estudiantes, que confiaban a la vez en ChatGPT para la retroalimentación superficial y desconfiaban de él como calificador. Su confianza dependía de la supervisión del docente, y su escepticismo provenía de los límites contextuales de la IA (leer mal la letra manuscrita escaneada, "escribió mal mi apellido y cree que cometí errores de ortografía cuando no los cometí", no conocer el sistema de calificación del docente y una positividad crónica) y no de tecnofobia, lo que sugiere que las medidas de confianza deberían descomponerse según la función que cumple la IA y lo que está en juego.

Las tres dimensiones de la credibilidad de la fuente pueden disociarse: diecisiete estudiantes de grado de inglés como lengua extranjera concedieron al asistente de escritura una amplia experiencia, dudaron de su fiabilidad sobre todo por lo que la plataforma retenía y valoraron su benevolencia como lo más bajo; el techo de su dependencia estaba en el cuidado y no en la competencia (Serpil y Mor, 2026).

Las señales de credibilidad pueden aumentar la dependencia de respuestas erróneas: añadir citas y señales de autoridad a una interfaz de debate elevó el abandono de un juicio correcto en favor de la posición de la IA del 15,0% al 31,8%, mientras que ocultar una posición recomendada redujo ese cambio al 5,7-8,2% (Tuo et al., 2026).

La confianza en la IA tampoco sigue la adopción nacional: los rumanos, con un 17,8% de uso de IA generativa frente al 48,4% de Dinamarca, valoraron su confianza en la IA ligeramente más alto (4,1 frente a 3,8 en una escala de siete puntos), mientras que la confianza institucional se separó 28 frente a 45 puntos en la dirección contraria (Lucau, Voicu y Christensen (2026)).

La confianza en la IA sigue el estado psicológico, no la categoría demográfica

Kumar et al. (2026) agruparon a 107 estudiantes de una HBCU pública según la resiliencia, el estrés percibido y la confianza en la IA, y encontraron tres perfiles en los que la confianza en la IA se disociaba de la confianza en uno mismo. Los perfiles eran un grupo de alta resiliencia y bajo estrés con una confianza favorable en la IA, un grupo con estrés moderado que presentaba la confianza en la IA más alta de los tres pese a la tensión, y un grupo psicológicamente resiliente que era casi tan resiliente como los adoptantes pero marcadamente menor en confianza en la IA. El estrés y la confianza en la IA separaban los grupos con más fuerza (eta cuadrado parcial 0,528 y 0,521 frente a 0,315 de la resiliencia), y el género fue la única variable demográfica asociada significativamente a la pertenencia, mientras que la afiliación a STEM, el nivel académico, la situación laboral y el grupo de edad no fueron significativos. De ello se siguen dos implicaciones. Primera, una baja confianza en la IA no es un indicador indirecto de baja seguridad en uno mismo ni de poca familiaridad técnica, ya que los escépticos eran el grupo más resiliente y con más presencia de STEM, lo que los autores leen como escepticismo calibrado y no como resistencia. Segunda, como los grupos solo estaban débilmente separados (silueta 0,288, con el índice Calinski-Harabasz prefiriendo dos grupos), deben tratarse como perfiles solapados y no como tipos de estudiante distintos. Los hallazgos proceden de una sola institución y de una encuesta transversal de autoinforme, así que establecen que la confianza varía con el estado psicológico, no por qué.

La confianza interpersonal en la educación

La confianza también es fundamentalmente relacional. La brecha de confianza en el aula está documentada en las opiniones de docentes y estudiantes sobre el control y la agencia en la IA de K-12: los estudiantes quieren más autonomía y flexibilidad, mientras que el profesorado prioriza la supervisión y el monitoreo, un desajuste que ambas partes deben gestionar para que la adopción de la IA tenga éxito. Por qué los estudiantes declaran u ocultan su uso de IA muestra que la declaración está impulsada menos por la política que por factores relacionales: las normas percibidas de los pares y la comodidad con los docentes son los predictores más fuertes, lo que apunta a una baja confianza interpretativa en entornos institucionales. Los costos ocultos de la declaración añaden matices sobre cuándo la honestidad tiene un costo social.

Una respuesta que prioriza la detección funciona al revés: los detectores poco fiables que señalan de forma desproporcionada a hablantes no nativos estancan los casos de mala conducta por falta de pruebas, produciendo una "sospecha sin recurso", mientras que conversaciones de verificación de cinco a diez minutos anunciadas como pedagogía y no como vigilancia restauraron la autoridad del profesorado y atrajeron una declaración del uso de IA más abierta (Mandernach, 2026).

Apoyarse en detectores y en la vigilancia, sostienen Bassett et al. (2026), fomenta un clima de sospecha que erosiona la confianza de los estudiantes en la evaluación y en la institución, lo contrario de la confianza que los procesos de integridad pretenden proteger.

La retroalimentación es un sitio clave de la confianza interpersonal. Las percepciones de los estudiantes sobre la retroalimentación de la IA generativa frente a la del docente encuentran que ambas sirven a necesidades distintas, complementarias pero no intercambiables, y que los estudiantes confían en la retroalimentación del docente para el juicio relacional y personalizado y en la IA generativa para la rapidez y la accesibilidad. Una explicación "llena de cuidado" de la retroalimentación sostiene que la retroalimentación fiable es una práctica ética y relacional: construye relaciones educativas y se respeta como un oficio profesional, valores que una IA no puede replicar sin más. Por eso la confianza entre docente y estudiante, construida sobre el cuidado y el juicio profesional, sigue siendo central incluso cuando la IA entra en el circuito de retroalimentación.

La confianza entre pares circula por un canal distinto: entre 406 estudiantes universitarios que valoraban a un compañero recordado, el uso de IA generativa de ese compañero se asociaba con una menor confianza interpersonal, mediada por la calidez y la competencia percibidas, y la asociación negativa solo se mantenía cuando la alfabetización en IA percibida era baja; no era significativa cuando era alta (Zhang et al. (2026)).

La calibración y los dos ámbitos juntos

El reto unificador es la calibración: ajustar la confianza a la fiabilidad real, sea la parte depositaria de la confianza un modelo o una persona. La calibración de la confianza es la capacidad metacognitiva de saber cuándo confiar y cuándo cuestionar. Los estudios sobre la retroalimentación de la IA y la tutoría inteligente examinan cuándo se apoyan los estudiantes de forma apropiada en la orientación de la IA y cuándo la cuestionan, mientras que la literatura interpersonal muestra que la confianza de los estudiantes en un docente depende de una confianza relacional construida con el tiempo. A medida que la IA se integra en la enseñanza, estos ámbitos convergen: un docente que explica con transparencia qué puede y qué no puede hacer una herramienta de IA, y que demuestra fiabilidad en su propio juicio, construye el tipo de confianza que se traslada a las herramientas que recomienda. Construir una confianza apropiada, tanto en la IA como entre las personas, es un objetivo central del diseño responsable de IA en educación.

La calibración también se pone a prueba por los incentivos del propio sistema en el que se confía. Cuando el personal escéptico ante la adopción de la IA consulta a la IA conversacional, construida por organizaciones con un interés comercial en esa adopción, existe el riesgo de que el sistema esté predispuesto a fomentarla. Una auditoría de diez modelos frontera encontró que la mayoría reconocía las preocupaciones de un miembro del personal de una escuela K-12 rural (la amenaza al empleo, el sentirse "no es para gente como yo") antes de reorientar hacia la implicación. Esto cuestiona la confianza ingenua y subraya la importancia de la supervisión humana y de una evaluación de la IA independiente del asesoramiento.

Implicaciones para la práctica

Para los docentes

  • Mida dos cosas y no una: lo que los estudiantes creen sobre la exactitud de la IA y lo que creen sobre su propia capacidad de usarla. La división 51%/76% muestra que ambas divergen marcadamente y que solo la segunda impulsa la conducta.
  • Declare los límites de la herramienta desde el principio. Las advertencias de falibilidad aumentaron la búsqueda de ayuda en la evidencia sobre sistemas de tutoría inteligente, así que la divulgación es una herramienta de calibración y no un riesgo para la confianza.
  • Esté atento a una confianza alta combinada con una verificación superficial; esa combinación es el modo de fallo de la calibración, no una señal de éxito.

Para los desarrolladores

  • Construya confianza sobre criterios observables y acordados, no sobre la capacidad aparente, siguiendo el trabajo de codiseño de la fiabilidad con ingenieros de aprendizaje. La fluidez no es una señal de fiabilidad y los estudiantes la leen como tal.
  • Priorice la utilidad en la incorporación por encima del texto normativo, ya que la utilidad es el correlato de confianza más fuerte medido.
  • No trate una confianza alta como un éxito de implicación; acompañe cualquier métrica de confianza con una medida de dependencia apropiada.

Para los investigadores

  • Informe la confianza, la percepción del riesgo y la dependencia apropiada como constructos distintos, porque covarían en direcciones poco obvias, incluso negativas.
  • Informe el resultado conductual (la tasa de aceptación de sugerencias erróneas) junto con la confianza autoinformada; las escalas de confianza por sí solas invierten la conclusión.

La confianza en una herramienta puede cargar con parte de la empleabilidad que percibe quien la usa. Entre 579 estudiantes universitarios chinos, el uso de IA generativa predijo la empleabilidad autopercibida con β = 0,503, y la confianza en la IA generativa portó una vía indirecta de 0,079 (IC del 95% [0,031, 0,137]), el 19,35% del efecto total, por detrás de la autoeficacia en la toma de decisiones de carrera, con 0,168 (Yan (2026)). El diseño es transversal, así que el orden es teórico y no observado.

Concepciones erróneas

"La confianza y la desconfianza están en extremos opuestos de una misma escala." Son separables, y confundirlas malinterpreta lo que los estudiantes informan en realidad. La percepción del riesgo y la confianza no son opuestos: un estudio de percepción con 130 estudiantes sobre IA generativa agéntica en educación superior encontró un riesgo percibido moderadamente elevado (M = 3,33, DE 0,89) junto con una confianza y una adopción más favorables. Un estudiante puede sostener ambas cosas a la vez, y por eso una única puntuación de confianza no puede decirle si su dependencia es apropiada.

"Desconfiar de la exactitud de la IA significa que los estudiantes no se apoyarán en ella." Los estudiantes distinguen la producción de su capacidad de dirigirla. En una encuesta a 8.021 estudiantes de cuatro universidades australianas, el 51% desconfiaba de la exactitud factual de la IA generativa mientras que el 76% se sentía capaz de obtener los resultados que quería. El segundo número es el que predice la conducta: la confianza en la extracción coexiste con la duda sobre la verdad, y solo una de las dos es una propiedad de seguridad.

"Lo que construye la confianza de los estudiantes son reglas y políticas más claras." La utilidad domina. Una encuesta a 2.121 estudiantes, profesorado y personal de una universidad encontró que la utilidad percibida era el correlato más fuerte de la confianza en la IA (β = 0,402), seguida de la claridad percibida de las políticas. Las instituciones que invierten en elaborar reglas mientras despliegan herramientas que nadie encuentra útiles han apuntado a la palanca más débil.

"Si los estudiantes confían más en ella, la usarán con más cuidado, o al menos de forma apropiada." El patrón documentado es el contrario. Entre 432 estudiantes de grado que resolvían problemas de Python con sugerencias exactas y deliberadamente engañosas, una mayor confianza predecía una dependencia apropiada menor (r = −0,42), y los estudiantes aceptaron el 86,03% de las sugerencias engañosas. La confianza no es un indicador indirecto de calibración; véase calibración de la confianza.

"Las advertencias honestas sobre la falibilidad socavarían la confianza en un tutor." Mejoran la conducta. Las advertencias sobre la falibilidad de la IA en un sistema de tutoría inteligente de matemáticas aumentaron la búsqueda de ayuda en lugar de reducir el uso, lo que sugiere que declarar los límites fomenta una dependencia apropiada en vez de erosionarla.

Conceptos conectados

Artículos conectados

Incrustar esta página

Copia el código de abajo para incrustar esta página en un sistema de gestión del aprendizaje u otro sitio web. La versión incrustada muestra solo el contenido de la página: oculta el encabezado, la navegación y el pie de página del sitio.