Confianza

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

Confianza — la disposición de quienes aprenden, del profesorado y de las instituciones a apoyarse en una persona o en un sistema de IA para el aprendizaje, el juicio y la toma de decisiones. En la educación con IA, la confianza abarca dos ámbitos relacionados pero distintos: la confianza en la IA (la seguridad en la competencia, la transparencia, la fiabilidad y la benevolencia de un sistema o agente de IA) y la confianza interpersonal (la confianza relacional entre el estudiantado y el profesorado, entre quienes aprenden y sus pares, y en toda la institución). Ambas son de doble filo: una confianza adecuada posibilita una implicación productiva, mientras que la confianza excesiva invita a la dependencia excesiva y la desconfianza bloquea usos beneficiosos. El reto central es la calibración: alinear la confianza con la fiabilidad real, ya sea que esa fiabilidad pertenezca a un modelo o a una persona.

Preguntas para reflexionar

• Cuando dice que «confía» en una herramienta de IA, frente a confiar en un docente o en un colega, ¿está describiendo lo mismo? ¿Qué hay de similar y qué de fundamentalmente distinto entre depositar confianza en un sistema y en una persona?
• Existe una «brecha entre confianza y utilidad» documentada: la competencia aparente de una herramienta suele superar su fiabilidad real. Recuerde una herramienta que parecía impresionante pero le falló, o una que parecía limitada y resultó fiable. ¿Qué moldeó la distancia entre cómo se veía y lo que realmente podía hacer?
• Piense en una IA que siempre está de acuerdo con usted y nunca cuestiona sus ideas. Puede resultar cómoda y digna de confianza, pero ¿es lo mismo estar de acuerdo que ser fiable? ¿A qué podría estar renunciando si la herramienta en la que se apoya nunca le lleva la contraria?
• La página sostiene que la confianza del profesorado en la IA moldea cómo el estudiantado confía en esa IA: los dos ámbitos interactúan. En un curso que conozca bien, ¿cómo influiría el entusiasmo o el escepticismo de un docente respecto a la IA en que el estudiantado aceptara o cuestionara la herramienta?
• El estudiantado suele decidir si declara su uso de IA según su comodidad con el profesorado más que según la política. Si usted fuera (o es) estudiante, ¿qué le haría estar dispuesto a ser sincero sobre su uso de la IA y qué le llevaría a ocultarlo? ¿Qué dice eso sobre cómo se construye realmente la confianza en un aula?
• Un hallazgo: un tutor de IA que advierte «puedo cometer errores» llevó al estudiantado a buscar más ayuda, no menos. ¿Qué sugiere esto sobre si reconocer los límites debilita o refuerza la confianza que sostiene el aprendizaje real?

Introducción

La confianza en la IA está moldeada por la competencia percibida, la transparencia, la consistencia y por si el sistema parece alineado con los objetivos de quien aprende; está estrechamente ligada a la alfabetización en IA (saber en qué confiar), al pensamiento crítico (evaluar la salida) y al diseño de una IA responsable. La confianza interpersonal, en cambio, se construye mediante relaciones, declaraciones, retroalimentación y cuidado pedagógico — las cualidades en las que el estudiantado se apoya cuando decide si un docente o una IA es una fuente fiable de orientación. Los dos ámbitos interactúan cada vez más: la IA está entretejida en las relaciones entre docentes y estudiantado, de modo que cómo el estudiantado confía en su docente moldea cómo confía (o cuestiona) las herramientas de IA que ese docente recomienda.

La confianza en los sistemas de IA

La investigación de esta base de conocimiento examina cuándo el estudiantado confía adecuadamente en la orientación generada por IA. Las advertencias sobre la falibilidad de la IA pueden mejorar la calibración: una intervención sencilla de transparencia que avisaba al estudiantado de que un tutor de IA podía cometer errores aumentó la búsqueda de ayuda en un STI de matemáticas, lo que sugiere que reconocer los límites con honestidad fomenta la confianza adecuada en lugar de socavarla. Codiseñar métricas de fiabilidad con ingenieros de aprendizaje muestra que la confianza se construye mejor sobre criterios observables y acordados que sobre una capacidad supuesta. Los estudios de física y de generación de imágenes revelan una persistente brecha entre confianza y utilidad: quien usa la herramienta debe sopesar su competencia aparente frente a su fiabilidad real en una tarea. Entre los usuarios más jóvenes, Vahedian Movahed y Martin (2025) encontraron que el 52% de los niños y niñas (de 6 a 14 años) confiaba en general en un chatbot adaptado a su edad y el 35% confiaba en él como en un docente o un amigo, con cerca de un tercio dispuesto a confiarle confidencias; además, los niños ponían a prueba activamente su credibilidad con preguntas de respuesta conocida, y la confianza no mostró diferencias estadísticamente significativas por curso — lo que ilustra cómo la confianza puede formarse antes de la evaluación crítica.

La modelización de la dependencia excesiva de la IA como sistema adaptativo complejo reencuadra la confianza como un proceso a escala de población: que las personas confíen en un asistente cuando acierta y lo verifiquen cuando se equivoca depende de dinámicas sociales y bucles de retroalimentación, no solo del juicio individual. La adulación amenaza la calibración desde el otro lado: una IA que siempre está de acuerdo puede parecer digna de confianza precisamente porque nunca cuestiona a quien la usa, lo que invita a una aceptación acrítica (adulación contextual y IA aduladora en la interacción social). En contextos corporizados como la robótica educativa, la confianza está moldeada más por lo que el robot hace que por su aspecto (el contexto de la tarea y la confianza en la IHR educativa), y la identidad del avatar moldea la confianza epistémica que el estudiantado deposita en el contenido de IA. La confianza en las herramientas de analítica del aprendizaje también depende del contexto. Mejia-Domenzain et al. (2026) encontraron que las preocupaciones y barreras de adopción del profesorado divergían marcadamente según el contexto de aprendizaje: el profesorado de aula invertida (universidad) se preocupaba sobre todo por el anonimato de los datos y la posibilidad de que el estudiantado se excluyera, mientras que el de escritura reflexiva (formación profesional) temía el mal uso de la herramienta por parte de colegas y subrayaba la necesidad de contextualizar los datos — aunque ambos grupos declararon autoeficacia y beneficios percibidos similares en una encuesta sobre confianza en la IA. El hallazgo de que la confianza en la herramienta se desacopla de la confianza en su gobernanza de datos y su uso social subraya que construir una confianza adecuada en la analítica exige atender a preocupaciones específicas de cada contexto, no solo a la competencia aparente del sistema.

Cuán explicable es un sistema — y en qué términos — también moldea si el profesorado confía en sus recomendaciones. En un experimento intrasujeto con 41 docentes de química en activo que usaban la herramienta de recomendación de agrupamientos GrouPer, Feldman-Maggor et al. (2025) encontraron que la IA explicable construye confianza de forma indirecta, al aumentar la comprensibilidad del desempeño del sistema, y que las explicaciones orientadas al dominio, formuladas en lenguaje curricular y pedagógico, fomentaban una comprensibilidad y una confianza aprendida significativamente mayores que las explicaciones puramente orientadas a los datos (importancia de las variables). Cabe destacar que la comprensibilidad por sí sola era insuficiente para parte del profesorado: declararon necesitar experiencia real en el aula con la herramienta antes de apoyarse plenamente en ella, lo que refuerza que la confianza en la IA es dinámica y se valida mediante un uso situado, no se concede solo con una explicación.

La percepción del riesgo y la confianza no son opuestos. Un estudio de percepción con 130 estudiantes sobre IA generativa agéntica en educación superior encontró un riesgo percibido moderadamente elevado (M = 3,33; DE 0,89) junto con una confianza e intención de adopción más favorables (M = 3,62; DE 0,81) y — en contra de una expectativa simple de disuasión — una asociación positiva entre el riesgo percibido y la intención de uso continuado (ρ de Spearman = 0,317; p < 0,001) (Ilieva et al. 2026). Los autores lo interpretan como adopción informada y no como indiferencia: quienes usan la tecnología de forma comprometida o experimentada reconocen tanto su valor como sus límites, y solo el 45,4% dijo confiar en los agentes bajo la orientación del profesorado. Para la calibración de la confianza, la implicación es que la conciencia del riesgo no es la ausencia de confianza — puede ser un componente de ella —, mientras que el diseño transversal deja indistinguibles la conciencia, la exposición y la autoselección.

AlGhamdi (2026) respalda una concepción de la confianza en los algoritmos específica por función y no global: ni la aversión ni la apreciación hacia los algoritmos describían a estos 13 estudiantes, que a la vez confiaban en ChatGPT para retroalimentación superficial y desconfiaban de él como calificador. Su confianza dependía de la supervisión del docente, y su escepticismo provenía de los límites contextuales de la IA — leer mal la escritura a mano escaneada («escribió mal mi apellido y cree que cometí errores de ortografía cuando no fue así»), no conocer el sistema de calificación del docente y una positividad crónica — y no de tecnofobia, lo que sugiere que las medidas de confianza deberían descomponerse según la función que desempeña una IA y los riesgos asociados a ella.

La confianza en la IA sigue el estado psicológico, no la categoría demográfica

Kumar et al. (2026) agruparon a 107 estudiantes de una HBCU pública según resiliencia, estrés percibido y confianza en la IA, y encontraron tres perfiles en los que la confianza en la IA se disociaba de la confianza en uno mismo: un grupo de alta resiliencia y bajo estrés con confianza favorable en la IA, un grupo moderadamente estresado que mantenía la mayor confianza en la IA de los tres pese a la tensión, y un grupo psicológicamente resiliente casi tan resiliente como los adoptantes pero marcadamente con menor confianza en la IA. El estrés y la confianza en la IA fueron las variables que más separaron los grupos (eta cuadrado parcial 0,528 y 0,521 frente a 0,315 de la resiliencia), y el género fue la única variable demográfica asociada significativamente a la pertenencia, con la afiliación a STEM, el nivel académico, la situación laboral y el grupo de edad todos no significativos. Dos implicaciones importan para esta página: primero, una baja confianza en la IA no es un indicador indirecto de baja confianza en uno mismo ni de poca familiaridad técnica, ya que quienes eran escépticos formaban el grupo más resiliente y con más presencia de STEM, lo que los autores leen como escepticismo calibrado y no como resistencia; segundo, como los grupos estaban solo débilmente separados (silueta 0,288, con el índice de Calinski-Harabasz prefiriendo dos grupos), deben tratarse como perfiles solapados y no como tipos de estudiante distintos. Los hallazgos provienen de una sola institución y de una encuesta autoinformada transversal, por lo que establecen que la confianza varía con el estado psicológico, no por qué.

La confianza interpersonal en la educación

La confianza también es fundamentalmente relacional. La brecha de confianza en el aula está documentada en las visiones de docentes y estudiantado sobre el control y la agencia en la IA de K-12: el estudiantado quiere más autonomía y flexibilidad, mientras que el profesorado prioriza la supervisión y el seguimiento, un desajuste que ambas partes deben gestionar para que la adopción de la IA tenga éxito. Por qué el estudiantado declara o esconde su uso de IA muestra que la declaración depende menos de la política que de factores relacionales — las normas percibidas entre pares y la comodidad con el profesorado son los predictores más fuertes —, lo que apunta a una baja confianza interpretativa en los entornos institucionales. Los costes ocultos de la declaración añaden matices sobre cuándo la sinceridad tiene un coste social.

La retroalimentación es un lugar clave de la confianza interpersonal. Las percepciones del estudiantado sobre la retroalimentación de la IA generativa frente a la del profesorado muestran que ambas cubren necesidades distintas — complementarias pero no intercambiables —, con el estudiantado confiando en la retroalimentación del profesorado para el juicio relacional y personalizado y en la IA generativa para la rapidez y la accesibilidad. Una concepción «cuidadosa» de la retroalimentación sostiene que la retroalimentación digna de confianza es una práctica ética y relacional: construye relaciones educativas y se respeta como oficio profesional, valores que una IA no puede simplemente replicar. Por eso la confianza entre docente y estudiantado — construida sobre el cuidado y el juicio profesional — sigue siendo central aun cuando la IA entra en el circuito de la retroalimentación.

La calibración y los dos ámbitos juntos

El reto unificador es la calibración: ajustar la confianza a la fiabilidad real, ya sea que la parte en quien se confía sea un modelo o una persona. La calibración de la confianza es la capacidad metacognitiva de saber cuándo confiar y cuándo cuestionar. Los estudios sobre retroalimentación e tutoría con IA examinan cuándo el estudiantado se apoya adecuadamente en la orientación de la IA o la cuestiona, mientras que la literatura interpersonal muestra que la confianza del estudiantado en un docente depende de una confianza relacional construida con el tiempo. A medida que la IA se integra en la labor docente, estos ámbitos convergen: un docente que explica con transparencia qué puede y qué no puede hacer una herramienta de IA, y que demuestra fiabilidad en su propio juicio, construye el tipo de confianza que se traslada a las herramientas que recomienda. Construir una confianza adecuada — tanto en la IA como entre nosotros — es un objetivo central del diseño responsable de IA en educación.

La calibración también se pone a prueba por los incentivos del propio sistema en el que se confía. Cuando personal escéptico ante la adopción de la IA consulta a la IA conversacional — creada por organizaciones con un interés comercial en esa adopción —, existe el riesgo de que el sistema esté predispuesto a fomentarla. Una auditoría de diez modelos de frontera encontró que la mayoría reconocía las preocupaciones de una persona de personal rural de K-12 (amenaza para el empleo, «no es para gente como yo») antes de reorientar hacia la implicación. Esto cuestiona la confianza ingenua y subraya la importancia de la supervisión humana y de una evaluación independiente de la IA.

Conceptos conectados

• IA explicable
• Calibración de la confianza
• Alfabetización en IA
• Pensamiento crítico
• Descarga cognitiva
• Robots en la educación
• Ética
• Tutoría inteligente
• Sicofancia de la IA
• Colaboración humano-IA
• Supervisión remota de exámenes
• Normas sociales del uso de la IA — el riesgo social sobre el que operan las normas y la declaración

Artículos conectados

• Agentic Generative AI in Higher Education: Perceived Benefits, Risks, and Implications for Learning — El riesgo percibido se correlaciona positivamente con la intención de uso continuado: adopción informada (Ilieva et al. 2026)
• Explaining ChatGPT Adoption in Higher Education: Insights for AI Literacy, Educational Practice, and Responsible AI — UTAUT2 aumentado con XAI: el hábito como predictor más fuerte, cuatro perfiles de adopción (Jácome-Vasconez et al. 2026)
• Mind the Trust Gap: Identifying (Mis)alignments in Teacher-Student Views Toward Control and Agency in K-12 Classroom AI — La brecha de confianza entre docentes y estudiantado por el control y la agencia en la IA del aula de K-12
• To disclose or not to disclose: Peer influence and psychological factors in students' use of generative artificial intelligence — Declarar el uso de IA depende de factores relacionales y de la comodidad con el profesorado, no de la política
• Comparing Generative AI and teacher feedback: student perceptions of usefulness and trustworthiness — La retroalimentación de la IA generativa y la del profesorado cubren necesidades de confianza distintas y complementarias
• The care-full craft of feedback in an age of generative AI — La retroalimentación digna de confianza como práctica «cuidadosa» y relacional
• Warning About AI Fallibility Increases Help-Seeking in an Intelligent Tutoring System — Advertir de la falibilidad de la IA aumenta la búsqueda de ayuda en un STI
• Calibrating Trustworthiness: Co-Designing Metrics and Visualizations for Evaluating LLMs in Education — Codiseño de métricas y visualizaciones de fiabilidad para los LLM en educación
• Modeling AI Overreliance as a Complex Adaptive System — La dependencia excesiva de la IA modelizada como sistema adaptativo complejo
• Trust-utility gap in introductory physics education: Students' adoption, domain-specific skepticism, and preferences for AI integration — La brecha entre confianza y utilidad en las herramientas de IA para física
• The Competence Paradox: Negotiating Ease, Risk, and Creative Identity in Text-to-Image Generative AI Use Among Art and Design Students — La paradoja de la competencia en la generación de imágenes con IA
• What Robots Do Matters More Than What They Look Like: Task Context Shapes Trust in Educational HRI — El contexto de la tarea moldea la confianza en los robots educativos más que su apariencia
• Face value: How avatar identity shapes epistemic trust in AI-mediated learning — La identidad del avatar y la confianza epistémica en el aprendizaje mediado por IA
• The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration — La adulación contextual y sus límites para la calibración de la confianza
• Sycophantic AI makes human interaction feel more effortful and less satisfying over time — La IA aduladora hace que la interacción humana resulte menos satisfactoria con el tiempo
• Unpacking ethics-domain of intelligent-TPACK scale in relation to in-service teachers' trust and distrust — La confianza y la desconfianza del profesorado en la IA, moldeadas por la ética y el conocimiento técnico
• Design Principles and Observable Indicators for AI-Enabled Pedagogical Accompaniment: Evidence from the Amico Dual-Mode Prototype in Italy and China — Mediación pedagógica responsable y confianza en los sistemas con IA
• The Best Response to Student AI Use Is Not Detection, It Is Dialog — La confianza en el diálogo entre estudiantado e IA
• The AI Adaptation Gap in Higher Education: Students, Faculty, and Administrative Staff — La utilidad percibida como predictor más fuerte de la confianza en la IA en educación superior
• Heads We Win, Tails You Lose: AI Detectors in Education — Confianza y desconfianza en los sistemas de detección de IA
• The Use and Usefulness of GenAI in Higher Education: Student Experience and Perspectives — La experiencia del estudiantado con la utilidad de la IA generativa en la educación superior australiana (Chung et al. 2026)
• Not for People Like Me: How Frontier AI Models Redirect Skeptical Rural School Staff — Auditoría algorítmica: cómo los LLM de frontera reorientan a personal rural escéptico de K-12
• Making machine learning findings accessible to teachers in blended classrooms — Hacer accesibles al profesorado los hallazgos de aprendizaje automático en aulas semipresenciales
• The Impact of Explainable AI on Teachers' Trust and Acceptance of AI EdTech Recommendations: The Power of Domain-specific Explanations
• Ask Me Anything: Exploring Children's Attitudes Toward an Age-tailored AI-powered Chatbot
• Who Should Grade My Work? Student Perspectives on Transparent AI-Assisted Writing Assessment in Higher Education — ¿Quién debería calificar mi trabajo? Perspectivas del estudiantado sobre la evaluación transparente de la escritura asistida por IA en educación superior
• Psychological Profiles Associated with Trust in Artificial Intelligence Among University Students: A Machine Learning Clustering Approach — Tres perfiles de estudiantado en los que la confianza en la IA sigue la resiliencia y el estrés más que la demografía (Kumar et al. 2026)
• Bounded Reliance: A Source Credibility Perspective on EFL Students' Engagement with AI-Generated Writing Feedback — Confianza acotada: una perspectiva de credibilidad de la fuente sobre la implicación del estudiantado de ILE con la retroalimentación de escritura generada por IA
• Open Questions Towards Skill-Sustaining Reliance in Reflective AI Engagement — Preguntas abiertas hacia una dependencia que sostenga las capacidades en la implicación reflexiva con la IA