Privacidad

Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.

Privacidad — la protección de los datos, la identidad y la autonomía del estudiantado en entornos de aprendizaje aumentados con IA. Las preocupaciones por la privacidad se intensifican a medida que los sistemas de IA recopilan datos conductuales cada vez más granulares para la personalización, la analítica y la instrucción adaptativa. Es una restricción ética y regulatoria central de la IA en la educación: casi toda herramienta de IA que personaliza, predice o evalúa depende de datos de quien aprende, lo que convierte la minimización de datos, el consentimiento, la transparencia y la seguridad en requisitos de diseño fundamentales y no en consideraciones posteriores.

Preguntas para reflexionar

• ¿Qué datos del estudiantado le resultaría incómodo que se recopilaran sobre usted, aunque mejoraran su aprendizaje? ¿Dónde se convierte la personalización en vigilancia?
• Mucho estudiantado no tiene «ninguna opción significativa» más que usar una plataforma obligatoria, lo que convierte el consentimiento en algo nominal. ¿Ha consentido alguna vez algo sin entender de verdad qué se recopilaba y por qué? ¿Qué exigiría en realidad un consentimiento informado?
• Los mismos datos de quien aprende que impulsan el aprendizaje adaptativo y personalizado también crean riesgo de mal uso y de daño. ¿Puede nombrar un beneficio de la personalización por el que estaría dispuesto a ceder algo de privacidad, y la línea que no cruzaría?
• La página advierte de que las salvaguardas de privacidad pueden «limitarse por defecto a proteger solo a parte del estudiantado». ¿Qué estudiantes podrían quedar más expuestos y cómo se conecta la privacidad con la equidad y la justicia?
• La monitorización constante con IA, incluso con buenas intenciones, puede moldear la conducta y la ansiedad. ¿Cuándo ha cambiado su comportamiento el sentirse observado y qué sugiere eso sobre la sensorización con IA en el aula?
• En el caso de la infancia, la privacidad va más allá de la protección de datos y llega a la seguridad. ¿Por qué podrían las herramientas de seguridad de propósito general no detectar riesgos educativos de menores y quién debería participar en el circuito de supervisión?

Introducción

La privacidad es la condición previa para una IA digna de confianza en la educación. Como los sistemas de IA mejoran con datos —la personalización exige perfiles detallados de quien aprende, la analítica del aprendizaje exige registros granulares de interacción y los modelos de tutoría ajustados exigen transcripciones auténticas de las interacciones entre estudiantado y tutor—, los mismos datos que hacen posible una educación adaptativa y escalable también crean riesgo de vigilancia, mal uso y daño. La base de conocimiento trata la privacidad como algo inseparable de la ética (el marco normativo), la regulación (los requisitos legales), la gobernanza (la responsabilidad institucional) y la equidad (quién queda protegido y quién expuesto). Sus artículos sobre privacidad se agrupan en torno a cuatro problemas recurrentes: la recopilación a escala, el consentimiento y la transparencia, la seguridad y el anonimato, y las protecciones específicas que se deben a la infancia.

Los retos centrales de la privacidad

• Recopilación de datos a escala. La analítica del aprendizaje y las plataformas educativas recopilan datos de clics, escritura, pulsaciones e interacción. La pregunta central que examina la investigación sobre privacidad es si esa recopilación es proporcionada al beneficio educativo, y la investigación sobre analítica del aprendizaje digna de confianza trata la privacidad y la gobernanza de datos como un requisito previo y no como un añadido: el cumplimiento ético, la seguridad de los datos y los algoritmos transparentes son lo que hace que el cambio educativo basado en datos tenga sentido en absoluto.
• Consentimiento y transparencia. El estudiantado y las familias rara vez entienden qué datos recopila una herramienta de IA, cómo se usan o dónde se almacenan. Este desequilibrio de poder entre las instituciones y quienes aprenden es un tema recurrente: el estudiantado puede no tener una opción significativa más que usar una plataforma obligatoria, lo que hace que el «consentimiento» sea nominal y no informado. La base de conocimiento conecta esto con la calibración de la confianza y la declaración de uso de IA: tanto el uso que hace el estudiantado de la IA como el uso que hacen las instituciones de sus datos dependen de la transparencia sobre qué se recopila y por qué.
• Seguridad, anonimización y procedencia de los datos. Incluso los datos legítimos pueden causar daño si se filtran o se gestionan mal. En la base de conocimiento aparecen técnicas de preservación de la privacidad: TeachLM demuestra una canalización rigurosa de consentimiento por sesión, eliminación de datos personales en servidores internos y confidencialidad de nivel empresarial para modelos de tutoría entrenados con datos auténticos, lo que muestra que los datos del estudiantado obtenidos éticamente son posibles y además un requisito previo para una tutoría de alta calidad. Las arquitecturas federadas y de IA en el borde mantienen los datos en local y reducen la recopilación central. Las herramientas de detección añaden un caso paralelo de tratamiento de datos: Bassett et al. (2026) señalan que los proveedores de detectores almacenan los trabajos del estudiantado en servidores de terceros, a veces en el extranjero y bajo estándares de privacidad más débiles, además del riesgo de filtraciones y de explotación comercial de la escritura del estudiantado.
• La vigilancia y la tensión entre vigilancia y privacidad. La monitorización constante con IA, incluso cuando está bien intencionada, puede resultar invasiva. La investigación sobre la fatiga por IA, la supervisión remota de exámenes y la dependencia excesiva conecta la privacidad con el bienestar del estudiantado: cuando la IA observa y rastrea de forma continua, moldea la conducta y la ansiedad, y no solo los flujos de datos. Harerimana et al. (2026) catalogaron lo que los sistemas de supervisión remota capturan realmente —imágenes faciales, documentos de identidad, escaneos de la habitación incluidos barridos de 360 grados, audio del micrófono, reconocimiento facial, grabaciones de pantalla, eventos de bloqueo y seguimiento de pulsaciones y del ratón, con la vigilancia móvil añadiendo GPS y comprobaciones con selfis— y encontraron que la privacidad y la rendición de cuentas algorítmica estaban en gran medida ausentes de los seis estudios que cumplieron sus criterios de inclusión, y que se suplían desde trabajos adyacentes: el 83% de las personas encuestadas en una encuesta citada expresó temores de vigilancia, el 58% incomodidad y el 72% preocupaciones de privacidad de datos, mientras que los contratos transfronterizos con proveedores dejaban a instrumentos como el RGPD y la POPIA sudafricana con un control limitado. La exposición legal que se deriva de conservar y tratar esos datos —quién es el responsable, cuánto tiempo se conservan, quién puede acceder a ellos y si el consentimiento fue realmente voluntario— se traza en cuestiones y riesgos legales.
• La disyuntiva entre personalización y privacidad. El aprendizaje personalizado necesita datos detallados de quien aprende para funcionar, lo que crea una tensión estructural con la privacidad. La base de conocimiento explora enfoques que equilibran la personalización con la minimización de datos: suficientes datos para adaptar, no tantos como para dejar a quien aprende totalmente expuesto. Esta es la forma práctica de la pregunta «¿cuánto es proporcionado?».
• La custodia de los datos como valor ético central. Agarwal et al. (2026), una revisión sistemática de 25 artículos, identifican la custodia de los datos (definiciones que usan datos o información) como uno de los seis valores éticos principales para la IA en la educación, junto con la no discriminación, la supervisión humana, la buena voluntad, la explicabilidad y la idoneidad educativa. La revisión encuentra que los valores están estrechamente acoplados y pueden entrar en conflicto —por ejemplo, la explicabilidad frente a la precisión o la privacidad, y la no discriminación frente a la custodia de datos—, lo que genera dilemas éticos, y que ninguna norma sobre custodia de datos se dirige directamente a las personas usuarias finales, lo que deja a quien aprende en un papel en gran medida pasivo en la literatura ética.
• La privacidad se aplaza en lugar de decidirse. Doce entrevistas con profesionales de la tecnología educativa y una auditoría de 48 políticas de privacidad de plataformas muestran que la privacidad se reconoce como importante y luego se pospone a lo largo del ciclo de vida del producto, con la responsabilidad delegada en proveedores de nube, documentos de política y centros educativos situados más abajo: un patrón que una retroalimentación débil sobre privacidad mantiene invisible, porque el silencio parece una prueba de seguridad (Nair y Greenstadt, 2026).

Seguridad infantil y protecciones en K-12

Los entornos de K-12 exigen salvaguardas de privacidad más estrictas porque quien aprende es menor de edad. Esto extiende la privacidad más allá de la protección de datos y la lleva a la seguridad pedagógica: las herramientas que usan los niños y las niñas no solo deben proteger sus datos, sino también protegerlos de daños. La investigación sobre seguridad infantil muestra que los clasificadores de seguridad de propósito general a menudo no detectan las peticiones inseguras de menores relacionadas con la educación, y advierte de que los centros educativos no pueden dar por supuesto que las salvaguardas estándar de los modelos protegen a las personas usuarias más jóvenes: necesitan evaluación específica para la infancia, pruebas basadas en incidentes y supervisión humana. El encuadre conecta la privacidad con la equidad: quién queda protegido por las prácticas de seguridad y privacidad por defecto refleja la seguridad y la autonomía de quién trata un sistema como no negociables.

La privacidad en la práctica

• Trate la privacidad como un requisito de diseño y no como una consideración posterior de política. El ejemplo de TeachLM muestra que el consentimiento, la anonimización y el tratamiento seguro de los datos pueden integrarse en la propia canalización de datos: un modelo para obtener éticamente los datos auténticos que hacen eficaces a los tutores de IA.
• Diseñe para la minimización de datos. Prefiera enfoques que recopilen solo lo que la adaptación requiere (IA en el borde o federada, procesamiento en el dispositivo) en lugar de acumular datos de interacción por defecto. Boyapati et al. (2026) demuestran una forma federada concreta de esto para el diagnóstico cognitivo: varias API comerciales de LLM colaboran en el diagnóstico y añaden localmente ruido de privacidad diferencial ε-local a la predicción de cada modelo antes de la agregación, de modo que ningún proveedor ve datos brutos del estudiantado, una arquitectura que preserva la privacidad y mantiene funcional la tutoría con IA sin centralizar trayectorias sensibles de quien aprende. El aprendizaje federado también permite analítica interinstitucional sin compartir datos: Villegas-Ch et al. (2026) entrenan un modelo multitarea de riesgo académico entre instituciones mediante agregación federada, de modo que los datos brutos de quien aprende permanecen en local y solo se comparten los parámetros del modelo, una alternativa colaborativa y preservadora de la privacidad a la analítica del aprendizaje centralizada que mantiene la soberanía de los datos a la vez que captura patrones interinstitucionales.
• Obtenga un consentimiento explícito e informado. Cuando los datos de quien aprende financian el desarrollo o la mejora de la IA, las instituciones deben ser transparentes sobre la recopilación, el almacenamiento y el uso, y el estudiantado debe tener opciones reales, no plataformas obligatorias.
• Audite a quién se protege. Las salvaguardas de privacidad no deberían limitarse por defecto a proteger solo a parte del estudiantado; la equidad exige que el mismo cuidado se aplique en todas las líneas de edad, lengua, discapacidad y nivel socioeconómico.

Conexiones

La privacidad se conecta con la analítica del aprendizaje (la recopiladora de datos), el aprendizaje personalizado (el consumidor de datos), K-12 (protecciones reforzadas), la ética (el marco normativo), la regulación (los requisitos legales), la gobernanza (la responsabilidad institucional), la equidad (quién queda protegido), la seguridad pedagógica (la protección de la infancia) y la política educativa sobre IA (las respuestas de política). Es una de las restricciones fundamentales que debe satisfacer cualquier despliegue responsable de IA en educación: la razón por la que la IA digna de confianza, en el encuadre de la base de conocimiento, empieza por datos dignos de confianza.

Conceptos conectados

• Supervisión remota de exámenes
• Analítica del aprendizaje
• Aprendizaje personalizado
• K-12
• Ética
• Regulación de la IA en educación
• Equidad
• Gobernanza de la IA
• Política educativa sobre IA
• Seguridad pedagógica
• Cuestiones y riesgos legales
• Experiencia del estudiantado

Artículos conectados

• Powerful Learning with Emerging Technology — La privacidad como obligación de seguridad ligada a la agencia
• Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions — Analítica del aprendizaje federada y explicable para un modelado del riesgo académico que preserva la privacidad (Villegas-Ch et al. 2026)
• Preparing Pre-Service Teachers for Responsible Generative AI Use: Curriculum Implications for Ethics, Privacy, and AI Literacy — Preocupaciones de privacidad del profesorado en formación sobre el uso responsable de la IA generativa (Kohnke et al. 2026)
• From Learning Analytics to Educational Interventions: Enhancing Decision-Making and Learning Design — De la analítica del aprendizaje a las intervenciones educativas: facilitadores de intervenciones basadas en analítica del aprendizaje digna de confianza (Svetec, Divjak y Kadoić 2026)
• Evaluation in the Age of AI: Output as Evidence of Learning — La evaluación en la era de la IA
• AI Tutoring is Not a Monolith: What We Actually Know — La tutoría con IA no es un monolito: lo que realmente sabemos (informe de Stanford SCALE/NSSA)
• A Comprehensive Review of the Changing Landscape of Academic Dishonesty in Automated Proctoring in the Era of Artificial Intelligence
• Ensuring Academic Integrity through Automated Online Exam Proctoring: A Decade-Long Systematic Review
• Artificial Intelligence in Online Education: A Systematic Review of Its Impact on Learner Engagement and Satisfaction
• Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named — Deuda de alfabetización agéntica: la brecha estructural de alfabetización en IA que crean los agentes autónomos (Nama 2026)
• Defining AI Fatigue in Academic Contexts: Dimensions, Indicators, and a Stage-Based Model Using Grounded Theory
• AI-Integrated Learning Management System for Middle School: A Longitudinal Study of Learning Outcomes Through High
• Child Safety in Generative AI: An Expert-Guided and Incident-Grounded Evaluation Framework
• EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers
• LLMs Do Not Grade Essays Like Humans — Los LLM no califican ensayos como las personas (Mathew et al. 2026)
• Exploring AI-Supported Disciplinary Mediation in Student Project Teams' Text-Based Communication
• TeachLM: Post-Training LLMs for Education Using Authentic Learning Data — TeachLM: anonimización y consentimiento para datos de aprendizaje auténticos
• Heads We Win, Tails You Lose: AI Detectors in Education — Cara gano yo, cruz pierdes tú: los detectores de IA en la educación (Bassett et al. 2026)
• The Policy Deficit in AI × Social-Emotional Learning Research — El déficit de política en la investigación sobre IA × SEL
• Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis — Diagnóstico cognitivo federado con LLM que preserva la privacidad
• Identifying the ethical values and norms for artificial intelligence in education: A systematic literature review — Valores y normas éticas para la IA en la educación
• Under surveillance: Mapping remote proctoring practices in the assessment of nursing students — a scoping review — Lo que capturan los sistemas de supervisión remota y la ausencia de la literatura sobre privacidad en la base de evidencia
• Bounded Reliance: A Source Credibility Perspective on EFL Students' Engagement with AI-Generated Writing Feedback — Confianza acotada: una perspectiva de credibilidad de las fuentes sobre la implicación de estudiantes de inglés como lengua extranjera con la retroalimentación de escritura generada por IA
• "We'll Fix It Later": Education, AI, and the Deferral of Student Privacy in EdTech — «Ya lo arreglaremos más adelante»: educación, IA y el aplazamiento de la privacidad del estudiantado en la tecnología educativa
• From Sentiment Classification to Actionable and Responsible Feedback: A Scoping Review and Evidence Map of NLP in Student Evaluation of Teaching, 2015–2026 — De la clasificación de sentimientos a una retroalimentación accionable y responsable: revisión de alcance y mapa de evidencia del PLN en la evaluación docente por el estudiantado, 2015-2026
• What Fidelity Metrics Miss: A Structural Check on Synthetic Educational Data — Lo que se les escapa a las métricas de fidelidad: una comprobación estructural de los datos educativos sintéticos