Conceptos
Privacidad
Esta es una traducción automática de la página en inglés y todavía no ha sido revisada por una persona hablante nativa.
Privacidad: la protección de los datos, la identidad y la autonomía del estudiantado en entornos de aprendizaje aumentados por IA. Las preocupaciones por la privacidad se intensifican a medida que los sistemas de IA recopilan datos conductuales cada vez más granulares para la personalización, la analítica y la instrucción adaptativa. Es una restricción ética y regulatoria central de la IA en la educación: casi todas las herramientas de IA que personalizan, predicen o evalúan dependen de datos de aprendices, lo que convierte la minimización de datos, el consentimiento, la transparencia y la seguridad en requisitos de diseño fundacionales y no en algo que se añade después.
Preguntas para considerar
- ¿Con qué datos suyos se sentiría incómodo si se recopilaran, aunque mejoraran su aprendizaje? ¿Dónde deja la personalización de ser personalización para convertirse en vigilancia?
- Muchos estudiantes no tienen 'ninguna opción significativa' más que usar una plataforma obligatoria, lo que hace que el consentimiento sea nominal. ¿Ha dado alguna vez su consentimiento a algo sin entender realmente qué se recopilaba y por qué? ¿Qué exigiría en realidad un consentimiento informado?
- Los mismos datos de aprendices que impulsan el aprendizaje adaptativo y personalizado también crean riesgo de uso indebido y de daño. ¿Puede nombrar un beneficio de la personalización por el que estaría dispuesto a ceder algo de privacidad, y la línea que no cruzaría?
- Las salvaguardas de privacidad pueden 'acabar protegiendo solo a algunos aprendices'. ¿Qué estudiantes podrían estar más expuestos y cómo se conecta la privacidad con la equidad y la justicia?
- La vigilancia constante de la IA, incluso con buenas intenciones, puede moldear el comportamiento y la ansiedad. ¿Cuándo ha cambiado su comportamiento el sentirse observado, y qué sugiere eso sobre la sensorización con IA en el aula?
- Para la infancia, la privacidad va más allá de la protección de datos y entra en la seguridad. ¿Por qué podrían fallar las herramientas de seguridad de uso general a la hora de detectar riesgos relacionados con la educación de menores, y quién debería participar en el circuito?
Introducción
La privacidad es la condición previa para una IA fiable en la educación. Dado que los sistemas de IA mejoran con datos (la personalización requiere perfiles detallados de aprendices, la analítica del aprendizaje requiere registros granulares de interacción y los modelos de tutoría ajustados fino requieren transcripciones auténticas entre aprendiz y tutor), la capacidad que hace posible una educación adaptativa y escalable es también lo que hace posible la vigilancia, el uso indebido y el daño. La privacidad es inseparable de la ética (el marco normativo), la regulación (los requisitos legales), la gobernanza (la responsabilidad institucional) y la equidad (quién queda protegido y quién expuesto). Sus artículos sobre privacidad se agrupan en torno a cuatro problemas recurrentes: la recopilación a escala, el consentimiento y la transparencia, la seguridad y el anonimato, y las protecciones distintas que se deben a la infancia.
Los retos centrales de la privacidad
-
La recopilación de datos a escala. La analítica del aprendizaje y las plataformas educativas recopilan datos de clics, escritura, pulsaciones de teclas e interacción. La pregunta central que examina la investigación sobre privacidad es si esa recopilación es proporcionada al beneficio educativo, y la investigación sobre analítica del aprendizaje fiable trata la privacidad y la gobernanza de los datos como un requisito previo y no como un añadido: el cumplimiento ético, la seguridad de los datos y los algoritmos transparentes son lo que hace significativo, en última instancia, cualquier cambio educativo basado en datos.
-
El consentimiento y la transparencia. El estudiantado y las familias rara vez entienden qué datos recopila una herramienta de IA, cómo se usan o dónde se almacenan. Este desequilibrio de poder entre las instituciones y quienes aprenden reaparece en la literatura: una plataforma obligatoria deja al estudiantado sin una alternativa real, de modo que el acuerdo es nominal y no informado. Esto conecta con la calibración de la confianza y la declaración del uso de IA: tanto el uso que hace el estudiantado de la IA como el que hacen las instituciones de sus datos dependen de la transparencia sobre qué se recopila y por qué.
-
La delegación como mecanismo de privacidad, no solo como una divulgación. Nama (2026) sostiene que los agentes autónomos heredan permisos entre sesiones y rara vez los revocan, de modo que cada delegación opaca habitúa a las personas a conceder acceso sin escrutinio, lo que convierte el consentimiento informado sobre cuándo actúa un agente y no una persona en parte del diseño de privacidad.
-
La autonomía amplía la superficie de datos. Un sistema agéntico de relleno de formularios mantiene una base de conocimiento personal multimodal a través de servicios institucionales, evaluada en 1.301 campos únicos extraídos de los sitios de reclutamiento de 44 empresas, y sus autores señalan la gestión del conocimiento con preservación de la privacidad, el control de acceso y la confirmación humana como requisitos de despliegue no resueltos (Li et al. (2026)).
-
La seguridad, el anonimato y el origen de los datos. Incluso los datos legítimos pueden causar daño si se filtran o se manejan mal. Las técnicas que preservan la privacidad reaparecen en esta literatura: TeachLM demuestra una canalización rigurosa de consentimiento por sesión, eliminación de información personal identificable (PII) en servidores internos y confidencialidad de nivel empresarial para el posentrenamiento de modelos de tutoría con datos auténticos, lo que muestra que los datos de aprendizaje obtenidos éticamente son a la vez posibles y un requisito previo para una tutoría de alta calidad. Las arquitecturas federadas y de IA en el borde mantienen los datos en local y reducen la recopilación central. La inferencia residente en el navegador lleva esto más lejos: un tutor WebLLM se ejecuta como sitio estático con los pesos en caché en IndexedDB, de modo que el código, los prompts y las transcripciones del estudiantado nunca salen del dispositivo y no se necesitan claves de API ni facturación por llamada. El coste en equidad es, sin embargo, una nueva brecha de capacidad de hardware, ya que una generación rápida y fluida depende de una GPU del lado del cliente con capacidad suficiente (Suvernev et al. (2026)). Las herramientas de detección añaden un caso paralelo de manejo de datos: Bassett et al. (2026) advierten de que los proveedores de detectores almacenan el trabajo del estudiantado en servidores de terceros, a veces en el extranjero y bajo estándares de privacidad más débiles, junto con el riesgo de filtraciones y la posible explotación comercial de la escritura estudiantil.
-
La desidentificación depende de una calidad de detección medible. Ji et al. (2025) evalúan cinco configuraciones de detección de información personal identificable (PII) sobre texto estudiantil. GPT-4o-mini ajustado finamente alcanzó una exhaustividad de 0,9589 por 0,92 dólares por millón de tokens, alrededor de una sexta parte de los 4,90 dólares por millón de tokens de Azure AI Language. Un verificador de dos etapas elevó la precisión a 0,8893 donde los falsos positivos corromperían la utilidad del corpus, y el modo de fallo de baja precisión es semánticamente disruptivo: sustituye «Newton» por «David» en un pasaje de matemáticas o marca a Jesús, María y José en un relato cuya pista es Nazaret.
-
La vigilancia y la tensión entre la vigilancia y la privacidad. La supervisión constante por IA, incluso cuando es bienintencionada, puede resultar invasiva. La investigación sobre la fatiga por IA, la supervisión remota de exámenes y la dependencia excesiva conecta la privacidad con el bienestar del estudiantado: cuando la IA observa y rastrea de forma continua, moldea el comportamiento y la ansiedad, no solo los flujos de datos. Harerimana et al. (2026) catalogaron lo que los sistemas de supervisión capturan realmente —imágenes faciales, documentos de identidad, escaneos de la sala incluidos barridos de 360 grados, audio del micrófono, reconocimiento facial, grabaciones de pantalla, eventos de bloqueo y seguimiento de pulsaciones y del ratón, con la supervisión móvil añadiendo GPS y verificaciones con selfi— y encontraron que la privacidad y la rendición de cuentas algorítmica estaban en gran medida ausentes de los seis estudios que cumplían sus criterios de inclusión, y se suplían con trabajo adyacente: el 83% de los encuestados en una encuesta citada expresaba temores de vigilancia, el 58% incomodidad y el 72% preocupaciones por la privacidad de los datos, mientras que los contratos con proveedores transfronterizos dejaban instrumentos como el RGPD y la POPIA de Sudáfrica con un control limitado. La exposición legal que se deriva de retener y procesar esos datos —quién es el responsable del tratamiento, cuánto tiempo se conservan, quién puede acceder a ellos, si el consentimiento fue realmente voluntario— se mapea en cuestiones y riesgos legales.
-
La decodificación de EEG expone la atención. La decodificación neuronal extiende el problema de la privacidad más allá de los registros conductuales: Su et al. (2026) reconstruyeron lo que el estudiantado estaba viendo a partir de su EEG durante la instrucción en vídeo, lo que hace que las representaciones decodificadas sean inusualmente reveladoras y deja sin resolver la gobernanza de los neurodatos sensibles.
-
La disyuntiva entre personalización y privacidad. El aprendizaje personalizado requiere datos detallados de los aprendices para funcionar, lo que crea una tensión estructural con la privacidad. Los enfoques que equilibran la personalización con la minimización de datos buscan datos suficientes para adaptarse, pero no tantos que el aprendiz quede completamente expuesto. Esta es la forma práctica de la pregunta «¿cuánto es proporcionado?»
-
La custodia de datos como valor ético central. Agarwal et al. (2026), una revisión sistemática de 25 artículos, identifican la custodia de datos (las definiciones que usan datos e información) como uno de los seis valores éticos principales para la IA en la educación, junto con la no discriminación, la supervisión humana, la buena voluntad, la explicabilidad y la idoneidad educativa. La revisión encuentra que los valores están estrechamente acoplados y pueden entrar en conflicto —por ejemplo, la explicabilidad frente a la precisión y la privacidad, y la no discriminación frente a la custodia de datos—, lo que produce dilemas éticos, y que ninguna norma sobre la custodia de datos se dirige directamente a los usuarios finales, lo que deja al estudiantado en gran medida pasivo en la literatura ética.
-
La privacidad se aplaza en lugar de decidirse. Doce entrevistas con profesionales de la tecnología educativa y una auditoría de las políticas de privacidad de 48 plataformas muestran que la privacidad se reconoce como importante y luego se pospone a lo largo del ciclo de vida del producto, con la responsabilidad delegada en proveedores de la nube, documentos de política y escuelas situadas más abajo en la cadena: un patrón que la débil retroalimentación sobre privacidad mantiene invisible, ya que el silencio parece una prueba de seguridad (Nair y Greenstadt, 2026).
-
La base de evidencia sobre supervisión es escasa en ética. Una revisión de 80 estudios encontró que el 35% no revelaba su conjunto de datos, el 40% evaluaba un único modelo, el 30% no podía reproducirse y solo el 25% abordaba cuestiones éticas; los falsos positivos, es decir, señalar como sospechoso un comportamiento normal, siguen siendo un riesgo de fiabilidad central (Malhotra y Chhabra (2026)).
-
Las interfaces de chat filtran la conversación misma. Al auditar 42 plataformas de chat con IA, Bekos et al. (2026) encontraron 21 que enviaban los títulos de las conversaciones a rastreadores de terceros, y las siete plataformas educativas promediaban unas 367 solicitudes de rastreadores cada una, con cinco filtrando contexto.
-
La competencia y la autoridad fallan por separado. Un marco teórico (Hypothesis and Theory) sobre la protección de los datos de quien aprende nombra dos fallos contrastantes: docentes que reconocen un problema de privacidad pero carecen de la autoridad o de una alternativa aprobada para actuar, e instituciones que ofrecen servicios salvaguardados mientras el profesorado divulga información innecesaria o acepta inferencias no respaldadas (Kaziya y Lungu (2026)). Trata cada decisión de recoger, transmitir, inferir o divulgar datos del estudiantado como unidad de análisis, con la competencia demostrada y la habilitación institucional medidas por separado.
Seguridad infantil y protecciones en K-12
Los entornos de educación K-12 exigen salvaguardas de privacidad más estrictas porque quienes aprenden son menores. Esto extiende la privacidad más allá de la protección de datos y la adentra en la seguridad pedagógica: las herramientas que usan los niños no solo deben proteger sus datos, sino también protegerlos de daños. La investigación sobre seguridad infantil muestra que los clasificadores de seguridad de uso general a menudo no detectan prompts inseguros relacionados con la educación procedentes de niños, y advierte de que las escuelas no pueden dar por hecho que las salvaguardas estándar de los modelos protegen a los usuarios más jóvenes: necesitan evaluación específica para la infancia, pruebas basadas en incidentes y supervisión humana. Este planteamiento conecta la privacidad con la equidad: a quién protegen por defecto las prácticas de seguridad y privacidad refleja a quién considera un sistema que su seguridad y su autonomía no son negociables.
La privacidad en la práctica
-
Trate la privacidad como un requisito de diseño, no como un añadido de política. El ejemplo de TeachLM muestra que el consentimiento, el anonimato y el manejo seguro de los datos pueden integrarse en la propia canalización de datos: un modelo para obtener éticamente los datos auténticos que hacen eficaces a los tutores de IA.
-
Diseñe para la minimización de datos. Prefiera los enfoques que recopilan solo lo que la adaptación requiere (IA en el borde o federada, procesamiento en el dispositivo) en lugar de acumular datos de interacción por defecto. Boyapati et al. (2026) demuestran una forma federada concreta de esto para el diagnóstico cognitivo: varias API comerciales de LLM colaboran en el diagnóstico mientras añaden localmente ruido de privacidad diferencial local ε a la predicción de cada modelo antes de la agregación, de modo que ningún proveedor ve datos brutos de estudiantes, una arquitectura que preserva la privacidad y mantiene funcional la tutoría con IA sin centralizar trayectorias sensibles de los aprendices. El aprendizaje federado también permite una analítica interinstitucional sin compartir datos: Villegas-Ch et al. (2026) entrenan un modelo multitarea de riesgo académico entre instituciones mediante agregación federada, de modo que los datos brutos de los aprendices permanecen en local y solo se comparten los parámetros del modelo, una alternativa colaborativa y respetuosa con la privacidad a la analítica del aprendizaje centralizada que mantiene la soberanía de los datos y a la vez capta patrones interinstitucionales.
-
Elimine la identidad en lugar de gestionarla. AI Tutor Pro está construido para que el estudiantado no necesite cuenta y no deje perfil: el modelo de privacidad es una decisión de diseño que elimina el riesgo de identidad en lugar de gobernarlo a posteriori (Owston, 2026). La mayor parte del asesoramiento sobre privacidad pide a las instituciones auditar, minimizar y consentir; esta es la alternativa estructural más barata, y se aplica siempre que una herramienta no necesite saber quién es el aprendiz.
-
Obtenga un consentimiento explícito e informado. Cuando los datos de los aprendices financian el desarrollo o la mejora de la IA, las instituciones deberían ser transparentes sobre la recopilación, el almacenamiento y el uso, y los estudiantes deberían tener opciones reales y no plataformas obligatorias.
-
Audite a quién se protege. Las salvaguardas de privacidad no deberían acabar protegiendo solo a algunos aprendices; la equidad exige que el mismo cuidado se aplique a través de la edad, la lengua, la discapacidad y las líneas socioeconómicas.
Conexiones
La privacidad se conecta con la analítica del aprendizaje (quien recopila los datos), el aprendizaje personalizado (quien los consume), la educación K-12 (protecciones reforzadas), la ética (el marco normativo), la regulación (los requisitos legales), la gobernanza (la responsabilidad institucional), la equidad (quién queda protegido), la seguridad pedagógica (la protección de la infancia) y la política educativa (las respuestas políticas). Es una de las restricciones fundacionales que debe satisfacer cualquier despliegue responsable de IA en educación, la razón por la que la IA fiable empieza por datos fiables.
Concepciones erróneas comunes
- "La supervisión captura una porción de datos limitada y bien comprendida." Un catálogo de lo que los sistemas de supervisión capturan realmente enumera imágenes faciales, documentos de identidad, escaneos de la sala incluidos barridos de 360 grados, audio del micrófono y reconocimiento facial, entre otros. El alcance es más amplio de lo que describen la mayoría de los procesos de consentimiento.
- "La literatura sobre supervisión establece la ética de la supervisión." Una revisión de 80 estudios encontró que el 35% no revelaba su conjunto de datos, el 40% evaluaba un único modelo, el 30% no podía reproducirse y solo el 25% cumplía el estándar de notificación. La base de evidencia es escasa justo en las preguntas que una institución necesita responder antes de desplegar.
- "La privacidad es una casilla de cumplimiento y no una restricción de diseño." Casi todas las herramientas de IA que personalizan, predicen o evalúan dependen de datos de aprendices, lo que convierte la minimización de datos en una decisión de diseño. Una herramienta que necesita los datos no tiene un ajuste de privacidad opcional; tiene una dependencia de datos que el diseño eligió.
- La conciencia de las prácticas de datos no se sigue de verlas. Bergdahl (2026) encontró que el 66% de 47 estudiantes de 7.º año elegía la opción menos protectora en chatbots que leían su escritura, y que el 47% descartaba la influencia algorítmica como "solo diversión", medido un mes después de una lección en la que la clase vio su propio comportamiento registrado proyectado en directo, reaccionó diciendo que era "inquietante" y varios se quedaron durante el recreo para seguir usando la plataforma. La enseñanza sobre privacidad que hace visible el mecanismo sin hacer concreto el coste deja la postura intacta. El autor señala que las puntuaciones bajas aquí pueden ser más fiables que las altas, ya que para estos ítems no existe una respuesta socialmente esperada, mientras que la responsabilidad y la gobernanza invitan a la respuesta que suena correcta.
Conceptos conectados
- Supervisión remota de exámenes
- Analítica del aprendizaje
- Aprendizaje personalizado
- K-12
- Ética
- Regulación de la IA en educación
- Equidad
- Gobernanza de la IA
- Política educativa sobre IA
- Seguridad pedagógica
- Cuestiones y riesgos legales
- Experiencia del estudiantado
- Apoyo y éxito estudiantil — expedientes estudiantiles, intercambio de datos entre oficinas y modelado federado de riesgos
Artículos conectados
- Penny for Your Prompts: A Measurement Study of Contextual Leakage in AI Chat Platforms — Un penique por tus prompts: filtración de contexto en las plataformas de chat con IA (Bekos et al. 2026)
- Federated and explainable learning analytics for privacy-preserving academic risk modeling across heterogeneous educational institutions — Analítica del aprendizaje federada y explicable para modelar el riesgo académico preservando la privacidad (Villegas-Ch et al. 2026)
- From learning analytics to educational interventions: Enhancing decision-making and learning design — De la analítica del aprendizaje a las intervenciones educativas: condiciones que hacen fiables las intervenciones basadas en analítica (Svetec, Divjak y Kadoić 2026)
- Ensuring academic integrity through automated online exam proctoring: a decade long systematic review
- Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named — Deuda de alfabetización agéntica: la brecha estructural de alfabetización en IA que crean los agentes autónomos (Nama 2026)
- Defining AI Fatigue in Academic Contexts: Dimensions, Indicators, and a Stage-Based Model Using Grounded Theory
- AI-Integrated Learning Management System for Middle School: A Longitudinal Study of Learning Outcomes Through High School and Beyond
- Child Safety in Generative AI: An Expert-Guided and Incident-Grounded Evaluation Framework
- EduZone: A Framework for Evaluating LLM Safety for K-12 Students and Teachers
- Exploring AI-Supported Disciplinary Mediation in Student Project Teams' Text-Based Communication
- TeachLM: Post-training LLMs for education using authentic learning data — TeachLM: anonimato y consentimiento para datos de aprendizaje auténticos
- Heads we win, tails you lose: AI detectors in education — Cara gano yo, cruz pierdes tú: los detectores de IA en la educación (Bassett et al. 2026)
- Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis — Diagnóstico cognitivo federado con LLM que preserva la privacidad
- Identifying the ethical values and norms for artificial intelligence in education: A systematic literature review — Valores y normas éticas para la IA en la educación
- Under surveillance: Mapping remote proctoring practices in the assessment of nursing students—a scoping review — Qué capturan los sistemas de supervisión y la ausencia de la literatura sobre privacidad en la base de evidencia
- "We'll Fix It Later": Education, AI, and the Deferral of Student Privacy in EdTech — "Ya lo arreglaremos después": educación, IA y el aplazamiento de la privacidad estudiantil en el sector edtech
- Teacher competence and institutional governance for learner data privacy in AI mediated education — Un marco que separa la competencia del profesorado en privacidad de la autoridad institucional para actuar
Preguntas frecuentes relacionadas
- ¿Cómo debería la investigación sobre IA en educación incorporar la equidad, la accesibilidad, la privacidad, la ética y la seguridad pedagógica?
- ¿Cómo deberían abordar la IA los padres y el profesorado con niños menores de 13 años?
- ¿Cómo redactamos e implantamos una política institucional sobre la IA?
Recursos relacionados
- DrawSplatUna plataforma gratuita de navegador con pequeñas herramientas didácticas: pizarra, hojas de cálculo, diapositivas, documentos, listas, mapas conceptuales, cuestionarios, gráficos, imágenes y vídeo.