Как изследванията на AI в образованието да включват справедливост, достъпност, поверителност, етика и педагогическа безопасност?

Автоматичен машинен превод на тази английска страница, който още не е проверен от носител на езика.

Протоколът трябва да е готов в петък. Седмият раздел, за етиката, казва, че рисковете ще се наблюдават. Набирането минава през съществуващ курс за първокурсници, а абзацът за ограниченията отбелязва, че резултатите може да не са обобщаеми. Панелът за преглед ще пита кой вероятно печели, дали студенти с увреждания могат да използват нещото, какво се случва с логовете на взаимодействието и как изглежда вреден отговор на преподавател в данните. Четири въпроса, а нито един от тях все още няма раздел.

Отговорът, който да дадеш на панела: справедливостта, достъпността, поверителността и педагогическата безопасност принадлежат в дизайна и в мерките за резултат още от първата чернова. Всяко от тях променя кого набираш, какво инструментираш и какво докладваш, затова го прикачи към решение, докато протоколът още е редактируем.

Накратко

1. Назови сравнението между подгрупи, преди да събереш данни, и го сложи в плана за анализ.

2. Сложи обучаеми с увреждания в сесията по дизайн и тествай действителния интерфейс.

3. Запиши компромиса за поверителност, включително кой го е решил и кой може да го обърне.

4. Тествай безопасността в цели разговори, в сценарии от собствената ти дисциплина.

5. Комбинирай данните за резултатите с интервюта и остави следа, която читателят може да провери.

Питай кой получава ползата

Концепцията за цифровото разделение разделя разделението на достъп, на умения и на резултати, което означава, че премахването на бариерата за достъп с чатбот не произвежда справедлива полза. Проектирай за третото разделение. Докладвай резултатите по подгрупи и тествай за диференциална ефективност, вместо да разчиташ на общата средна стойност (диференциални ефекти между групи обучаеми).

Сравнително изследване на 45 нигерийски университета (15 федерални, 15 щатски, 15 частни) показва как тези разделения се натрупват. Цялостната интеграция на AI е умерена, M = 4,79 по 10-степенна скала, обхват 1,83-7,83. Типът управление не я предсказва (F(2,42) = 1,01, p = 0,372). Възрастта на институцията (β = 0,43, p = 0,016) и разположението в югозападната част (β = 0,31, p = 0,029) я предсказват. Вътрешните способности се подсилват взаимно (r = 0,79-0,80), а международните колаборации и партньорствата с индустрията се засилват взаимно (r = 0,74), което авторите обобщават като „връзките раждат връзки“. Рамките на политиката са най-слаби (M = 4,09; само 27% от институциите са с резултат 6 или по-висок), което оставя празнина между формалната стратегия и оперативната дейност по дизайна на учебната програма.

От това следват две следствия за дизайна. Насочи се към по-нови институции и недостатъчно обслужени региони, защото категорията не определя капацитета. И отчитай контекстите на Глобалния юг, които по-широката доказателствена база все още пропуска.

Сложи обучаеми с увреждания в стаята за дизайн

Включи обучаеми с увреждания в дизайна и оценяването, тествай действителните интерфейси срещу изискванията за достъпност и осигури равностойни пътища за участие и за демонстриране на учене. Техническото съответствие и приобщаващото преподаване са отделни тестове, а Достъпността покрива и двете.

Изследване с дизайн, чувствителен към ценности със студенти от колеж, преподаватели и разработчици показва работата на практика. То произвежда 16 съобразени с ценности функции в обяснимостта (E1-E5), контрола с човек в цикъла (H1-H9) и поверителността (P1-P4) и извежда на повърхността напрежения, а не подредени отговори: прозрачност срещу интерпретируемост, поверителност срещу преподавателско прозрение, агентност на обучаемия срещу воден от системата скафолдинг. Очаквай да отсъждаш по тези напрежения и запиши накъде си тръгнал.

Реши компромиса за поверителност и назови кой решава

Събирай данните, които образователната цел изисква, направи използването на данните и ограниченията на системата прозрачни и дръж човешката отчетност конкретна. Справедливостта, съгласието, пристрастието, обяснимостта, автономията на обучаемия и последиците от опосредстваните от AI решения са основни измерения на етиката и те си противоречат на практика. Студентите искаха контрол върху учебната аналитика и афективните данни; преподавателите искаха видимост, за да подкрепят ученето. И двете позиции са защитими, затова решението се нуждае от определен отговорник.

Докато системите поемат агентност, въпросът става структурен. Критичен преглед на управлението на агентен AI твърди, че автономията не трябва да надхвърля зрелостта на доказателствата или силата на отчетлив човешки контрол. Той предлага общ език за докладване: нива на автономия A0-A4, нива на надзор O0-O4, етапи на зрялост на доказателствата M0-M5. Употребите с последствия (A4: прием, оценяване, преминаване) изискват повторена, контекстно релевантна валидация и непрекъсната човешка власт, а висок резултат от бенчмарк не замества нито едно от двете.

Тествай за вредите, които бенчмарковете пропускат

Педагогическата безопасност означава да измерваш това, което един бенчмарк няма да измери: прекомерна зависимост, прекомерно разкриване на отговора, затвърждаване на погрешни представи, загуба на агентност, потискане на метакогницията, неравностойно отношение, мотивационна вреда и несъответствие с обучението. Тествай многоходови взаимодействия в сценарии, специфични за дисциплината. Синтезът за педагогическата безопасност и бенчмаркът SafeTutors показват защо система, която изглежда точна, все още може да навреди на ученето.

Практиците се сближават около съвместим дизайн. В изследване с партиципативен дизайн с шест учители от средното образование учителите независимо проектират „ограничени експерти“, а не автономни агенти: тясна област, човешки надзор и три защитни слоя в границите на областта, филтрирането на съдържание и възможността на учителя да наложи вето. Те приветстват AI за представяне на съдържание, осигуряване на практика и даване на формираща обратна връзка и отказват да делегират поставянето на цели или обобщеното оценяване. Надзорът е рамкиран като професионална отговорност.

Комбинирай методи и покажи пътя от данни до твърдение

Дозагрегираните количествени резултати могат да разкрият диференциални ефекти. Интервютата, наблюденията, фокус групите и съвместният дизайн извеждат на повърхността бариери, вреди, културни допускания и опит на обучаемите, които агрегираните оценки пропускат. Синтезът за изследователските методи в AIED третира триангулацията като необходима, защото нито един качествен или количествен метод не максимизира едновременно причинно извеждане, екологична валидност, контекстно разбиране и обобщаемост.

Собственият ти анализ се нуждае от същата дисциплина. Предложението за обосноваваемост твърди, че една подпомогната от AI интерпретация остава проверима, оспорима и преработваема, когато върви с артефакти като свързани с източници таблици на темите, стекове от лещи и реки от доказателства. Гладкото резюме не бива да крие пътя, който го е произвел.

Дръж отделно и нивата на резултатите. Прегледът на агентния AI отделя резултатите на артефакта, като точност и качество на обратната връзка, от ползата за обучаемия. Резултатите на артефакта могат да бъдат необходими и никога не са достатъчни, а справедливостта и институционалните резултати са там, където доказателствата са най-тънки.

Какво тази аудитория разбира погрешно

Справедливост означава достъп. Концепцията за цифровото разделение поставя уменията и резултатите в същия списък с достъпа, а изследването на Adeniranye установява капацитет, който се различава по възраст на институцията и регион, докато типът управление не предсказва нищо.

Достъпността е контролен списък за интерфейса. Изследването с дизайн, чувствителен към ценности, извежда напрежения между обяснимост и интерпретируемост, които никакъв контролен списък не решава.

Поверителността е формуляр за съгласие. Изследването по дизайн установява, че студентите и преподавателите искат противоположни неща от едни и същи данни, а прегледът на управлението свързва автономията със зрелостта на доказателствата.

Безопасност означава моделът да отказва вредни заявки. Педагогическата безопасност покрива прекомерната зависимост, затвърждаването на погрешни представи и загубата на агентност, които тест за отказ не докосва.

Един метод отговаря на въпроса. Синтезът за методите е категоричен, че тези четири свойства се разменят едно срещу друго.

Какво ще ти се върне

„Ще се занимаем със справедливостта в обсъждането.“ Тогава планът ти за анализ не може да я тества. Назови сравнението между подгрупи сега, или констатацията ще пристигне, след като данните са затворени.

„Извадката ни е твърде малка за анализ по подгрупи.“ Тогава кажи какво подкрепя и докладвай кои са били в нея. Нулев резултат за подгрупа от извадка с недостатъчна мощност не е доказателство за справедливост.

„Тестването за достъпност е работа на службата за увреждания.“ Техният преглед покрива съответствието. Дали обучаемият може да демонстрира какво знае в твоята дейност е въпрос на дизайн, и изследването по дизайн по-горе сложи студенти в стаята точно затова.

„Данните са деперсонализирани, значи поверителността е уредена.“ Напреженията в изследването по дизайн бяха за контрол и видимост, а не за идентификатори. Студентите искаха да знаят кой вижда афективните им данни и защо.

„Пакетът ни за безопасност минава.“ На кои ходове? SafeTutors установява, че преподаващите модели се влошават в дълги разговори, а това е дължината, която студентите ти реално ще използват.

Какво да направиш тази седмица

1. Добави абзац за подгрупите в плана за анализ, като назовеш кои групи и кой резултат.

2. Запиши една сесия по дизайн с обучаеми с увреждания или с персонала, който ги подкрепя, преди интерфейсът да е окончателен.

3. Напиши решението за поверителност като изречение с отговорник: какво се събира, кой го вижда, кой може да го спре.

4. Напиши десет състезателни хода на разговор по твоя предмет и ги пусни срещу системата.

5. Добави един проверим артефакт, например свързана с източници таблица или набор от кодирани извадки, в папката за анализ.

Накъде след това

Оценяване на AI интервенции: методи е придружаващата страница за мерки и дизайн. Топ 10 находки за преподавателите носи тези ограничения в находки 9 и 10, Справяне с често срещани погрешни представи за AI в образованието се занимава с възраженията на заинтересованите страни, а Празнини в изследванията на AIED изброява къде липсват доказателства.