AIEd Hifadhi ya MaarifaAIEd KB
Kwenye ukurasa huu

Soma ukurasa huu kwa Kiingereza

Madhana

AI Inayoelezekana

Imeundwa 2026-10-13

Tafsiri ya kiotomatiki ya ukurasa huu wa Kiingereza, ambayo haijakaguliwa na mzungumzaji mzawa.

AI Inayoelezekana (XAI) katika elimu ni ubuni na somo la kufanya maamuzi ya mfumo wa AI yaweze kusomwa na wadau wake wa kielimu — wanafunzi, walimu, wasimamizi, wazazi, watafiti, na watengenezaji sera. Tofauti kuu ambayo uwanja unasisitiza: kueleza mada (kwa nini ukweli ni kweli) si sawa na kueleza uamuzi wa mfumo wa AI (kwa nini mwanafunzi huyu alipewa shughuli hii, kwa nini jibu hili lilipimwa kuwa si sahihi, ni ushahidi upi unaounga mkono utabiri wa hatari). Elimu inaleta mahitaji ya kipekee ya kuelezekana — data ya kujifunza yenye kelele, maelezo yanayoweza kusaidia moja kwa moja Metaji (Kufikiri Kuhusu Kufikiri) na Kujifunza kwa Kujidhibiti, na wadau wanaohitaji aina za msingi za maelezo tofauti. Swali la ubuni linalofaa kazi ni ubora wa maelezo, si upatikanaji wa maelezo tu: maelezo yaliyopo kiufundi lakini hayawezi kusomwa, yanapotosha, au hayalingani na hadhira yao yanaweza kudhuru zaidi kuliko kutokuwa na maelezo kabisa.

Maswali ya Kutafakari

  • Wakati mwalimu wa AI anakuambia kwa nini dokezo lililopewa, je, hilo ni kueleza mada au kueleza uamuzi wa mfumo? Unaweza kutaja mifano mitatu ya kila moja katika matumizi yako mwenyewe ya AI ya kielimu?
  • Nani anahitaji maelezo katika elimu — na je, wanafunzi, walimu, na watengenezaji sera wanahitaji aina ile ile? Kila mmoja angetumia maelezo kwa nini?
  • AI inamwonesha mwanafunzi kuwa katika hatari ya kutoroka. Ni nini mwalimu anahitaji kujua ili kutenda kwa hilo, ikilinganishwa na kile mwanafunzi anahitaji kujua? Je, maelezo yale yale yanafaa kwa wote wawili?
  • Ukurasa unadai kwamba ubora wa maelezo unamaanisha zaidi ya upatikanaji wa maelezo. Nini hufanya maelezo yaliyopo kiufuni kushindwa — unaweza kufikiri wakati maelezo yalikuwepo lakini hayakufaa, au mbaya zaidi, yalipotosha?
  • Uaminifu na maelezo yameunganishwa lakini si sawa. Kwa nini maelezo yenye kujiamini na yenye ufasaha yanaweza kuunda ujasiri wa uongo katika mfumo wenye kasoro — na ungefanya vipi kugundua hilo likitendeka?

Utangulizi

AI Inayoelezekana katika elimu inaita matarajio yanayoongezeka kwamba mifumo ya AI katika madarasa haipaswi kuwa masanduku meusi. Kwa sababu AI katika elimu inaathiri maamuzi yenye matokeo — alama, alama za hatari, njia za kujifunza, mapendekezo ya nyenzo — wadau wanadai zaidi zaidi kujua si tu nini mfumo umethibitisha bali kwa nini. Elimu inapunguza hili kuwa maswali mawili tofauti: kueleza mada inayofundishwa, na kueleza uamuzi wa mfumo wa AI yenyewe. Kuvitanganya ni kosa la kategoria lenye matokeo ya kwanza: AI inayoeleza jibu la fizikia kikamilifu bado hampatii mwanafunzi na mwalimu ufahamu wowote kuhusu kwa nini mfumo uliwaweka katika hatari, ulipendekeza shughuli fulani, au ilipima jibu kuwa si sahihi.

Kueleza mada dhidi ya kueleza uamuzi wa mfumo

Mchango wa kuanzishaji wa uwanja — mfumo wa XAI-ED (Khosravi et al., 2022) — unasisitiza kwamba elimu ina mahitaji ya kipekee ya kuelezekana zaidi ya XAI ya matumizi ya jumla. Miongoni mwayo ni mgawanyo kati ya malengo mawili ya maelezo:

Tofauti inamaanisha kwa sababu yanahudumia wadau na malengo tofauti. Mwanafunzi anayejibu "kwa nini hili limepigwa alama ya kosa?" kwa kawaida anahitaji maelezo ya mada; mwalimu anayeamua kama atatenda kwa alama ya hatari, au mtengenezaji sera anayekagua upendeleo, anahitaji maelezo ya uamuzi wa mfumo. Kubuni maelezo moja yanayohudumia wote wawili ni nadra — na hii ni kwa nini ubuni wa wadau wengi ni mada kuu ya XAI-ED.

Nani anahitaji maelezo: ubini wa wadau wengi

  • Wanafunzi wanahitaji maelezo yanayounga mkono kujifunza kwao na kujidhibiti — kwa nini dokezo lilipewa, kwa nini jibu lao lilipimwa kuwa si sahihi, kwa nini nyenzo hii inapendekezwa (yanayounga mkono Kujifunza kwa Kujidhibiti). Ushahidi wa mtazamo wa mwanafunzi unaonyesha wanafunzi wanatoa mstari mkubwa kati ya kukubali maoni ya AI (yanayofaa kwa marekebisho) na kukabidhi mamlaka ya kupima (iliyowekwa kwa ajili ya mwalimu wa binadamu) — msimamo uliopangwa na unaolingana na kazi, unaoamshwa na uwazi kuhusu kushiriki kwa AI. Kazi ya ubini unaotambua thamani na wanafunzi wa chuo cha jamii inapunguza hoja hii: wanafunzi walipendelea maelezo ya ushirikiano, ya kibinadamu (mfano, "AI inaweza kuwa na shaka hapa, basi tufanye hivi pamoja") badala ya ujasiri wa mfano bila kuchakatwa au uwazi wa kiufundi, kwa sababu uwazi peke yake una thamani ndogo isipokuwa ungeunga mkono moja kwa moja kujifunza kwao. Utafiti ulionyesha mvutano wa uwazi-dhidi ya-uwezekano wa kuelewa unaosukuma ubini wa maelezo kuelekea maana yanayoelekea mwanafunzi badala ya matokeo ya umuhimu wa kigezo.
  • Walimu wanahitaji maelezo yanayojulisha uingiliaji — wanafunzi wapi wako katika hatari na kwa nini, kwa ushahidi upi. Masomo ya kuelezekana na walimu yanaonyesha maelezo ya lugha ya maalum ya taaluma, ya mtaala yanajenga kukubalika na uaminifu uliopangwa kwa ufanisi zaidi kuliko yale ya kigezo ya jumla ya umuhimu, hata hivyo walimu bado wanataka uzoefu halisi wa darasa kabla ya kutegemea kabisa — maelezo peke yake hayatoi upangaji.
  • Watengenezaji na watafiti wanahitaji maelezo ili kurekebisha tabia ya mfano na kugundua upendeleo — kuweka wazi ni kigezo gani kinatoa utabiri.
  • Wasimamizi na watengenezaji sera wanahitaji maelezo kwa uwajibikisho, faragha, na utii wa Udhibiti wa AI katika Elimu (mfano, haki ya maelezo), na kukagua kama maamuzi yanayoendeshwa na AI ni ya haki na ya usawa.

Mbinu na muundo

Mfumo wa XAI-ED unorodhesha njia kuu za maelezo: ya kuona (ramani za joto, miti ya maamuzi), ya maandishi (maelezo ya lugha asilia), ya msingi wa mifano (counterfactuals, majirani wa karibu), vipimo vya umuhimu wa kigezo, utoleo wa kanuni, na urahisishaji wa mfano. Pia unapanga mbinu kwa madarasa ya mifano:

  • Mifano ya sanduku jeupe (miti ya maamuzi, mifano ya mstari, inayotumia kanuni) inaweza kuelezewa kwa asili.
  • Mifano ya sanduku jeusi (mitandao ya neva, ensembles) inahitaji mbinu za maelezo ya baada ya tukio.
  • Mbinu za sanduku la kioo zinajaribu kupanga usahihi na uwazi.

Ushahidi halisi wa AIED unafika zote hizi. Ufuatiliaji wa maarifa unaoweza kuelezekana (Interpretable knowledge tracing) unafanya mifano ya maarifa ya mwanafunzi ikaguliwe moja kwa moja (Interpretable Knowledge Tracing, Explainable Knowledge Tracing via Probabilistic Embeddings and Pattern-based Reasoning, Neural-Symbolic Knowledge Tracing: Injecting Educational Knowledge into Deep Learning for Responsible Learner Modelling). Vishika vinavyojieleza wenyewe hugawanya mfano wa sanduku jeusi katika mfano mdogo wa lugha unaoweza kuelezekana kwa Takwimu za Kujifunza (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics). Maelezo ya counterfactual — "nini kingehitaji kubadilika kwa matokeo tofauti" — yanaunga mkono msaada wa maamuzi ya kielimu na marejesho (From Student Risk Prediction to SC2R: Semantics-Constrained Counterfactual Recourse for Educational Decision Support). Uchanganuzi wa kujifunza wa mfumo uliosambazwa na unaoelezekana unaonyesha ubora wa maelezo unaweza kubadilika (upangaji unapungua) hata wakati uthabiti wa kipimo unadumu, na kusisitiza kwamba maelezo si sifa ya kudumu bali ni matokeo ya mfumo yanayopaswa kupimwa (Federated and Explainable Learning Analytics for Privacy-Preserving Academic Risk Modeling Across Heterogeneous Educational Institutions). Na ITS ya kihisia inayoelezekana inaonyesha maelezo katika ufundishaji wa unaotambua hisia (An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training).

Ubora wa maelezo, si upatikanaji

Somo linalojirudia katika ushahidi: kuwa na maelezo hatoshi; maelezo yanapaswa kufaa kwa hadhira yao, kuwa sahihi, na kupangwa kulingana na hatari. Mfumo wa XAI-ED unataja mifereji wazi:

  • Mzigo wa maelezo — habari nyingi zinamzidi mtumiaji na kubatilisha faida.
  • Maelezo yanayopotosha — maelezo ya baada ya tukio yanaweza kushindwa kuakisi hoja halisi ya mfano, na kutoa ujasiri wa uongo.
  • Upendeleo wa uthibitishaji — watumiaji huzingatia kwa uteuzi maelezo yanayothibitisha imani zilizopo.
  • Uaminifu kupita kiasi — maelezo yenye ufasaha yanaweza kuunda ujasiri wa uongo katika mifumo yenye kasoro, na kuchangia kutegemea kupita kiasi (upande mwingine wa Urekebishaji wa Uaminifu).
  • Kudhibiti mfumo — wanafunzi wanaweza kutumia maelezo kuepuka kujifunza halisi.

Ubora wa maelezo pia una kipengele cha usawa: maelezo yaliyopo kiufundi lakini hayawezi kusomwa na mdau fulani — au yanayoficha upendeleo katika utabiri — yanashindwa kusudi lao. Hii ni kwa nini swali la ubini ni ubora na ufaao, na kwa nini ubini wa maelezo unaozingatia binadamu na mdau mahususi hauwezi kutenganishwa na uzalishaji wa kiufundi wa maelezo. XAI yenye ufanisi ni kitendo cha mawasiliano kilichobuniwa kwa mahitaji ya kiakili ya mpokeaji, si kigezo cha kiufundi tu.

Maelezo si kila wakati wa usawa. Katika jaribio la hali 2 × 2 lenye wanafunzi 250 wa darasa la saba, maelezo ya maandishi ya alama ya hesabu yaliongeza kukubalika na usawa unaohisiwa katika hali zote mbili lakini yalipanua badala ya kufunga pengo kati ya maamuzi yaliyofanywa na mwalimu na yale yaliyofanywa na AI (Zhang et al. (2026)).

Onyo mawili yanapunguza hili zaidi, wote wawili yanayofanya kitu kuu katika mchango mpya zaidi wa wiki juu ya mada hii. Kwanza, mitambo ya maelezo yenyewe haijajiruhusu: mbinu za baada ya tukio kama LIME na SHAP zinaweza kushindwa kuwa za kweli kwa tabia halisi ya mfano, na hivyo maelezo yaliyopo kiufundi yanaweza kupotosha badala ya kuelimisha (Lund et al. 2026, yakitegemea Chuan et al. 2024). Pili, maelezo si uwajibikisho. Maelezo ya ni kigezo gani kilisababisha utabiri hayafichui kama kigezo hivyo vilikuwa vya kufaa kutumika, kama data ya mafunzo ilikuwa ya uwakilishi, au kama ubini wa mfumo ulionyesha hukumu yenye sauti; maelezo yanaweza kuunda muonekano wa uwazi huku yakichiacha hali za muundo zilizozalisha uamuzi bila kuguswa (Mittelstadt et al. 2019). Kwa elimu hii inamaanisha swali la kuendelea kuuliza si kama maelezo yalizalishwa bali kama mtu anayepokea — mwanafunzi, mwalimu, mshauri — angeweza kuelewa, kutenda, au kupinga uamuzi unaofuata. Kushindwa kule kule kwa kusomka kunaonekana kwenye upande wa usalama wa tathmini ya kiotomatiki: upimaji mkuu wa Humble (2026) wa zana ya kupima ya AI uligundua inazima gumzi kimya baada ya kuzuia uingizaji wa ilani, na — baada ya kutangaza kuwa haitafuata maagizo yaliyojumuishwa — ikiyafuata katika mbio sita zaidi kwenye faili ile ile, na kumuacha mtumiaji bila ishara ya kuaminika ya kutegemea.

Inayoelezekana kwa ubini ni jibu moja kwa tatizo la uaminifu wa baada ya tukio. Li, Yang na Fang (2025) wanabainisha msomaji wa maelezo na uwakilishi uliounganishwa na alama iliyotabiriwa ule ule unaoamua tathmini, na hivyo alama ya chini katika maswali ya kiumbo hutoa maelezo yanayotaja maswali ya kuchunguza yasiyo ya kutosha, na kuunganisha na uangalifu wa lenzi mbili kwenye viwango vya mtaala na hatua za rubriki mahususi za taaluma. Ulinganifu wa uangalifu-kwa-rubriki unafikia 78.0% ikilinganishwa na 41.7% ya GPT-4 bila mafunzo na 32.1% ya BERT, na uaminifu hupimwa na kufuta kwa counterfactual sehemu muhimu za rubriki pamoja na alama za binadamu kwenye orodha ya ukaguzi iliyoungwa na rubriki, na kutoa alama ya uaminifu wa maelezo ya 0.78 — ongezeko la 0.31 juu ya BERT-base. Ukaguzi pia unaonyesha mahali madai ya usanifu yanapungua: kwenye ishara za kihisia mfano hutoa 28.4% ya uzito wa uangalifu dhidi ya 15.2% ya mtaalam (ulinganifu 0.53), na hali moja ya kushindwa ikitoa 28% kwa tokeni "kukasirika", ambayo waandishi wanasoma kuwa na mifano kupita kiasi ya kihisia badala ya kielimu na wanaita kama eneo la kuboresha. Kujumlisha maelezo katika njia ya uamuzi huyafanya kuwa ya kweli zaidi ya maelezo ya baada ya tukio; haifanyi sahihi.

Kufundisha kuelezekana kama mazoezi ya uwajibikisho

Kama ubora wa maelezo unaamua kama XAI ni yenye ufanisi, basi kuzalisha maelezo inapaswa kufundishwa kama tabia ya kitaalamu badala ya kuonyeshwa kama uwezo. Lund na wenzake (2026) wanapendekeza kufanya hivi katika nguzo nne — uwezekano wa kujibu (wajibu wa kutoa sababu kwa walioathirika), uwajibikisho (madhara yanayotarajiwa katika mzunguko wote wa maisha, si kutetea baada ya tukio), utekelezaji (matokeo ndani ya kozi) na kujifikiria (uchunguzi uliorekodiwa wa dhana za mtu mwenyewe) — kila moja na kazi zake na gharama yake ya darasa.

Kwa kuelezekana hasa, kazi zinazomaanisha ni zile zinazolazimisha maelezo kutoka kwenye daftari: kadi za mfano zilizopimwa pamoja na vigezo vya usahihi, na ukaguzi wa maelezo wenye muundo ambao wanafunzi wanatumia zana za uwezekano wa kuelewa kwenye mifano yao wenyewe na kisha wanawasilisha matokeo kwa hadhira bila ushirikiano wa kiufundi. Utekelezaji ni nguzo ambayo mara nyingi hukosekana katika kozi zinazohusiana na maadili na ile inayofanya zilizosalia kuwa zaidi ya kimaandishi — rubriki zinazothawabisha nyenzo za uwajibikisho, miradi ambayo inaweza kurudishwa kwa marekebisho kwa msingi wa maadili, na mapitio ya marika yanayofanywa dhidi ya vigezo vya uwajibikisho badala ya vya kiufundi peke yake. Karatasi ni ya wazi kwamba zana zinatofautiana kwa kiasi kikubwa katika gharama: kadi za mfano na taarifa za nafasi hazihitaji programu mpya na zina hatari ya utii wa juu tu, huku paneli za marika na ushirikiano wa wadau zikihitaji uratibu na uungaji mkono wa taasisi, na hii ni kwa nini inapendekeza kupitisha kwa hatua badala ya kujitoa kwa yote au hakuna. Ona Kubuni Mtaala kwa ajili ya mahali zinapofaa katika mpango.

Dhana Zilizounganishwa

Makala Zilizounganishwa

Nukuu

Khosravi, H., Buckingham Shum, S., Chen, G., Conati, C., Tsai, Y.-S., Kay, J., Knight, S., Martinez-Maldonado, R., Sadiq, S., & Gašević, D. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 100074.

Metadata

Hadhira inayokusudiwaLearners, Researchers, Instructional Designers, Instructors
Kujifunza na UfundishajiMetaji (Kufikiri Kuhusu Kufikiri)
Teknolojia na MbinuBinadamu Katika Mzunguko, Ufafanuzi wa Akili Bandia, Takwimu za Kujifunza, Uundaji wa Mifano ya Wanafunzi na Mafunzo Yanayobadilika
Tathmini na UpimajiTathmini ya Kiotomatiki
Usawa, Maadili, na Matumizi ya UwajibikajiKupunguza Upendeleo, Urekebishaji wa Uaminifu, Usalama wa Kipatolojia
Misingi ya Akili Bandia katika ElimuUjuzi wa AI
SourceHistoryEditChat

Pachika ukurasa huu

Nakili msimbo ulio hapa chini ili kupachika ukurasa huu katika mfumo wa usimamizi wa kujifunza au tovuti nyingine. Toleo lililopachikwa linaonyesha maudhui ya ukurasa tu — linaficha kichwa cha tovuti, urambazaji, na kijachini.