Kwenye ukurasa huu

Soma ukurasa huu kwa Kiingereza

Tafsiri ya kiotomatiki ya ukurasa huu wa Kiingereza, ambayo haijakaguliwa na mzungumzaji mzawa.

AI ya modaliti nyingi — mifumo ya AI inayochakata, kuelewa, au kuzalisha maudhui katika modaliti nyingi — maandishi, picha, sauti, video, na data zilizopangwa — na maswali ya kielimu ambayo mifumo hii inayasababisha. Katika AI katika elimu, AI ya modaliti nyingi inaonekana katika majukumu matatu tofauti: kama maudhui ya kujifunza ambayo wanafunzi huunda na hushirikiana nayo (kujifunza kwa modaliti nyingi), kama kikomo cha uwezo wa mifumo ya ufafanuzi ambayo lazima ifasiri michoro na grafu (ufafanuzi wa modaliti nyingi), na kama ishara ya tathmini inayotumika kutathmini ufahamu (upimaji wa modaliti nyingi).

Maswali ya Kutafakari

  • Fikiri grafu, mchoro wa nguvu, au mpango mmoja ambao umewahi kupata ugumu wa kueleza kwa maneno. Uzoefu huo unapendekeza nini kuhusu vikomo vya mwalimu wa AI wa maandishi tu anayejaribu kusaidia kwenye matatizo yenye picha nyingi?
  • Mwalimu wa fizikia hujibu matatizo yanayotegemea maandishi kwa ~96% ya wakati lakini hushuka hadi ~74% kwenye matatizo yanayoweka maana katika michoro. Kabla ya kusoma, unafikiri nini kinasababisha "uingiliaji wa modaliti nyingi" huu — na unaweza kufikiria suluhisho ambalo halihusishi kufundisha upya mfano?
  • Una uwezekano umeyazalisha maandishi na picha zote mbili kwa zana za AI. Umegundua kuwa "kutoa ilani kwa picha" hutofautiana na kutoa ilani kwa maandishi? Ni ujuzi upi ambao wanafunzi wanaweza kuhitaji ili kutafsiri wazo la dhahiri kuwa ilani ya kuona yenye usahihi?
  • AI ya modaliti nyingi inaweza kupima alama insha, kuzalisha maoni pamoja na maelezo ya sauti, na hata kujenga upya takwimu za vipimo vya mtihani kutoka kwa vipimo vya picha-na-maandishi. Hamisho kutoka tathmini ya maandishi tu hadi ishara ya tathmini ya modaliti nyingi linaonyesha (au linahatarisha) nini kwa usawa na uhalali?
  • Imekuwaje kuwa msaada wa AI ni wa kuaminika kidogo zaidi kwenye matatizo hasa yenye michoro mingi ambayo hujenga ufahamu wa kina wa STEM kunaweza kuunda pengo la usawa kati ya wanafunzi? Ni nani anaathirika zaidi?
  • Mifumo ya modaliti nyingi inaweza kutafsiri maandishi hadi sauti au picha ili kusaidia ujifunzaji wa kujumuisha, lakini pia inawezesha kugundua darasa kwa undani. Mstari uko wapi kati ya upatikanaji wa modaliti nyingi wa kusaidia na ufuatiliaji?

Utangulizi

Modaliti nyingi katika AI inarejelea uwezo wa kufanya kazi katika aina tofauti za uwakilishi badala ya maandishi peke yake. Mifumo ya kisasa ya Akili Bandia ya Kizazi na Mifano Mikubwa ya Lugha (LLM) inakubali na kuzalisha picha, sauti, na video pamoja na maandishi, na hivyo kufungua uwezekano mpya na hatari mpya kwa elimu. Ikijengwa juu ya nadharia ya kisemiotiki ya kijamii, ambayo inadai kuwa maana hutengenezwa katika modaliti — si maneno tu — AI ya modaliti nyingi hubadilisha jinsi kufundisha, kujifunza, na tathmini zinavyopangwa na kutathminiwa.(Multimodal Learning with Generative AI)

Sura tatu za AI ya modaliti nyingi katika elimu

1. Kujifunza kwa modaliti nyingi na uundaji wa maudhui

AI ya modaliti nyingi inawezesha wanafunzi kuzalisha na kushirikiana na maudhui katika maandishi, picha, sauti, na video. Mwongozo wa mwalimu kuhusu kujifunza kwa modaliti nyingi kwa kutumia AI ya kizalishaji unaweka zana hizi kama mshirika wa "cyber-social": hukamilisha — lakini haiwezi kuchukua nafasi ya — uundaji wa maana na binadamu.(Multimodal Learning with Generative AI)

  • Ujuzi wa AI katika miktadha ya modaliti nyingi una tabaka: ufahamu wa msingi wa mifumo ya modaliti nyingi, uundaji wa pamoja wa kati na tathmini mahususi ya matokeo, na ubunifu wa shughuli za modaliti nyingi na tathmini.(Multimodal Learning with Generative AI)
  • Kutoa ilani kwa modaliti nyingi ni mazoezi ya epistemological yenye mahitaji yenyewe. Wanafunzi wanaotoa ilani kwa picha na vile vile maandishi hugundua kuwa "ujuzi wa ilani hutofautiana kati ya kutoa ilani kwa maandishi na kwa picha" — kutafsiri maana ya dhahiri kuwa ilani za modaliti nyingi zinazosomeka na mashine kunahitaji msamiati wa kuona wenye usahihi na hufichua vikomo na upendeleo wa mfumo.(Students' multimodal prompting practices as epistemic work in AI literacy development)
  • Tathmini ya modaliti nyingi inahama kutoka insha hadi bidhaa zinazounganisha maandishi, picha, sauti, na video, huku waelimishaji wakitumia AI kwa kuweka ngazi za msaada kwa uundaji na maoni badala ya kuchukua nafasi ya uzalishaji wa mwanafunzi mwenyewe.(Multimodal Learning with Generative AI)
  • Uundaji wa maandishi ya mwanafunzi kwa modaliti nyingi kama ngazi za msaada za ufikiri mahususi hubeba mabadilishano. Lu et al. (2027) wanaonyesha kuwa kuwafanya wanafunzi wa juu wa msingi wabadilishe simulizi zilizoandikwa kuwa picha zilizozalishwa na AI na video fupi kulitia maendeleo yanayoendelea katika tafsiri, uchanganuzi, tathmini, na maelezo — lakini si katika kuhitimisha. Kwa sababu picha zilifanya maana ya hadithi kuwa ya wazi, wanafunzi waliripoti haja ndogo zaidi ya kuhitimisha maana iliyofichwa kutoka maandishi peke yake; ushirikiano wa marika, si zana ya modaliti nyingi, ulirudisha nafasi za kuhitimisha. Thamani ya AI ya modaliti nyingi kama mshirika wa uundaji wa maana kwa hivyo ni mahususi ya kipengele na hutegemea ubunifu wa kufundisha unaorudisha kwa makusudi kazi ya kuhitimisha na kujidhibiti ambayo uwekaji nje unaweza kukata.
  • Uundaji wa maandishi ya mwanafunzi kwa uandishi kama ujuzi mahususi wa AI. Burriss et al. (2026) wanachanganua matangazo ya huduma ya umma ya video ya sekunde 90 hadi dakika 3 ya wanafunzi 22 wa darasa la kumi na moja kuhusu maswali ya maadili ya AI waliyoyachagua wenyewe — ufuatiliaji kupitia laptopi za shule zilizodhibitiwa na "vipita-vituo vya kielektroniki," ridhaa iliyoelezwa, na shutuma ya algoriti ya adhabu — kama ujuzi mahususi wa AI unaotekelezwa kupitia kuunda katika picha inayoenda, sauti, maandishi, na miili ya wanafunzi wenyewe. Katika filamu zote saba, madhara yalionyeshwa yakitokana na kuvutana kwa binadamu–mashine badala ya zana peke yake ("mwana-maji wa AI" aliyedhaniawa kuwa na akili alichezwa na mwigizaji wa binadamu katika tatu kati ya saba), na majibu 15 kati ya 18 ya mwisho wa kipindi yalisema kuwa kuunda kulibadilisha ufahamu wao wa maadili ya AI. Waandishi wanadai kuwa bidhaa za modaliti nyingi zote zinaonyesha na zinawasilisha ujuzi mahususi — bidhaa za kuzalisha, tafakari, na mazungumzo ya uraia zinaweza kutumika kama ushahidi wa Tathmini ambao skela za ujuzi wa maandishi tu hupungua kimuundo.

2. Ufafanuzi wa modaliti nyingi na kikomo cha uwezo

Wakati watahiniwa wenye msingi wa LLM wanapaswa kutatua matatizo yanayoweka maana katika grafu, michoro ya nguvu, mipango, au jedwali, usahihi wao hupungua kwa kiasi kikubwa — Athari ya Uingiliaji wa Modaliti Nyingi.(Multimodal Dialogue in STEM Education)

  • Kwenye matatizo ya fizikia ya OpenStax, usahihi wa maandishi tu wa ~96% hushuka hadi ~74% kwenye matatizo yenye picha nyingi, kwa uthabiti katika familia zote za mifano.(Multimodal Dialogue in STEM Education)
  • Makosa ya Kuchakata Picha — kushindwa kutoa habari kutoka grafu au michoro — yanatawala taksonomia ya makosa na ni mtindo wa kushindwa unaoweza kurekebishwa zaidi.
  • Uingiliaji rahisi wa mazungumzo yaliyopangwa (waambie mfano aelegeze kile anaona, arekebishe tu misomaji potofu inayoonekana bila kutoa fizikia, kisha atoe ilani upya) unarudisha usahihi hadi ~95% bila kufundisha upya chochote.(Multimodal Dialogue in STEM Education)
  • Hii ni wasiwasi wa usawa: wanafunzi wanaofanya kazi kwenye matatizo yenye picha nyingi — hasa matatizo ambayo hujenga ufahamu wa kina wa dhana katika STEM — kwa sasa hupokea msaada wa AI wa kuaminika kidogo zaidi kuliko wale wanaofanya mazoezi ya maandishi tu.
  • Kujenga nyenzo ya kuona ni vigumu zaidi ya kuisoma. Kwenye GeoVAD-Bench, kutoa mchoro wa ziada wa mtaalam kuliongeza usahihi (+3.3 hadi +7.0 pointi), lakini kuwacha mifano kujenga mstari wao wenyewe wa ziada kulipanua pengo kwa pointi 10.0 hadi 13.5 — mifano miwili ilipata alama mbaya zaidi kuliko bila hoja za kuona kabisa (Dong et al., 2026).
  • Kikomo ni wasifu, si kiwango — na picha za kisanii ziko nje ya eneo ambalo mifano inashughulikia vizuri. MUSE (Zhu et al., 2026) inatathmini VLM 30 za wazi na za miliki kwenye kazi 12 juu ya sanaa 1,174 zilizoagizwa, na mwanendo wa uwezo katika vipimo ni mpana zaidi ya kile alama yoyote ya jumla inapendekeza: uainishaji wa mandhari ni karibu kukomaa (mifano 23 kati ya 30 juu ya 75.0, median 81.0) wakati kugundua hisia hufikia 39.5 na kazi za wazi zinazohitaji mifano kueleza ushahidi wao zinapata alama 50.90 (utambulisho wa kielezi cha kuona) na 49.18 (kuhitimisha sababu ya hisia) kwenye mfanano wa kisemantiki. Hoja za muundo na zile zinazotegemea mtazamo hushindwa kwa ukali zaidi — ambapo ukweli wa msingi unabainisha hakuna uhusiano mahususi wa upande au wima, 90.0% na 73.3% ya mifano inadai mmoja hata hivyo, 43.3% tu huweka msichana kwa usahihi katika kina, na hakuna mfano unatatua vipimo vyote vitatu vya kipimo kimoja. Makosa pia yanasambaa: mhusika asiyewekwa vizuri kisha hulindwa kwa mantiki ya ufasaha iliyojengwa kutoka kisemantiki za kuona za karibu (vipepeo, ndege), ambao ni matokeo ya hatari zaidi katika ufafanuzi kwa sababu maelezo yanasomwa kama ya ujuzi. Kwa ujifunzaji wa lugha unaotegemea picha lugha hili inadai kwa uthibitisho wa kiwango cha kipengele kwenye picha ambazo kozi inatumia kweli, badala ya kuingiza alama ya jumla ya modaliti nyingi, na kwa kupanua kituo cha kuweka chini kilichoelezwa hapa chini — elezea kile kilichoonekana, na wapi, kabla ya kufanya hoja kutoka kwake — hadi maudhui ya kisanii yaliyowekwa katika hali (MUSE: Benchmarking Large Vision-Language Models on Multi-Modal Understanding in Situated Education).

Athari ya kubuni ya kivitendo ni kipima chini cha kuweka picha msingi katika ufafanuzi wa modaliti nyingi: hatua ya makusudi ambapo mfumo unaeleza kile anaona kabla ya kujaribu ufumbuzi, na kumpa mwanafunzi au msimamizi wa binadamu nafasi ya kurekebisha makosa ya utambuzi.(Multimodal Dialogue in STEM Education)

Abreu et al. (2026) wanaongeza kizuizi cha awali: mlinganyo, grafu au kitengo kinaweza kuonekana katika ripoti lakini hawezi kamwe kupatikana kutoka hati iliyochakatwa, hivyo kutokubaliana na mkufunzi kunaweza kuwa kushindwa kutoa badala ya hoja — na hufanya muundo wa kuwasilisha kuwa sehemu ya ubunifu wa tathmini.

3. Tathmini ya modaliti nyingi na upimaji

AI ya modaliti nyingi inapanua maudhui ya tathmini na pia ishara inayotumika kuzipima.

  • Mifumo ya maoni ya modaliti nyingi inaunganisha maandishi yaliyopangwa, marejeleo ya slaidi, na maelezo ya sauti yanayoendelea. Katika utafiti mmoja, maoni ya modaliti nyingi ya AI yalilingana na maoni ya mwalimu kwa kujifunza huku yakizidi kwa kiasi kikubwa juu ya hisia za wanafunzi.(LLM-based Multimodal Feedback Produces Equivalent Learning and Better Student Perceptions than Educator Feedback)
  • Ukadiriaji wa kipengele cha kipimo cha modaliti nyingi hutumia LLM za modaliti nyingi zilizoboreshwa kwa ufano ili kujenga upya mikondo ya sifa za kipimo (IRT / 3PL) moja kwa moja kutoka uwezekano wa chaguo uliotabiriwa kwenye vipimo vya picha-na-maandishi, na kuunganisha AI ya modaliti nyingi na Upimaji wa Kielimu na Nadharia ya Majibu ya Kipengele.(Multimodal Item Parameter Estimation using Simulated Response Probabilities)
  • Tathmini ya mfano wa kuona-lugha wa kielimu na ujuzi wa LLM wa modaliti nyingi zinapanua zana ya tathmini ya uwanja hadi hoja za modaliti nyingi na Uwasilishaji wa Data kwa Michoro.(The Aftermath of DrawEduMath: Vision Language Models Underperform with Struggling Students and Misdiagnose Errors)(Benchmarking Multimodal Large Language Models for Scientific Visualization Literacy)
  • Kupima alama kwa kemia iliyoandikwa kwa mkono kwa modaliti nyingi hufichua kikomo cha uwezo kinachotegemea muundo: Cvengros & Kortemeyer walipima alama ukurasa kwa ukurasa wa mtihani wa mwisho wa kemia ya jumla wa wanafunzi 296 ulioandikwa kwa mkono dhidi ya picha za rubriki kwa LLM ya modaliti nyingi, ya hoja, wakipima alama majibu ya maandishi na mifumo ya miamala ya kemia kwa uaminifu (F1 iliyosawazishwa juu zaidi) lakini kuchora michoro na grafu mabaya zaidi ya nasibu — gridi za usuli huelekeza kuona kwa AI na michoro ya kisayansi/miundo ya kemia yanabaki vigumu kufasiri — na kuimarisha kwamba kuona kwa AI ya modaliti nyingi hakuna uthabiti kwa kazi zilizojaa uwakilishi na ni bora kutumika na kuahirisha kwa binadamu kwa vipimo vya picha (Assisting the grading of a handwritten general chemistry exam with artificial intelligence).
  • Utambuzi wa ujenzi na hukumu ya kulinganisha ni ujuzi unaotenganika. Ma et al. (2026) wanaeleza kanuni sita za kujifunza kwa multimedia kama marekebisho ya slaidi yanayoweza kurejeshwa pamoja na vidhibiti vya ubaguzi vya uwequivalency wa kuona, na wanagundua kuwa mifano zote mbili ilirudisha kila operesheni, kanuni na marekebisho (8/8) huku usawazishaji wa ukali ukishindwa kabisa (0/8) — alama ya jumla ingeficha tabaka lipi linaoshindwa.
  • Faida za usawa zinaweza kuthibitishwa hadi kuwa zilizopo. Kikadiriaji cha kipaumbele cha modaliti nyingi kilishinda msingi wa kuona tu kwa kiasi kidogo, na kirekebishaji chake cha pengo la MAE linalolenga jinsia kilipunguza pengo la uthibitisho kutoka 0.02 hadi 0.005 lakini kuliongeza pengo na makosa ya kikundi kibaya zaidi kwenye masomo yaliyohifadhiwa — hivyo uthibitisho unaoelewa vikundi, unaojirudia katika ngazi ya somo unahitajika kabla ya kupeleka (Fragkiadakis et al. (2026)).
  • Kupima alama kwa modaliti nyingi kunaweza kuzalisha matokeo ya uteuzi hata pale upimaji wa kiwango cha kipimo kinachelewa. Kwa kupima alama kurasa 10,364 za Olimpiki na za chuo kikuu zilizoandikwa kwa mkono, LLM ililingana na jumla za mtihaniwa kwa r = 0.93–0.96 na iliweka wanafunzi watano wale wale katika timu ya Olimpiki, lakini makubaliano ya sehemu yalifikia 70%: ushahidi wa msomaji wa pili, si kipima alama cha rekodi (Pathak et al. (2026)).
  • Kuzalisha michoro ni mpaka wa uwezo, si iliyotatuliwa. Kwenye kipimo cha fizikia cha maswali 15,246 kinachopima alama ya matokeo ya modaliti nyingi, kutunga au kuhariri michoro ya fizikia yaliyopangwa kulikuwa vigumu zaidi ya kujibu, na mifano ya mwonyo yalibaki chini ya 70% ya umiliki mkali — ushahidi kwamba uzalishaji wa kuona ni nyuma ya ufahamu wa kuona (Chen et al., 2026).

AI ya modaliti nyingi kwa lugha na ujifunzaji unaopatikana

Mifumo ya modaliti nyingi pia inapanua upatikanaji na ubinafsishaji. Zana za kujifunza za sauti-video zilizoongozwa na AI hubadilisha kasi ya kucheza, kuzalisha muhtasari wa video wa modaliti nyingi, na kusaidia mazoezi ya matamshi.(AI-Guided Learning: Research on Knowledge and Skill Acquisition Support Methods Using Deep Learning Audio-Video Processing Techniques) Grafu za maarifa za modaliti nyingi hufanya hoja katika picha na maandishi kwa kazi za kielimu,(Evidence-Grounded Multimodal Knowledge Graph Construction for Multi-Lecture Educational Reasoning) na uwakilishi wa modaliti nyingi huboresha Kujifunza kwa Ujumla kwa kutafsiri habari katika modaliti (mfano, maandishi hadi sauti au picha). Matumizi ya nyanja yanajumuisha kupima alama na utambuzi wa hisabati iliyoandikwa kwa mkono,(Benchmarking Large Language Models for Diagnosing Students' Cognitive Skills from Handwritten Math Work) ufafanuzi wa kihisia wenye ishara za modaliti nyingi,(An Interpretable Closed-Loop Intelligent Tutoring System for Multimodal Affective Feedback in Asynchronous Presentation Training)(MathBuddy: Affective Math Tutoring) kujifunza kwa maandishi-hadi-picha katika nyanja maalum,(NuclearDiffusion: Text-to-Image Foundation Models for Learning Nuclear Energy Concepts) na kugundua darasa kwa modaliti nyingi kwa ufahamu wa faragha.(Robust and Efficient Motion Reasoning for Privacy-Aware Classroom Incident Recognition) Bird (2026) anaonyesha aina ya ndani ya maandishi ya modaliti nyingi: kuunganisha transformer ya ELECTRA iliyoboreshwa kwa ufano na uchanganuzi wa sifa za isimu ya kikokotozi ili kuainisha fasihi ya Kiingereza kwa Key Stage ya UK, ambapo mfano uliounganishwa (F1 0.996) ulizidi kila msingi wa modaliti moja — ushahidi kwamba kuunganisha aina za uwakilishi, hata ndani ya maandishi, kunaweza kuzidi mbinu za mfano mmoja.

Changamoto na athari za kubuni

  1. Funga pengo la modaliti nyingi. Mifumo ya ufafanuzi ya modaliti nyingi inapaswa kujumuisha kuweka picha msingi na ngazi za msaada za mazungumzo yaliyopangwa badala ya kudhani kwamba uwezo wa kuona ni thabiti.(Multimodal Dialogue in STEM Education)
  2. Chukua kutoa ilani kwa modaliti nyingi kama ujuzi unaoweza kufundishwa. Mitaala ya ujuzi wa AI lazima ishughulikie kutoa ilani mahususi ya modaliti, mwendelezo katika modaliti, na tathmini mahususi ya matokeo ya modaliti nyingi.(Students' multimodal prompting practices as epistemic work in AI literacy development)
  3. Hifadhi uundaji wa maana na binadamu. AI ya modaliti nyingi inapaswa kuongeza, si kuchukua nafasi ya, ujenzi na tathmini ya mwanafunzi mwenyewe ya maana katika modaliti.(Multimodal Learning with Generative AI)
  4. Panua tathmini hadi uhalali wa modaliti nyingi. Uhalali wa tathmini, upendeleo, na uaminifu lazima vichunguzwe wakati AI inapima alama au inazalisha bidhaa za modaliti nyingi.(Multimodal Item Parameter Estimation using Simulated Response Probabilities)(Tathmini ya AIEd)
  5. Angalia usawa na faragha. Msaada usio na uaminifu kwenye matatizo yenye picha nyingi na mahitaji ya data ya kugundua kwa modaliti nyingi yote yanabeba athari za usawa na faragha.(Multimodal Dialogue in STEM Education)(Robust and Efficient Motion Reasoning for Privacy-Aware Classroom Incident Recognition)
  6. Linganisha mfumo wa hatua na maudhui. Msaidizi wa maabara ya usalama wa mtandao wa multimodal LLM alishughulikia slaidi za picha zilizojaa vizuri zaidi, wakati mfumo wa hatua wa OCR-pamoja-LLM ulitoa thamani ya kielimu inayolingana kwenye slaidi zilizozingatia maandishi kwa gharama ya kikokotozi ya chini zaidi.(Patel et al. (2025))

Dhana Zilizounganishwa

Makala Zilizounganishwa

Rasilimali Zilizounganishwa

  • DrawSplat
    Mfumo wa bure wa kivinjari wa zana ndogo za kufundisha: ubao mweupe, lahajedwali, slaidi, hati, orodha, ramani za dhana, dodoso, chati, picha na video.

Pachika ukurasa huu

Nakili msimbo ulio hapa chini ili kupachika ukurasa huu katika mfumo wa usimamizi wa kujifunza au tovuti nyingine. Toleo lililopachikwa linaonyesha maudhui ya ukurasa tu — linaficha kichwa cha tovuti, urambazaji, na kijachini.