AIEd Hifadhi ya MaarifaAIEd KB
Kwenye ukurasa huu

Soma ukurasa huu kwa Kiingereza

Madhana

Hatari ya Kutunga Vitu Visivyokuwepo

Imeundwa 2026-10-13

Tafsiri ya kiotomatiki ya ukurasa huu wa Kiingereza, ambayo haijakaguliwa na mzungumzaji mzawa.

Hatari ya Kutunga Vitu Visivyokuwepo — hatari kwamba mifumo ya AI inazalisha maudhui yanayoonekana kuwa ya kweli lakini yasiyo sahihi kiutenda au yaliyoandaliwa katika miktadha ya elimu, ambapo makosa kama haya yanaweza kuwapotosha Wanafunzi, kudhoofisha Uaminifu, na kuzalisha tathmini batili. Kutunga vitu visivyokuwepo ni muhimu hasa katika elimu kwa sababu wanafunzi wanaweza kukosa maarifa ya taaluma ya kugundua makosa ya AI, na walimu wanaweza kutegemea utambuzi au maoni yanayozalishwa na AI ambayo yanaonekana yenye mamlaka lakini hayana msingi.

Maswali ya Kuzingatia

  • Wanafunzi mara nyingi hawana maarifa ya taaluma ya kugundua kosa la AI, na walimu wanaweza kuamini utambuzi wa AI unaosikika wenye mamlaka. Upotofu huu wa maarifa kati ya AI na mwanafunzi unafanyaje kutunga vitu visivyokuwepo kuwa hatari hasa katika elimu?
  • Utafiti mmoja uligundua AI inayotambua hisabati ya mkono ya wanafunzi inaweza kutunga nukuu za ushahidi ambazo hazikuwako, huku ikidai kuwa na uaminifu. AI inaposikika kuwa na uhakika na kunukuu 'ushahidi,' ni nini kinapaswa kukufanya usimamie na kuthibitishe?
  • Ikiwa katahini wa AI anathibitisha kupita kiasi masuluhisho yasiyo sahihi na anakataa kupita kiasi ufikiri halali lakini usio bora, athari ya muda mrefu ingekuwa nini kwa wanafunzi na walimu wanaouaminia?
  • Ukurasa huu unapendekeza ukaguzi wa binadamu-ndani-ya-mzunguko, usawazishaji wa uaminifu unaojua ushahidi, na kuegemea katika vyanzo vilivyothibitishwa kama njia za kupunguza. Ni ipi inayoonekana inawezekana zaidi katika miktadha yako mwenyewe, na ni nini bado inaweza kushindwa kugundua?
  • Kutunga vitu visivyokuwepo kunaweza kuambatanaaje na kutegemea kupita kiasi: kwa nini kosa la AI ni hatari zaidi watumiaji wakiamini matokeo bila ukosoaji, badala ya wakiwa na shaka?
  • Kama ungekuwa unabuni zana ya maoni ya AI kwa wanafunzi wako, ni ulinzi gani mahususi ungeutaka ili kulinda dhidi ya matokeo yanayoonekana ya kweli lakini yasiyo sahihi — na ungejuaije kuwa yalikuwa yanafanya kazi?

Utangulizi

Kutunga vitu visivyokuwepo katika AI ya elimu huchukua aina kadhaa zilizorasa katika makala za hifadhi hii ya maarifa: ushahidi ulioandaliwa katika tathmini ya mwanafunzi, utambuzi mbaya wenye uaminifu mkubwa wa maarifa ya mwanafunzi, na maelezo yanayosikika ya kweli lakini yasiyo sahihi ambayo wanafunzi huyakubali kuwa kweli. Hatari inaongezeka katika elimu kwa sababu upotofu wa maarifa kati ya AI na mwanafunzi unamaanisha mwanafunzi hana nafasi nzuri ya kuthibitisha matokeo ya AI. Miktadha ya ziada ni usomaji wa kozi unaozalishwa na AI unaosimamia kitabu: katika kozi ya chuo kikuu cha juu iliyobadilisha nakala yake ya kibiashara kwa njia hii, ni takriban 0.80% tu ya kurasa 4,487 zilizorekodiwa zilibeba nukuu ya ndani ya mtindo wa APA na mistari ya DOI ilikuwa hayupo kabisa, hivyo madadi mengi hayakuweza kukaguliwa kutoka ndani ya kitu cha ufundi (Sidorkin, 2026). Pengo hilo la ufuatiliaji ni tofauti na jibu lisilo sahihi, kwa sababu maandishi yanasomwa kama yenye mamlaka huku yakitoa njia ndogo za ndani za kuthibitisha.

Ukaguzi wa masudio 125 unaweka wigo juu ya kuenea na pengo la kugundua: viwango vya kutunga vitu visivyokuwepo vya 10–40%, na wanafunzi wa tiba wakigundua makosa ya AI mara 44–55% tu ya wakati (Rathnayake (2026)).

Kutunga vitu visivyokuwepo katika tathmini ni madhara hasa. MathCog iligundua kwamba LLM zinatunga nukuu za ushahidi ambazo hazipo katika maandishi ya mkono ya mwanafunzi zinapotambua ujuzi wa kiakili, na 58.5% ya utambuzi usio sahihi ukiwa na madai ya uongo ya uaminifu wa ushahidi. The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows ilirasa uhusishaji kupita kiasi wa ushahidi katika ufikiri wa Mifano Mikubwa ya Lugha (LLM) — mifano inadai msaada wa ushahidi ambapo hakuna. Zote mbili zinaungana na wasiwasi wa Tathmini ya AIEd na Ufuatiliaji wa Maarifa kuhusu Uhalali wa Tathmini. Ivory et al. (2026) wanaongeza hali mbili za kushindwa zinazoonekana matokeo ya AI yanapopewa alama badala ya kuchunguzwa: maelezo mahususi yaliyoandaliwa yanayosalimisha kupewa alama — karatasi iliyokaguliwa ambayo haipo, kamili na DOI isiyoweza kutatuliwa, na ukubwa wa sampuli ulioripotiwa kuwa 378 ambapo chanzo kilisema 329 — na kujipinga ndani ya jibu moja, ambapo mfano ulifikia chaguo sahihi kwa ufikiri na kisha kuripoti tofauti katika muhtasari wake wa mwisho. Kwa sababu orodha za marejeo kwa sasa zinapata alama kwa mpango badala ya usahihi, aina hii ya kosa inafikia alama ya kupita huku ikiwapotosha wanafunzi wanaotumia zana ile ile kurekebisha.

Katika jaribio la kubuni tathmini, Paula et al. (2026) waligundua marejeo yaliyoandaliwa na makadirio ya muda yasiyo halisi yaliyosalimisha kuashiriawa kwa kurudia na yalihitaji marekebisho makubwa ya kitaaluma — kutunga vitu visivyokuwepo katika zana ya kuandika inayoelekea kwa waelimishaji badala ya katika kazi ya mwanafunzi.

Dhana Potofu Kuhusu AI za kimkakati ni jamaa ya juu juu ya kutunga vitu visivyokuwepo wazi. Miličević et al. (2026) waliashiria mifano saba yenye uzito wazi kuzalisha "mtego wa Sokrate" kwa dhana 35 za msingi za sayansi ya kompyuta — maelezo yenye ufasaha na yenye mamlaka huku yakitulia juu ya kosa la juu juu, la kipekee la taaluma — na wataalamu watatu wa taaluma walithibitisha 221 kati ya sehemu 241 zilizoashiriwa (91.7%) kama dhana potofu za kimkakati, bila tofauti zenye umuhimu kati ya nyanja za CS. Makosa yalikuwa hasa ya dhana badala ya ya kweli (66.5% dhidi ya 33.5%) na hakuna yaliyo ya mantiki tu, na yalipimwa kuwa ya kuvutia kwa wastani hadi kwa kiasi kikubwa (M = 3.71 kwenye skela ya pointi tano), na utambulisho wa mfano ukielezea 43% ya tofauti. Kwa sababu kauli za mtu binafsi zinaweza kuwa sahihi huku uhusiano kati yao ukiwa mbaya, kukagua ukweli hatoshelezi; waandishi wanadai wanafunzi wanahitaji uthibitishaji wa dhana na uhakiki wa mfano ya akili. Wanaonya pia kwamba kiwango hupima uwezo chini ya kuashiriawa kwa kupingana badala ya kuenea kwa makosa kama haya katika matumizi ya kawaida, na kwamba hakuna mwanafunzi aliyepimwa, hivyo hakuna udanganyifu au matokeo ya kujifunza yaliyopimwa.

Ushahidi ulioandaliwa badala ya uliotungwa. Hali inayohusiana ya kushindwa katika kuweka alama kiotomatiki ni matokeo yaliyoondolewa kutoka nje. Humble (2026) alifanya mtihani mwingine wa mtiririko wa kazi wa kawaida wa kuweka alama kwa AI na akagundua kwamba maelekezo yaliyofichwa ndani ya faili iliyowasilishwa yalipandisha alama ya insha iliyoshindwa bila onyo linaloonekana katika 9 kati ya marudio 9 kwa mkakati mmoja na 17 kati ya 18 kwa mwingine. Maelezo mawili yanahusu aminifu: sindikizo iliyogunduliwa ilizuiliwa kwa kuzima mazungumzo kwa kimya na haikuripotiwa kwa mtumiaji kamwe, na kwenye moja ya mara ambapo zana ilitangaza ingefuata maelekezo rasmi ya kazi tu, marudio sita ya faili ile ile yalibaki yakipandisha alama. Alama iliyopatikana kwa njia hii haibei dai la uhalali, na kwa sababu uandishi unaacha alama isiyo ya kudumu, mtaalamu anabaki kuwa kizuizi halisi tu kwa matokeo yaliobuniwa ili yasiweze kuonekana.

Ulinzi dhidi ya uandishi kama huo unabeba mabadilishano yake: mtiririko wa ulinzi wa tabaka nyingi uliacha 46.34% ya sindikizo zikifaulu na Prompt Guard 38.48%, wakati NeMo Guardrails ilizuia kila shambulio lakini iliweka alama 16.22% ya maswali ya wanafunzi yasiyo ya madhara — kiwango cha uongo-chanya ambacho ni madhara yenyewe ya kieledu katika katahini (Maiorano (2026)).

Kutunga vitu visivyokuwepo katika katahini kunaathiri kujifunza moja kwa moja. Confirming Correct, Missing the Rest: LLM Tutoring Agents Struggle Where Feedback Matters Most iligundua LLM zikithibitisha kupita kiasi masuluhisho yasiyo sahihi huku zikikataa kupita kiasi ufikiri halali lakini usio bora — kushindwa kwa mfumo ambako kungewapotosha wanafunzi na walimu wote. Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks na EduGuard: A Safe RAG-Based LLM Tutor for Programming Education zinashughulikia mifumo ya usalama kwa LLM za elimu. Hatari hizi zinaungana na Usalama wa Kipatolojia na mahitaji ya Binadamu Katika Mzunguko.

Njia za kupunguza ni pamoja na miundo ya Binadamu Katika Mzunguko ambapo AI inaunga mkono badala ya kuchukua nafasi ya hukumu ya mwalimu, miundo inayojua ushahidi ambayo husawazisha uaminifu kulingana na ubora wa ushahidi (kama ilivyoishauriwa na MathCog), na kuegemea RAG (Uzalishaji Ulioboreshwa na Upatikanaji) kunavyozuia matokeo ya LLM katika vyanzo vilivyothibitishwa. Dhana ya Kutegemea Kupita Kiasi inahusishwa kwa karibu — kutunga vitu visivyokuwepo ni hatari zaidi watumiaji wakiamini matokeo ya AI bila ukosoaji. Sidorkin (2026) anaongeza hali ya kushindwa ambayo mrundo wa kupunguza haufanyi kazi: madai ya kipekee ya taasisi, na takriban 1.03% ya kurasa zilizorekodiwa zikipatanisha kampasi iliyoitwa kama "Sacramento State" na vitenzi vya sera vya kudai kuhusu kanuni zilizorekebishwa za kuhifadhi, uthibitisho na maendeleo, au Maagizo ya Kiutendaji ya CSU, hakuna yao yanayoweza kuthibitishwa kutoka kwa maandishi. Upekee ndiyo unaofanya hili kuwa ghali, kwa kuwa maelezo ya ndani yaliyoandaliwa yanaonekana sahihi vya kutosha kusalimisha kagua la kueleweka la msomaji, na tiba ambayo utafiti unapendekeza ni ya utaratibu badala ya ya kiufundi: tendea uzalishaji kama uzalishaji wa rasimu chini ya ukaguzi wa mtaalamu, kisha kusanifu vyanzo katika ubuni unaoboreshwa na upatikanaji.

Ufuatiliaji usio na uhakika uliopewa lebo ulipunguza utegemezi ulioripotiwa badala ya kuuongeza. Washiriki 546 waliposoma mazungumzo yale yale ya GAI yaliyopewa lebo kama yanayojumuisha habari iliyoandaliwa au kama sahihi iliyothibitishwa, lebo ya kuliandaliwa ilizalisha Uaminifu ya chini na uwezo wa kudhibiti unaohisiwa na kushindwa kwa kiakili na kutoridhika kwa juu pamoja na alama za chini za utegemezi (M = 2.935 dhidi ya 3.254) (Liu et al. (2026)). Matokeo yanapunguza mantiki ya kutegemea kupita kiasi ya ukurasa huu: kuona kwamba matokeo yanaweza kuwa yaliyoandaliwa si sawa na kuendelea kutegemea.

Dhana Zilizounganishwa

Makala Zilizounganishwa

FAQ Zilizounganishwa

Metadata

Teknolojia na MbinuAkili Bandia ya Kizazi, Binadamu Katika Mzunguko, Mifano Mikubwa ya Lugha (LLM)
Mbinu za Utafiti na TathminiTathmini ya AIEd
Usawa, Maadili, na Matumizi ya UwajibikajiHatari ya Kutunga Vitu Visivyokuwepo, Usalama wa Kipatolojia
Misingi ya Akili Bandia katika ElimuKupunguza Mzigo wa Kiakili
Aina ya ukurasaEvaluation
SourceHistoryEditChat

Pachika ukurasa huu

Nakili msimbo ulio hapa chini ili kupachika ukurasa huu katika mfumo wa usimamizi wa kujifunza au tovuti nyingine. Toleo lililopachikwa linaonyesha maudhui ya ukurasa tu — linaficha kichwa cha tovuti, urambazaji, na kijachini.