Kwenye ukurasa huu

Soma ukurasa huu kwa Kiingereza

Tafsiri ya kiotomatiki ya ukurasa huu wa Kiingereza, ambayo haijakaguliwa na mzungumzaji mzawa.

AI yenye Ufahamu wa Kisaikometriki — mifumo ya tathmini ya AI iliyounganishwa na nadharia ya upimaji — ni kiwango cha juu kilichotangazwa katika Aligning LLM-Simulated and Human Examinees for Psychometric Calibration: A Cognitive Diagnostic Profiling Approach, Cognitive Episodes in LLM Reasoning Traces Enable Interpretable Human Item Difficulty Prediction, Tathmini ya AI yenye Ufahamu wa Uhakika, na Nadharia ya Majibu ya Kipengele: tathmini ya AI iliyokalibrishwa na yenye ufahamu wa kutokuwa na uhakika inahifadhi uaminifu na uhalali badala ya kuchukua nafasi ya uaminifu wa mfano ghafi kama ushahidi wa kisaikometriki.

Maswali ya Kutafakari

  • AI inamwandikia mwanafunzi alama ya jibu lake na inaripoti alama yenye sauti ya kujiamini. Kwa msingi upi ungeamini namba hiyo — na je, jibu lako linabadilika unapojifunza kuwa mfano haukukalibrishwa dhidi ya kiwango chochote cha upimaji?
  • Ukurasa unaonya dhidi ya kuchukua nafasi ya uaminifu wa mfano ghafi kama ushahidi wa kisaikometriki. Fikiria wakati uliamini matokeo ya AI yenye kujiamini ambayo yaligunduliwa kuwa makosa. Ni nini kilifanya kujiamini kwake kutosihiwa, na matokeo ya "yenye ufahamu wa kutokuwa na uhakika" yangeonekana vipi badala yake?
  • Utafiti uligundua kuwa kwenye kifaa kimoja cha tathmini, miundo ya majibu ya binadamu na ya LLM inatofautiana — ikimaanisha mfano unaweza kupata alama za juu na bado kupima kitu tofauti na kile mtihani unakusudia. Ukiwa mwalimu unayetumia mkaguzi wa AI, ungegundua vipi kuwa mtihani "unamaanisha" kitu tofauti kwa mashine kuliko kwa wanafunzi wako?
  • Utabiri wa ugumo wa kipengele unatumia LLM kukadiria jinsi swali linavyokuwa ngumu. Kabla ya kusoma, zingatia: je, "jinsi swali hili linavyokuwa ngumu" ni ukweli kuhusu swali, au kuhusu watu (au mifano) inayojibu — na kutokuwa na uhakika huo kunamaanisha nini kwa kutumia AI kukalibrisha mitihani?
  • Kalibrisho, uaminifu, na uhalali ni dhana za upimaji zenye maana sahihi. Ni zipi kati ya hizo ambazo umewahi kuzifikiri katika mazoezi yako ya tathmini, na unaweza kutegemea wapi matokeo ya AI ambayo haijawahi kukaguliwa dhidi yao?
  • Kwa Wasimamizi au msanidi: ikiwa zana ya tathmini ya AI unayozingatia inaripoti usahihi ghafi tu, ungeuliza muuzaji wake maswali gani mahususi kabla ya kuitekeleza na wanafunzi halisi?

Utangulizi

Kadiri mifumo ya AI inavyopanga majibu, kutabiri ugumo, na kutoa Maoni, hatari kuu ni kwamba yanaripoti matokeo yenye sauti ya kujiamini ambayo hayajathibitishwa dhidi ya kanuni za upimaji. AI yenye Ufahamu wa Kisaikometriki inashughulikia hili kwa kuweka Tathmini ya AI katika saikometriki iliyoundwa — kukalibrisha matokeo, kupima kutokuwa na uhakika, na kuhifadhi viwango vya Uhalali wa Tathmini na Upimaji wa Kielimu badala ya kutegemea usahihi ghawi au uaminifu wa kujitangaza.

Jinsi AI yenye Ufahamu wa Kisaikometriki inavyoonekana katika utafiti

  • Kalibrisho na uaminifu: Tathmini yenye ufahamu wa uhakika na kalibrisho ya saikometriki ya LLM zinahakikisha kwamba AI inaripoti alama za maana, zenye ufahamu wa kutokuwa na uhakika badala ya makadirio ya point yenye kujiamini kupita kiasi.
  • Uaminifu wa mfano hautoshi. Kwenye SciEntsBank, uaminifu wa kizungumzi, ficho na unaotegemea uwiano kila mmoja ulishindwa kutenganisha majibu mafupi sahihi na yasiyo sahihi; kalibrisho bora zaidi ilitoka kuongeza kutokuwa na uhakika wa aleatoriki unaotoka kwa seti ya data — entropy ya ndani ya makundi ya majibu yaliyowekwa kwa embedding — kupitia Random Forest pamoja na kuongeza Platt, ikiruhusu upangaji wa kiotomatiki wa kuchagua na ukaguzi wa binadamu (Cong et al. (2026)).
  • Lebo za uaminifu zinafanya triage ya ukaguzi, si kukubalika. Katika upangaji wa alama wa fizikia ya mkono wenye hatua kubwa, lebo za uaminifu wa AI zilifuatilia hitilafu ya alama ya chini zaidi kwa sehemu zenye uaminifu wa juu, hata hivyo sehemu zilizokuwa na uaminifu wa juu na zisizotambuliwa bado zilikutana na alama rasmi, hivyo lebo ni muhimu kwa kuweka kipaumbele ukaguzi wa mtaalamu badala ya kuruhusu kukubalika kiotomatiki (Pathak et al. (2026)).
  • Utabiri wa ugumo: Utabiri wa ugumo wa kipengele unaonyesha jinsi makadirio ya LLM yanavyopaswa kuthibitishwa dhidi ya mifano ya saikometriki (ona Nadharia ya Majibu ya Kipengele). Razavi na Powers (2026) wanatoa onyesho la kiwango kikubwa: katika vipengele 5,170 vya hisabati na usomaji vya K-5 vilivyokalibrishwa chini ya mfano wa IRT wa Rasch, upimaji wa ugumo wa zero-shot wa GPT-4o ulihusiana kwa wastani hadi nguvu na ugumo halisi (r = 0.83 hisabati, r = 0.81 usomaji) lakini ulikuwa wa kutofautiana kati ya madarasa, huku mbinu ya kipengele (vipengele vilivyotolewa na LLM kwenye mifano ya mti) ilifikia uhusiano hadi r = 0.87. Umuhimu wa kipengele unaoweza kueleweka wa utafiti (kiwango cha darasa na hesabu ya maneno ni watabiri wa juu) na mtiririko wake wa vitendo wa hatua saba yanaonyesha jinsi AI yenye Ufahamu wa Kisaikometriki inaweza kutekelezwa — huku utafiti wake wa kizuizi cha masafa ya madarasa ya mapema na mambo ya kueneza yalikisisitiza haja ya kuthibitisha makadirio ya LLM dhidi ya vigezo vya saikometriki vilivyounganishwa.
  • Kurudisha mzunguko si sawa na kurudisha kila kigezo. Mfano wa multimodal ulirekebishwa kama mwenye kujibu mfano ulikadiria ugumo wa kipengele wa nje kwa r = 0.85 na kurudisha kigezo cha kubashiri kwa 0.48, lakini ubaguzi ulikuwa dhaifu kwa 0.31 — hivyo kigezo gani ambacho mbinu inarudisha ni utafiti (Ormerod & Kim, 2026)).
  • Uhalali wa upimaji: Dhana inaunganisha Uhalali wa Tathmini na Upimaji wa Kielimu, miundo inayofafanua jinsi tathmini ya AI ya uhalali na uaminifu inavyoonekana.
  • Uhalali wa muundo ficho: Strugatski et al. (2026) wanaonyesha kuwa msimamo wa kisaikometriki unapaswa pia kuthibitisha kuwa tathmini inapima muundo ficho ule ule katika LLM kama katika binadamu. Kwa sababu miundo ya sababu ya majibu ya LLM na binadamu inatofautiana kwenye vyombo vile vile, hata mifano inayopata alama za juu inaweza kushindwa kupima muundo ambao mtihani unakusudia kupima — onyo kwa tathmini yoyote ya AI inayokopa ushahidi wa uhalali wa binadamu.
  • Lebo inaweza kupima zaidi, au chini, ya jina lake. Kuweka kwa embedding miundo 55 na vipengele 272 vya vyombo 12 vya ujuzi wa AI kulifichua jozi za jangle (lebo sawa, upimaji tofauti) na jozi za jingle (lebo tofauti, maneno yanayofanana karibu), kukurudisha uaminifu kwa r = 0.49, ukaguzi wa kabla ya mkusanyaji kwamba tofauti za muundo zinazalisha katika maneno ya kipengele (He et al. (2026)).
  • Mifumo ya uwezo ficho na uwekaji wa kiwango: Curi et al. (2026) wanatoa kigezo halisi kwa upangaji wa alama wa kisaikometriki katika mtihani wa kitaifa: alama za vipengele za rubriki hazijumuishwi moja kwa moja bali zinalishwa kwenye mfano wa IRT ambayo makadirio ya uwezo ficho yanakatwa na mbinu ya uwekaji wa kiwango cha Bookmark katika Stahili / Karibu na Ustadi / Haifai, na kupitisha kunahitaji angalau sehemu mbili za Stahili na iliyobaki angalau Karibu na Ustadi. Waandishi walirudisha mfumo huo katika muundo wa kiotomatiki (uwezekano wa asilimia 67 wa kujibu kwa usahihi angalau vipengele 7 vya rubriki kwa kiwango cha chini na angalau 10 kwa kile cha juu), ikiruhusu alama za kipengele za AI na za binadamu kulinganishwa dhidi ya vigezo vya uamuzi zinazofanana badala ya kwenye makubaliano ghawi peke yake.

Mahusiano

AI yenye Ufahamu wa Kisaikometriki ipo katika makutano ya Upimaji wa Kielimu, Uhalali wa Tathmini, Nadharia ya Majibu ya Kipengele, na Tathmini ya AI yenye Ufahamu wa Uhakika. Ni muhimu kwa Tathmini ya AIEd (iwapo tathmini ya AI inaaminika) na inaunganisha Mifano Mikubwa ya Lugha (LLM)-msingi Tathmini ya Kiotomatiki na Upangaji wa Alama wa Kiotomatiki. Msisitizo wake wa uhalali pia unazungumzia vikomo vya upimaji vya utafiti wa AIED.

Dhana Zilizounganishwa

Makala Zilizounganishwa

Pachika ukurasa huu

Nakili msimbo ulio hapa chini ili kupachika ukurasa huu katika mfumo wa usimamizi wa kujifunza au tovuti nyingine. Toleo lililopachikwa linaonyesha maudhui ya ukurasa tu — linaficha kichwa cha tovuti, urambazaji, na kijachini.