Cum putem face IA mai bună la sprijinirea învățării în disciplina noastră?

Traducere automată a acestei pagini în limba engleză, încă neverificată de un vorbitor nativ.

Tichetul spune „antrenează modelul pe materialele cursului nostru”. Bugetul este aprobat, un GPU este rezervat pentru luna viitoare, iar un student la masterat a fost rugat să adune un set de date. Nimeni de pe apel nu a întrebat ce scor obține un prompt simplu sau ce scor obține o căutare pe cuvinte-cheie, pe aceleași întrebări.

Pune mai întâi acele două întrebări. În această bază de cunoștințe, diferența dintre un model general și unul competent pentru un curs este în mare parte o problemă de ancorare în materiale și de prompturi, iar dovada pentru această ordonare este neobișnuit de directă: un studiu asupra unui asistent de curs a constatat că regăsirea, nu modelul, a fost decizia de prim ordin, iar un model general fără ancorare a obținut un scor sub o linie de bază simplă TF-IDF.

Antrenarea este reală și uneori necesară. Este al treilea sau al patrulea lucru de încercat, iar materialul de mai jos este ordonat astfel încât să afli de ce treaptă ai efectiv nevoie înainte să cheltui calculele unui trimestru.

Pe scurt

1. Notează ce scor obține un prompt simplu și ce scor obține o metodă lexicală trivială, înainte să schimbi ceva. Al doilea număr este cel care te ține onest.

2. Pune regăsirea peste propriile tale materiale în fața modelului. Este cel mai mare câștig raportat aici în raport cu costul și este reversibil.

3. Construiește promptul față de rubrica ta și iterează până când îmbunătățirea se oprește. Platoul este semnalul că antrenarea ar putea adăuga ceva.

4. Adaptează ponderile cu LoRA atunci când ținta este stabilă și îngustă: un format, o rubrică, un nivel de lectură, un vocabular de domeniu.

5. Antrenează posterior când problema este comportamentul, nu conținutul, și scrie recompensa față de un benchmark despre care te aștepți să fie păcălit.

6. Construiește setul de antrenare la nivel de pas. Datele cu doar răspunsuri nu predau o concepție greșită.

Obține o linie de bază pe care chiar o poți bate

Înainte să schimbi ceva, notează ce returnează un prompt simplu. Apoi notează ce returnează o metodă trivială.

Studiul despre asistentul bazat pe o bază de cunoștințe de curs merită citit numai pentru asta. Un LLM local fără regăsire a atins 52,3% acuratețe. O linie de bază TF-IDF, o metodă lexicală veche de decenii, a atins 55,4%. Modelul a fost mai slab decât metoda clasică.

Sari peste acest pas și nu poți spune dacă ajustarea ta fină a ajutat. Mai rău, poți livra un sistem pe care o căutare pe cuvinte-cheie îl bate și afli abia când un asistent didactic o menționează. Două numere într-un tabel, obținute într-o după-amiază, protejează restul bugetului.

Ancora modelul în propriile tale materiale

Adăugarea generării augmentate prin regăsire peste materialele cursului, fără nicio ajustare fină, a ridicat același sistem de la 52,3% la 66,6%. Câștigul a venit dintr-un index și vine cu o proprietate pe care o rulare de antrenare nu o are: când documentele tale se schimbă, reindexezi.

Alte două rezultate indică în aceeași direcție. O trecere în revistă PRISMA a 23 de studii empirice despre personalizarea IA pentru predarea scrisului a găsit ingineria de prompt dominantă (N = 13), înaintea ajustării fine (N = 7) (Personalizarea IA pentru predarea scrisului: o trecere în revistă sistematică). Acolo unde o bază de cunoștințe trebuie să rămână actuală, regăsirea este singura pârghie care rămâne actuală fără a rula din nou o sarcină de antrenare.

Regăsirea are și o formă pedagogică. Ancorarea unui model în propriile tale exemple rezolvate și rubrici este modul în care el rămâne în interiorul sprijinului de tip schelă pe care l-ai proiectat, răspunzând la nivelul pe care l-ai stabilit, în loc să alunece în sfaturi generice. Acea derivă este cea mai frecventă plângere despre tutorii gata făcuți și este o problemă de regăsire mai des decât o problemă de ponderi.

Scrie promptul față de rubrica ta și urmărește platoul

Munca la prompt nu este un preliminar pe care îl faci în timp ce aștepți GPU-ul. Două rezultate arată ce realizează singură:

• Promptarea ghidată de rubrică, co-rafinată iterativ, a ridicat concordanța LLM-om asupra muncii de proiectare a studenților de la 54,75% la 81,25% (Alpha Cronbach de la 0,393 la 0,798), fără nicio ajustare fină (Yasar et al. despre proiectarea pedagogică iterativă cu LLM-uri).
• Un prompt personalizat, ancorat în literatură, a provocat concepțiile greșite matematice țintă la 0,98 prezență, față de 0,40 pentru un prompt larg (Zhuang și Zhang despre ChatGPT în formarea profesorilor de matematică).

Semnalul practic este platoul. În studiul despre generarea de itemi, rafinarea iterativă a promptului a încetat să mai îmbunătățească, iar ajustarea fină a GPT-4.1 pe promptul optimizat a adăugat apoi câștigul rămas (Generarea de itemi cu GPT pentru ascultare în L2). Un platou după muncă reală la prompt este dovada că antrenarea are loc să adauge ceva. A te întinde după antrenare înainte să ajungi la unul înseamnă să ghicești, iar ghicitul costă o lună.

Observă ce implică rezultatul despre generarea de itemi pentru ordonare. Ajustarea fină a fost construită pe promptul optimizat, așa că munca la prompt nu s-a irosit când echipa a antrenat în cele din urmă. Treapta ieftină este și specificația pentru cea scumpă.

Adaptează ponderile când ținta este stabilă și îngustă

Adaptarea merită când ai nevoie ca modelul să dețină o proprietate în mod fiabil: un nivel de lectură, un format de ieșire, un domeniu care îi lipsește. Rezultatul recurent este că țintirea bate mărimea.

• Trei modele de 8B ajustate fin pe o curriculă de lectură pentru copii proiectată de experți au depășit GPT-4o zero-shot și Llama 3.3 70B pe metrici legate de dificultate, cu probleme de siguranță neglijabile. Autorii încadrează asta ca controlabilitate în locul scalei (Generarea de povești pentru lectura copiilor cu LLM-uri).
• Un set de date de instrucțiuni cu 24.795 de exemple, ancorat în sistemele de cunoaștere indiene, a produs o ajustare fină de 7B cu scorul 6,39 la un panel extern de cinci judecători, la 0,15 de un model general de referință puternic, cu o fracțiune din costul de implementare. Același model de bază a obținut aproape zero pe dimensiunile specifice domeniului fără ajustarea fină (Setul de date IKS Instruct pentru cunoașterea indiană). Acea diferență între competent în general și competent aici este tot argumentul pentru adaptarea de domeniu.
• Un singur adaptor LoRA, antrenat pe aproximativ 3.900 de exemple notate puse la un loc, a adus cinci modele mici deschise (de la 4B la 30B) la egalitate sau mai bine cu un evaluator uman la două examene de informatică (Evaluatori LLM la examene de informatică). Un adaptor, un set de date, mai multe modele de bază: aceasta este forma de implementare pe care o poate rula o echipă mică.

Cuvântul stabilă din titlu duce greutatea. Formatul, rubrica, nivelul de lectură și vocabularul de domeniu sunt ținte stabile. Proza încărcată de judecată nu are o asemenea țintă, iar acolo eșuează adaptarea, cum arată următoarele două secțiuni.

Schimbă comportamentul când răspunsurile sunt problema

Adaptarea învață un model ce să producă. Antrenarea posterioară îl învață cum să se comporte. Pentru tutorat, această distincție este toată problema: modelele generale sunt antrenate posterior pe preferința umană pentru utilitate, ceea ce înseamnă să răspundă prompt, iar predarea cere să reții răspunsul.

Cele mai puternice rezultate educaționale din acest corpus stau aici. Modelul de recompensă al EduQwen a prioritizat explicit răspunsurile care îndrumă în locul răspunsurilor directe, iar pipeline-ul lui în trei etape a atins 96,52% pe benchmarkul CDPK, față de 90,55% al Gemini-3 Pro (Singh et al. despre EduQwen și învățarea prin întărire pedagogică). Simulatorul de scriere SWIM a trecut de la promptare ancorată în rubrică (cel mai bun QWK 0,577) la ajustare fină supervizată (0,474 ± 0,023) și la învățare prin întărire (0,618 ± 0,005) pe fiecare trăsătură și fiecare prompt (Simulatorul de scriere a studenților SWIM).

Citește atent numerele SWIM, pentru că pasul din mijloc a mers înapoi. Ajustarea fină supervizată pe demonstrații a făcut simulatorul mai slab decât promptul de la care a pornit, iar doar semnalul de recompensă a recuperat pierderea și apoi a bătut linia de bază. Dacă planul tău se oprește la ajustarea fină supervizată, planul poate fi un ocol.

Supervizează la nivel de pas

O constatare de aici este ușor de ratat și scump de ignorat: calitatea supervizării bate cantitatea supervizării. Modelele instruite pe instrucțiuni au învățat concepții greșite de algebră doar când au fost antrenate pe urme de rezolvare la nivel de pas. Antrenate doar pe răspunsuri finale, acuratețea a rămas sub 30% la orice dimensiune a datelor (Dinamica achiziției concepțiilor greșite în LLM-uri).

Dacă exemplele tale de antrenare sunt perechi întrebare și răspuns corect, antrenezi lucrul greșit, iar adăugarea de exemple nu îl va repara. Ce îți trebuie este munca intermediară: cotitura greșită, pasul unde studentul a rătăcit, corectarea. Colectarea ei este o problemă de inginerie a datelor cu o constrângere pedagogică și înseamnă de obicei să înregistrezi sesiuni, nu să extragi chei de răspuns.

Unde eșuează adaptarea în liniște

Aceasta este partea pe care entuziasmul o sare.

Text încărcat de judecată. În WrAFT, același proiect care s-a ajustat fin cu succes pentru notarea eseurilor (QWK 0,84) a produs rezultate trunchiate și imposibil de parsat când s-a ajustat fin pentru feedback, în timp ce promptarea directă a lui Claude 3.7 a produs feedbackul pe care profesorii l-au evaluat ca fiind cel mai bun (WrAFT: evaluarea automată a scrisului argumentativ). Ajustarea fină a învățat modelul să atingă un scor, iar notarea a fost singurul lucru pe care l-a învățat.

Transferul între modele. Scala nu este un predictor fiabil al performanței ulterioare sub adaptare LoRA, iar hiperparametri identici au produs comportament calitativ diferit între arhitecturi (AIAWE: evaluarea automată a scrisului). O rețetă care a funcționat pe un model nu este o rețetă.

Arhitectura înaintea numărului de parametri. Ajustarea fină a trei modele deschise text-la-imagine pe 1.000 de imagini de inginerie nucleară cu descriere a îmbunătățit substanțial Stable Diffusion XL, a dat câștiguri limitate pentru SD-v3.5-Medium și nu a produs nicio îmbunătățire măsurabilă pentru Flux.1 (Învățarea text-la-imagine în inginerie nucleară).

Problema era validarea. Un GPT-4 de frontieră, neantrenat, a produs aproximativ 35% indicii prea generale, incorecte sau care dezvăluiau răspunsul atunci când scria feedback de tutorat, iar propriile lui verificări automate de calitate au contrazis judecata umană (Reddig și MacLellan despre feedback personalizat cu LLM). Aceasta este o problemă de filtrare, iar un LoRA nu o va rezolva.

Tiparul în toate cele patru: adaptarea mișcă fiabil un model spre o țintă pe care o poți specifica și nota. Nu adaugă judecată, iar un pipeline care nu are o verificare va livra totuși rezultate proaste.

Bugetează adaptarea onest

Pentru treapta de adaptare, pragul este mai jos decât presupun majoritatea echipelor: de la câteva sute la câteva mii de exemple și un singur GPU. LoRA antrenează un număr mic de parametri adăugați și lasă ponderile de bază înghețate, așa că mai multe modele pot fi servite dintr-un singur adaptor.

Rangul este un compromis, nu un cadran de maximizat. Câștigul pe milion de parametri de adaptor a scăzut monoton pe măsură ce rangul creștea, iar alinierea la nivel de curs a fost o decizie de scală și rang, nu o îmbunătățire gratuită (LoRA ajustat fin pentru întrebări la un curs de sisteme de control).

Ce straturi adaptezi este și el o alegere reală. Actualizarea doar a ultimelor patru straturi Transformer ale unui analizor de discurs bazat pe BERT a bătut atât adaptarea doar a stratului superior, cât și ajustarea fină la adâncime completă (Un analizor de discurs BERT pentru predarea limbii engleze). Trei configurații, trei rezultate diferite, iar cea mai ieftină a câștigat.

Costul ușor de subestimat este evaluarea, care este mai mare decât factura de calcule. Vezi Cum știm că o IA educațională funcționează corect, nu doar că notează bine?

Calibrează ce te aștepți

Alegerea modelului și a promptului împreună acoperă doar aproximativ 15% din nealinierea dintre LLM-uri și câștigurile de învățare ale studenților, iar în acel studiu ponderarea după benchmark și ansamblurile cu vot unanim au făcut alinierea mai slabă (Alinierea LLM-urilor educaționale). Datele de preantrenare sunt pârghia dominantă asupra modului în care se comportă un model și este singura pârghie pe care nu o poți trage.

Nimic din asta nu argumentează împotriva muncii de mai sus. Argumentează împotriva așteptării ca o ajustare fină să repare o problemă de design. Dacă problema este că tutorul tău răspunde prea prompt, antrenarea o poate aborda. Dacă problema este că cei care învață nu se implică cu el, antrenarea nu o va face, iar cifra de 15% spune că banii se cheltuiesc mai bine în altă parte.

Ce greșesc echipele

Ajustarea fină este felul în care îi predai unui model cursul tău. Regăsirea peste propriile tale materiale a dus același sistem de la 52,3% la 66,6% fără niciun antrenament, iar un prompt rafinat față de o rubrică a mutat concordanța de la 54,75% la 81,25%. Antrenarea predă comportamentul și formatul mult mai fiabil decât predă conținutul.

Un model de bază mai mare elimină nevoia tuturor acestora. Un model de 8B ajustat fin pe o curriculă de lectură pentru copii a bătut GPT-4o zero-shot și Llama 3.3 70B pe metrici de dificultate, iar o ajustare fină de 7B a ajuns la 0,15 de o referință generală puternică, cu o fracțiune din costul de implementare. Mărimea și potrivirea sunt axe diferite, iar doar una dintre ele se vinde cu tokenul.

Mai multe date vor repara un set de antrenare construit greșit. Supervizarea cu doar răspunsuri a lăsat acuratețea sub 30% la orice dimensiune a datelor în studiul despre concepțiile greșite. Scala nu repară o țintă căreia îi lipsește informația de care are nevoie modelul.

O rețetă care a funcționat pe un model va funcționa pe următorul. Hiperparametri identici au produs comportament calitativ diferit între arhitecturi, iar aceeași metodă de ajustare fină a îmbunătățit substanțial un model de imagine și nu a făcut nimic măsurabil pentru altul. Rulează din nou rețeta pe modelul tău de bază sau ghicești.

Ajustarea fină supervizată este pasul de mijloc sigur înainte de învățarea prin întărire. În SWIM, etapa supervizată a obținut 0,474 față de 0,577 din promptul pe care l-a înlocuit, iar doar semnalul de recompensă a recuperat-o. Pasul de mijloc te poate costa o lună și o regresie.

Ce se va întoarce împotriva ta

„Bugetul este aprobat pentru ajustare fină, așa că hai să ajustăm fin.” Petrece o săptămână pe linia de bază și pe index mai întâi. Dacă regăsirea mișcă numărul, ajustarea fină este o decizie ulterioară luată cu informații mai bune, iar vei avea un argument mai puternic pentru ea sau un motiv bun să returnezi GPU-ul.

„Problema noastră este că studenții nu îl folosesc.” Antrenarea schimbă ce produce modelul. Cifra de 15% descrie cât contează alegerea modelului și a promptului în nealinierea cu câștigurile de învățare, iar implicarea stă în afara ei. Instrumentează unde abandonează studenții înainte să cumperi calcule.

„Nu putem trimite munca studenților la un API de furnizor.” Cel mai puternic rezultat LoRA de aici a venit de la modele deschise în intervalul 4B până la 30B, iar un singur adaptor a servit mai multe dintre ele. Acea formă de implementare este disponibilă unei echipe cu un singur GPU și fără un acord de prelucrare a datelor.

„Promptarea este un truc; munca reală înseamnă antrenare.” Trecerea în revistă a 23 de studii de predare a scrisului a găsit promptarea drept abordarea dominantă, cu ajustarea fină în urma ei, iar cel mai mare câștig raportat pe această pagină a venit dintr-un index. Atât trecerea în revistă, cât și studiul asistentului de curs au ordonat acele trepte după câștigul măsurat.

„Am încercat promptarea și a ajuns la platou, deci avem nevoie de antrenare.” Aceasta este citirea corectă și este singurul caz în care urcușul este justificat. Du promptul optimizat în ajustarea fină, cum a făcut echipa de generare de itemi, și așteaptă-te ca câștigul să fie mai mic decât a fost munca la prompt.

„Materialele cursului nostru sunt inconsistente, așa că regăsirea va returna gunoi.” Va returna, iar regăsirea moștenește calitatea corpusului. Curățarea corpusului este mai ieftină decât antrenarea unui model care să o ocolească, iar câștigul de la 52,3% la 66,6% a fost măsurat pe materiale de curs obișnuite, nu pe un set curat.

Ce să faci săptămâna aceasta

1. Rulează o linie de bază doar cu prompt și una cu cuvinte-cheie pe 50 de întrebări reale din cursul tău și notează ambele numere.

2. Îndreaptă regăsirea spre materialele pe care le ai deja și rulează din nou aceleași 50, ca câștigul să fie măsurat față de propria ta linie de bază.

3. Pune rubrica în promptul de sistem și iterează o săptămână. Oprește-te când două runde nu adaugă nimic.

4. Auditează setul tău de antrenare pentru urme la nivel de pas. Dacă este format din perechi întrebare și răspuns, setul de date nu este gata.

5. Scrie singura proprietate de care ai nevoie să fie deținută fiabil și decide dacă este comportament sau conținut. Acea decizie alege treapta.

Încotro mai departe

Cum antrenăm un tutor IA să îndrume studenții în loc să le răspundă? acoperă în detaliu jumătatea de antrenare posterioară. Cum știm că o IA educațională funcționează corect? acoperă cum să îți dai seama dacă vreuna din acestea a funcționat. Care sunt bunele practici pentru dezvoltarea unui tutor IA eficient? este partea de design al interacțiunii a aceluiași obiectiv, iar Care sunt bunele practici pentru proiectarea software-ului educațional cu IA? acoperă sistemul din jur. Pagina conceptuală completă este Antrenarea și ajustarea fină a LLM-urilor.