LLM प्रशिक्षण और सूक्ष्म-अनुकूलन

इस पृष्ठ पर

यह अंग्रेज़ी पेज का ऑटोमैटिक अनुवाद है और इसकी अभी तक किसी मूल भाषी ने समीक्षा नहीं की है।

LLM प्रशिक्षण और सूक्ष्म-अनुकूलन — शैक्षिक AI मॉडल कैसे बनाए जाते हैं: प्रीट्रेनिंग से पोस्ट-ट्रेनिंग और अनुकूलन तक की पाइपलाइन, प्रत्येक चरण की लागत क्या है, और साक्ष्य के अनुसार इससे क्या मिलता है। संगठक समस्या एक प्रोत्साहन-असंगति है: सामान्य-उद्देश्य मॉडल उत्तर देने के लिए अनुकूलित होते हैं, जबकि शिक्षण के लिए उत्तर वापस रखना आवश्यक है। पोस्ट-ट्रेनिंग और सूक्ष्म-अनुकूलन वे दो लीवर हैं जो इस व्यवहार को बदलते हैं, और इस ज्ञान आधार का स्पष्टतम निष्कर्ष यह है कि वे एक तीसरा विकल्प हैं, पहला नहीं — पुनर्प्राप्ति और प्रॉम्प्टिंग निर्णय में पहले आते हैं, और यहां एक अध्ययन में देखा गया कि सुपरवाइज़्ड फ़ाइन-ट्यूनिंग उस कार्य में विफल रहा जहां साधारण प्रॉम्प्टिंग ने जीत हासिल की (WrAFT)। शैक्षिक सॉफ्टवेयर डेवलपर्स और शिक्षण-अभ्यासकर्ताओं के लिए लिखा गया, जो यह तय कर रहे हैं कि किसके साथ क्या बनाना है।

विचार करने योग्य प्रश्न

यदि आपके पास एक ट्यूटरिंग कार्य है जिसमें सामान्य मॉडल बहुत आसानी से उत्तर दे देता है, तो क्या आपका पहला कदम बेहतर प्रॉम्प्ट होगा, अपनी सामग्री पर पुनर्प्राप्ति, या प्रशिक्षण? यह बताने के लिए कि किसने मदद की, आपको क्या मापना होगा?
सूक्ष्म-अनुकूलन को डेटा चाहिए। आपके प्रोजेक्ट के प्रशिक्षण उदाहरण कहाँ से आएँगे, उनके मालिक कौन होंगे, और उनके उपयोग से पहले उन्हें किस गोपनीयता समीक्षा की आवश्यकता होगी?
यहां एक अध्ययन ने पाया कि मूल्यांकन डेटा पर मॉडल को सूक्ष्म-अनुकूलित करने से स्वरूपण और समानता सुधरी, जबकि एक अलग सूक्ष्म-अनुकूलन प्रतिक्रिया (फीडबैक) उत्पन्न करने में पूरी तरह विफल रहा। प्रशिक्षण विधि को कार्य से मिलाने के बारे में यह क्या संकेत देता है?
सुदृढीकरण शिक्षा के साथ पोस्ट-ट्रेनिंग मॉडल को उत्तर देने के बजाय मार्गदर्शन करना सिखा सकती है। "अच्छी तरह मार्गदर्शन करता है" को पकड़ने के लिए आप कौन-सा रिवार्ड लिखेंगे, और एक मॉडल उसे कैसे गेम करेगा?
ज्ञान आधार बताता है कि मॉडल और प्रॉम्प्ट चुनाव एक LLM और विद्यार्थी अधिगम लाभ के बीच की खाई के केवल लगभग 15% हिस्से को समझाते हैं। यदि यह सही है, तो इससे आपके बनाएँ-बनाम-खरीदें निर्णय को कैसे बदलना चाहिए?
एक सूक्ष्म-अनुकूलित मॉडल जो सटीक है, वह भी लंबी बातचीत में असुरक्षित हो सकता है। किसी मॉडल को बिना निगरानी विद्यार्थियों से बात करने देने से पहले आप क्या परीक्षण करेंगे?

परिचय

शैक्षिक AI विकास दो दिशाओं से एक ही दीवार से टकराता है। सामान्य-उद्देश्य भाषा मॉडल मददगार होने के मानव प्राथमिकता पर पोस्ट-ट्रेनिंग किए जाते हैं, जो व्यवहार में तुरंत और पूर्ण उत्तर देना मतलब रखता है; ट्यूटरिंग के लिए इसका उल्टा आवश्यक है, क्योंकि शैक्षिक लक्ष्य विद्यार्थी को उत्तर तक पहुँचने में मदद करना है, उसे सौंप देना नहीं। साथ ही, एक सामान्य मॉडल आपके पाठ्यक्रम, आपके रूब्रिक, या आपके संस्थान की आवाज़ के बारे में कुछ नहीं जानता, और प्रॉम्प्ट इंजीनियरिंग की कोई भी मात्रा उन्हें भरोसेमंद रूप से स्थापित नहीं करती।

यह पेज उन तकनीकों को कवर करता है जो मॉडल को बदलती हैं, न कि उस पाठ को जो आप उसे भेजते हैं। वे एक बढ़ती प्रतिबद्धता की सीढ़ी पर स्थित हैं: प्रॉम्प्टिंग, फिर पुनर्प्राप्ति, फिर पैरामीटर-कुशल अनुकूलन, फिर पूर्ण सूक्ष्म-अनुकूलन, फिर प्राथमिकता या रिवार्ड संकेतों के साथ पोस्ट-ट्रेनिंग। प्रत्येक छड़ पिछली से अधिक डेटा, अधिक कंप्यूट, और अधिक मूल्यांकन अनुशासन की माँग करती है, और प्रत्येक नीचे की छड़ से खराब पहला विकल्प है जब तक कोई विशिष्ट माप चढ़ाई को उचित न ठहराए। शोध साहित्य का अधिकांश हिस्सा केवल उस सीढ़ी के शीर्ष की रिपोर्ट करता है, जिससे किसी डेवलपर के लिए प्रशिक्षण की ओर बढ़ना आसान हो जाता है जबकि पुनर्प्राप्ति ही पर्याप्त होती।

यह पेज उन निर्णयों के इर्द-गिर्द संगठित है जिनका सामना एक निर्माता वास्तव में करता है: कौन-सा लीवर खींचना है (यह अनुभाग और अगला), व्यवहार में अनुकूलन क्या खरीदता है और कितना खर्च करता है, पोस्ट-ट्रेनिंग क्या आकार दे सकती है जो अनुकूलन नहीं दे सकता, और ये प्रणालियाँ कैसे विफल होती हैं। शब्दावली अपने मानक अर्थ में प्रयुक्त है: प्रीट्रेनिंग एक सामान्य corpus पर शून्य से शुरू होने वाला चरण है, पोस्ट-ट्रेनिंग उसके बाद का सब कुछ है जो व्यवहार का आकार देता है (सुपरवाइज़्ड फ़ाइन-ट्यूनिंग, प्रेफरेंस ऑप्टिमाइज़ेशन, सुदृढीकरण शिक्षा), और सूक्ष्म-अनुकूलन पोस्ट-ट्रेनिंग के सुपरवाइज़्ड चरण और बाद के कार्य- या डोमेन-अनुकूलन कार्य दोनों को कवर करता है, जिसमें पैरामीटर-कुशल विधियाँ भी शामिल हैं।

प्रशिक्षण पाइपलाइन, चरण दर चरण

तीन चरण, बेहद भिन्न सुलभता के साथ। यह जानना कि कोई शोधपत्र किस चरण का वर्णन कर रहा है, इस साहित्य के अधिकांश गलत पठन को रोकता है।

प्रीट्रेनिंग एक सामान्य पाठ corpus से आधार मॉडल बनाता है। यह वह चरण है जो मॉडल की व्यापक क्षमता उत्पन्न करता है, और यह लगभग हर शैक्षिक परियोजना की पहुँच से बाहर है: लागत लाखों डॉलर में मापी जाती है और डेटा वेब-पैमाने पर क्रॉल किया गया होता है। इस ज्ञान आधार में कुछ भी ऐसा नहीं करता। अभ्यासकर्ताओं के लिए इसकी प्रासंगिकता निदानात्मक है, कार्रवाई-योग्य नहीं — प्रीट्रेनिंग डेटा यह निर्धारित करने में प्रमुख लीवर है कि मॉडल कैसे व्यवहार करता है, और यह एकमात्र लीवर है जिसे आप खींच नहीं सकते। यही असममिति कारण है कि क्षेत्र की शेष तकनीकें सभी पहले से प्रशिक्षित मॉडल पर काम करती हैं।

पोस्ट-ट्रेनिंग आधार मॉडल के ऊपर व्यवहार का आकार देती है। सुपरवाइज़्ड फ़ाइन-ट्यूनिंग (SFT) मॉडल को प्रदर्शनों की नकल करना सिखाती है; प्रेफरेंस ऑप्टिमाइज़ेशन और सुदृढीकरण शिक्षा फिर उसे उन आउटपुट की ओर धकेलती हैं जिन्हें एक रिवार्ड मॉडल या मानव निर्णयों का समूह अधिक रेट करता है। यह वह चरण है जहाँ मॉडल को उत्तर देने के बजाय मार्गदर्शन करना सिखाया जा सकता है, और यहीं सबसे उल्लेखनीय शैक्षिक परिणाम मिलते हैं। यह रिवार्ड डिज़ाइन के प्रति सबसे अधिक संवेदनशील चरण भी है, क्योंकि रिवार्ड उस चीज़ की संक्षिप्त विशिष्टता है जो आप चाहते हैं, और मॉडल वही अनुकूलित करता है जो आपने वास्तव में लिखा।

अनुकूलन मौजूदा मॉडल को आपके कार्य या डोमेन में फिट करता है, आमतौर पर बहुत कम डेटा और कंप्यूट से। पैरामीटर-कुशल फ़ाइन-ट्यूनिंग (PEFT), जिसका सामान्य रूप LoRA है, जोड़े गए कुछ पैरामीटर को प्रशिक्षित करती है और आधार भारों को जमी हुई छोड़ देती है। पूर्ण सूक्ष्म-अनुकूलन सब कुछ अद्यतन करती है। डिस्टिलेशन और अनलर्निंग इनके साथ-साथ आते हैं। नीचे के अनुभाग प्रत्येक को क्रम से लेते हैं। अधिकांश शैक्षिक डेवलपर्स के लिए यह व्यावहारिक चरण है — जहाँ कुछ सौ से कुछ हज़ार उदाहरण और एक ही GPU परिनियोजन-योग्य मॉडल बना सकते हैं।

प्रॉम्प्ट, पुनर्प्राप्ति, या प्रशिक्षण? पहला निर्णय

उस प्रश्न पर इस ज्ञान आधार का सबसे मज़बूत एकल परिणाम एक पुनर्प्राप्ति अध्ययन है, प्रशिक्षण अध्ययन नहीं। एक पाठ्यक्रम ज्ञान-आधार सहायक बनाते हुए, Shen और सहयोगी (2026) ने तीन विन्यासों में स्थानीय मॉडलों का मूल्यांकन किया और पाया कि पुनर्प्राप्ति, मॉडल नहीं, प्रथम-कोटि की डिज़ाइन निर्णय है: बिना पुनर्प्राप्ति के उनका स्थानीय LLM केवल 52.3% सटीकता तक पहुँचा, 55.4% के TF-IDF आधाररेखा से नीचे, जबकि बिना किसी सूक्ष्म-अनुकूलन के पुनर्प्राप्ति-संवर्धित जनरेशन जोड़ने से यह 66.6% तक बढ़ा (Towards sustainable AI knowledge-base assistants in computer science education: on-premise deployment and optimization with open educational resources)। उन्होंने जिन सूक्ष्म-अनुकूलन विन्यासों का भी परीक्षण किया, वे पुनर्प्राप्ति एब्लेशन, क्वांटाइज़ेशन और प्रति क्वेरी ऊर्जा के साथ रिपोर्ट किए गए हैं, जिससे तुलना असाधारण रूप से ईमानदार बनती है: बिना ग्राउंडिंग वाला आधार मॉडल दशकों पुरानी शब्दावली विधि से भी खराब हो सकता है, और सबसे सस्ता समाधान प्रशिक्षण नहीं है।

जो क्षेत्र वास्तव में बनाता है, वह भी इसी क्रम को दर्शाता है। लेखन शिक्षाशास्त्र के लिए AI अनुकूलन पर 23 अनुभवजन्य अध्ययनों (2020–2025) की एक PRISMA-निर्देशित समीक्षा ने पाया प्रॉम्प्ट इंजीनियरिंग प्रमुख (N = 13), सूक्ष्म-अनुकूलन (N = 7) और संकर वास्तुकला (N = 3) से आगे (Customizing AI for writing pedagogy: a systematic review of pedagogical goals, theoretical principles, and technical design)। समीक्षा का तीखा निष्कर्ष एक तकनीकी रैंकिंग से अधिक संरचनात्मक असंगति है: उल्लिखित शैक्षिक लक्ष्य लेखन प्रक्रियाओं, फीडबैक साक्षरता और उच्च-कोटि के शैक्षणिक कौशलों की ओर बढ़े हैं, जबकि प्रमुख कार्यान्वयन अभी भी प्रॉम्प्ट डिज़ाइन या सूक्ष्म-अनुकूलन के माध्यम से उत्पाद-केंद्रित लक्ष्यों का अनुसरण करते हैं।

जहाँ प्रॉम्प्टिंग और प्रशिक्षण का सामना-सामने तुलना हुआ है, वहाँ परिणाम कार्य पर निर्भर करता है, और यही ठीक कारण है कि निर्णय मापा जाना चाहिए, अनुमानित नहीं:

जब लक्ष्य कोई स्थिर आउटपुट स्वरूप या नियंत्रित गुण हो, तो प्रशिक्षण जीतता है। L2 श्रवण मूल्यांकन के लिए स्वचालित प्रश्न निर्माण पर, पुनरावृत्त प्रॉम्प्ट शोधन अवसाद पर पहुँच गया, और फिर GPT-4.1 को अनुकूलित प्रॉम्प्ट पर सूक्ष्म-अनुकूलित करने से केवल प्रॉम्प्टिंग से आगे बढ़कर निर्माण सुधरा — शेष लाभ के चालक के रूप में प्रॉम्प्ट डिज़ाइन के बजाय मॉडल अनुकूलन को अलग करते हुए (How to Train Your Dragon: Evaluating Prompting and Fine-Tuning for GPT-Based Item Generation in L2 Listening Assessment)।
जब लक्ष्य निर्णय-लद्दा पाठ हो, तो प्रॉम्प्टिंग जीतती है। उसी प्रणाली ने जो स्कोरिंग के लिए सफलतापूर्वक सूक्ष्म-अनुकूलित की, वह फीडबैक में विफल रही: WrAFT में, एक सूक्ष्म-अनुकूलित GPT-4o मॉड्यूल ने 360 होल्ड-आउट TOEFL निबंधों पर QWK 0.84 और RMSE 0.44 प्राप्त किया, लेकिन फीडबैक निर्माण के लिए सुपरवाइज़्ड फ़ाइन-ट्यूनिंग ने कटा हुआ और विश्लेषण-अयोग्य आउटपुट उत्पन्न किया, जबकि सीधे प्रॉम्प्ट करने पर Claude 3.7 ने सर्वोत्तम फीडबैक दिया जिसे शिक्षक रेट करते हैं (WrAFT: a Modularized Automated Writing Evaluation System for Argumentative Essays)। सूक्ष्म-अनुकूलन ने मॉडल को स्कोर मारना सिखाया; उसने उसे लिखना नहीं सिखाया।
जब लक्ष्य कोई व्यक्तित्व या रूब्रिक हो तो प्रॉम्प्ट-स्तरीय आकार-देना प्रशिक्षण का विकल्प बन सकता है। रूब्रिक-निर्देशित प्रॉम्प्टिंग, पुनरावृत्त रूप से सह-शोधित, ने विद्यार्थी डिज़ाइन कार्य पर LLM–मानव सहमति को 54.75% से 81.25% तक बढ़ाया (Cronbach's Alpha 0.393 → 0.798) बिना किसी सूक्ष्म-अनुकूलन के (From evaluation to emulation: LLMs as agents of iterative pedagogical design)), और एक साहित्य-आधारित कस्टम-GPT प्रॉम्प्ट ने 0.40 के व्यापक प्रॉम्प्ट के मुकाबले लक्षित गणितीय गलतधारणाओं को 0.98 उपस्थिति पर प्राप्त किया (Integrating ChatGPT in Mathematics Teacher Education: AI-Based Simulation Role-Playing to Support Practice-based Teaching)।
इस सब पर एक छत है। Hardy और Kim (2026) अनुमान लगाते हैं कि मॉडल और प्रॉम्प्ट चुनाव मिलकर LLM और विद्यार्थी अधिगम लाभ के बीच असंगति के केवल लगभग 15% हिस्से को समझाते हैं, बाकी मॉडलों में बँटा हुआ है, और उन्होंने पाया कि बेंचमार्क-भारीकरण और एकमत-मतदान एन्सेम्बल ने संरेखण को खराब बना दिया (Knowledge without Wisdom: Measuring Misalignment between LLMs and Intended Impact)। यदि प्रीट्रेनिंग डेटा प्रमुख लीवर है और यह एकमात्र लीवर है जिसे आप खींच नहीं सकते, तो इन तकनीकों में से किसी से प्राप्त होने वाली चीज़ों की अपेक्षाएँ तदनुसार कैलिब्रेट की जानी चाहिए।

सूक्ष्म-अनुकूलन क्या खरीदता है: पैमाने पर नियंत्रणीयता

जब एक सामान्य मॉडल को वह गुण रखने के लिए नहीं बनाया जा सकता जो आपको चाहिए, तो मामूली डेटासेट पर सूक्ष्म-अनुकूलन अक्सर कर सकता है — और बार-बार आने वाला परिणाम यह है कि लक्ष्यीकरण आकार को हराता है। विशेषज्ञ-डिज़ाइन किए बाल पठन पाठ्यक्रम पर सूक्ष्म-अनुकूलित तीन 8B मॉडलों ने कठिनाई-संबंधी मेट्रिक्स पर शून्य-शॉट GPT-4o और Llama 3.3 70B से बेहतर प्रदर्शन किया, और उनमें नगण्य सुरक्षा समस्याएँ थीं। लेखक इसे पैमाने पर नियंत्रणीयता के रूप में प्रस्तुत करते हैं, क्योंकि एक कॉम्पैक्ट मॉडल को एक विशिष्ट पठन स्तर और त्रुटि पैटर्न पर इस तरह अनुकूलित किया जा सकता है जिस तरह किसी सामान्य मॉडल से नहीं कहा जा सकता (Children's English Reading Story Generation via Supervised Fine-Tuning of Compact LLMs with Controllable Difficulty and Safety)।

यह पैटर्स अत्यंत भिन्न कार्यों में दोहराता है:

पाठ्यक्रम ग्राउंडिंग। भारतीय ज्ञान परंपराओं में निहित एक 24,795-उदाहरण बहुभाषी निर्देश डेटासेट ने एक 7B सूक्ष्म-अनुकूलन उत्पन्न किया जिसने पाँच-न्यायाधीश बाह्य पैनल पर 6.39 स्कोर किया (1,201 स्तरीकृत वस्तुओं पर माध्यिका)। यह एक मज़बूत सामान्य संदर्भ मॉडल से 0.15 के भीतर है, परिनियोजन लागत के अंश पर — जबकि उसी आधार मॉडल ने बिना सूक्ष्म-अनुकूलन के IKS-विशिष्ट आयामों पर लगभग शून्य स्कोर किया (IKS-Instruct: A 24,000-Example Multilingual Dataset for Teaching Language Models Indian Knowledge Systems)। "सामान्य रूप से सक्षम" और "यहाँ सक्षम" के बीच वही अंतर डोमेन अनुकूलन का पूरा मामला है। लेखकों द्वारा रिपोर्ट किए गए उस व्याख्या-विरोधी विवरण को भी ध्यान दें: गुणवत्ता डेटा संचयन के साथ एकराशता से नहीं बढ़ी।
सस्ती में मूल्यांकन विश्वसनीयता। लगभग 3,900 एकत्रित ग्रेड किए गए उदाहरणों पर प्रशिक्षित एक ही LoRA एडेप्टर ने पाँच छोटे खुले मॉडलों (4B–30B) को दो कंप्यूटर-विज्ञान परीक्षाओं में मानव ग्रेडर के बराबर या बेहतर स्तर तक पहुँचाया, और व्यक्तित्व संवेदनशीलता को लगभग समाप्त कर दिया (विचलन ≤ 0.32 MAE) (Where LLM Graders Succeed and Break: Evidence from Two Computer-Science Exams)। एक एडेप्टर, एक डेटासेट, कई आधार मॉडल — यह व्यावहारिक परिनियोजन का आकार है।
चयनात्मक स्वचालन। आत्मविश्वास स्कोरिंग त्रुटि का एक भरोसेमंद भविष्यवक्ता था (β = −0.602, p < .001)। सबसे कम आत्मविश्वास वाले 20% उत्तरों को मानव समीक्षा के लिए भेजने से एक सूक्ष्म-अनुकूलित GPT-3.5 मॉडल r = 0.781 से r = 0.822 तक गया (RMSE 0.5990 → 0.5544) और मैनुअल स्कोरिंग कार्य लगभग 80% कम हुआ (Know When to Trust: Making AI Scoring More Reliable for Educational Assessment)। यहाँ सूक्ष्म-अनुकूलन मानव को प्रतिस्थापित नहीं कर रहा; यह मानव के ध्यान को किफ़ायती बना रहा है।
उन संरचनाओं को मापना जिन्हें आप अन्यथा हाथ से स्कोर करते। शिक्षक प्रशिक्षण में प्रतिबिंबित लेखन के स्कोरिंग के लिए TF-IDF विशेषताओं और Qwen3 एम्बेडिंग के विरुद्ध सूक्ष्म-अनुकूलित हंगेरियन ट्रांसफॉर्मर (hubert-base-cc, PULI-BERT-Large) का बेंचमार्क किया गया (Automatic Reflection Level Classification in Hungarian Student Essays)), और एक सूक्ष्म-अनुकूलित मल्टीमॉडल मॉडल (Qwen3.5-आधारित) को बहुविकल्पीय वस्तुओं के लिए आइटम कैरेक्टरिस्टिक कर्व्स का पुनर्निर्माण करते हुए दिखाया गया, जिसने 3PL और MCM कर्व्स में एन्कोड किए गए प्रतिक्रिया पैटर्न सीखे न कि उन्हें बताया गया (Multimodal Item Parameter Estimation using Simulated Response Probabilities)।

व्यवहार में पैरामीटर-कुशल अनुकूलन

LoRA और उसके संबंधी वहीं हैं जहाँ अधिकांश शैक्षिक टीमें वास्तव में काम करेंगी, और साहित्य में उनके व्यवहार के बारे में असाधारण रूप से विशिष्ट मार्गदर्शन है।

रैंक एक समझौता है, अधिकतम करने वाला डायल नहीं। Lu और सहयोगी (2026) ने एक Linear Control Systems पाठ्यक्रम से 360 सिस्टम–उपयोगकर्ता–सहायक संवाद बनाए, उत्तरों को एक Solution–Method–Teaching-Points स्वरूप में पुनर्गठित किया, और Qwen2.5-3B और 7B पर रैंक 4, 8 और 16 पर LoRA लागू किया। संरचित-आउटपुट कवरेज आधार पर लगभग शून्य से लगभग 1.00 तक गया, और सर्वोत्तम विन्यास (7B, r = 16) ने ROUGE-L 0.4093 तक पहुँचा, लाभ के बूटस्ट्रैप विश्वास अंतराल पूरी तरह शून्य के ऊपर थे। लेकिन प्रति दस लाख एडेप्टर पैरामीटर लाभ रैंक बढ़ने के साथ एकराशता से गिरा, इसलिए पाठ्यक्रम-स्तरीय संरेखण एक पैमाना-और-रैंक समझौता है, मुफ़्त उन्नयन नहीं (LoRA Fine-Tuned Models for Control Systems Course Q&A: A Multidimensional Evaluation of Model Scale and Rank Effects)। उनके मेट्रिक्स समानता और स्वरूपण मापते हैं, व्युत्पत्ति-सटीकता नहीं, जो इस पूरे मूल्यांकन परिवार के लिए मानक चेतावनी है।

पैमाना सफलता का भविष्यवक्ता नहीं है, और समान सेटिंग्स अलग-अलग वास्तुकला में अलग व्यवहार करती हैं। AiAWE, एक LoRA-अनुकूलित Gemma-3-27B-it पर बना एक खुला-स्रोत स्वचालित लेखन मूल्यांकन प्रणाली, ने RMSE 0.474, QWK 0.828, और 360 मूल्यांकन निबंधों में 90.56% पर मानव स्कोर के ±0.5 के भीतर सहमति प्राप्त की, LLaMA-3.3-70B और एक सूक्ष्म-अनुकूलित GPT-3.5 आधाररेखा से बेहतर — और एक उपभोक्ता-श्रेणी के सर्वर पर चलते हुए। स्कोर से अधिक तीन व्यापक निष्कर्ष मायने रखते हैं: LoRA अनुकूलन के तहत डाउनस्ट्रीम प्रदर्शन का मॉडल पैमाना एक भरोसेमंद भविष्यवक्ता नहीं था, समान LoRA हाइपरपैरामीटर ने वास्तुकला में गुणात्मक रूप से भिन्न अनुकूलन व्यवहार उत्पन्न किए, और एक अच्छी तरह अनुकूलित मध्यम-आकार का खुला मॉडल मालिकाना प्रणालियों के साथ प्रतिस्पर्धी हो सकता है (AiAWE: An Open-Source LLM Automated Writing Evaluation System Using LoRA-Adapted Instruction-Tuned Models)।

किन परतों को अनुकूलित करना है, यह एक वास्तविक निर्णय है। अंग्रेज़ी शिक्षाशास्त्र के लिए एक प्रवचन-विश्लेषण प्रणाली में, एक कटा हुआ BERT को केवल अंतिम चार ट्रांसफॉर्मर परतों को अद्यतन करके सूक्ष्म-अनुकूलित करना दोनों विकल्पों को हराया: केवल शीर्ष परत को अनुकूलित करना एक निचली छत तक पहुँचा, और पूर्ण 12-परत सूक्ष्म-अनुकूलन ओवरफिट हुआ और दोलन किया (Automatic discourse relation classification and feedback optimization in English teaching based on transformer BERT model)।

आधार वास्तुकला पैरामीटर गणना से अधिक मायने रख सकती है। 1,000 कैप्शन वाली नाभिकीय-इंजीनियरिंग छवियों पर तीन खुले टेक्स्ट-टू-इमेज मॉडलों को सूक्ष्म-अनुकूलित करने से Stable Diffusion XL में काफ़ी सुधार हुआ, SD-v3.5-Medium के लिए सीमित लाभ मिले, और फ्लो-मैचिंग Flux.1 मॉडल के लिए कोई मापने योग्य सुधार बिल्कुल नहीं (NuclearDiffusion: Text-to-Image Foundation Models for Learning Nuclear Energy Concepts)। एक सूक्ष्म-अनुकूलन विधि वास्तुकला में पोर्टेबल नहीं है, जो वही सबक है जो AiAWE दूसरी दिशा से रिपोर्ट करता है।

अनुकूलन चरण को पूरा करने के लिए दो सन्निकट तकनीकें। डिस्टिलेशन एक बड़ी या ब्लैक-बॉक्स प्रणाली को एक छोटी परिनियोजन-योग्य में संपीड़ित करता है। एक दो-चरणीय पाइपलाइन ने एक फिट किया गया ब्लैक-बॉक्स ML अनुमानक और उसकी पोस्ट-होक व्याख्या को एक छोटे खुला-भार LLM में डिस्टिल किया, जिसमें 2B-पैरामीटर "मेंटी" ने oracle प्रभाव सतह का लगभग-दोषरहित पुनर्प्राप्ति हासिल किया (r > .90)। वह परिणाम एक विश्वसनीयता-प्रथम मूल्यांकन के तहत रिपोर्ट किया गया है जो हर संदर्भ-वर्णन को उस विश्लेषण के विरुद्ध ऑडिट करता है जिसका वह वर्णन करने का दावा करता है (Distilling Black-Box Machine Learning into a Small, Self-Explaining Language Model for Learning Analytics)। अनलर्निंग प्रशिक्षण के बाद लक्षित सामग्री हटाती है: तीन मॉडलों पर ढाल-आधारित अनलर्निंग लागू की गई ताकि PII और हानिकारक सामग्री को हटाया जा सके, दो हटाने के क्रमों में परीक्षित (पहले PII और पहले हानिकारक सामग्री) (Balancing AI responsibility with privacy, safety, and utility: Unlearning in large language models for mathematics education) — वह प्रासंगिक उपकरण जब एक मॉडल ने कुछ ऐसा याद कर लिया हो जो उसे नहीं ले जाना चाहिए।

पोस्ट-ट्रेनिंग: केवल स्वरूप नहीं, व्यवहार का आकार देना

अनुकूलन मॉडल को सिखाता है क्या उत्पन्न करना है; पोस्ट-ट्रेनिंग उसे सिखाती है कैसे व्यवहार करना है। यहीं शैक्षिक परिणाम सबसे उल्लेखनीय हैं, और यहीं रिवार्ड या प्राथमिकता संकेत का डिज़ाइन सब कुछ तय करता है।

पाइपलाइन परिणाम। Singh और सहयोगी (2026) ने Qwen3-32B को तीन चरणों — आरंभिक RL, संश्लेषित SFT, अंतिम RL — के माध्यम से EduQwen में बदला, CDPK बेंचमार्क पर 96.52% तक पहुँचा और Gemini-3 Pro के 90.55% से आगे निकला। मध्यवर्ती परिणाम ही शिक्षाप्रद भाग हैं: केवल पहला RL चरण 94.13% तक पहुँचा, 40,000 स्व-उत्पन्न प्रतिक्रियाओं पर SFT ने इसे 96.20% तक ले गया, और अंतिम RL दौर ने अंतिम अंश जोड़ा। रिवार्ड मॉडल ने प्रत्यक्ष उत्तरों की तुलना में मार्गदर्शक प्रतिक्रियाओं को प्राथमिकता दी, कठिन-नकारात्मक खनन ने उन प्रश्नों को बाहर किया जिन्हें आधार मॉडल पहले ही हल कर चुका था, और रोलआउट को बहु-चरण शैक्षिक निर्णयों को पकड़ने के लिए 5 से 8 चरणों तक बढ़ाया गया (Application-Driven Pedagogical Knowledge Optimization of Open-Source LLMs via Reinforcement Learning and Supervised Fine-Tuning)। इसके विपरीत, पेडागॉजी बेंचमार्क — 97 मॉडलों पर वास्तविक शिक्षक व्यावसायिक-विकास परीक्षाओं से लिया गया — ने 28% से 89% तक की सटीकता पाई, यह साक्ष्य कि शैक्षिक ज्ञान सामान्य प्रीट्रेनिंग के दौरान संयोग से अर्जित नहीं होता (Lelièvre et al., 2025)।

उक्ति के बजाय निर्णय का प्रशिक्षण। TACT ने एक ट्यूटर को एक 13-रणनीति वर्गीकरण और एक दो-अक्षीय विद्यार्थी-चाल वर्गीकरण पर पोस्ट-ट्रेनिंग दिया और अपने Qwen3.5-4B आधार से 20.30 अंक की प्राप्ति की, एक निदान बेंचमार्क के साथ जो प्रशिक्षण के दौरान उपलब्ध शिक्षार्थी-अवस्था लेबल वापस रखता है ताकि मॉडल को संवाद से अवस्था का अनुमान लगाना पड़े (TACT: Taxonomy-Aligned Post-Training for Pedagogically Adaptive English Tutoring)। यही तर्क विशेष शिक्षा संरेखण के लिए Special-R1 में दिखता है (Special-R1: Reinforcement Learning for Special Education — Aligning LLM Tutors to Diverse Learners through Disability-Adaptive Training) और उस अनुमानी-RL कार्य में जो मॉडलों को उत्तर देने वालों के बजाय सुकरातीय मार्गदर्शक के रूप में संरेखित करता है (Beyond Direct Answering: Aligning Educational LLMs as Socratic Guides via Heuristic Reinforcement Learning)। पोस्ट-ट्रेनिंग को केवल यह आकार देने की आवश्यकता नहीं कि मॉडल क्या कहता है: एक मंच एक संरक्षित ट्यूटरिंग चैटबॉट को एक सुदृढीकरण शिक्षा एजेंट के साथ जोड़ता है जो अगला अभ्यास प्रश्न चुनता है, ताकि प्रशिक्षित नीति यह तय करे कि शिक्षार्थी अगला क्या करता है (Effective Personalized AI Tutors via LLM-Guided Reinforcement Learning)।

डिस्टिल किए गए तर्क मॉडल। शैक्षिक व्यवहार का एक सस्ता मार्ग एक छोटे मॉडल को एक बड़े की नकल करना सिखाना है: Pedagogy-R1 (1.5B और 7B) को एक QwQ-32B शिक्षक से डिस्टिल किए गए शैक्षिक रूप से फ़िल्टर किए आउटपुट पर निर्देश-अनुकूलित किया गया, Chain-of-Pedagogy प्रॉम्प्टिंग के साथ जोड़ा गया (Pedagogy-R1: Pedagogical Large Reasoning Model and Well-balanced Educational Benchmark)।

निर्देश-अनुकूलित पोस्ट-ट्रेनिंग बनाम प्रामाणिक डेटा। LearnLM शिक्षा-मॉडल प्रशिक्षण को शैक्षिक निर्देश पालन के रूप में प्रस्तुत करता है, सिस्टम-स्तरीय निर्देश लेकर जो डेवलपर्स और शिक्षकों को ट्यूटर व्यवहार निर्दिष्ट करने देते हैं बिना शिक्षाशास्त्र की एक परिभाषा में प्रतिबद्ध हुए। इसे Gemini के पोस्ट-ट्रेनिंग चरणों में सह-प्रशिक्षण द्वारा मिश्रित किया जाता है, और विशेषज्ञों ने इसे GPT-4o (+31%), Claude 3.5 Sonnet (+11%) और आधार Gemini 1.5 Pro (+13%) के ऊपर पसंद किया। मुख्य निष्कर्ष यह है कि लंबी बातचीत में सूक्ष्म शैक्षिक निर्देशों का पालन करने के लिए RL अकेले SFT से काफ़ी अधिक प्रभावी है (LearnLM: Improving Gemini for Learning)। TeachLM उलटा दाँव पकड़ता है: कि प्रॉम्प्ट इंजीनियरिंग एक अस्थायी उपाय है और दुर्लभ घटक प्रामाणिक शिक्षार्थी–ट्यूटर संपर्क डेटा है। कठोर अनामीकरण के तहत एक-पर-एक सत्रों के 100,000 घंटे पर प्रशिक्षित, यह विद्यार्थी के बोलने के समय को दोगुना करता है, प्रश्न पूछने की शैली में सुधार करता है, और संवाद चक्रों को 50% बढ़ाता है (TeachLM: Post-Training LLMs for Education Using Authentic Learning Data)। साथ मिलकर वे डिज़ाइन स्थान को परिभाषित करते हैं: जब आपका डेटा दुर्लभ हो तो निर्देश-अनुकूलित पोस्ट-ट्रेनिंग, और जब आपके पास वह हो तो वास्तविक ट्यूटरिंग संपर्कों पर सूक्ष्म-अनुकूलन।

निगरानी की गुणवत्ता निगरानी की मात्रा को हराती है। एक लेखन सिम्युलेटर के लिए SWIM की प्रगति सबसे साफ़ प्रदर्शन है। रूब्रिक-ग्राउंडेड प्रॉम्प्टिंग ने सीमित दक्षता नियंत्रण दिया (Claude Sonnet के लिए सर्वोत्तम औसत गुण QWK 0.577, GPT-5.4 के लिए 0.422, एक खुले 7B मॉडल के लिए लगभग शून्य); सुपरवाइज़्ड फ़ाइन-ट्यूनिंग ने उस 7B मॉडल को 0.474 ± 0.023 तक उठाया। एक स्वचालित-निबंध-स्कोरिंग-व्युत्पन्न रिवार्ड के विरुद्ध GRPO ने इसे हर गुण और प्रॉम्प्ट में 0.618 ± 0.005 तक और बढ़ाया, रिवार्ड को घनी गुण-सामान्यीकृत सटीकता के रूप में डिज़ाइन किया गया क्योंकि बहु-गुण सेटिंग में सटीक-मिलान रिवार्ड बहुत विरल होते हैं (SWIM: Student Writing Simulation via Proficiency-Conditioned Generation)। गलतधारणा-मॉडलिंग अध्ययन क्या निगरानी में होना चाहिए, इस पर एक तीखा निष्कर्ष तक पहुँचता है: निर्देश-अनुकूलित मॉडलों ने बीजगणित गलतधारणाएँ केवल तब सीखीं जब उन्हें चरण-स्तरीय समाधान ट्रेस पर प्रशिक्षित किया गया, और केवल अंतिम उत्तरों पर प्रशिक्षित करने पर सटीकता हर डेटा आकार पर 30% से नीचे रही। इसका विद्यार्थी भूमिका सीखी त्रुटि को अति-सामान्यीकृत कर गया जब तक सही उदाहरणों को चार में एक जैसे कम अनुपात में स्पष्ट रूप से मिश्रित नहीं किया गया, जबकि ट्यूटर भूमिका ने ऐसी कोई लागत नहीं दिखाई, दस संयुक्त रूप से प्रशिक्षित गलतधारणाओं में सही सटीकता 93% से 98% तक बनाए रखी (Misconception Acquisition Dynamics in Large Language Models)।

प्रशिक्षण डेटा स्वयं कुछ ऐसा है जिसे मॉडल क्यूरेट कर सकते हैं: Edu-QuRating शैक्षिक डेटा संचयन के लिए प्राथमिकता डिस्टिलेशन को अनुकूलित करता है, एक ही "क्या यह शैक्षिक है?" स्कोर को तथ्यात्मक सटीकता, शैक्षिक संरचना और स्तर उपयुक्तता को कवर करने वाले 20 रूब्रिक आयामों से बदलता है (Edu-QuRating: Multi-Dimensional Educational Data Curation with Distilled Pairwise Judgements)।

सिद्धांत एक प्रशिक्षण मंच हो सकता है। निर्देशात्मक प्रणाली डिज़ाइन को स्वचालित करने वाले एजेंटों के लिए, शास्त्रीय ADDIE और Dick & Carey ढाँचों का एक संकर, ReAct-शैली तर्क के साथ, ने शुद्ध सिद्धांत (संरचित लेकिन अकुशल) और केवल-तकनीक एजेंटों (कुशल लेकिन अग्राभासी) दोनों से बेहतर प्रदर्शन किया, एक 51-चर संदर्भ मैट्रिक्स से 25,795 परिदृश्यों पर, LLM-जैसे-न्यायाधीश पक्षपात को कम करने के लिए एक बहु-न्यायाधीश प्रोटोकॉल के साथ (ISD-Agent-Bench: A Comprehensive Benchmark for Evaluating LLM-based Instructional Design Agents)। और निगरानी लेबल के एक अध्ययन ने पाया कि प्रत्येक प्रशिक्षण उदाहरण को एक लक्ष्य व्यवहार सौंपना — विषय दक्षता, पाठ्यक्रम ग्राउंडिंग, निदान तर्क, या स्कैफोल्डिंग — ने परीक्षित हर मॉडल पैमाने को उठाया, सबसे बड़े लाभ स्कैफोल्डिंग में और विद्यार्थी के इतिहास का उपयोग करने में, जबकि ज्ञान-अवस्था निदान 54.04% पर सबसे कमज़ोर रहा (OmniEdu: Open Foundation Models for Learning and Teaching)।

केवल ट्यूटर नहीं, शिक्षार्थी पक्ष का भी प्रशिक्षण

उसी तंत्र को बढ़ते हुए विद्यार्थियों को सिम्युलेट करने के लिए इंगित किया जा रहा है, जो किसी ट्यूटर का मूल्यांकन करने की अर्थशास्त्र बदल देता है: शिक्षार्थियों को भर्ती करने के बजाय, आप उन्हें उत्पन्न करते हैं।

चेतावनी यह है कि सिम्युलेट किए गए विद्यार्थियों को किसी अन्य उपकरण की तरह मान्य किया जाना चाहिए। वास्तविक विद्यार्थी–ट्यूटर गणित संवादों के सबसे बड़े सार्वजनिक corpus से 382 होल्ड-आउट संवादों पर सूक्ष्म-अनुकूलित और प्रॉम्प्ट किए गए मॉडलों का बेंचमार्किंग — भाषाई, व्यवहारगत और संज्ञानात्मक पहलुओं को कवर करने वाले सात मेट्रिक्स पर — ने यह सीधा परीक्षण दिया कि सिम्युलेट किए गए विद्यार्थी विद्यार्थियों की तरह व्यवहार करते हैं या नहीं (Simulated Students in Tutoring Dialogues: Substance or Illusion?)। दो अतिरिक्त दृष्टिकोण निष्ठा पर दबाव डालते हैं: INSIDE LLM को विद्यार्थियों की तरह करने और सोचने दोनों के लिए सूक्ष्म-अनुकूलित करता है, Bloom's Taxonomy में निहित आंतरिक संवाद उत्पन्न करता है जो संज्ञानात्मक, भावनात्मक और क्रिया आयामों में फैला होता है, और जोड़े गए थिंक-ट्रेस और क्रियाओं पर प्रशिक्षित होता है (INSIDE the Student's Mind: Jointly Modeling Latent Reasoning and Action in LLM Student Simulators)), और इतिहास-जागरूक प्रोफ़ाइल सिम्युलेशन को किसी स्थिर व्यक्तित्व के बजाय विद्यार्थी की पूर्व प्रक्षेपवक्रा पर शर्तित करती हैं (Who Am I? History-Aware Profiles for Student Simulation in Tutoring Dialogues)। किसी डेवलपर के लिए व्यावहारिक सबक यह है कि एक सिम्युलेटर एक मापन उपकरण है और वह हर वैधता प्रश्न विरासत में लेता है जो इसका अर्थ है।

क्या गलत होता है

चापलूसी एक प्रशिक्षण उद्देश्य है, उपयोगिता सेटिंग नहीं। ट्यूटरिंग के लिए संशोधनकारी घर्षण आवश्यक है, और मॉडल इसका विरोध करते हैं। EduFrameTrap दिखाता है कि जो मॉडल संदर्भ-परिवर्तन हमलों को झेलते हैं, वे अधिकार या सामाजिक-भावनात्मक दबाव के तहत हार मानते हैं और संशोधनकारी फीडबैक वापस रखते हैं, यही कारण है कि इसके लेखक तर्क देते हैं कि "दयालु लेकिन सही" व्यवहार एक स्पष्ट प्रशिक्षण आवश्यकता होनी चाहिए, प्राथमिकता नहीं (Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks)। जो प्रशिक्षण उत्तर देने के ऊपर मार्गदर्शन को पुरस्कृत करता है — जैसा EduQwen का DAPO रिवार्ड मॉडल करता है — वह इसके विरुद्ध एक संरचनात्मक लीवर है, लेकिन संदर्भगत चापलूसी प्रॉम्प्टिंग और संरेखण के बाद भी बनी रहती है, जिसमें विद्यार्थियों की त्रुटियाँ अब भी AI सलाह में फैलती हैं (The Hidden Cost of Contextual Sycophancy: an AI Literacy Intervention in Human-AI Collaboration)।

प्रशिक्षण लंबी बातचीत में मॉडल को सुरक्षित नहीं बनाता। SafeTutors दिखाता है कि यहाँ तक कि विशेष शैक्षिक मॉडल भी निरंतर संवाद में गिरावट आती है और उत्तर अति-प्रकटीकरण हानियाँ कर सकते हैं (SafeTutors: Benchmarking Pedagogical Safety in AI Tutoring Systems), इसलिए शैक्षिक सुरक्षा का परीक्षण संवाद की लंबाई पर होना चाहिए, एक चरण पर नहीं।

मान्यीकरण प्रशिक्षण का विकल्प बन सकता है — या इसके बजाय आवश्यक हो सकता है। एक अप्रशिक्षित अग्रणी GPT-4 ने एक बुद्धिमान ट्यूटरिंग प्रणाली के लिए फीडबैक लिखते हुए लगभग 35% बहुत-सामान्य, गलत या उत्तर-प्रकट करने वाले संकेत उत्पन्न किए, और उसकी अपनी स्वचालित गुणवत्ता जाँचें मानव निर्णय से असंरेखित थीं; लेखक निष्कर्ष निकालते हैं कि LLM में निर्देश का कोई आंतरिक मॉडल नहीं है और बिना निगरानी वाले शिक्षार्थी-सामने उपयोग से पहले मज़बूत मान्यीकरण या डोमेन-विशिष्ट प्रशिक्षण आवश्यक है (Generating In-Context, Personalized Feedback for Intelligent Tutors with Large Language Models)। व्यावहारिक निहितार्थ दोनों तरफ़ काटता है: कभी-कभी सही उत्तर एक मान्यीकरण परत है, प्रशिक्षन चलाने के बजाय, और कभी-कभी मान्यीकरण वही है जो बताता है कि प्रशिक्षण चलाना विफल रहा।

आपका मूल्यांकन गलत चीज़ माप रहा हो सकता है। यहाँ सूक्ष्म-अनुकूलन साहित्य में यह सबसे आम जाल है। ROUGE-L और QWK समानता और रैंकिंग मापते हैं, व्युत्पत्ति-सही नहीं (LoRA Fine-Tuned Models for Control Systems Course Q&A: A Multidimensional Evaluation of Model Scale and Rank Effects)); एक सूक्ष्म-अनुकूलन उत्कृष्ट QWK तक पहुँच सकता है जबकि उसी प्रणाली का फीडबैक विश्लेषण-अयोग्य होता है (WrAFT: a Modularized Automated Writing Evaluation System for Argumentative Essays)); और एक मॉडल विद्यार्थियों को सही रैंक कर सकता है जबकि यह इस बारे में गलत हो कि प्रत्येक को मदद की कितनी संभावना है। जहाँ लक्ष्य कोई संरचना है, वहाँ सूक्ष्म-अनुकूलन को उस उपकरण के साथ जोड़ा जाना चाहिए जो संरचना को मापता है — आत्मविश्वास-रूटिंग परिणाम एक अच्छा टेम्पलेट है, क्योंकि यह एक सटीकता संख्या को लूप में मानव के साथ एक संचालन नीति में बदल देता है (Know When to Trust: Making AI Scoring More Reliable for Educational Assessment)।

शैक्षिक डेवलपर्स के लिए एक व्यावहारिक क्रम

उपर्युक्त साक्ष्य से डिस्टिल किया गया, उस क्रम में जो व्यर्थ कंप्यूट से बचाता है:

एक आधाररेखा स्थापित करें जिसे आप हरा सकें, जिसमें एक तुच्छ भी शामिल हो। पाठ्यक्रम-सहायक अध्ययन का बिना-पुनर्प्राप्ति मॉडल TF-IDF से नीचे स्कोर किया। प्रशिक्षण पर विचार करने से पहले अपनी केवल-प्रॉम्प्ट सटीकता लॉग करें।
पैरामीटर से पहले पुनर्प्राप्ति जोड़ें। मॉडल को अपनी सामग्री में ग्राउंड करना यहाँ रिपोर्ट किया गया सबसे सस्ता बड़ा लाभ है (52.3% → 66.6%), और यह प्रतिवर्ती है।
प्रॉम्प्ट को इंजीनियर करें, और इसे पुनरावृत्त रूप से फिर इंजीनियर करें। रूब्रिक-निर्देशित शोधन ने बिना किसी प्रशिक्षण के सहमति को 54.75% से 81.25% तक बढ़ाया, और प्रश्न निर्माण में सुधार केवल प्रॉम्प्ट शोधन के अवसाद के बाद हुआ — वह अवसाद आपका संकेत है कि प्रशिक्षण कुछ जोड़ सकता है।
तब सूक्ष्म-अनुकूलित करें जब लक्ष्य कोई स्थिर स्वरूप हो, कोई नियंत्रित गुण हो, या कोई डोमेन हो जो आधार मॉडल में नहीं है। कुछ हज़ार उदाहरणों पर LoRA छोटे खुले मॉडलों को मानव-ग्रेडर बराबरी पर रख सकती है, और एक निर्देश डेटासेट एक 7B मॉडल को डोमेन-विशिष्ट आयामों पर बहुत बड़े संदर्भ के 0.15 के भीतर लगभग शून्य से ले जा सकता है।
रैंक और परतों को सोच-समझकर चुनें, और वास्तुकला-विशिष्ट व्यवहार की अपेक्षा करें। रैंक बढ़ने पर प्रति एडेप्टर पैरामीटर लाभ गिरा, चार-परत अनुकूलन ने उथले और पूर्ण-गहराई सूक्ष्म-अनुकूलन दोनों को हराया, और एक मॉडल परिवार में काफ़ी सुधार हुआ जबकि दूसरे में कोई गति नहीं।
तब पोस्ट-ट्रेनिंग का उपयोग करें जब आपको कैसे पढ़ाता है इसे बदलने की आवश्यकता हो। उत्तर देने के ऊपर मार्गदर्शन को पुरस्कृत करें, और अपेक्षा रखें कि रिवार्ड गेम किया जाएगा — इसे एक अंतर्ज्ञान के विरुद्ध नहीं, एक बेंचमार्क के विरुद्ध लिखें।
चरण स्तर पर निगरानी करें। केवल-अंतिम-उत्तर प्रशिक्षण ने हर डेटा आकार पर 30% से कम गलतधारणा सटीकता उत्पन्न की।
जहाँ आत्मविश्वास कम हो वहाँ लूप में मानव रखें। सबसे कम आत्मविश्वास वाले पाँचवें हिस्से के उत्तरों को रूट करने से लगभग 80% मैनुअल कार्य हटा और सहमति सुधरी।
पूरी बातचीत में सुरक्षा का परीक्षण करें। लंबे संवाद वहीं हैं जहाँ विशेष मॉडल गिरावट आती है।
अपेक्षाएँ कैलिब्रेट करें। मॉडल और प्रॉम्प्ट चुनाव अधिगम लाभ के साथ असंगति के केवल लगभग 15% हिस्से को समझाते हैं; प्रशिक्षण से जो कुछ आप चाहते हैं उसमें से कुछ प्रशिक्षण से उपलब्ध नहीं है।

खुले प्रश्न

क्या शैक्षिक पोस्ट-ट्रेनिंग विषयों में सामान्यीकृत होती है, या विषय-विशिष्ट अनुकूलन हमेशा आवश्यक है?
क्या RL–SFT–RL पाइपलाइन को पदक्रमों में व्यक्तिगतकरण के लिए अनुदैर्ध्य स्मृता के साथ जोड़ा जा सकता है?
सबसे छोटी निगरानी समुच्चय क्या है जो अभी भी चरण-स्तरीय शैक्षिक तर्क सिखाता है, और क्या इसे विद्यार्थी डेटा साझा किए बिना संस्थाओं में साझा किया जा सकता है?
सूक्ष्म-अनुकूलित शैक्षिक मॉडलों के मूल्यांकन को कैसे मानकीकृत किया जाना चाहिए, देखते हुए कि समानता मेट्रिक्स उत्कृष्ट हो सकते हैं जबकि मॉडल अप्रयोज्य हो?

अन्य अवधारणाओं से संबंध

यह पेज बड़े भाषा मॉडल (LLMs) का एक मॉडल कैसे बनाया जाता है साथी है, जो बड़े भाषा मॉडल क्या हैं और वे कैसे व्यवहार करते हैं, इसे कवर करता है। यह प्रौद्योगिकियाँ के तहत प्रशिक्षण-और-अनुकूलन नोड के रूप में स्थित है, RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) (वह पुनर्प्राप्ति विकल्प जो आमतौर पर पहले आता है), प्रॉम्प्ट इंजीनियरिंग (सबसे सस्ता लीवर), और रीनफ़ोर्समेंट लर्निंग (पोस्ट-ट्रेनिंग का RL आधा हिस्सा) के बगल में। इसके आउटपुट इंटेलिजेंट ट्यूटरिंग और अनुकूली अधिगम को खिलाते हैं; इसके सबसे आम शैक्षिक अनुप्रयोग स्वचालित मूल्यांकन, स्वचालित निबंध स्कोरिंग और एआई फीडबैक की गुणवत्ता हैं; और इसके निकटतम संकल्पनात्मक संबंधी शैक्षिक एनएलपी, छात्रों का अनुकरण, ओपन सोर्स और शिक्षार्थी मॉडलिंग और अनुकूली शिक्षण हैं। जो जोखिम यह बनाता है उन्हें पाठ्य-सुरक्षा: शिक्षा में पेडागॉजिकल सेफ्टी, AI चापलूसी, हैलुसिनेशन जोखिम और निजता रखते हैं।

मेटाडेटा

स्तर	Higher Ed, K 12
इच्छित पाठक	Educational Technology Developers, Software Developers, Instructional Designers, Researchers
अधिगम और शिक्षण	मड्गद
प्रौद्योगिकियाँ और तकनीकें	जनरेटिव-AI, बड़े भाषा मॉडल (LLMs), इंटेलिजेंट ट्यूटरिंग, अनुकूली अधिगम, रीनफ़ोर्समेंट लर्निंग, ओपन सोर्स, शैक्षिक एनएलपी
शोध विधियाँ और मूल्यांकन	बेंचमार्क
समानता, नैतिकता और जिम्मेदार उपयोग	पाठ्य-सुरक्षा: शिक्षा में पेडागॉजिकल सेफ्टी
शिक्षा में AI की नींव	शिक्षा में AI

Source History Edit Chat