LLM कॉन्टेक्स्ट लेंथ: फ़्री मॉडल, मेमरी लिमिट, सेटिंग्स और रोलप्ले टिप्स

आपका AI कैरेक्टर बीस मैसेज के बाद नाम क्यों भूल जाता है? यह लेख LLM कॉन्टेक्स्ट लेंथ को सरल शब्दों में समझाता है, फ़्री मॉडलों की मेमरी साइज़ की तुलना करता है, बताता है कौन सी सेटिंग्स बदलनी हैं, और लंबी कहानियों को एकसमान रखने की व्यावहारिक आदतें देता है।

LLM कॉन्टेक्स्ट लेंथ: फ़्री मॉडल, मेमरी लिमिट, सेटिंग्स और रोलप्ले टिप्स
Cristian Da Conceicao

आपका कैरेक्टर अभी-अभी आपको गलत नाम से बुला रहा है। तीन सीन पहले जिस ड्रैगन को आपने मारा था, वह अचानक फिर ज़िंदा है, और जिस सराय को आपने जलाया था, वहाँ अब एल ब्रू परोसी जा रही है। कुछ टूटा नहीं है, और मॉडल आलसी भी नहीं है। उसके पास बस जगह ही नहीं बची है। हर लैंग्वेज मॉडल मेमरी की एक तय खिड़की के भीतर पढ़ता और लिखता है, और जैसे ही आपकी चैट उस खिड़की से बड़ी होती है, सबसे पुरानी सामग्री चुपचाप नज़र से बाहर चली जाती है।

यह लेख LLM कॉन्टेक्स्ट लेंथ को सरल शब्दों में समझाता है: यह किसे मापती है, लोकप्रिय फ़्री मॉडलों में यह कितनी बड़ी है, कौन सी सेटिंग्स बदलती हैं कि मॉडल कितना याद रखता है, और बिना उस बड़ी खिड़की के लिए पैसे दिए जिसकी आपको ज़रूरत न हो, लंबे रोलप्ले को एकसमान कैसे रखें।

💡 त्वरित जवाब: कॉन्टेक्स्ट लेंथ वह कुल टोकन संख्या है जिसे मॉडल एक रिक्वेस्ट में देख सकता है। इस कुल में आपके निर्देश, चैट इतिहास और वह जवाब शामिल हैं जो मॉडल अभी लिखने वाला है। जब कुल सीमा से ऊपर जाता है, तो कुछ न कुछ कट जाता है।

कॉन्टेक्स्ट लेंथ का असली मतलब

कॉन्टेक्स्ट विंडो को मॉडल की मेज़ समझें जिस पर वह काम करता है। जो कुछ भी वह देख सकता है, उसे एक ही समय पर इसी मेज़ पर आना होता है। जो नहीं आता, मॉडल के लिए वह खत्म है। उसके पास कोई छिपी हुई फ़ाइल अलमारी नहीं है, और वह एक रिक्वेस्ट से अगली रिक्वेस्ट तक कोई याद लेकर नहीं चलता। हर जवाब उस टेक्स्ट से नए सिरे से बनता है जो आप उसके साथ भेजते हैं।

लकड़ी की मेज़ पर लंबी घुमावदार कतार में फैले कागज़ के इंडेक्स कार्ड

टोकन, शब्द नहीं

मॉडल शब्द नहीं गिनते। वे टोकन गिनते हैं, जो टेक्स्ट के टुकड़े होते हैं। अंग्रेज़ी में एक टोकन लगभग चार अक्षरों के बराबर होता है, या लगभग तीन-चौथाई शब्द। छोटे आम शब्द अक्सर एक टोकन होते हैं। दुर्लभ नाम, स्लैंग और दूसरी भाषाओं के शब्द हर एक में तीन या चार टोकन तक ले सकते हैं।

कॉन्टेक्स्ट साइज़अनुमानित अंग्रेज़ी शब्दलगभग बराबर है
4K (4,096 टोकन)3,000एक लंबा ब्लॉग पोस्ट
8K6,000एक छोटी कहानी
32K24,000उपन्यासिका के अध्यायों का सेट
128K96,000एक पूरा उपन्यास
1M750,000किताबों की एक अलमारी

ये अनुमान हैं। कोड, इमोजी और गैर-अंग्रेज़ी टेक्स्ट टोकन तेज़ी से खाते हैं, इसलिए जापानी या अरबी में चैट उसी विंडो को अंग्रेज़ी चैट से जल्दी भर देती है।

विंडो में क्या भरता है

शुरुआती लोग मानते हैं कि विंडो में सिर्फ़ चैट होती है। उसमें इससे कहीं ज़्यादा होता है:

  • सिस्टम प्रॉम्प्ट, जो नियम और टोन तय करता है।
  • कैरेक्टर कार्ड या पर्सोना, जो अकेले अक्सर 500 से 1,500 टोकन लेता है।
  • लोरबुक या वर्ल्ड नोट्स, अगर आपका ऐप उन्हें डालता है।
  • आपके और मॉडल के हर पिछले मैसेज।
  • अगले जवाब के लिए रखी गई जगह, जो मैक्स आउटपुट सेटिंग से तय होती है।

आखिरी बात लोगों को चौंकाती है। अगर आपकी विंडो 8K है और आप जवाब के लिए 1,000 टोकन रखते हैं, तो बाकी सब के लिए असल में आपके पास 7K ही बचता है।

फ़्री मॉडलों में कॉन्टेक्स्ट साइज़

"फ़्री" के अलग-अलग मतलब होते हैं। इसका मतलब ओपन वेट्स हो सकता है जिन्हें आप अपने कंप्यूटर पर चलाते हैं, दैनिक सीमा वाला फ़्री टियर हो सकता है, या ऐसा मॉडल हो सकता है जो हर रिक्वेस्ट पर बहुत कम खर्च करता है। हर हाल में मॉडल पेज पर छपी संख्या अधिकतम है, गुणवत्ता का वादा नहीं।

कॉफ़ी शॉप की मेज़ पर लैपटॉप पर टाइप करते हाथ, बगल में हाथ से बना बार चार्ट वाला नोटपैड

छोटी विंडो: 4K से 8K

पुराने ओपन मॉडल इसका क्लासिक उदाहरण हैं। Llama 2 7B Chat और Llama 2 के दूसरे आकार, जैसे Llama 2 13B Chat और Llama 2 70B Chat, लगभग 4K टोकन पर काम करते हैं। किसी त्वरित सवाल के लिए यह ठीक है, पर कहानी के लिए तकलीफ़देह। Meta Llama 3 8B Instruct इसे लगभग 8K तक दोगुना करता है, और Mistral 7B v0.1 भी लगभग उसी दायरे में है।

छोटी विंडो की भी जगह है। वे तेज़ जवाब देती हैं, चलाने में सस्ती हैं, और आपको प्रॉम्प्ट छोटे और कसे हुए रखने पर मजबूर करती हैं, जो वैसे भी अच्छी आदत है।

मध्यम और लंबी विंडो

नए फ़्री और कम-लागत वाले परिवार कहीं ज़्यादा उदार हैं। Granite 4.0 H Small खास तौर पर लंबे इनपुट के लिए बना है, और Granite 4.1 8B चैट और कोड के लिए एक फ़्री विकल्प है। अगर आपका काम कोड है, तो Granite 8B Code Instruct 128K अपना विंडो साइज़ नाम में ही रखता है, और उसका साथी Granite 20B Code Instruct 8K दिखाता है कि पुरानी पीढ़ी क्या देती थी।

लंबी चैट के लिए परखने लायक दूसरे परिवारों में DeepSeek V3, Kimi K2.6 और Qwen3.7 Plus शामिल हैं। हर एक की सटीक विंडो के लिए मॉडल पेज देखें, क्योंकि वेंडर वर्ज़न के बीच ये संख्याएँ बदलते रहते हैं।

विशाल विंडो और उनकी कमी

Llama 4 Scout Instruct का विज्ञापन 10 मिलियन टोकन तक की विंडो के साथ होता है, और Llama 4 Maverick Instruct का विज्ञापन लगभग 1 मिलियन टोकन के साथ होता है। Google के Gemini 3.5 Flash और Gemini 3.1 Pro भी लंबी विंडो वाले खेमे में हैं।

सुनहरी रोशनी में किताबों की ऊँची दीवार के सामने लकड़ी की लाइब्रेरी सीढ़ी का लो-एंगल दृश्य

पर पेच यह है। 2026 के अंत तक 1 मिलियन टोकन की विंडो आम हो चुकी हैं, और ट्रैक किए गए मॉडलों का मध्य मान लगभग 256K बताया गया है। लेकिन विज्ञापित विंडो और प्रभावी विंडो अलग चीज़ें हैं। स्वतंत्र परीक्षण लगातार बताते हैं कि अधिकतम सीमा से काफ़ी पहले ही सटीकता गिरने लगती है, खासकर जब आपको चाहिए वह एक विवरण टेक्स्ट के विशाल ढेर के बीच दबा हो। बड़ी विंडो एक बड़ी लाइब्रेरी है, बेहतर पाठक नहीं।

💡 मोटा नियम: विज्ञापित विंडो के लगभग आधे हिस्से को सुरक्षित कार्य क्षेत्र मानें। इस बिंदु के बाद सारांश बनाएँ या रिट्रीव करें, बजाय इसके कि और कच्चा टेक्स्ट डालते जाएँ।

मेमरी लिमिट चैट कैसे तोड़ती है

ज़्यादातर लोग कॉन्टेक्स्ट लिमिट तभी देखते हैं जब कुछ अजीब हो जाता है। इसके दो मुख्य विफलता पैटर्न हैं, और वे अलग दिखते हैं।

ट्रेन प्लेटफ़ॉर्म पर ढीले कागज़ के पन्ने उड़ाता एक ठसाठस भरा चमड़े का थैला

चुपचाप कटना

जब चैट बहुत लंबी हो जाती है, तो ज़्यादातर ऐप सबसे पुराने मैसेज पहले हटाते हैं। आपका शुरुआती सीन, कैरेक्टर कार्ड (कुछ ऐप में) और मूल नियम बिना चेतावनी गायब हो सकते हैं। फिर मॉडल अंदाज़े से काम चलाता है। इसीलिए कोई कैरेक्टर अचानक अपना व्यक्तित्व बदल लेता है: जिस टेक्स्ट ने उसे परिभाषित किया था, वह अब मेज़ पर नहीं है।

कटने के संकेत:

  1. कैरेक्टर कोई नाम, कोई वादा या कोई जगह भूल जाता है।
  2. लेखन शैली सामान्य वाक्यांशों की ओर खिसकने लगती है।
  3. सिस्टम प्रॉम्प्ट के नियम मानना बंद कर देता है।
  4. जवाब पहले के वाक्यांश दोहराते हैं, क्योंकि मॉडल को केवल अपना हाल का आउटपुट दिखता है।

बीच में खो जाना

दूसरा पैटर्न तब होता है जब सब कुछ तकनीकी रूप से फ़िट हो जाता है। मॉडल विंडो की शुरुआत और अंत पर सबसे ज़्यादा ध्यान देते हैं। बीच के तथ्यों पर ध्यान कमज़ोर रहता है। अगर आप चैट में 80,000 टोकन भरते हैं और ज़रूरी सुराग टोकन 40,000 पर दबा देते हैं, तो मॉडल उसे छोड़ सकता है।

इसका हल सीधा है: सबसे ज़रूरी जानकारी बिल्कुल शुरुआत में रखें (सिस्टम प्रॉम्प्ट, कैरेक्टर कार्ड), या अंत के पास, अपने ताज़ा मैसेज के करीब, उसे फिर से लिखें।

वे सेटिंग्स जो सच में मायने रखती हैं

चैट ऐप और API टूल्स में बहुत सारे स्लाइडर होते हैं। उनमें से गिने-चुने ही मेमरी के व्यवहार को ऐसे बदलते हैं कि आप उसे महसूस करें।

धूप वाले ऑफ़िस में लकड़ी के मिक्सिंग कंसोल पर स्लाइडर नॉब एडजस्ट करती डेनिम जैकेट पहने एक महिला

कॉन्टेक्स्ट साइज़ स्लाइडर

कई लोकल और सेल्फ़-होस्टेड सेटअप आपसे खुद कॉन्टेक्स्ट साइज़ चुनने को कहते हैं, और डिफ़ॉल्ट अक्सर छोटा होता है, जैसे 2K या 4K, भले ही मॉडल उससे कहीं ज़्यादा सपोर्ट करता हो। अगर आपका कैरेक्टर जल्दी चीज़ें भूलता है, तो पहले इसे जाँचें। इसे बढ़ाने से मेमरी का उपयोग बढ़ता है, इसलिए आपके हार्डवेयर से तय एक सीमा होती है। होस्टेड मॉडलों पर वेंडर आमतौर पर इसे आपके लिए तय करता है।

मैक्स आउटपुट टोकन

यह संख्या सबसे बड़े जवाब को तय करती है जो मॉडल लिख सकता है। इसे बहुत कम रखें तो जवाब बीच वाक्य में खत्म हो जाते हैं। बहुत ज़्यादा रखें तो उस टेक्स्ट के लिए विंडो की जगह बर्बाद होती है जो आप कभी देखेंगे ही नहीं। रोलप्ले के लिए 250 से 500 टोकन ज़्यादातर सीन के लिए ठीक हैं। लंबे लेखन के लिए 1,000 या उससे ज़्यादा पर जाएँ।

टेम्परेचर और रिपिटिशन पेनल्टी

ये दोनों यह नहीं बदलते कि मॉडल कितना याद रखता है, लेकिन ये बदलते हैं कि वह जो याद रखता है उसका कितना अच्छा इस्तेमाल करता है।

सेटिंगनिम्न मानउच्च मानरोलप्ले के लिए अच्छा शुरुआती बिंदु
टेम्परेचरअनुमानित, सुरक्षितरचनात्मक, जोखिम भरा0.7 से 0.9
Top Pसीमित शब्द-विकल्पज़्यादा विविधता0.9
रिपीटेशन पेनल्टीलूप की छूट देता हैदोहराव से बचाता है, पर बातचीत पटरी से उतार सकता है1.05 से 1.15
अधिकतम आउटपुट टोकनछोटे जवाबलंबे जवाब300 से 500

💡 पेनल्टी पर नज़र रखें। बहुत तेज़ रिपिटिशन पेनल्टी मॉडल को उन शब्दों से दूर धकेलती है जो वह पहले इस्तेमाल कर चुका है, जिसमें आपके कैरेक्टर का अपना नाम भी शामिल है। अगर नाम बदलने लगें, तो इसे कम करें।

लंबी कहानियों के लिए रोलप्ले टिप्स

रोलप्ले कॉन्टेक्स्ट लेंथ की सबसे कठिन परीक्षा है, क्योंकि कहानी लंबी भी होती है और विवरणों से भरी भी। अगर आप यह संभालें कि मेज़ पर क्या रखा है, तो एक साधारण विंडो पर भी घंटों लिख सकते हैं।

गर्म लैंप की रोशनी वाले ड्रॉइंग रूम में सोफ़े पर बैठकर टैबलेट पर चैट पढ़ता एक युवक

छोटा कैरेक्टर कार्ड लिखें

कैरेक्टर कार्ड हर एक रिक्वेस्ट में टोकन के रूप में खर्च होता है। 8K विंडो पर 2,000 टोकन का कार्ड आपकी मेमरी का एक चौथाई स्थायी रूप से घेर लेता है। 300 से 700 टोकन का लक्ष्य रखें: नाम, उम्र, आवाज़, तीन गुण, एक लक्ष्य, एक डर। वह बैकस्टोरी काट दें जिसकी मॉडल को अभी ज़रूरत नहीं है।

एक कसा हुआ कार्ड कुछ ऐसा दिख सकता है: "मारा, 34, जहाज़ की नेविगेटर। सूखा हास्य, छोटे वाक्यों में बोलती है, अफ़सरों पर भरोसा नहीं करती। अपने खोए भाई को ढूँढना चाहती है। कभी नहीं मानती कि वह डरी हुई है।"

अपनी विंडो का हिसाब लगाएँ

8K विंडो के लिए एक उदाहरण यह है:

  • सिस्टम प्रॉम्प्ट: 300 टोकन
  • कैरेक्टर कार्ड: 700 टोकन
  • जवाब के लिए रखी जगह: 400 टोकन
  • इतिहास के लिए बचा: लगभग 6,700 टोकन

अगर हर एक्सचेंज (आपका मैसेज और जवाब) औसतन 400 टोकन का है, तो मॉडल लगभग 16 एक्सचेंज याद रखता है। उसके बाद सबसे पुराने टर्न गिर जाते हैं। यह संख्या जानने से आपको ठीक पता चलता है कि कब सारांश बनाना है।

हर 20 टर्न पर सारांश बनाएँ

यह आदत किसी भी सेटिंग से ज़्यादा काम करती है। हर 15 से 20 एक्सचेंज पर, कुछ लिखें (या मॉडल से लिखवाएँ) कि क्या हुआ। उसे चैट के ऊपर चिपकाएँ, फिर वे पुराने मैसेज हटा दें जिनकी जगह वह सारांश लेता है।

नोटबुक के ढेर और ब्लैक कॉफ़ी के बगल में चमड़े की डायरी में सारांश लिखते एक महिला के हाथ

एक अच्छे सारांश में ये बातें शामिल होती हैं:

  1. कौन मौजूद है और वे एक-दूसरे के बारे में कैसा महसूस करते हैं।
  2. कहाँ सीन होता है।
  3. क्या बदला (मौतें, वादे, चोटें, मिली या खोई चीज़ें)।
  4. खुले सूत्र जिन्हें कहानी को अभी सुलझाना है।

सारांश 200 टोकन से कम रखें। इस तरह समेटी गई कहानी सैकड़ों टर्न तक चल सकती है, उस विंडो पर जो अन्यथा केवल 16 टर्न रख पाती।

तथ्य पिन करें, फ़िलर हटाएँ

हर मैसेज मेज़ पर जगह का हकदार नहीं होता। अभिवादन, दोहराए गए विवरण और लंबी आउट-ऑफ़-कैरेक्टर बातचीत टोकन खाती हैं, बिना कहानी जोड़े। कई ऐप आपको कुछ मैसेज पिन या लॉक करने देते हैं, या ऐसे तथ्य लोरबुक में रखने देते हैं जो केवल किसी ट्रिगर शब्द के आने पर लोड हों। नाम, नियम और रिश्तों के लिए इन टूल्स का इस्तेमाल करें। आम बातचीत को किनारे छूटने दें।

💡 दोबारा लिखें, उम्मीद न करें। अगर कोई विवरण अगले सीन में मायने रखता है (चुराई चाबी, राज़, चोट), तो उसे अपने मैसेज में फिर से लिखें। एक वाक्य, प्लॉट के छेद से कहीं सस्ता है।

ज़रूरत के हिसाब से मॉडल चुनना

बड़ा हमेशा बेहतर नहीं होता। विशाल विंडो ज़्यादा लागत लेती है, धीमी चलती है, और आपके विवरणों को दबा सकती है। हर काम के लिए सही मॉडल चुनें।

चमकदार को-वर्किंग स्पेस में लंबी मेज़ पर प्रिंट किए पन्नों और लैपटॉप की तुलना करते तीन लोग

आपका लक्ष्यज़रूरी विंडोआज़माने लायक मॉडल
छोटे सवाल, छोटी चैट4K से 8KLlama 2 7B Chat, Meta Llama 3 8B Instruct
रोज़मर्रा की चैट और हल्का रोलप्ले32K से 128KGranite 4.1 8B, DeepSeek V3
लंबी कहानियाँ और लोरबुक128K या उससे ज़्यादाGranite 4.0 H Small, Kimi K2.6
बहुत बड़े दस्तावेज़, कई फ़ाइलें1M या उससे ज़्यादाLlama 4 Scout Instruct, Gemini 3.5 Flash
परिष्कृत लेखन और रीज़निंगबड़ी, मज़बूत रिकॉल के साथClaude Sonnet 5, GPT 5.6 Luna

विंडो का साइज़ एक कारक है। लेखन की गुणवत्ता, निर्देशों का पालन और गति भी उतनी ही मायने रखते हैं, इसलिए किसी लंबी कहानी के लिए प्रतिबद्ध होने से पहले दो या तीन मॉडलों को एक ही शुरुआती प्रॉम्प्ट के साथ परखें।

आम समस्याओं के त्वरित हल

कैरेक्टर अपना नाम भूल जाता है

पहले कार्ड जाँचें। अगर कार्ड लंबा है और एक भरी हुई चैट के बिल्कुल ऊपर है, तो आपका ऐप उसे काट रहा हो सकता है। कार्ड छोटा करें, उसे पिन करें, या अपने ताज़ा मैसेज में नाम फिर से लिखें। फिर अगर आपका सेटअप इजाज़त देता है तो कॉन्टेक्स्ट साइज़ बढ़ाएँ।

जवाब बीच में कट जाते हैं

यह लगभग हमेशा मैक्स आउटपुट टोकन सेटिंग होती है। इसे 500 या उससे ज़्यादा करें। अगर यह पहले से ऊँची है, तो विंडो भर गई हो सकती है, और लिखने की जगह नहीं बची। खाली जगह बनाने के लिए पुराने टर्न का सारांश बनाएँ।

मॉडल खुद को दोहराता है

रिपिटिशन पेनल्टी को थोड़ा कम करें, टेम्परेचर को थोड़ा बढ़ाएँ, और पुराने वे मैसेज काटें जिनमें दोहराया गया वाक्यांश है। मॉडल उन पैटर्न की नकल करना पसंद करते हैं जो वे अपने इतिहास में देखते हैं।

सब कुछ धीमा हो जाता है

लंबा कॉन्टेक्स्ट हर जवाब पर ज़्यादा कंप्यूटेशन का मतलब है। अगर गति गिरती है, तो आप शायद ज़रूरत से कहीं ज़्यादा टेक्स्ट भेज रहे हैं। एक साफ़ सारांश और आखिरी दस मैसेज अक्सर पूरे ट्रांसक्रिप्ट से तेज़ और ज़्यादा सटीक होते हैं।

आज ही Picasso IA पर आज़माएँ

आपको यह अनुमान लगाने की ज़रूरत नहीं कि कौन सा मॉडल आपकी कहानी के लिए ठीक है। PicassoIA पर लार्ज लैंग्वेज मॉडल कलेक्शन खोलें, ऊपर की तालिका से दो मॉडल चुनें, और हर एक में वही शुरुआती सीन चिपकाएँ। देखें कि हर एक कितनी देर तक एकसमान रहता है, फिर मैक्स आउटपुट और टेम्परेचर बदलकर परीक्षण दोबारा चलाएँ।

गोल्डन आवर में धूप वाली बालकनी पर अपने फ़ोन को देखकर मुस्कुराती एक युवा महिला

एक त्वरित प्रयोग आज़माएँ: अपनी मौजूदा कहानी का 400 टोकन का सारांश लिखें, उसके साथ एक नई चैट शुरू करें, और देखें कि क्या कैरेक्टर मूल 100-मैसेज वाले थ्रेड की तुलना में बेहतर एकसमान रहते हैं। ज़्यादातर लोगों के लिए जवाब हाँ होता है। फिर वही रचनात्मक चिंगारी आगे ले जाएँ, और Picasso IA के इमेज मॉडलों से अपनी कहानी का कवर आर्ट, कैरेक्टर पोर्ट्रेट और सीन इमेज बनाएँ। एक चैट, एक कैरेक्टर और एक सारांश से शुरू करें, और अगले सीन में फ़र्क खुद देख लेंगे।

यह लेख शेयर करें

अपनी भाषा चुनें

FreeAI से इमेज और वीडियो बनाएँमुफ़्त, क्रेडिट कार्ड नहीं चाहिएशुरुआत के लिए मुफ़्त जनरेशनSeedance 2.5 Lite शामिलअभी मुफ़्त शुरू करें

संबंधित लेख