MCP सुरक्षा के सर्वोत्तम तरीके: जोखिम, चेकलिस्ट और ऑडिट

MCP सर्वर AI मॉडल को आपके सिस्टम के अंदर काम करने देते हैं, जिससे टूल पॉइज़निंग, प्रॉम्प्ट इंजेक्शन और लीक हुए टोकन असली जोखिम बन जाते हैं। यहाँ सात ज़रूरी खतरे देखें, एक्सेस, हार्डनिंग और डेटा फ़्लो के लिए 20 पॉइंट की चेकलिस्ट, और एक दोपहर में पूरा होने वाला ऑडिट रूटीन।

MCP सुरक्षा के सर्वोत्तम तरीके: जोखिम, चेकलिस्ट और ऑडिट
Cristian Da Conceicao
Picasso IA के संस्थापक

MCP सर्वर आपके सिस्टम का एक ऐसा दरवाज़ा है जिसे AI मॉडल खुद खोल लेता है। जैसे ही कोई क्लाइंट, जैसे चैट असिस्टेंट या कोड एडिटर, जुड़ता है, मॉडल फ़ाइलें पढ़ सकता है, डेटाबेस से क्वेरी कर सकता है, इंटरनल API कॉल कर सकता है और संदेश भेज सकता है, आमतौर पर उस व्यक्ति की अनुमतियों के साथ जिसने सर्वर इंस्टॉल किया था। इसलिए MCP सुरक्षा के सर्वोत्तम तरीके पोस्टमॉर्टम में नहीं, बल्कि पहले स्प्रिंट में आने चाहिए। यह लेख उन जोखिमों का नक्शा बनाता है जो प्रोडक्शन में सचमुच सामने आते हैं, 20 पॉइंट की एक चेकलिस्ट देता है जिसे आप सीधे टिकट में चिपका सकते हैं, और एक ऐसे ऑडिट से गुज़रता है जिसे आपकी टीम एक दोपहर में पूरा कर सकती है।

अगर आप जल्दी में हैं, तो छोटा सार यह है: हर टूल विवरण को अविश्वसनीय इनपुट मानें, हर सर्वर को सबसे छोटा अनुमति सेट दें जो काम करे, सीक्रेट्स को मॉडल की पहुँच से बाहर रखें, और हर टूल कॉल को लॉग करें ताकि बाद में देखा जा सके कि क्या हुआ था।

MCP सुरक्षा अलग क्यों है

लैपटॉप, मार्क-अप किए गए नेटवर्क डायग्राम और स्टिकी नोट्स वाले डेवलपर डेस्क का ऊपर से लिया गया दृश्य

क्लासिक API सुरक्षा यह मानकर चलती है कि आपके एंडपॉइंट को कॉल करने वाला कोड किसी डेवलपर ने लिखा है। MCP यह धारणा तोड़ता है। Model Context Protocol किसी भाषा मॉडल को रन टाइम पर, उस टेक्स्ट के आधार पर, टूल चुनने देता है जो वह पढ़ता है। टेक्स्ट जाली हो सकता है, और मॉडल भरोसे के साथ नहीं बता सकता कि कोई निर्देश वैध है या चुपके से डाला गया है। इसी कारण MCP सर्वर सुरक्षा REST API को लॉक करने से अलग समस्या है।

मॉडल ही नया कॉलर है

सामान्य इंटीग्रेशन में कोड भेजे जाने से पहले कोई इंसान उसके कोड पाथ की समीक्षा करता है। MCP में कॉलर एक प्रोबेबिलिस्टिक सिस्टम है जो टूल के नाम, विवरण और नतीजों को अपने प्रॉम्प्ट के हिस्से के रूप में पढ़ता है। टूल विवरण में छिपा एक वाक्य लगभग उतना ही वज़न रखता है जितना आपके अपने सिस्टम प्रॉम्प्ट का कोई वाक्य। यही एक तथ्य ज़्यादातर MCP घटनाओं को समझा देता है।

इससे यह भी बदल जाता है कि हमलावर कौन माना जाए। आपको सर्वर तक पहुँच की ज़रूरत नहीं है। जो भी मॉडल के सामने टेक्स्ट रख सकता है, वह उसे दिशा देने की कोशिश कर सकता है: किसी वेब पेज का लेखक, सपोर्ट टिकट दर्ज करने वाला ग्राहक, या सार्वजनिक रिपॉज़िटरी पर इश्यू खोलने वाला कोई अजनबी। अच्छी AI एजेंट सुरक्षा की शुरुआत इस स्वीकार से होती है कि इनपुट का रास्ता पूरी दुनिया के लिए खुला है।

ट्रस्ट बाउंड्री कहाँ होती हैं

कॉन्फ़िग की एक भी लाइन लिखने से पहले चार बाउंड्री खींच लें:

बाउंड्रीक्या पार करता हैकिस पर भरोसा है
यूज़र से क्लाइंटप्रॉम्प्ट और मंज़ूरियाँसाइन-इन यूज़र
क्लाइंट से सर्वरटूल कॉल और नतीजेकेवल वे सर्वर जिन्हें आपने जाँचा है
सर्वर से बैकएंडक्वेरी, फ़ाइलें, API कॉलसीमित दायरे वाली सर्विस आइडेंटिटी
सर्वर से इंटरनेटफ़ेच किए गए पेज, webhooksकोई नहीं

ट्रांसपोर्ट भी मायने रखता है। stdio पर लॉन्च किया गया लोकल सर्वर यूज़र की मशीन पर चल रही एक प्रोसेस है जो यूज़र की अनुमतियों के साथ चलती है, इसलिए कोई दुर्भावनापूर्ण पैकेज व्यावहारिक रूप से मनमाना कोड चलाने जैसा है। HTTP पर चलने वाला रिमोट सर्वर नेटवर्क एक्सपोज़र, ऑथेंटिकेशन और सेशन हैंडलिंग जोड़ता है। हर ट्रांसपोर्ट का अपना थ्रेट मॉडल चाहिए, और जो सर्वर दोनों देता है उसकी दो समीक्षाएँ होनी चाहिए।

💡 टिप: सबसे जोखिम भरा सेटअप वह है जिसमें एक एजेंट निजी डेटा पढ़ सकता है, अविश्वसनीय कंटेंट पढ़ सकता है और डेटा बाहर भेज सकता है। सुरक्षा शोधकर्ता इस संयोजन को "lethal trifecta" कहते हैं। इसका कम से कम एक हिस्सा हटा दें, और ज़्यादातर डेटा-लीक के रास्ते बंद हो जाते हैं।

सात जोखिम जो मायने रखते हैं

हर खतरे को बराबर ध्यान नहीं चाहिए। ये सात बार-बार सार्वजनिक MCP शोध और घटना रिपोर्टों में दिखते हैं, और इनमें से हर एक नीचे की चेकलिस्ट के आइटमों से जुड़ता है।

#जोखिमक्या होता हैआम असर
1प्रॉम्प्ट इंजेक्शनमॉडल किसी पेज, टिकट या फ़ाइल में छिपे निर्देश का पालन कर लेता हैडेटा लीक, अनचाही कार्रवाइयाँ
2टूल पॉइज़निंगटूल विवरण के अंदर दुर्भावनापूर्ण निर्देश होते हैंचुपचाप डेटा चोरी
3रग पुलमंज़ूरी के बाद सर्वर अपने टूल बदल देता हैमंज़ूर किया गया अब मौजूदा जैसा नहीं रहा
4लीक हुए क्रेडेंशियलटोकन कॉन्फ़िग, लॉग या मॉडल कॉन्टेक्स्ट में पहुँच जाते हैंअकाउंट पर कब्ज़ा
5ज़रूरत से ज़्यादा अनुमतियाँसर्वर एडमिन स्कोप के साथ चलता हैएक गलती बड़ा उल्लंघन बन जाती है
6टोकन पासथ्रूसर्वर ऐसे टोकन आगे भेजता है जो उसके लिए जारी नहीं हुए थेइरादे से परे पहुँच
7सप्लाई चेनमिलते-जुलते नाम वाले या बैकडोर वाले सर्वर पैकेजकोड आपकी मशीन पर चलता है

टूल आउटपुट के ज़रिए प्रॉम्प्ट इंजेक्शन

दोपहर की गोल्डन रोशनी में टाइप करते एक डेवलपर के हाथों का क्लोज़-अप

प्रॉम्प्ट इंजेक्शन सबसे बड़ा जोखिम है, क्योंकि इसके लिए किसी एक्सप्लॉइट कोड की ज़रूरत नहीं होती। 2025 में शोधकर्ताओं ने दिखाया कि एक GitHub इंटीग्रेशन को सार्वजनिक रिपॉज़िटरी के एक दुर्भावनापूर्ण इश्यू से इस तरह मोड़ा जा सकता था कि वह निजी रिपॉज़िटरी पढ़े और उसकी सामग्री वापस पोस्ट कर दे। मॉडल ने ठीक वही किया जो उससे कहा गया था। बस अनुरोध एक हमलावर की तरफ़ से आया था।

बचाव के तरीके जो काम करते हैं:

  • टूल नतीजों को डेटा मानें, कभी निर्देश नहीं। नतीजों को साफ़ डिलीमिटर में लपेटें और सिस्टम प्रॉम्प्ट में यह बात लिखें।
  • ज़िम्मेदारियाँ बाँटें। जो एजेंट अविश्वसनीय पेज पढ़ता है, उसके पास किसी मूल्यवान चीज़ पर लिखने की पहुँच नहीं होनी चाहिए।
  • बाहर जाने वाली कार्रवाइयों पर गेट लगाएँ। भेजना, पोस्ट करना और डिलीट करना, इनके लिए इंसान का क्लिक ज़रूरी हो।
  • दोनों दिशाओं में फ़िल्टर करें। इनपुट और आउटपुट दोनों पर सेफ़्टी क्लासिफ़ायर चलाएँ, जैसा नीचे के ट्यूटोरियल में दिखाया गया है।

टूल पॉइज़निंग और रग पुल

टूल पॉइज़निंग में निर्देश किसी टूल के विवरण या स्कीमा के अंदर छिपे होते हैं। आपको एक हानिरहित "दो संख्याएँ जोड़ें" टूल दिखता है। मॉडल को उसमें एक अतिरिक्त पैराग्राफ़ दिखता है जो उससे कहता है कि क्रेडेंशियल फ़ाइल पढ़े और उसकी सामग्री एक पैरामीटर के रूप में भेजे। रग पुल इसका धीमा रूप है: सर्वर समीक्षा के दौरान सामान्य व्यवहार करता है, फिर आपकी मंज़ूरी के बाद चुपचाप अपनी टूल परिभाषाएँ बदल देता है।

इसका उपाय उबाऊ है, लेकिन असरदार है। मंज़ूरी के समय पूरे टूल मैनिफ़ेस्ट (नाम, विवरण और स्कीमा) का हैश बनाएँ, हर कनेक्शन पर उसकी तुलना करें और हैश बदलने पर चलने से मना कर दें। यूज़र को छोटा सारांश नहीं, पूरा विवरण दिखाएँ।

सप्लाई चेन को अलग से देखना चाहिए। 2025 में npm पर प्रकाशित एक मिलते-जुलते नाम वाले ईमेल सर्वर के बारे में रिपोर्ट आई कि एक नियमित अपडेट के बाद वह आउटगोइंग संदेशों को एक बाहरी पते पर भेज रहा था। वर्ज़न पिन करना और allow-list रखना (चेकलिस्ट आइटम 9 और 10) इसका बचाव है।

लीक हुए क्रेडेंशियल और टोकन

खुले सर्वर कैबिनेट के दरवाज़े पर लगे घिसे हुए पीतल के ताले का मैक्रो शॉट

सीक्रेट्स साधारण तरीकों से लीक होते हैं: कोई टोकन कॉन्फ़िग फ़ाइल में चिपका रह जाता है जो कमिट हो जाती है, कोई एनवायरनमेंट वेरिएबल डीबग लॉग में दिख जाता है, या डेटाबेस पासवर्ड किसी टूल नतीजे में लौटकर अब पूरे सेशन के लिए मॉडल के कॉन्टेक्स्ट में पड़ा है। एक बार सीक्रेट कॉन्टेक्स्ट में आ जाए, तो बाद का कोई भी इंजेक्शन मॉडल से उसे दोहराने को कह सकता है।

सीक्रेट्स को वॉल्ट या आपके ऑपरेटिंग सिस्टम के क्रेडेंशियल स्टोर में रखें, उन्हें सर्वर प्रोसेस को स्टार्ट-अप पर दें, और उन्हें आउटपुट में कभी वापस न लौटाएँ। ऐसे शॉर्ट-लिव्ड टोकन चुनें जो मिनटों में एक्सपायर हो जाएँ, क्योंकि चोरी हुआ टोकन जो दोपहर के खाने तक खत्म हो जाए, वह छोटी समस्या है।

ज़रूरत से ज़्यादा अनुमतियाँ जुड़ती जाती हैं

फ्रॉस्टेड ग्लास दरवाज़े के बगल में कार्ड रीडर पर बैज टैप करती नेवी ब्लेज़र पहनी एक महिला का लो-एंगल दृश्य

एक सर्वर जिसे "बस टिकट पढ़ने हैं" अक्सर एडमिन टोकन के साथ आता है, क्योंकि डेमो तक पहुँचने का सबसे तेज़ रास्ता वही था। फिर एक इंजेक्टेड निर्देश टिकट बंद कर सकता है, ग्राहक सूचियाँ निर्यात कर सकता है या सेटिंग्स बदल सकता है। अनुमतियाँ ही ब्लास्ट रेडियस हैं, और उसका आकार आप पहले ही दिन चुनते हैं।

न्यूनतम विशेषाधिकार को सबसे संकीर्ण क्रिया तक लागू करें: पढ़ना, लिखना नहीं; एक प्रोजेक्ट, पूरा वर्कस्पेस नहीं; एक टेबल, पूरा डेटाबेस नहीं। जब कोई वेंडर केवल सब-या-कुछ-नहीं वाला टोकन दे, तो उसके सामने एक पतला प्रॉक्सी सर्वर रखें जो केवल वही कॉल दिखाए जिन्हें आप स्वीकार करते हैं।

20 पॉइंट की सुरक्षा चेकलिस्ट

लकड़ी की मेज़ के चारों ओर बैठे तीन सहकर्मी, हाथ से लगाए निशानों वाली छपी चेकलिस्ट की समीक्षा करते हुए

इसे अपने ट्रैकर में चिपकाएँ और हर सर्वर को इसके आधार पर स्कोर करें। जो आज टिक न हो सके, वह एक ऐसा टिकट बन जाए जिसका ओनर और तारीख हो।

पहचान और एक्सेस

  1. रिमोट सर्वरों के लिए शॉर्ट-लिव्ड एक्सेस टोकन के साथ OAuth 2.1 इस्तेमाल करें। स्टैटिक शेयर्ड टोकन से बचें।
  2. जाँचें कि हर टोकन आपके सर्वर के लिए जारी हुआ है (audience validation)। क्लाइंट टोकन को कभी किसी डाउनस्ट्रीम API को आगे न भेजें। उसके लिए अलग टोकन माँगें।
  3. हर सर्वर को उसकी अपनी पहचान दें, ताकि आप एक को बाकी को छुए बिना रद्द कर सकें।
  4. डिफ़ॉल्ट रूप से केवल-पढ़ने वाले स्कोप रखें। लिखने वाले स्कोप के लिए लिखित कारण चाहिए।
  5. विनाशकारी या बाहर जाने वाली कार्रवाइयों के लिए इंसानी मंज़ूरी ज़रूरी करें: डिलीट करना, भेजना, भुगतान करना, प्रकाशित करना।
  6. सेशन को साइन-इन यूज़र से बाँधें और सेशन ID को पहचान का सबूत कभी न मानें।
  7. जाने वाले साथियों की पहुँच उनके आखिरी दिन, एक ऑटोमेटेड ऑफ़बोर्डिंग स्टेप के ज़रिए हटाएँ।

सर्वर हार्डनिंग

काँच की दीवारों वाले सर्वर केज के बगल में चलता एक टेक्नीशियन, जिसके काँच के पार काले रैक दिख रहे हैं

  1. लोकल सर्वरों को कंटेनर या सैंडबॉक्स में चलाएँ, जिसकी डिफ़ॉल्ट रूप से होम डायरेक्टरी तक पहुँच न हो।
  2. वर्ज़न और चेकसम पिन करें, और हर अपडेट से पहले डिफ़ की समीक्षा कर लें।
  3. उन सर्वरों की allow-list रखें जिन्हें आपकी टीम इंस्टॉल कर सकती है। बाकी ब्लॉक करें।
  4. जब भी किसी सर्वर की टूल सूची या विवरण बदले, उसे फिर से मंज़ूरी दें।
  5. सर्वर पर हर टूल आर्गुमेंट को वैलिडेट करें: पाथ, SQL, URL और शेल स्ट्रिंग। मॉडल आउटपुट को कभी बिना एस्केप किए शेल में न भेजें।
  6. लोकल HTTP सर्वरों को 127.0.0.1 से बाँधें और DNS रीबाइंडिंग रोकने के लिए Origin हेडर जाँचें।
  7. प्रोटोकॉल इंस्पेक्टर जैसे डीबगिंग टूल्स को साझा नेटवर्क से दूर और ऑथेंटिकेशन के पीछे रखें।

डेटा और नेटवर्क

  1. सीक्रेट्स को वॉल्ट या OS क्रेडेंशियल स्टोर में रखें, कभी प्रॉम्प्ट, रिपॉज़िटरी फ़ाइलों या टूल नतीजों में नहीं।
  2. टूल नतीजे मॉडल तक पहुँचने से पहले उनमें से सीक्रेट्स और निजी डेटा हटा (redact) दें।
  3. egress allow-list से बाहर जाने वाले ट्रैफ़िक को सीमित करें, ताकि हैक हो चुका एजेंट डेटा किसी भी होस्ट पर पोस्ट न कर सके।
  4. हर सर्वर और हर यूज़र के लिए रेट लिमिट और खर्च की सीमा लागू करें।
  5. हर टूल कॉल को यूज़र, सर्वर, आर्गुमेंट हैश, नतीजे के आकार और टाइमस्टैम्प के साथ लॉग करें। लॉग ऐसे स्टोरेज में भेजें जिसे एजेंट बदल न सके।
  6. एक किल स्विच रखें जो किसी भी सर्वर को पाँच मिनट से कम में बंद कर दे, और उसका अभ्यास करें।

💡 टिप: आइटम 5, 11 और 17 लागू करने में सबसे सस्ते हैं और सबसे खतरनाक रास्ते बंद करते हैं: बिना मंज़ूरी की कार्रवाइयाँ, चुपचाप बदले गए टूल और नेटवर्क से बाहर जाता डेटा। अगर इस हफ़्ते समय कम है, तो वहीं से शुरू करें।

MCP ऑडिट कैसे चलाएँ

लंबी कॉन्फ़्रेंस मेज़ पर छपी लॉग शीटों के ढेरों के बीच बैठा, स्लेटी ब्लेज़र पहने एक ऑडिटर

ऑडिट एक सवाल का जवाब देता है: मॉडल अभी क्या कर सकता है, और इसे किसने मंज़ूरी दी? एक दोपहर तय करें, एक इंजीनियर और एक सिक्योरिटी रिव्यूअर को बुलाएँ, और तीन चरणों में काम करें। पहले चरण से पहले एक पेज का थ्रेट मॉडल लिखें जिसमें चार सवालों के जवाब हों: एजेंट किस डेटा तक पहुँच सकता है, वह कौन सा अविश्वसनीय कंटेंट पढ़ता है, वह डेटा कहाँ भेज सकता है, और कौन सी कार्रवाइयाँ अपरिवर्तनीय हैं।

हर सर्वर की इन्वेंटरी बनाएँ

जिसकी सूची नहीं बनी, उसकी सुरक्षा नहीं हो सकती। क्लाइंट कॉन्फ़िग फ़ाइलों, IDE सेटिंग्स, साझा टीम रिपॉज़िटरी, CI पाइपलाइनों और उन "अस्थायी" सेटअप से सर्वर इकट्ठा करें जो कभी हटाए नहीं गए। हर एक के लिए यह दर्ज करें:

फ़ील्डउदाहरण
नाम और स्रोतवेंडर पैकेज, इंटरनल रिपॉज़िटरी या कम्युनिटी प्रोजेक्ट
ट्रांसपोर्टलोकल stdio या रिमोट HTTP
इस्तेमाल की गई पहचानसर्विस अकाउंट, निजी टोकन या कोई नहीं
दिए गए स्कोपटिकट पढ़ना, फ़ाइलें लिखना, एडमिन
जिस डेटा तक पहुँच हैग्राहक रिकॉर्ड, सोर्स कोड, सार्वजनिक वेब
ओनरएक नामित व्यक्ति, टीम एलियास नहीं

अचंभों की उम्मीद रखें। टीमों को अक्सर ऐसे सर्वर मिलते हैं जिन्हें किसी को याद नहीं होता कि इंस्टॉल किए गए थे, और जो किसी निजी एडमिन टोकन के साथ चल रहे होते हैं।

लॉग को रिप्ले और रिव्यू करें

पिछले तीस दिनों की टूल कॉल निकालें और उन पैटर्न को खोजें जो नहीं होने चाहिए: अजीब समय पर कॉल, असामान्य रूप से बड़े नतीजे, एजेंट द्वारा किसी बाहरी पेज को पढ़ने के ठीक बाद चलने वाले टूल, और ऐसे आर्गुमेंट जिनमें फ़ाइल पाथ या URL हों जिनका यूज़र ने ज़िक्र नहीं किया था। बड़े पैमाने पर ट्रायेज के लिए Claude Sonnet 5 जैसा मॉडल हज़ारों कॉल को अजीबियों की एक छोटी सूची में समूहित कर सकता है, बशर्ते कुछ भी भेजने से पहले आप सीक्रेट्स और निजी डेटा हटा दें।

निष्कर्षों को स्कोर करें और ठीक करें

हर निष्कर्ष को गंभीरता और डेडलाइन दें। पैमाना छोटा रखें ताकि लोग उसे सच में इस्तेमाल करें:

गंभीरताउदाहरण निष्कर्षठीक करने की अवधि
गंभीरसाझा कॉन्फ़िग फ़ाइल में एडमिन टोकन24 घंटे
उच्चबाहर जाने वाले ईमेल के लिए कोई मंज़ूरी स्टेप नहीं1 सप्ताह
मध्यमबिना पिन किया गया सर्वर वर्ज़न30 दिन
कमटेस्ट सर्वर पर ओनर नहींअगली समीक्षा

हर बड़े बदलाव के बाद और कम से कम तिमाही में एक बार ऑडिट दोबारा चलाएँ। जनवरी में साफ़ रही सर्वर सूची जून में शायद ही साफ़ रहती है।

मॉनिटरिंग और इंसिडेंट रिस्पॉन्स

शांत कमरे में दो मॉनिटरों को देखता एक सिक्योरिटी एनालिस्ट, पीछे से दिखता हुआ, जिनकी स्क्रीन पर गहरी टर्मिनल विंडो खुली हैं

रोकथाम आखिरकार विफल होती है, इसलिए उस दिन की योजना बनाएँ। लक्ष्य है मिनटों में पता लगाना और एक घंटे के भीतर उसे रोक देना।

क्या लॉग करें

इतना लॉग करें कि सीक्रेट्स स्टोर किए बिना सेशन दोबारा बनाया जा सके। यूज़र, क्लाइंट, सर्वर, टूल नाम, आर्गुमेंट का हैश, नतीजे का आकार, लेटेंसी और मंज़ूरी का फ़ैसला दर्ज करें। पहले तीन संकेतों पर अलर्ट रखें: किसी एक टूल पर कॉल की बाढ़, किसी ऐसे टूल की कॉल जो पहले कभी इस्तेमाल नहीं हुआ, और एजेंट द्वारा बाहरी कंटेंट लाने के थोड़ी देर बाद आने वाले बड़े नतीजे।

किल स्विच और रोलबैक

हर सर्वर के पास एक ऑफ़ स्विच होना चाहिए जिसे एक व्यक्ति बिना डिप्लॉय के बंद कर सके। उसके टोकन रद्द करें, उसे allow-list से हटाएँ और उसने जिन सीक्रेट्स को छुआ था उन्हें रोटेट करें। फिर आखिरी ज्ञात-ठीक मैनिफ़ेस्ट हैश बहाल करें। यह हर तिमाही अभ्यास करें, ताकि पहली असली कोशिश ही पहला अभ्यास न बन जाए।

💡 प्लेटफ़ॉर्म की तरफ़ से एक सीमा भी मदद करती है। उदाहरण के लिए PicassoIA हर अकाउंट को हर कनेक्शन पर कुल 5 एक साथ चल रहे प्रेडिक्शन तक सीमित रखता है, ताकि कोई बेकाबू एजेंट कतार को न भर दे। अपने वेंडरों से पूछें कि उनकी सीमाएँ क्या हैं।

PicassoIA पर Llama Guard कैसे इस्तेमाल करें

एक सेफ़्टी क्लासिफ़ायर अनुमतियों और मंज़ूरियों की जगह नहीं ले सकता, लेकिन यह एक उपयोगी फ़िल्टर जोड़ता है। Llama Guard 4 12B टेक्स्ट या इमेज पढ़ता है और संबंधित हानि श्रेणी के साथ safe या unsafe फ़ैसला लौटाता है, जिसमें हिंसा, नफ़रत और खतरनाक निर्देश जैसे क्षेत्र शामिल हैं। यह कोई समर्पित प्रॉम्प्ट इंजेक्शन डिटेक्टर नहीं है, इसलिए इसे ऊपर के नियंत्रणों के साथ एक परत के रूप में इस्तेमाल करें, जैसे यूज़र द्वारा भेजी गई चीज़ों और आपके एजेंट द्वारा वापस भेजे जाने वाले जवाब की जाँच के लिए।

  1. मॉडल पेज खोलें। PicassoIA पर Llama Guard 4 12B पेज पर जाएँ।
  2. ज़रूरी फ़ील्ड भरें। जाँचने वाला कंटेंट Prompt में चिपकाएँ। System Prompt में अपनी पॉलिसी और वह आउटपुट लिखें जो आप चाहते हैं, जैसे "केवल safe या unsafe लिखकर जवाब दें, फिर श्रेणी।"
  3. वैकल्पिक सेटिंग्स ट्यून करें। दोहराने योग्य फ़ैसलों के लिए Temperature को 0 पर सेट करें, Max Completion Tokens को डिफ़ॉल्ट 512 से घटाकर कुछ छोटा करें, और किसी इमेज की जाँच करनी हो तो Image Input के ज़रिए स्क्रीनशॉट जोड़ें।
  4. चलाएँ। generate पर क्लिक करें और फ़ैसला पढ़ें। जो भी unsafe चिह्नित हो, उसे एजेंट के बजाय इंसानी समीक्षक के पास भेजें।
  5. सहेजें और तुलना करें। परीक्षण इनपुट का एक छोटा सेट रखें और जब भी सिस्टम प्रॉम्प्ट बदलें, उन्हें फिर से चलाएँ।
पैरामीटरसुझाया गया मानक्यों
Temperature0वही इनपुट, वही फ़ैसला
Max Completion Tokens64 से 128फ़ैसला छोटा होता है
System Promptपॉलिसी और सख्त आउटपुट फ़ॉर्मेटकोड में पार्स करना आसान
Top P1 (डिफ़ॉल्ट)Temperature 0 होने पर इसे न छुएँ
Image Inputजाँचने के लिए स्क्रीनशॉटवैकल्पिक

वे गलतियाँ जो टीमें बार-बार दोहराती हैं

  • एक बार मंज़ूरी देकर फिर कभी न देखना। टूल विवरण बदलते रहते हैं। हर बदलाव पर फिर से मंज़ूरी देना आपका सबसे सस्ता नियंत्रण है।
  • किसी सर्वर पर केवल इसलिए भरोसा करना कि वह लोकप्रिय है। लोकप्रियता कोई समीक्षा नहीं है। मेंटेनर, रिलीज़ इतिहास और सर्वर किस तक पहुँच सकता है, यह जाँचें।
  • "बस टेस्टिंग के लिए" प्रॉम्प्ट में सीक्रेट्स डालना। टेस्ट सीक्रेट्स एक हफ़्ते के भीतर प्रोडक्शन सीक्रेट्स बन जाते हैं।
  • एजेंट को हर टूल देना। केवल वही सर्वर लोड करें जिनकी किसी एक कार्य के लिए ज़रूरत है। कम टूल का मतलब है बहकाए जाने के कम मौके।
  • अभी तक कुछ नहीं हुआ, इसलिए लॉग छोड़ देना। लॉग के बिना आप चुपचाप होने वाले लीक को नहीं पकड़ पाएँगे।

PicassoIA पर अपनी इमेज बनाएँ

उज्ज्वल स्टूडियो लॉफ़्ट में दीवार पर लगे मॉनिटर पर फोटोरियलिस्टिक तस्वीरें देखती मुस्कुराती फ़ोटो एडिटर

सुरक्षा का काम ज़्यादातर अदृश्य होता है, इसलिए उसे समझाना मुश्किल होता है। अच्छी विज़ुअल्स मदद करती हैं: रनबुक के लिए फ़ोटो हेडर, ट्रेनिंग स्लाइड के लिए परिदृश्य वाली तस्वीर, या इंटरनल विकी के लिए डेटा सेंटर का गलियारा। PicassoIA टेक्स्ट प्रॉम्प्ट को फोटोरियलिस्टिक इमेज और छोटे वीडियो में बदलता है, बिना किसी डिज़ाइन सॉफ़्टवेयर और बिना किसी स्टॉक फ़ोटो लाइसेंस का हिसाब रखे।

अभी जो विषय आपने पढ़ा है, उसी के साथ इसे आज़माएँ। कोई दृश्य बताएँ, जैसे "एक शांत सर्वर रूम में प्रिंट की हुई चेकलिस्ट देखता एक सिक्योरिटी इंजीनियर, नरम खिड़की की रोशनी, 35mm लेंस", उसे चलाएँ, फिर एंगल, रोशनी और लेंस तब तक बदलें जब तक वह आपके दस्तावेज़ में फ़िट न हो जाए। PicassoIA खोलें, पूरी मॉडल सूची देखें और आज ही अपने प्रॉम्प्ट्स के साथ प्रयोग करें।

यह लेख शेयर करें

अपनी भाषा चुनें

संबंधित लेख