दस एजेंट, चालीस टूल, पाँच MCP सर्वर, और एक लीक होने का इंतज़ार करता क्रेडेंशियल। पहले सफल डेमो के लगभग तीन हफ़्ते बाद किसी टीम का सेटअप ऐसा ही दिखता है। हर किसी ने अपना सर्वर अपने क्लाइंट से जोड़ लिया है, कोई नहीं देखता कि कौन किस टूल को कॉल कर सकता है, और एक बेकाबू लूप दोपहर के खाने से पहले अपस्ट्रीम कोटा खत्म कर देता है। आपकी टीम के लिए सबसे अच्छा MCP गेटवे वह है जो इन सबके सामने एक ही, नियंत्रित दरवाज़ा लगा दे। इस लेख में ओपन सोर्स विकल्पों की तुलना है, वह लागत जो कोई प्राइसिंग पेज पर नहीं लिखता, ऐसी रेट लिमिट कैसे डिज़ाइन करें जो असली ट्रैफ़िक झेल सके, और प्रोडक्शन में किसी पर भरोसा करने से पहले क्या जाँचना है।
💡 स्रोतों पर एक नोट: MCP गेटवे की ज़्यादातर सार्वजनिक तुलनाएँ उन विक्रेताओं की लिखी होती हैं जो अपने ही उत्पाद को पहले स्थान पर रखते हैं। किसी भी रैंकिंग को, मेरी रैंकिंग समेत, शुरुआती बिंदु मानें और प्रतिबद्ध होने से पहले अपने टूल्स के साथ अपना टेस्ट खुद चलाएँ।
MCP गेटवे क्या करता है
Model Context Protocol AI मॉडल को टूल कॉल करने देता है: डेटाबेस क्वेरी करना, टिकट खोलना, रिपॉज़िटरी में खोजना, संदेश भेजना। हर टूल एक MCP सर्वर पर रहता है। गेटवे के बिना हर क्लाइंट हर सर्वर से सीधे बात करता है। गेटवे के साथ क्लाइंट एक एंडपॉइंट से बात करते हैं, और गेटवे तय करता है कि कॉल किस सर्वर तक जाएगी, उसे कौन कर सकता है, और कितनी बार कर सकता है।

कई सर्वरों के लिए एक दरवाज़ा
ऊपर के टोल प्लाज़ा के बारे में सोचें। दर्जनों सड़कें एक ही नियंत्रित बिंदु में आकर मिलती हैं। गेटवे टूल ट्रैफ़िक के लिए यही आकार देता है:
- रूटिंग: क्लाइंट के लिए एक URL, पीछे कई सर्वर।
- ऑथेंटिकेशन: यूज़र और एजेंट एक बार साइन इन करते हैं, हर सर्वर पर अलग-अलग नहीं।
- पॉलिसी: हर टीम, हर एजेंट और हर एनवायरनमेंट के लिए खास टूल अनुमत या अस्वीकृत करें।
- रेट लिमिटिंग: अपस्ट्रीम APIs और अपने बजट की सुरक्षा।
- लॉगिंग: एक ही ऑडिट ट्रेल जिसमें दर्ज हो कि किसने किस टूल को किन आर्गुमेंट्स के साथ कॉल किया।
इस दरवाज़े के दूसरी तरफ़ बैठे भाषा मॉडल उतने मायने नहीं रखते जितना लोग सोचते हैं। कॉल करने वाला Claude Sonnet 5 हो, GPT 5.6 Sol हो या Kimi K2.6, गेटवे को एक ही चीज़ दिखती है: टूल कॉल्स की एक धारा, जिसे प्रमाणित, सीमित और रिकॉर्ड करना ज़रूरी है।
कब गेटवे की ज़रूरत नहीं
हर प्रोजेक्ट को इस परत की ज़रूरत नहीं होती। अगर आपके पास एक डेवलपर, दो MCP सर्वर हैं और सब कुछ एक लैपटॉप पर चलता है, तो गेटवे जोखिम कम किए बिना चलने वाले पुर्ज़े बढ़ा देता है। वह मोड़ आम तौर पर तब आता है जब इनमें से कोई एक बात सच हो जाती है:
- एक से ज़्यादा टीम या एजेंट एक ही टूल साझा करते हैं।
- कोई टूल प्रोडक्शन डेटा छूता है या असली पैसा खर्च करता है।
- आपको किसी ऑडिटर, ग्राहक या अपनी ही सिक्योरिटी लीड को जवाब देना है।
- अपस्ट्रीम APIs के ऐसे कोटा हैं जिन्हें आप खत्म नहीं होने दे सकते।
ओपन सोर्स विकल्पों की तुलना

मुख्य दावेदार
ओपन सोर्स क्षेत्र कुछ प्रोजेक्ट्स के इर्द-गिर्द स्थिर हो चुका है। नीचे की तालिका बताती है कि सार्वजनिक तुलनाएँ और प्रोजेक्ट विवरण क्या कहते हैं। विवरण तेज़ी से बदलते हैं, इसलिए किसी पर निर्माण करने से पहले हर प्रोजेक्ट के अपने रिपॉज़िटरी पर लाइसेंस और फ़ीचर की पुष्टि करें।
| गेटवे | लाइसेंस और मॉडल | सबसे उपयुक्त | किस बात का ध्यान रखें |
|---|
| IBM ContextForge | Apache 2.0, मुफ़्त, सेल्फ़ होस्टेड | ऐसी टीमें जिन्हें गवर्नेंस फ़ीचर चाहिए और जो Python सर्विस चला सकती हैं | होस्टिंग और ऑपरेशन का सारा काम आपके ज़िम्मे है |
| Docker MCP Gateway | MIT, ओपन सोर्स वर्ज़न मुफ़्त | ऐसी टीमें जो पहले से कंटेनर और Docker टूलिंग में काम करती हैं | गवर्नेड एंटरप्राइज़ वर्ज़न सेल्स के ज़रिए बिकता है, सेल्फ़ सर्विस में नहीं |
| Microsoft MCP Gateway | Kubernetes के लिए ओपन सोर्स रिवर्स प्रॉक्सी | Azure और Kubernetes इस्तेमाल करने वाली टीमें | लागत उसके नीचे चल रहे Azure संसाधनों की है |
| Bifrost | ओपन सोर्स कोर, एंटरप्राइज़ टियर के साथ | ऐसी टीमें जो LLM गेटवे और MCP रूटिंग एक साथ चाहती हैं | इसके प्रदर्शन आँकड़े विक्रेता के हैं |
| Obot | ओपन सोर्स, कमर्शियल ऑफ़रिंग के साथ | ऐसी टीमें जिन्हें इंजीनियरों के लिए कैटलॉग और एक्सेस कंट्रोल चाहिए | जाँचें कि कौन से फ़ीचर पेड टियर में हैं |
| Agentgateway | ओपन सोर्स प्रॉक्सी प्रोजेक्ट | इंफ़्रास्ट्रक्चर लेवल प्रॉक्सी के साथ सहज टीमें | इकोसिस्टम नया है, प्रोडक्शन के उदाहरण कम हैं |
स्टार गहराई के बराबर नहीं होते
एक आम गलती है GitHub की लोकप्रियता देखकर चुनना। एक सार्वजनिक विश्लेषण ने बताया कि Apache APISIX के स्टार IBM ContextForge से कहीं ज़्यादा हैं, फिर भी ContextForge MCP-विशिष्ट गवर्नेंस फ़ीचर कहीं ज़्यादा विस्तार से दस्तावेज़ित करता है। APISIX एक उत्कृष्ट सामान्य API गेटवे है, लेकिन सामान्य गेटवे की ताकतें (रूटिंग, प्लगइन, रेट लिमिटिंग) MCP सेशन, टूल कैटलॉग और प्रति-टूल अनुमतियों को समझने के बराबर नहीं हैं।
💡 त्वरित जाँच: प्रोजेक्ट का दस्तावेज़ खोलें और "tool allowlist", "session" और "per user" खोजें। अगर इनमें से कोई न दिखे, तो आप MCP लेबल वाले एक सामान्य प्रॉक्सी को देख रहे हैं, MCP गेटवे को नहीं।
एक गेटवे चलाने की असली लागत

लाइसेंस बिल नहीं है
"मुफ़्त और ओपन सोर्स" लाइसेंस का वर्णन है, आपके इनवॉइस का नहीं। सेल्फ़ होस्टेड गेटवे की यथार्थवादी मासिक लागत के पाँच हिस्से होते हैं:
- कंप्यूट: उपलब्धता के लिए कम से कम दो इंस्टेंस, साथ ही सेशन और रेट काउंटर के लिए एक डेटाबेस या कैश।
- ऑब्ज़र्वेबिलिटी स्टोरेज: लॉग और ट्रेस तेज़ी से बढ़ते हैं, क्योंकि हर टूल कॉल कई रिकॉर्ड बनाती है।
- इंजीनियरिंग समय: अपग्रेड, सिक्योरिटी पैच, कॉन्फ़िग समीक्षा। आम तौर पर यही सबसे बड़ी मद होती है और सबसे ज़्यादा छूट जाती है।
- पहचान का इंटीग्रेशन: आपका सिंगल साइन-ऑन प्रोवाइडर, ग्रुप और सर्विस अकाउंट जोड़ना।
- अपस्ट्रीम उपयोग: गेटवे के पीछे के टूल अब भी उतना ही खर्च लेते हैं जितना लेते हैं। जो गेटवे बिल्कुल सही काम करता है, वह भी एक बहुत महँगे लूप को आगे भेज सकता है।
छोटी टीम के लिए इंफ़्रास्ट्रक्चर वाला हिस्सा मामूली हो सकता है। इंजीनियरिंग समय ही सस्ते पायलट और महँगी आदत के बीच का फ़र्क है। Traefik की तुलना भी यही बात कहती है: ओपन सोर्स गेटवे उन लागत-संवेदनशील टीमों के लिए ठीक हैं जिनके पास उन्हें चलाने की प्लेटफ़ॉर्म इंजीनियरिंग क्षमता है।
पेड और मैनेज्ड टियर
इस श्रेणी में प्राइसिंग असंगत है, और प्रकाशित आँकड़े अलग-अलग स्रोतों में अलग हैं, इसलिए नीचे की जानकारी को केवल दिशा-निर्देश मानें और वर्तमान कीमतें खुद जाँचें:
| विकल्प | सार्वजनिक स्रोत क्या कहते हैं |
|---|
| IBM ContextForge | उपयोग मुफ़्त है; आपकी लागत होस्टिंग और ऑपरेशन की है |
| Docker MCP Gateway | ओपन सोर्स वर्ज़न मुफ़्त है; गवर्नेड वर्ज़न सेल्स के ज़रिए कोट किया जाता है |
| Microsoft MCP Gateway | ओपन सोर्स; जिन Azure संसाधनों पर यह चलता है, उनका भुगतान आप करते हैं |
| Kong AI Gateway | स्रोत असहमत हैं: एक के अनुसार लगभग $25 प्रति माह से शुरू होने वाला एंट्री टियर है और उसके ऊपर उपयोग शुल्क; दूसरा बताता है कि MCP प्रॉक्सिंग केवल एंटरप्राइज़ में है |
| Cloudflare MCP Server Portals | Cloudflare One ग्राहकों के लिए मुफ़्त सीट कोटा के साथ ओपन बीटा में; Workers प्लेटफ़ॉर्म में रोज़ाना मुफ़्त रिक्वेस्ट टियर है, और लाखों रिक्वेस्ट के लिए कम मासिक शुल्क से शुरू होने वाले पेड प्लान हैं |
💡 मोटा नियम: अगर कोई विक्रेता MCP गेटवे की कीमत के लिए "हमसे संपर्क करें" कहे, तो सेल्स प्रक्रिया के लिए दिनों नहीं, हफ़्तों का बजट रखें, और रेट लिमिट और ऑडिट लॉग फ़ीचर लिखित में माँगें।
ऐसी रेट लिमिट जो टिकें

हैरानी की बात है कि सार्वजनिक राउंडअप इस बारे में बहुत कम बताते हैं कि लिमिट लगने पर गेटवे कैसा व्यवहार करते हैं, इसलिए यहीं आपको अपना टेस्ट खुद करना चाहिए। टूल्स के सामने की रेट लिमिट वेब API के सामने की रेट लिमिट जैसी नहीं होती। एजेंट ऐसे तरीकों से रिट्राई, लूप और फ़ैन-आउट करते हैं जो इंसानी यूज़र कभी नहीं करते।
कॉलर और टूल के हिसाब से लिमिट
एक ही ग्लोबल काउंटर सबसे कमज़ोर डिज़ाइन है। ऐसी लिमिट को प्राथमिकता दें जो कई आयामों को मिलाएँ:
- प्रति पहचान: हर यूज़र और हर एजेंट का अपना बजट।
- प्रति टूल: केवल-पढ़ने वाला सर्च टूल प्रति मिनट सैकड़ों कॉल ले सकता है, जबकि "ईमेल भेजें" टूल को बस मुट्ठी भर कॉल मिलनी चाहिए।
- प्रति अपस्ट्रीम: टूल के पीछे की थर्ड-पार्टी API को उसकी अपनी सीमा दें, जो विक्रेता के कोटा से नीचे हो।
- प्रति सेशन: एक बातचीत कितनी कॉल कर सकती है, इसकी सीमा तय करें, ताकि लूप खुद खत्म हो जाए।
किसी नई टीम के लिए एक समझदार शुरुआती नीति:
| टूल का प्रकार | शुरुआती सीमा | क्यों |
|---|
| केवल-पढ़ने वाला सर्च | प्रति यूज़र प्रति मिनट 120 कॉल | सस्ता और सुरक्षित |
| डेटाबेस क्वेरी | प्रति यूज़र प्रति मिनट 30 कॉल | डेटाबेस की सुरक्षा |
| लिखना या अपडेट | प्रति यूज़र प्रति मिनट 10 कॉल | गलतियों से होने वाला नुकसान सीमित |
| पैसा या संदेश भेजना | प्रति यूज़र प्रति मिनट 3 कॉल, अनुमोदन के साथ | वापस लेना मुश्किल |
ये संख्याएँ केवल प्लेसहोल्डर हैं। सख्त शुरुआत करें, दो हफ़्ते लॉग देखें, फिर जो साफ़ तौर पर सुरक्षित हो उसे ढीला करें।
बर्स्ट और रिट्राई संभालें
एजेंट अक्सर एक साथ कई टूल कॉल चलाते हैं। प्रति सेकंड की सख्त लिमिट जायज़ बर्स्ट को ठुकरा देती है, जबकि मामूली बर्स्ट अनुमति वाला टोकन बकेट उन्हें सोख लेता है। जो भी गेटवे आप टेस्ट करें, उसमें तीन व्यवहार जाँचें:
- क्लाइंट को क्या मिलता है? "too many requests" का साफ़ जवाब और रिट्राई का संकेत मॉडल को पीछे हटने देता है। चुपचाप टाइमआउट होने पर वह और ज़्यादा आक्रामक तरीके से रिट्राई करता है।
- क्या काउंटर इंस्टेंसेज़ के बीच साझा हैं? अगर हर रेप्लिका अपना अलग काउंट रखती है, तो आपकी असली लिमिट कॉन्फ़िगर की गई लिमिट को रेप्लिका की संख्या से गुणा करने जितनी होगी।
- जब काउंटर स्टोर बंद हो तो क्या होता है? तय करें कि गेटवे फ़ेल-ओपन होगा (ओवरलोड का जोखिम) या फ़ेल-क्लोज़्ड (आउटेज का जोखिम), और इसे सोच-समझकर चुनें।
स्केल से पहले सिक्योरिटी

टूल कॉल कोड एक्ज़ीक्यूशन है, बस कुछ अतिरिक्त कदमों के साथ। प्रॉम्प्ट इंजेक्शन मुख्य जोखिम है, जिसमें किसी दस्तावेज़ या वेब पेज के अंदर का टेक्स्ट मॉडल को ऐसा टूल कॉल करने के लिए मना लेता है जो उसे नहीं करना चाहिए। गेटवे उन नियमों को लागू करने की सबसे अच्छी जगह है जो इस पर निर्भर न हों कि मॉडल कितनी अच्छी तरह व्यवहार करता है।
ऑथ और टूल अलाउलिस्ट
- सिंगल साइन-ऑन: हर कॉल किसी असली व्यक्ति या नामित सर्विस अकाउंट से जुड़े।
- अलाउलिस्ट: एजेंट को केवल वही टूल दिखें जिनकी उसे ज़रूरत है। सपोर्ट एजेंट के पास आपके डिप्लॉयमेंट टूल सूचीबद्ध करने की कोई वजह नहीं है।
- सीमित क्रेडेंशियल: गेटवे अपस्ट्रीम सीक्रेट रखता है, इसलिए क्लाइंट कभी नहीं रखते। इन्हें केंद्रीय रूप से रोटेट करें।
- अनुमोदन चरण: विनाशकारी कार्रवाइयों के लिए मानवीय पुष्टि अनिवार्य करें।
ऑडिट और डेटा हैंडलिंग
टूल का नाम, कॉलर, टाइमस्टैम्प, नतीजा और आर्गुमेंट्स का हैश या रिडैक्टेड वर्ज़न लॉग करें। कच्चे आर्गुमेंट्स में अक्सर निजी डेटा होता है, इसलिए पहले से तय करें कि क्या स्टोर करना है और कितने समय तक। अगर आप वर्गीकरण या मॉडरेशन के लिए कॉल्स को मॉडल तक भेजते हैं, तो Llama Guard 4 12B जैसा छोटा सेफ़्टी मॉडल कंटेंट को टूल तक पहुँचने से पहले स्क्रीन करने का आम विकल्प है।
प्रोडक्शन चेकलिस्ट

ऐसी ऑब्ज़र्वेबिलिटी जिसे आप सच में इस्तेमाल करेंगे
रात 2 बजे ड्यूटी पर बैठे व्यक्ति को तुरंत चार जवाब चाहिए: कौन सा टूल फ़ेल हो रहा है, कौन सा कॉलर इसकी वजह है, क्या बदला, और क्या अपस्ट्रीम डाउन है। सुनिश्चित करें कि गेटवे ये चीज़ें जनरेट करे:
- मेट्रिक्स: हर टूल और हर सर्वर के लिए रिक्वेस्ट रेट, एरर रेट और लेटेंसी।
- ट्रेसेस: एक ट्रेस ID जो क्लाइंट से गेटवे होते हुए MCP सर्वर तक कॉल का पीछा करे।
- स्ट्रक्चर्ड लॉग: मशीन-पठनीय, जिनमें कॉलर और टूल फ़ील्ड हों।
- अलर्ट: रेट लिमिट रिजेक्शन में उछाल, ऑथ फ़ेल्योर, और किसी सर्वर के अचानक चुप हो जाने पर।
लेटेंसी के दावों को सावधानी से लें
कुछ विक्रेता पेज हज़ारों रिक्वेस्ट प्रति सेकंड पर माइक्रोसेकंड में ओवरहेड बताते हैं। एक दूसरे विक्रेता ने लेटेंसी के आँकड़े प्रकाशित करने से ही इनकार कर दिया, क्योंकि अलग-अलग परिस्थितियों में मापे गए आँकड़े तुलनीय नहीं होते। दोनों रुख उचित हैं। टूल कॉल्स के लिए, गेटवे का अपना ओवरहेड लगभग हमेशा टूल के मुकाबले नगण्य होता है: डेटाबेस क्वेरी या API राउंड ट्रिप मिलीसेकंड से सेकंड तक लेती है। विक्रेता के बेंचमार्क के बजाय अपने असली टूल और पेलोड आकार के साथ अपनी एंड-टू-एंड लेटेंसी मापें।
विफलता के लिए योजना
- लोड बैलेंसर के पीछे कम से कम दो रेप्लिका चलाएँ।
- सेशन स्टेट प्रोसेस के बाहर रखें, ताकि रीस्टार्ट होने पर सक्रिय बातचीत न टूटे।
- हर टूल के लिए टाइमआउट सेट करें, रीड के लिए छोटे और धीमे बैच टूल के लिए लंबे।
- सर्किट ब्रेकर जोड़ें, ताकि एक फ़ेल होता सर्वर हर एजेंट को न रोके।
- स्टेजिंग में अपग्रेड टेस्ट करें, असली लॉग के रीप्ले किए गए ट्रैफ़िक के साथ।
अपना चुनाव कैसे करें

गेटवे को अपने टूल्स के सेट से मिलाएँ
सही उत्तर फ़ीचर से कम और इस पर ज़्यादा निर्भर करता है कि आपकी टीम पहले से क्या चलाती है और किसे अच्छी तरह संभालती है:
| आपकी स्थिति | संभावित शुरुआती विकल्प |
|---|
| भारी Docker उपयोग, छोटी टीम | Docker MCP Gateway |
| Azure पर Kubernetes | Microsoft MCP Gateway |
| गवर्नेंस और ऑडिट प्राथमिकता, प्लेटफ़ॉर्म टीम उपलब्ध | IBM ContextForge |
| LLM रूटिंग और MCP रूटिंग एक ही जगह चाहिए | Bifrost |
| बाकी सब कुछ के लिए पहले से कोई बड़ा API गेटवे इस्तेमाल करते हैं | उसका MCP प्लगइन जाँचें, फिर उसकी तुलना एक समर्पित गेटवे से करें |
| Cloudflare पहले से आपका एज है | Cloudflare के पोर्टल और Workers विकल्प |
एक हफ़्ते का ट्रायल चलाएँ

दो गेटवे शॉर्टलिस्ट करें और हर एक पर एक ही ट्रायल चलाएँ:
- उसके पीछे तीन असली MCP सर्वर लगाएँ।
- दो अलग क्लाइंट जोड़ें, जैसे एक कोडिंग असिस्टेंट और Gemini 3.5 Flash से चलने वाला चैट एजेंट।
- ऊपर की टेबल की रेट लिमिट सेट करें और जानबूझकर उन्हें पार करें।
- एक MCP सर्वर बंद करें और देखें कि क्लाइंट को क्या दिखता है।
- ऑडिट लॉग ऐसे पढ़ें जैसे आप ऑडिटर हों।
- सेटअप में लगे घंटे दर्ज करें, क्योंकि वही संख्या आपकी असली लागत है।
जो गेटवे एक हफ़्ते में यह टेस्ट पास कर ले, वह आम तौर पर दस गुना वॉल्यूम पर भी पास होता रहेगा। जिसे पहले हफ़्ते में भारी-भरकम मेहनत चाहिए, वह आसान नहीं होगा।
बचने वाली आम गलतियाँ
- केवल स्टार गिनती देखकर चुनना।
- हर एजेंट के लिए एक साझा सर्विस अकाउंट इस्तेमाल करना।
- लिमिट एक बार सेट करना और फिर कभी लॉग न देखना।
- "अभी के लिए" हर एजेंट को हर टूल दिखाना।
- गेटवे "बस एक प्रॉक्सी है" सोचकर स्टेजिंग एनवायरनमेंट छोड़ देना।

PicassoIA पर बेहतर एजेंट बनाएँ
गेटवे दरवाज़ा नियंत्रित करता है, पर उसके पीछे के एजेंटों को अब भी एक सक्षम मॉडल चाहिए। PicassoIA पर आप यह तय करने से पहले कि आपकी टूल कॉल्स कौन सा मॉडल चलाए, कई भाषा मॉडल साथ-साथ आज़मा सकते हैं: बहु-चरण कोडिंग के सावधानी भरे काम के लिए Claude Sonnet 5, प्रोडक्शन टेक्स्ट कार्यों के लिए GPT 5.6 Terra, टेक्स्ट और इमेज इनपुट चाहिए तो Qwen3.7-Plus, या वर्गीकरण और रूटिंग चरणों के लिए हल्के मॉडल के रूप में Granite 4.1 8B।
अपनी असली टूल वर्कफ़्लो में से कोई एक प्रॉम्प्ट चुनें, उसे दो या तीन मॉडलों से चलाएँ, और देखें कि हर एक टूल कैसे चुनता है और एरर कैसे संभालता है। वह दस मिनट का प्रयोग आपकी गेटवे ज़रूरतों के बारे में किसी भी बेंचमार्क टेबल से ज़्यादा बताएगा।
आज़माने के लिए तैयार हैं? हर भाषा, इमेज और वीडियो मॉडल picassoia.com/en/all-models पर देखें और आज ही अपने विचारों के साथ प्रयोग शुरू करें।