Ollama API बनाम OpenAI API: आपकी परियोजना के लिए कौन सा उपयुक्त है

संक्षिप्त उत्तर

Ollama API vs OpenAI API का सवाल मुख्य रूप से इस बात का है कि मॉडल कहाँ चलता है। Ollama के साथ मॉडल एक कंप्यूटर पर रहता है जिस पर आपका नियंत्रण है, और आपका कोड localhost को कॉल करता है। OpenAI के साथ मॉडल किसी दूसरे के डेटा सेंटर में रहता है, और आपका कोड एक सार्वजनिक HTTPS पता को कॉल करता है जिसमें एक कुंजी होती है और महीने के अंत में एक बिल आता है।

बाकी सब कुछ उसी एक अंतर से आता है: लागत संरचना, विलंब जिसे आप ट्यून कर सकते हैं, आपका प्रॉम्प्ट कौन देखता है, आप कौन से मॉडल चुन सकते हैं, और जब आप एक साथ सौ अनुरोध भेजते हैं तो क्या होता है। तालिका उन तथ्यों को देती है जो दोनों पर लागू होते हैं।

विषय	Ollama	OpenAI API
यह कहाँ चलता है	आपका लैपटॉप, वर्कस्टेशन या सर्वर	OpenAI के सर्वर
मॉडल कौन सेटअप करता है	आप वेट्स स्वयं खींचते और अपडेट करते हैं	OpenAI अपने मॉडल चुनता और अपडेट करता है
बिलिंग	स्थानीय रनटाइम से प्रति-टोकन शुल्क नहीं; आप हार्डवेयर और बिजली के लिए भुगतान करते हैं	प्रति टोकन, बिलिंग वाले खाते से
अनुरोध प्रारूप	नेटिव रूट्स और एक OpenAI-शैली /v1 परत	मूल OpenAI प्रारूप
थ्रूपुट	आपके हार्डवेयर द्वारा सीमित	खाता दर सीमाओं द्वारा सीमित

यदि आप एक मध्यम मार्ग चाहते हैं, तो एक होस्टेड एंडपॉइंट जो समान OpenAI प्रारूप का समर्थन करता है लेकिन एक ओपन-वेट मॉडल प्रदान करता है, इस पृष्ठ के अंत में कवर किया गया है।

प्रत्येक API वास्तव में क्या है

Ollama

Ollama एक प्रोग्राम है जो ओपन-वेट मॉडल डाउनलोड करता है और उन्हें आपकी मशीन पर HTTP पर सर्व करता है। डिफ़ॉल्ट रूप से यह पोर्ट 11434 पर लिस्टन करता है। इसमें /api/chat और /api/generate जैसे अपने एंडपॉइंट्स हैं, और यह मौजूदा OpenAI क्लाइंट कोड को इसके ओर इंगित करने के लिए /v1 के तहत एक OpenAI-शैली परत भी प्रकट करता है। सामान्य स्थानीय सेटअप में कोई खाता या कुंजी नहीं होती है। कुंजी फ़ील्ड पर ज़िद करने वाले क्लाइंट्स को एक प्लेसहोल्डर स्ट्रिंग मिलती है।

आप मॉडल, क्वांटीज़ेशन और कॉन्टेक्स्ट सेटिंग्स चुनते हैं। वह स्वतंत्रता ही मुख्य आकर्षण है, और यह ही लागत भी है: यदि मॉडल आपकी मेमोरी में फिट नहीं होता है, तो यह धीमा होगा या बिल्कुल लोड नहीं होगा।

OpenAI API

OpenAI API एक होस्टेड सेवा है। आप एक खाता बनाते हैं, बिलिंग जोड़ते हैं, एक कुंजी जनरेट करते हैं और OpenAI के पते पर अनुरोध भेजते हैं। आपको OpenAI द्वारा प्रदान किए जाने वाले मॉडल मिलते हैं, OpenAI के उपयोग नीतियों के तहत, और आपके खाता स्तर की अनुमति के अनुसार सीमाओं के साथ। क्षमता, अपग्रेड और अपटाइम उनकी जिम्मेदारी है, आपकी नहीं। अधिकांश ट्यूटोरियल्स में दिखा गया अनुरोध प्रारूप, जिसमें messages सरणी और प्रतिक्रिया में choices सरणी होती है, इसी API से आता है।

लोग इन्हें तुलना क्यों करते हैं

तुलना मौजूद है क्योंकि दोनों को एक ही क्लाइंट कोड से एक्सेस किया जा सकता है। OpenAI के आधिकारिक SDK आपको बेस URL ओवरराइड करने की अनुमति देते हैं, और Ollama का /v1 लेयर चैट कंप्लीशन को समझता है। इसलिए एक के लिए लिखी गई स्क्रिप्ट को अक्सर दूसरे पर पॉइंट किया जा सकता है। यह सुविधाजनक है, और यह वास्तविक अंतरों को छिपा भी देता है, जिसे अगले सेक्शन में समझाया गया है।

एक ही क्लाइंट कोड, दो बेस URL

यह वह हिस्सा है जो स्विचिंग को सस्ता बनाता है। नीचे दिया गया Python स्निपेट एक स्थानीय Ollama सर्वर से बात करता है। केवल बेस URL, कुंजी और मॉडल का नाम लक्ष्य के विशिष्ट होते हैं।

Copyfrom openai import OpenAI

# Local Ollama through its OpenAI-style layer
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

reply = client.chat.completions.create(
    model="llama3.2",  # whatever model you pulled locally
    messages=[{"role": "user", "content": "Summarize what a base URL is."}],
)
print(reply.choices[0].message.content)

एक होस्टेड OpenAI-संगत एंडपॉइंट पर एक ही अनुरोध भेजने के लिए, आपको तीन मान बदलने होते हैं। यहाँ इस साइट के लिए संस्करण है, जिसमें मॉडल ID uncensored है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize what a base URL is."}],
)
print(reply.choices[0].message.content)

एक ही अनुरोध curl के साथ काम करता है, जो किसी भी एप्लिकेशन कोड को छूने से पहले एक त्वरित परीक्षण के लिए उपयोगी है।

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

इन टारगेट्स के बीच किसी भी स्विच के लिए एक सावधानी लागू होती है। कम्पैटिबिलिटी अनुरोध और रिस्पांस के शैप को कवर करती है, व्यवहार को नहीं। अलग-अलग मॉडल निर्देशों को अलग तरीके से फॉलो करते हैं, टूल कॉल्स को अलग तरीके से हैंडल करते हैं और अलग फॉर्मेटिंग उत्पन्न करती हैं। अपने प्रॉम्प्ट्स को नए टारगेट से चलाएं, उस पर भरोसा करने से पहले।

लागत: आपका स्वयं का हार्डवेयर बनाम खरीदे गए टोकन

स्थानीय निष्पादन मुफ़्त दिखता है क्योंकि कोई बिल नहीं आता। यह मुफ़्त नहीं है। आप एक GPU या बड़ी मेमोरी वाली मशीन, बिजली, और ड्राइवर इंस्टॉल करने, क्वांटीज़ेशन चुनने और मेमोरी खत्म होने पर सर्वर को रीस्टार्ट करने में बिताए गए घंटों के लिए भुगतान करते हैं। यदि आपके पास पहले से सक्षम हार्डवेयर है और आप दिन में कुछ प्रॉम्प्ट चलाते हैं, तो व्यावहारिक रूप से वह लागत शून्य के करीब है। यदि आपको जो मॉडल चलाना है उसे चलाने के लिए आपको कार्ड खरीदना होगा, तो गणना बदल जाती है।

होस्टेड मूल्य निर्धारण विपरीत आकार का है: कोई अग्रिम भुगतान नहीं, और उपयोग के साथ बढ़ता हुआ चार्ज। इस साइट पर कीमत $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, जो प्रीपेड क्रेडिट से आती है और इसमें कोई सदस्यता नहीं है। OpenAI के लिए, उनकी वर्तमान मूल्य निर्धारण पृष्ठ देखें, क्योंकि यह मॉडल के अनुसार बदलता है और समय के साथ बदलता रहता है।

यहाँ इस एंडपॉइंट पर एक यथार्थवादी कार्य के लिए होस्टेड गणना कैसे काम करती है। मान लीजिए कि एक एप्लिकेशन एक महीने में 40,000 अनुरोध भेजता है, प्रत्येक में 1,500 इनपुट टोकन और 400 आउटपुट टोकन होते हैं।

• इनपुट: 40,000 x 1,500 = 60,000,000 टोकन, या 60M। $0.15 प्रति 1M पर यह $9.00 है।
• आउटपुट: 40,000 x 400 = 16,000,000 टोकन, या 16M। $0.50 प्रति 1M पर यह $8.00 है।
• कुल: महीने के लिए $17.00।

आप उस संख्या को एक उपयुक्त मशीन के खरीदने, संचालित करने और बनाए रखने की लागत के खिलाफ सेट कर सकते हैं। हल्के या बर्स्टी ट्रैफ़िक के लिए, प्रति टोकन भुगतान करना आमतौर पर बेहतर होता है। यदि आपके पास पहले से मौजूद हार्डवेयर पर निरंतर भारी ट्रैफ़िक है, तो स्थानीय आमतौर पर बेहतर होता है। टॉप-अप राशि और बोनस के लिए मूल्य निर्धारण पृष्ठ देखें।

मॉडल, सामग्री नियम और गोपनीयता

Ollama के साथ आप तय करते हैं कि कौन सा ओपन-वेट मॉडल चलाना है, और कोई भी आपका प्रॉम्प्ट और वेट के बीच नहीं बैठता। सामग्री व्यवहार वही है जो वह मॉडल करता है। कुछ समुदाय मॉडल कम अस्वीकार करने के लिए ट्यून्ड होते हैं, कुछ नहीं, और आप उन्हें स्वतंत्र रूप से बदल सकते हैं।

एक होस्टेड विक्रेता अपनी उपयोग नीतियों और अपने फ़िल्टर लागू करता है। यह एक सामान्य-उद्देश्य वाली सेवा के लिए एक उचित स्थिति है, और यही कारण है कि कुछ लेखक, रोलप्ले डेवलपर और परिपक्क कथाओं पर काम करने वाले शोधकर्ता होस्टेड जवाबों को बीच में कटा हुआ पाते हैं। किसी भी प्रदाता की नीति पढ़ें जिस पर आप निर्भर करना चाहते हैं, और मानने के बजाय उनकी वर्तमान नियमों की जाँच करें।

यह साइट एक अलग स्थिति में है। यह एक ओपन-वेट मॉडल प्रदान करता है, जो एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड है। यह OpenAI, Meta, Mistral या किसी अन्य विक्रेता की आधिकारिक API नहीं है, और यह विक्रेताओं के बीच एक राउटर नहीं है। एक कठोर सीमा है: नाबालिगों से संबंधित यौन सामग्री नहीं। प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है। विफल या अस्वीकृत अनुरोधों के लिए शुल्क नहीं लगाया जाता है।

गोपनीयता के मामले में, स्थानीय Ollama प्रॉम्प्ट को आपकी मशीन पर रखता है, जिसे कोई होस्टेड सेवा प्रदान नहीं कर सकती। यदि आपका डेटा कभी भी इमारत से बाहर नहीं जाना चाहिए, तो इसे स्थानीय रूप से चलाएं और तुलना करना बंद कर दें। यदि आप टेक्स्ट को एक होस्टेड सेवा पर भेज सकते हैं, तो पहले प्रदाता की गोपनीयता पृष्ठ पढ़ें। हमारा /privacy/ पर है।

सीमाएँ, सहसंयोजकता और सुविधाएँ

स्थानीय लिमिट्स भौतिक हैं। एक GPU कुछ समानांतर अनुरोधों को सर्व करता है, जिससे प्रत्येक धीमा हो जाता है, और एक लंबा कॉन्टेक्स्ट विंडो मेमोरी को तेज़ी से खा जाता है। होस्टेड लिमिट्स पॉलिसी हैं। इस एंडपॉइंट पर एक फुल कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देती है, और एक ट्रायल कुंजी 2 समानांतर और प्रति मिनट 60 की अनुमति देती है। कॉन्टेक्स्ट विंडो 100,000 टोकन का है, प्रॉम्प्ट plus कंप्लीशन को गिनते हुए, और अनुरोध बॉडी 8 MB से अधिक नहीं हो सकती है।

यदि आप एक सीमा से अधिक हो जाते हैं तो आपको HTTP 429 मिलता है। त्रुटि कोड अनुरोध प्रति मिनट के लिए rate_limited है और एक साथ बहुत सारे अनुरोधों के लिए concurrency है। एक Retry-After: 5 हेडर के साथ 429 का अर्थ अस्थायी ओवरलोड है, इसलिए पाँच सेकंड प्रतीक्षा करें और पुनः प्रयास करें। एक स्ट्रीमिंग अनुरोध अपनी समवर्तीता स्लॉट को तब तक बनाए रखता है जब तक कि स्ट्रीम समाप्त नहीं हो जाती, जो यदि आप समानांतर में कई स्ट्रीम खोलते हैं तो मायने रखता है।

होस्टेड साइड पर सुविधा कवरेज चैट-केंद्रित है। आपको अंत में उपयोग के साथ SSE पर स्ट्रीमिंग, टूल कॉलिंग, JSON मोड, और तापमान, top_p, stop, seed और पेनल्टीज़ का पास-थ्रू मिलता है। कोई इमेज, ऑडियो या वीडियो जनरेशन नहीं है, कोई एम्बेडिंग नहीं है और कोई फाइन-ट्यूनिंग नहीं है। यदि आपको उनकी आवश्यकता है, तो उन्हें कहीं और प्राप्त करने की योजना बनाएं। हमारे दस्तावेज़ सटीक अनुरोध फ़ील्ड सूचीबद्ध करते हैं।

प्रतिक्रिया हेडर में X-Request-Id और X-Balance-USD शामिल हैं, ताकि आप एक अनुरोध लॉग कर सकें और अलग से कॉल किए बिना अपना शेष क्रेडिट देख सकें।

चुनने का तरीका

उस बाधा को चुनें जो सबसे अधिक प्रभाव डालती है।

• प्रॉम्प्ट्स आपके हार्डवेयर पर ही रहने चाहिए। Ollama को स्थानीय रूप से उपयोग करें।
• आपके पास पहले से एक सक्षम GPU है और आप प्रयोग करना चाहते हैं। Ollama को स्थानीय रूप से उपयोग करें, और बाद में यदि ट्रैफ़िक बढ़ जाए तो माइग्रेट करें।
• आपको एक विशिष्ट वेंडर का फ्रंटियर मॉडल या उसका इकोसिस्टम चाहिए। उस वेंडर की API का उपयोग करें। एक अलग प्रदाता किसी विशेष मॉडल के लिए प्रतिस्थापन नहीं है।
• आप होस्टेड, पे-एज़-यू-गो एक्सेस चाहते हैं एक ओपन-वेट मॉडल तक, बिना कानूनी वयस्कों के उपयोग के लिए रिफ्यूज़ल के, और बिना हार्डवेयर की देखरेख के। एक होस्टेड OpenAI-कम्पैटिबल एंडपॉइंट का उपयोग करें, जैसे यह।

अक्सर टीमें दो का उपयोग करती हैं: डेवलपमेंट के लिए लैपटॉप पर Ollama, और सर्वर या ग्राहक के ब्राउज़र से एक्सेस करने के लिए होस्टेड एंडपॉइंट। चूँकि दोनों एक ही अनुरोध प्रारूप का उपयोग करते हैं, स्विच एक कॉन्फ़िगरेशन वैल्यू है, रीराइट नहीं। होस्टेड साइड आज़माने के लिए, नए उपयोगकर्ता साइन-अप के बाद API कुंजी पेज पर एक क्लिक से $0.50 का ट्रायल क्रेडिट क्लेम कर सकते हैं। इसके लिए कार्ड की आवश्यकता नहीं है और यह 7 दिनों के लिए मान्य है। पेड टॉप-अप $20 से शुरू होते हैं और कार्ड या क्रिप्टो स्वीकार करते हैं।

अधिक गाइड

• Ollama API टूल कॉलिंग उदाहरण OpenAI SDK के साथ
• Ollama API SillyTavern सेटअप: एक होस्टेड एंडपॉइंट कनेक्ट करें
• XAI API: मिथ vs तथ्य - अनसेंसर्ड विकल्प