واجهة برمجة تطبيقات Ollama: غيّر عميلك في ثلاثة أسطر

المتطلبات الأساسية وعنوان URL الأساسي

لاستخدام واجهة برمجة تطبيقات LLM هذه بدون رقابة، تحتاج إلى حساب يحتوي على مفتاح API وSDK متوافق مع OpenAI مثبت في بيئة العمل. عنوان URL الأساسي لجميع الطلبات هو https://api.ollamaapi.com/v1. تم تصميم نقطة النهاية هذه كبديل جاهز للاستخدام لعملاء OpenAI الحاليين، مما يعني أنك بحاجة فقط إلى تحديث عنوان URL الأساسي ومفتاح API في تكوينك. تدعم واجهة برمجة التطبيقات إكمال النصوص (مدخلات نصية ومخرجات نصية) مع البث المتدفق عبر أحداث الإرسال من الخادم (SSE) واستدعاء الدوال. لا تدعم التضمينات أو توليد الصور أو ضبط الدقة الدقيقة. تأكد من أن إصدار SDK الخاص بك يدعم هذه الميزات للحصول على أفضل تجربة. ستستخدم معرف النموذج uncensored لجميع عمليات الإكمال.

المصادقة والطلب الأول

يتم المصادقة عبر رمز Bearer في رأس Authorization. سجّل حسابك على الموقع للحصول على مفتاحك فوراً؛ لا يتطلب الأمر بطاقة ائتمان للتجربة. استخدم أمر cURL التالي لإرسال رسالتك الأولى. استبدل YOUR_API_KEY بمفتاحك الفعلي. يستهدف الطلب نقطة النهاية القياسية لإكمال الدردشة. إذا نجح الطلب، ستتلقى استجابة نصية من النموذج بدون رقابة. تأكد من تعيين حقل model إلى uncensored للاستفادة من نموذج اللغة الكبير المستضاف على خوادم GPU لدينا.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

تذكر أن الموجّهات لا تُستخدم لتدريب بياناتك. تفرض واجهة برمجة تطبيقات حدًا صارمًا على المحتوى الجنسي الذي يتضمن قاصرين، ولكن بخلاف ذلك تسمح بالمواضيع القانونية للبالغين والمثيرة للجدل دون رفض.

تكامل SDK لـ Python

يعد استخدام مكتبة Python SDK الرسمية الطريقة الأكثر بساطة للتكامل. قم بتثبيت المكتبة عبر pip، ثم قم بتهيئة العميل بعنوان URL الأساسي المخصص ومفتاح API الخاص بك. يتيح لك هذا الإعداد استخدام نفس كود العميل الذي قد تستخدمه لـ GPT-4، ولكن موجهًا نحو النموذج بدون رقابة لدينا. يوضح الكود أدناه طلب إكمال دردشة بسيط. يمكنك تعديل معاملات max_tokens وtemperature حسب الحاجة. سيحتوي كائن الاستجابة على النص المولد في response.choices[0].message.content.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

يعمل هذا النهج لأن واجهة برمجة التطبيقات الخاصة بنا متوافقة تماماً مع OpenAI. لا تحتاج إلى مكتبة عميل منفصلة مخصصة لخدمتنا.

إعداد SDK لـ Node.js

لمشاريع JavaScript أو TypeScript، يعمل Node SDK الخاص بـ OpenAI بسلاسة مع نقطة النهاية لدينا. قم بتثبيت الحزمة وقم بتكوين العميل مع baseURL الذي يشير إلى نطاقنا. مرر مفتاح API الخاص بك في حقل apiKey. يعكس هيكل الطلب تنسيق OpenAI تمامًا. يتيح لك ذلك دمج واجهة برمجة التطبيقات لدينا في تطبيقات Node.js الحالية دون إعادة هيكلة كبيرة. يبقى معرف النموذج uncensored. يمكنك إدارة مفتاح API الخاص بك عبر لوحة التحكم إذا كنت بحاجة إلى إعادة إنشائه.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

تأكد من تعيين متغيرات البيئة بشكل صحيح لتجنب كشف مفتاحك في التحكم في الإصدار. يظهر مفتاح API فوراً عند التسجيل.

الاستجابات المتدفقة

بالنسبة للتطبيقات التي تتطلب توليد رموز فورياً، تدعم واجهة برمجة التطبيقات أحداث الإرسال من الخادم (SSE). اضبط المعلمة stream على true في طلبك. سيرسل الخادم سلسلة من القطع، يحتوي كل منها على جزء جزئي من الاستجابة. هذا مثالي لواجهات الدردشة حيث تريد عرض النص أثناء توليده. سلوك البث المتدفق مطابق لواجهة برمجة التطبيقات من OpenAI، لذا يجب أن يعمل منطق البث الحالي مع تغييرات بسيطة. تعامل مع البث حتى تشير القطعة الأخيرة إلى اكتمال الاستجابة.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

لا يؤثر البث المتدفق على تسعير الرموز أو حدود نافذة السياق.

الحدود والأخطاء والسياق

تمتلك واجهة برمجة تطبيقات نافذة سياق بحجم 100,000 رمز، تجمع بين الموجّه والإكمال. يتيح ذلك معالجة مستندات واسعة أو محادثات طويلة. يتم تعيين حدود المعدل على 300 طلب في الدقيقة لكل مفتاح. إذا تجاوزت هذا الحد، ستتلقى خطأ 429. تعيد أخطاء المصادقة رمز الحالة 401، وعادةً ما يكون ذلك بسبب مفتاح غير صالح أو ملغي. تؤدي الأموال غير الكافية إلى خطأ 402. يتم تقييد أحجام الطلبات بـ 8 ميجابايت. لا توجد اشتراكات؛ أنت تدفع مقابل ما تستخدمه باستخدام أرصدة مسبقة الدفع التي لا تنتهي صلاحيتها. يمكنك شحن الرصيد بدءًا من 10 دولارات أمريكية. لا تنتهي صلاحية الرصيد، لذا يمكنك إيقاف الاستخدام إلى ما لا نهاية دون فقدان رصيدك.