Ollama API：三行程式碼即可切換客戶端

前置條件與基礎 URL

要使用此無審查 LLM API，你需要擁有 API 金鑰 的帳戶，並在環境中安裝 OpenAI 相容的 SDK。所有請求的基礎 URL 為 https://api.ollamaapi.com/v1。此端點設計為現有 OpenAI 客戶端的即插即用替代方案，這表示你只需在設定檔中更新基礎 URL 和 API 金鑰 即可。該 API 支援透過伺服器推送事件 (SSE) 進行串流輸出的文字輸入、文字輸出補全，以及函式呼叫。它不支援嵌入、圖像生成或微調。請確保你的 SDK 版本支援這些功能，以獲得最佳體驗。你將使用模型 ID uncensored 進行所有補全操作。

驗證與首次請求

驗證透過 Authorization 標頭中的 Bearer token 處理。在網站上註冊即可立即獲得金鑰；試用無需信用卡。使用以下 cURL 命令發送您的第一則訊息。將 YOUR_API_KEY 替換為您的實際金鑰。請求目標為標準聊天補全端點。如果成功，您將收到來自無審查模型的文字回應。請確保將 model 欄位設為 uncensored，以利用託管在我們 GPU 伺服器上的特定大型語言模型。

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

請注意，提示詞不會用於訓練模型。API 對涉及未成年人的性內容實施嚴格限制，但對於合法成人內容及具爭議性主題則不會拒絕。

Python SDK 整合

使用官方 OpenAI Python SDK 是最直接的整合方式。透過 pip 安裝程式庫，然後使用自訂基礎 URL 和您的 API 金鑰初始化客戶端。此設定允許您使用可能用於 GPT-4 的相同客戶端程式碼，但指向我們的無審查模型。以下程式碼演示了簡單的聊天補全請求。您可以根據需要調整 max_tokens 和 temperature 參數。回應物件將在 response.choices[0].message.content 中包含生成的文字。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

此方法有效是因為我們的 API 完全與 OpenAI 相容。您不需要為我們的服務使用單獨的客戶端程式庫。

Node.js SDK 設定

對於 JavaScript 或 TypeScript 專案，OpenAI Node SDK 可與我們的端點無縫配合。安裝套件並將客戶端配置為指向我們網域的 baseURL。在 apiKey 欄位中傳遞您的 API 金鑰。請求結構完全反映 OpenAI 格式。這允許您將我們的 API 無縫嵌入現有的 Node.js 應用程式，無需大量重構。模型 ID 仍為 uncensored。如果需要重新生成金鑰，您可以透過儀表板管理 API 金鑰。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

請確保正確設定環境變數，以避免在原始碼控制中暴露您的金鑰。API 金鑰在註冊後立即顯示。

串流回應

對於需要即時 token 生成的應用程式，該 API 支援伺服器發送事件 (SSE)。在請求中將 stream 參數設為 true。伺服器將發送一系列區塊，每個區塊包含回應的部分增量。這非常適合聊天介面，您可以在文字生成時顯示文字。串流行為與 OpenAI 串流 API 相同，因此現有的串流邏輯應只需少量修改即可運作。處理串流直到最後一個區塊指示回應完成。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

串流不會影響 token 計費或上下文視窗限制。

限制、錯誤與上下文

該 API 具有 100,000 token 的上下文視窗，結合提示詞和補全。這允許大量的文件處理或長對話。速率限制設為每分鐘每金鑰 300 次請求。如果您超過此限制，將收到 429 錯誤。驗證錯誤返回 401 狀態，通常是因為金鑰無效或已撤銷。資金不足會導致 402 錯誤。請求主體限制為 8 MB。沒有訂閱；您隨用隨付，使用永不過期的預付額度。您可以從 $10 開始儲值。額度不會過期，因此您可以無限期暫停使用而不損失餘額。