Ollama API：三行代码切换客户端

前置条件和基础 URL

要使用此无审查 LLM API，你需要一个带有 API 密钥的账户，并在环境中安装兼容 OpenAI 的 SDK。所有请求的基础 URL 为 https://api.ollamaapi.com/v1。该接口旨在作为现有 OpenAI 客户端的即插即用替代品，这意味着你只需在配置中更新基础 URL 和 API 密钥即可。API 支持通过服务器发送事件 (SSE) 进行文本输入、文本输出的流式补全以及函数调用。它不支持嵌入、图像生成或微调。请确保你的 SDK 版本支持这些功能以获得最佳体验。所有补全请求将使用模型 ID uncensored。

认证与首次请求

认证通过 Authorization 头中的 Bearer token 处理。在网站上注册即可立即获取密钥；试用无需信用卡。使用以下 cURL 命令发送第一条消息。将 YOUR_API_KEY 替换为你的实际密钥。请求目标是标准的 chat completions 接口。如果成功，你将收到来自无审查模型的文本回答。请确保将 model 字段设置为 uncensored 以使用特定的大型语言模型。

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

请记住，提示词不会用于训练你的数据。API 对涉及未成年人的性内容设有硬性限制，但除此之外，允许合法成人内容和争议性话题，不会拒绝。

Python SDK 集成

使用官方 OpenAI Python SDK 是最直接的方式。通过 pip 安装库，然后使用自定义基础 URL 和 API 密钥初始化客户端。此设置允许你使用可能用于 GPT-4 的相同客户端代码，但指向我们的无审查模型。以下代码演示了一个简单的聊天补全请求。你可以根据需要调整 max_tokens 和 temperature 参数。响应对象将在 response.choices[0].message.content 中包含生成的文本。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

这种方法有效是因为我们的 API 完全兼容 OpenAI。你不需要为服务单独安装客户端库。

Node.js SDK 设置

对于 JavaScript 或 TypeScript 项目，OpenAI Node SDK 可与我们的接口无缝配合。安装该包并使用指向我们域名的 baseURL 配置客户端。在 apiKey 字段中传入你的 API 密钥。请求结构与 OpenAI 格式完全一致。这允许你将我们的 API 即插即用式地放入现有的 Node.js 应用中，而无需大量重构。模型 ID 仍为 uncensored。如果需要重新生成密钥，可通过仪表板管理你的 API 密钥。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

请正确设置环境变量，以避免在源代码管理中暴露你的密钥。注册后即刻显示 API 密钥。

流式响应

对于需要实时 token 生成的应用，API 支持服务器发送事件 (SSE)。在请求中将 stream 参数设置为 true。服务器将发送一系列数据块，每个数据块包含响应的部分增量。这对于希望在生成时显示文本的聊天界面非常理想。流式行为与 OpenAI 流式 API 完全相同，因此现有的流式逻辑只需少量更改即可工作。处理流直到最后一个数据块指示响应完成。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

流式输出不影响 token 定价或上下文窗口限制。

限制、错误与上下文

API 具有 100,000 token 的上下文窗口，结合提示词和补全。这允许进行广泛的文档处理或长对话。速率限制设置为每个密钥每分钟 300 个请求。如果超过此限制，你将收到 429 错误。认证错误返回 401 状态，通常是由于密钥无效或已撤销。资金不足会导致 402 错误。请求体限制为 8 MB。没有订阅；你按使用量付费，使用预付额度，且永不过期。你可以从 $10 开始充值。额度不会过期，因此你可以无限期暂停使用而不会丢失余额。