Ollama API：3行でクライアントを切り替え

前提条件とベースURL

この無検閲LLM APIを利用するには、APIキーを持つアカウントと、環境にインストールされたOpenAI互換のSDKが必要です。すべてのリクエストのベースURLはhttps://api.ollamaapi.com/v1です。このエンドポイントは既存のOpenAIクライアントへのそのまま置き換え可能として設計されており、設定内のベースURLとAPIキーのみを更新する必要があります。APIはServer-Sent Events (SSE)によるストリーミングと関数呼び出しを備えたテキスト入力/テキスト出力の補完をサポートします。埋め込み、画像生成、ファインチューニングはサポートしていません。最適な体験のために、SDKのバージョンがこれらの機能に対応していることを確認してください。すべての補完にはモデルIDuncensoredを使用します。

認証と最初のリクエスト

認証は、Authorizationヘッダー内のBearerトークンによって処理されます。サイト上でサインアップすると、すぐにAPI キーを受け取ることができます。トライアルにはクレジットカードは必要ありません。次のcURLコマンドを使用して、最初のメッセージを送信してください。YOUR_API_KEYを実際のキーに置き換えてください。リクエストは標準のチャット完了エンドポイントを対象としています。成功すると、無検閲モデルからのテキスト応答が返されます。特定のLLMをホストするGPUサーバーを利用するには、modelフィールドをuncensoredに設定してください。

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

プロンプトはあなたのデータの学習には使用されないことを覚えておいてください。APIは未成年者の性的コンテンツに対して厳格な制限を課しますが、それ以外は法的な成人向けや論争的なトピックを拒否せずに許可します。

Python SDK統合

公式のOpenAI Python SDKを使用するのが最も簡単な統合方法です。pipを使用してライブラリをインストールし、カスタムベースURLとAPI キーを使用してクライアントを初期化してください。この設定により、GPT-4で使用するのと同じクライアントコードを、無検閲モデルを対象として使用することができます。以下のコードは、シンプルなチャット完了リクエストを示しています。必要に応じてmax_tokensおよびtemperatureパラメータを調整してください。応答オブジェクトには、response.choices[0].message.contentに生成されたテキストが含まれます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

このアプローチが機能するのは、当APIが完全にOpenAI互換であるためです。当サービス専用の別クライアントライブラリは必要ありません。

Node.js SDKセットアップ

JavaScriptまたはTypeScriptプロジェクトでは、OpenAI Node SDKはエンドポイントとシームレスに動作します。パッケージをインストールし、ドメインを指すbaseURLでクライアントを設定します。apiKeyフィールドにAPIキーを渡します。リクエスト構造はOpenAIの形式と完全に一致します。これにより、大幅なリファクタリングなしに既存のNode.jsアプリケーションにAPIを組み込むことができます。モデルIDはuncensoredのままです。APIキーの再生成が必要な場合はダッシュボードで管理できます。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ソース管理にAPI キーが公開されないよう、環境変数が正しく設定されていることを確認してください。API キーはサインアップ直後に表示されます。

ストリーミングレスポンス

リアルタイムのトークン生成が必要なアプリケーションの場合、APIはServer-Sent Events (SSE)をサポートしています。リクエストでstreamパラメータをtrueに設定してください。サーバーはレスポンスの部分的なデルタを含む一連のチャンクを送信します。これは、生成されたテキストを表示したいチャットインターフェースに最適です。ストリーミング動作はOpenAIストリーミングAPIと同一であるため、既存のストリーミングロジックは最小限の変更で動作するはずです。最終チャンクでレスポンスが完了したことを示すまでストリームを処理してください。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ストリーミングはトークン料金やコンテキストウィンドウの制限に影響しません。

制限、エラー、コンテキスト

APIはプロンプトと補完を合わせた100,000トークンのコンテキストウィンドウを持ちます。これにより、大規模なドキュメント処理や長い会話が可能です。レート制限はキーあたり1分あたり300リクエストに設定されています。これを超えると429エラーが発生します。認証エラーは401ステータスを返し、通常は無効または取り消されたキーによるものです。資金不足は402エラーを返します。リクエストボディは8 MBに制限されます。サブスクリプションはなく、前払いクレジットで従量課金制です。クレジットは期限切れにならず、残高を失うことなく利用を無期限に一時停止できます。最低$20からチャージできます。