Ollama API: Wechsle deinen Client in drei Zeilen

Voraussetzungen und Basis-URL

Um diese unzensierte LLM-API zu nutzen, benötigst du ein Konto mit einem API-Schlüssel und ein installiertes OpenAI-kompatibles SDK in deiner Umgebung. Die Basis-URL für alle Anfragen ist https://api.ollamaapi.com/v1. Dieser Endpunkt ist als sofort einsetzbare Alternative für bestehende OpenAI-Clients konzipiert, sodass du nur die Basis-URL und den API-Schlüssel in deiner Konfiguration aktualisieren musst. Die API unterstützt Text-in, Text-out-Vervollständigungen mit Streaming über Server-Sent Events (SSE) und Function Calling. Sie unterstützt keine Embeddings, Bildgenerierung oder Feinabstimmung. Stelle sicher, dass deine SDK-Version diese Funktionen unterstützt, um das beste Erlebnis zu gewährleisten. Du verwendest die Modell-ID uncensored für alle Vervollständigungen.

Authentifizierung und erste Anfrage

Die Authentifizierung erfolgt über einen Bearer-Token im Authorization-Header. Registriere dich auf der Website, um deinen Schlüssel sofort zu erhalten; für die Testphase wird keine Kreditkarte benötigt. Verwende den folgenden cURL-Befehl, um deine erste Nachricht zu senden. Ersetze YOUR_API_KEY durch deinen tatsächlichen Schlüssel. Die Anfrage zielt auf den Standard-Endpunkt für Chat-Vervollständigungen ab. Bei Erfolg erhältst du eine Textantwort vom unzensierten Modell. Stelle sicher, dass du das model-Feld auf uncensored setzt, um das spezifische Large Language Model zu nutzen.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Denke daran, dass Prompts nicht zum Training deiner Daten verwendet werden. Die API erzwingt eine harte Grenze für sexuellen Inhalt, der Minderjährige betrifft, erlaubt jedoch sonst legale erwachsene und kontroverse Themen ohne Ablehnung.

Python SDK-Integration

Die Verwendung des offiziellen OpenAI Python SDK ist der einfachste Weg zur Integration. Installiere die Bibliothek über pip und initialisiere den Client mit der benutzerdefinierten Basis-URL und deinem API-Schlüssel. Diese Einrichtung ermöglicht es dir, denselben Client-Code zu verwenden, den du möglicherweise für GPT-4 nutzen würdest, aber gerichtet auf unser unzensiertes Modell. Der folgende Code zeigt eine einfache Chat-Vervollständigungsanfrage. Du kannst die Parameter max_tokens und temperature nach Bedarf anpassen. Das Antwortobjekt enthält den generierten Text in response.choices[0].message.content.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Dieser Ansatz funktioniert, weil unsere API vollständig OpenAI-kompatibel ist. Du benötigst keine separate Client-Bibliothek speziell für unseren Dienst.

Node.js SDK-Einrichtung

Für JavaScript- oder TypeScript-Projekte funktioniert das OpenAI Node SDK nahtlos mit unserem Endpunkt. Installiere das Paket und konfiguriere den Client mit der baseURL, die auf unsere Domain zeigt. Übergebe deinen API-Schlüssel im Feld apiKey. Die Anfragestruktur entspricht exakt dem OpenAI-Format. Dies ermöglicht es dir, unsere API ohne größere Umbauten in bestehende Node.js-Anwendungen einzufügen. Die Modell-ID bleibt uncensored. Du kannst deinen API-Schlüssel über das Dashboard verwalten, wenn du ihn neu generieren musst.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Stelle sicher, dass deine Umgebungsvariablen korrekt gesetzt sind, um zu vermeiden, dass dein Schlüssel in der Versionskontrolle freigegeben wird. Der API-Schlüssel wird sofort nach der Anmeldung angezeigt.

Streaming-Antworten

Für Anwendungen, die Echtzeit-Token-Generierung erfordern, unterstützt die API Server-Sent Events (SSE). Setze den Parameter stream in deiner Anfrage auf true. Der Server sendet eine Reihe von Chunks, die jeweils einen partiellen Delta der Antwort enthalten. Dies ist ideal für Chat-Schnittstellen, bei denen du Text anzeigen möchtest, während er generiert wird. Das Streaming-Verhalten ist identisch mit der OpenAI-Streaming-API, sodass vorhandene Streaming-Logik mit minimalen Änderungen funktionieren sollte. Verarbeite den Stream, bis der letzte Chunk anzeigt, dass die Antwort abgeschlossen ist.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming hat keinen Einfluss auf die Token-Preise oder die Grenzen des Kontextfensters.

Grenzwerte, Fehler und Kontext

Die API verfügt über ein Kontextfenster mit 100.000 Token, das Prompt und Vervollständigung kombiniert. Dies ermöglicht die umfangreiche Verarbeitung von Dokumenten oder lange Gespräche. Die Ratenlimits sind auf 300 Anfragen pro Minute pro Schlüssel festgelegt. Wenn du dieses Limit überschreitest, erhältst du einen 429-Fehler. Authentifizierungsfehler geben einen 401-Status zurück, meist aufgrund eines ungültigen oder widerrufenen Schlüssels. Unzureichendes Guthaben führt zu einem 402-Fehler. Anforderungstexte sind auf 8 MB begrenzt. Es gibt kein Abonnement; du zahlst Pay as you go mit Prepaid-Guthaben, das verfällt nie. Du kannst ab $20 aufladen. Guthaben verfallen nicht, sodass du die Nutzung unbegrenzt pausieren kannst, ohne dein Guthaben zu verlieren.