API Ollama vs API OpenAI : laquelle convient à votre projet ?
Ollama exécute des modèles sur votre propre machine, tandis qu'OpenAI exécute ses modèles sur ses serveurs. Cette page compare les deux sur l'hébergement, le format des requêtes, le coût, les limites et les règles de contenu, puis présente une troisième option intermédiaire.
Mis à jour
Points clés
- Ollama est un runtime local que vous hébergez vous-même ; l'API OpenAI est un service hébergé facturé par token.
- Les deux acceptent des requêtes de chat de style OpenAI, de sorte qu'un client peut parler à l'un ou à l'autre en modifiant l'URL de base.
- Les exécutions locales coûtent du matériel et du temps, les exécutions hébergées coûtent des tokens ; le point d'équilibre dépend de votre volume.
- Un endpoint hébergé compatible OpenAI avec un modèle à poids ouverts vous offre le paiement à l'usage sans posséder de GPU.
La réponse courte
La question de l'API Ollama par rapport à l'API OpenAI est principalement une question de lieu d'exécution du modèle. Avec Ollama, le modèle vit sur un ordinateur que vous contrôlez, et votre code appelle localhost. Avec OpenAI, le modèle vit dans un centre de données d'un tiers, et votre code appelle une adresse HTTPS publique avec une clé et une facture à la fin du mois.
Tout le reste découle de cette différence : structure des coûts, latence que vous pouvez ajuster, qui voit vos prompts, quels modèles vous pouvez choisir, et ce qui se passe lorsque vous envoyez une centaine de requêtes simultanées. Le tableau donne les faits qui s'appliquent aux deux.
| Sujet | Ollama | API OpenAI |
|---|---|---|
| Lieu d'exécution | Votre ordinateur portable, station de travail ou serveur | Serveurs d'OpenAI |
| Qui configure le modèle | Vous téléchargez et mettez à jour les poids vous-même | OpenAI choisit et met à jour ses modèles |
| Facturation | Pas de facturation par token via le runtime local ; vous payez le matériel et l'électricité | Par token, depuis un compte avec facturation |
| Format de requête | Routes natives plus une couche de style OpenAI /v1 | Le format OpenAI original |
| Débit | Limité par votre matériel | Limité par les limites de débit du compte |
Si vous souhaitez une voie intermédiaire, un endpoint hébergé qui parle le même format OpenAI mais sert un modèle à poids ouverts est couvert vers la fin de cette page.
Ce que sont réellement ces API
Ollama
Ollama est un programme qui télécharge des modèles à poids ouverts et les sert via HTTP sur votre machine. Par défaut, il écoute sur le port 11434. Il a ses propres routes telles que /api/chat et /api/generate, et il expose également une couche de style OpenAI sous /v1 afin que le code client OpenAI existant puisse pointer dessus. Il n'y a pas de compte ni de clé dans la configuration locale habituelle. Les clients qui exigent un champ de clé reçoivent une chaîne de substitution.
Vous choisissez le modèle, la quantification et les paramètres de contexte. Cette liberté est l'attraction principale, et c'est aussi le coût : si le modèle ne tient pas dans votre mémoire, il sera lent ou ne se chargera pas du tout.
L'API OpenAI
L'API OpenAI est un service hébergé. Vous créez un compte, ajoutez une facturation, générez une clé et envoyez des requêtes à l'adresse d'OpenAI. Vous obtenez les modèles qu'OpenAI propose, sous les politiques d'utilisation d'OpenAI, avec toutes les limites que permet votre niveau de compte. La capacité, les mises à niveau et la disponibilité sont leur responsabilité, pas la vôtre. Le format de requête que vous voyez dans la plupart des tutoriels, avec un tableau messages et un tableau choices dans la réponse, provient de cette API.
Pourquoi les comparer
La comparaison existe car les deux peuvent être atteints avec le même code client. Les SDK OpenAI officiels vous permettent de remplacer l'URL de base, et la couche /v1 d'Ollama comprend les complétions de chat. Ainsi, un script écrit pour l'un peut souvent être pointé vers l'autre en une ligne. C'est pratique, et cela cache également de réelles différences, que les sections suivantes détaillent.
Le même code client, deux URL de base
C'est ce qui rend le changement peu coûteux. L'extrait Python ci-dessous parle à un serveur Ollama local. Seule l'URL de base, la clé et le nom du modèle sont spécifiques à la cible.
from openai import OpenAI
# Local Ollama through its OpenAI-style layer
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
reply = client.chat.completions.create(
model="llama3.2", # whatever model you pulled locally
messages=[{"role": "user", "content": "Summarize what a base URL is."}],
)
print(reply.choices[0].message.content)Pour envoyer la même requête à un endpoint hébergé compatible OpenAI, vous modifiez trois valeurs. Voici la version pour ce site, avec l'ID de modèle uncensored.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")
reply = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize what a base URL is."}],
)
print(reply.choices[0].message.content)La même requête fonctionne avec curl, ce qui est pratique pour un test rapide avant de toucher au code de l'application.
curl https://api.ollamaapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'Une mise en garde s'applique à tout changement entre ces cibles. La compatibilité couvre la forme de la requête et de la réponse, pas le comportement. Différents modèles suivent les instructions différemment, gèrent les appels d'outils différemment et produisent des formats différents. Exécutez vos propres prompts sur la nouvelle cible avant de lui faire confiance.
Coût : le matériel que vous possédez contre les tokens que vous achetez
L'inférence locale semble gratuite car aucune facture n'arrive. Ce n'est pas gratuit. Vous payez un GPU ou une machine à grande mémoire, l'électricité, et les heures passées à installer des pilotes, à choisir des quantifications et à redémarrer un serveur qui a manqué de mémoire. Si vous possédez déjà du matériel capable et exécutez quelques prompts par jour, ce coût est proche de zéro en pratique. Si vous deviez acheter une carte juste pour exécuter le modèle que vous voulez, les calculs changent.
La tarification hébergée est de forme opposée : rien à l'avance, et un coût qui augmente avec l'utilisation. Sur ce site, le prix est de 0,15 $ par 1M de tokens d'entrée et de 0,50 $ par 1M de tokens de sortie, à partir de crédit prépayé sans abonnement. Pour OpenAI, consultez leur page de tarification actuelle, car elle varie selon le modèle et change avec le temps.
Voici comment fonctionnent les calculs hébergés pour une tâche réaliste sur cet endpoint. Disons qu'une application envoie 40 000 requêtes en un mois, chacune avec 1 500 tokens d'entrée et 400 tokens de sortie.
- Entrée : 40 000 x 1 500 = 60 000 000 tokens, soit 60M. À 0,15 $ par 1M, cela fait 9,00 $.
- Sortie : 40 000 x 400 = 16 000 000 tokens, soit 16M. À 0,50 $ par 1M, cela fait 8,00 $.
- Total : 17,00 $ pour le mois.
Vous pouvez comparer ce nombre à ce qu'une machine adaptée vous coûterait à acheter, alimenter et entretenir. Pour un trafic léger ou irrégulier, payer par token gagne généralement. Pour un trafic lourd constant sur du matériel que vous possédez déjà, le local gagne généralement. Consultez la page de tarification pour les montants de rechargement et les bonus.
Modèles, règles de contenu et confidentialité
Avec Ollama, vous décidez quel modèle à poids ouverts exécuter, et personne ne se place entre votre prompt et les poids. Le comportement du contenu est ce que ce modèle fait. Certains modèles communautaires sont ajustés pour refuser moins, d'autres non, et vous pouvez les échanger librement.
Un fournisseur hébergé applique ses propres politiques d'utilisation et ses propres filtres. C'est une position raisonnable pour un service à usage général, et c'est aussi pourquoi certains écrivains, développeurs de jeu de rôle et chercheurs travaillant avec de la fiction mature trouvent que les réponses hébergées sont coupées court. Lisez la politique de tout fournisseur sur lequel vous comptez, et vérifiez leurs règles actuelles au lieu de supposer.
Ce site se situe à un endroit différent. Il sert un modèle à poids ouverts, exécuté par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour une utilisation adulte légale. Ce n'est pas l'API officielle d'OpenAI, Meta, Mistral ou tout autre fournisseur, et ce n'est pas un routeur entre fournisseurs. Il y a une limite stricte : pas de contenu sexuel impliquant des mineurs. Les prompts ne sont pas utilisés pour l'entraînement. Les requêtes échouées ou refusées ne sont pas facturées.
En matière de confidentialité, Ollama local conserve les prompts sur votre machine, ce qu’aucun service hébergé ne peut égaler. Si vos données ne doivent jamais quitter votre infrastructure, exécutez-le en local et cessez de comparer. Si vous pouvez envoyer du texte à un service hébergé, lisez d’abord la page de confidentialité du fournisseur. La nôtre est à /privacy/.
Limites, concurrence et fonctionnalités
Les limites locales sont physiques. Un GPU sert quelques requêtes simultanées avant que chacune ne ralentisse, et un long contexte consomme rapidement de la mémoire. Les limites hébergées sont des politiques. Sur cet endpoint, une clé complète permet 8 requêtes simultanées et 300 requêtes par minute, et une clé d’essai permet 2 requêtes simultanées et 60 par minute. La fenêtre de contexte est de 100 000 tokens, comptant le prompt plus la complétion, et le corps de la requête peut faire jusqu’à 8 Mo.
Si vous dépassez une limite, vous obtenez un HTTP 429. Le code d’erreur est rate_limited pour les requêtes par minute et concurrency pour trop de requêtes à la fois. Un 429 avec un en-tête Retry-After: 5 signifie une surcharge temporaire, attendez donc cinq secondes et réessayez. Une requête en streaming occupe son slot de concurrence jusqu’à la fin du flux, ce qui a de l'importance si vous ouvrez de nombreux flux en parallèle.
La couverture des fonctionnalités côté hébergé est centrée sur le chat. Vous bénéficiez du streaming via SSE avec l’usage à la fin, de l’appel de fonctions, du mode JSON, et du passage de temperature, top_p, stop, seed et des pénalités. Il n’y a pas de génération d’images, d’audio ou de vidéo, pas d’embeddings ni de fine-tuning. Si vous en avez besoin, prévoyez de les obtenir ailleurs. Notre documentation liste les champs de requête exacts.
Les en-têtes de réponse incluent X-Request-Id et X-Balance-USD, afin que vous puissiez enregistrer une requête et voir votre crédit restant sans appel séparé.
Comment choisir
Choisissez selon la contrainte qui vous pénalise le plus.
- Les prompts doivent rester sur votre matériel. Utilisez Ollama en local.
- Vous possédez déjà un GPU capable et souhaitez expérimenter. Utilisez Ollama en local, puis migrez plus tard si le trafic le dépasse.
- Vous avez besoin du modèle de pointe d’un fournisseur spécifique ou de son écosystème. Utilisez l’API de ce fournisseur. Un autre fournisseur ne remplace pas un modèle particulier.
- Vous voulez un accès hébergé, en paiement à l’usage, à un modèle à poids ouverts sans refus pour un usage adulte légal, et sans matériel à surveiller. Utilisez un endpoint compatible OpenAI hébergé tel que celui-ci.
De nombreuses équipes finissent par en utiliser deux : Ollama sur un ordinateur portable pour le développement, et un endpoint hébergé pour tout ce qui doit être accessible depuis un serveur ou le navigateur d'un client. Comme les deux utilisent le même format de requête, le changement se fait par une valeur de configuration, pas par une réécriture. Si vous souhaitez essayer le côté hébergé, les nouveaux utilisateurs peuvent obtenir 0,50 $ de crédit d'essai en un clic sur la page clé API après s'être connectés. Aucune carte n'est nécessaire et le crédit est valable 7 jours. Les recharges payantes démarrent à 20 $ et acceptent les cartes ou la crypto.
Plus de guides
Questions et réponses
L’API Ollama est-elle compatible avec le SDK OpenAI ?
Ollama expose une couche de style OpenAI sous /v1 qui gère les complétions de chat, de sorte que les SDK OpenAI officiels peuvent pointer vers lui en modifiant l’URL de base. Consultez la documentation Ollama pour savoir quels champs votre version prend en charge.
Ollama est-il moins cher que l’API OpenAI ?
Cela dépend de votre matériel et de votre volume. Le runtime local n’a pas de coût par token, mais vous payez la machine et sa maintenance. Pour une utilisation légère ou irrégulière, la facturation par token est souvent moins chère que l’achat d’un GPU.
Puis-je utiliser l’endpoint de ce site au lieu d’Ollama local ?
Oui, si vous voulez un endpoint hébergé compatible OpenAI. Définissez l’URL de base sur https://api.ollamaapi.com/v1 et le modèle sur uncensored. Ce n’est pas Ollama et cela ne s’exécute pas sur votre machine.
L’endpoint hébergé prend-il en charge l'appel d'outils et le streaming ?
Oui. Il prend en charge le streaming via SSE, l'appel d'outils et le mode JSON, avec une fenêtre de contexte de 100 000 tokens.
Votre clé est à un formulaire de vous
Créez un compte, copiez la clé, modifiez l'URL de base. C'est toute la configuration.
