Benchmark, 8VC, Y Combinator, Pace Capital, 49 Palms, GTMFund et d'autres investisseurs et investisseurs providentiels ont également participé au cycle de série B. Le financement annoncé aujourd'hui porte le montant total levé à 88 millions de dollars.
Ollama fournit un outil facile à utiliser que les développeurs et ingénieurs en IA peuvent exécuter localement. Avec une seule commande, ils peuvent télécharger et déployer des modèles d'IA sur leur propre matériel local ou exécuter sur des modèles plus puissants dans le cloud d'Ollama.
« Les modèles ouverts doivent être faciles à exécuter, faciles à construire et disponibles partout où les gens en ont besoin : sur votre propre machine, dans le cloud ou les deux », a déclaré le fondateur et directeur général Jeffrey Morgan. « Ollama a commencé comme un projet open source et est depuis devenu une communauté de millions de développeurs. »
Depuis son lancement en 2023, l'outil a été utilisé par plus de 8,9 millions de développeurs chaque mois, ce qui en fait le plus grand réseau de l'écosystème de modèle ouvert et proposant plus de 67 000 intégrations. La société a déclaré qu'elle est utilisée par 85 % des entreprises Fortune 500, y compris par des clients issus de secteurs très réglementés, tels que le gouvernement, la santé et la finance.
Sur son front-end, Ollama fournit une interface utilisateur graphique et une ligne de commande qui simplifient l'activation et le test des modèles, à la fois localement et dans le cloud.
Bien que l'outil ait initialement été lancé avec la capacité de fournir des modèles d'IA locaux et des connecteurs d'interface de protocole d'application pour les fournisseurs de modèles cloud, le pivot vers la fourniture d'inférence néocloud a permis à l'entreprise de l'intégrer de manière native dans le produit. Les utilisateurs peuvent s'inscrire à un niveau gratuit qui offre du temps sur les unités de traitement graphique, avec des abonnements allant jusqu'à 100 $ par mois.
Le modèle de tarification de l'inférence cloud de la société est en concurrence avec d'autres fournisseurs d'inférence cloud d'IA centrés sur les développeurs, tels que Together Computer Inc., Fireworks AI Inc. et Groq Inc., qui donnent accès à de grands modèles sur une base de tarification par jeton.
Ollama se différencie en proposant un service cloud qui étend l'outil aux développeurs qui exécutent déjà des modèles localement. La même commande, la même API compatible OpenAI qui s'adresse à n'importe quel fournisseur de modèle ou modèle 7B local, peut également passer à un modèle cloud 400B avec une seule chaîne. Cela permet aux développeurs une simple continuité du flux de travail plutôt qu'une relation cloud distincte.
Grâce à un réseau de partenariats, la société peut fournir aux développeurs un accès le jour de la sortie à de nouveaux modèles ouverts puissants pour l'expérimentation, les tests et la construction. Les modèles ouverts disponibles dans le catalogue de la société incluent GLM, Nemotron, DeepSeek, Kimi et MiniMax.
La société a déclaré qu’en moyenne, le volume de jetons du cloud avait plus que doublé chaque mois.
La difficulté est que la mesure du temps GPU est difficile à prévoir, alors que le temps par jeton est plus facile à contrôler. Des spécialistes tels que Fireworks offrent également un accès à très haut débit et à faible latence, et des fournisseurs à large catalogue tels que Groq et Together offrent une haute disponibilité de modèles de classe frontière.
Les concurrents directs d'Ollama incluent LM Studio, qui est une interface graphique raffinée pour parcourir les modèles, discuter et régler visuellement les modèles. De nombreux développeurs utilisent Ollama comme un environnement d'exécution sous le capot pour les scripts, les serveurs et la création d'applications, tandis que LM Studio est une référence pour l'exploration et l'expérimentation basées sur l'interface graphique. D'autres exemples incluent llama.cpp lui-même, le moteur de bas niveau sur lequel Ollama lui-même s'appuie ; vLLM, un outil multi-GPU à l'échelle de la production ; Jan, une application de bureau de style ChatGPT entièrement open source pour les modèles d'IA cloud ; et MLX, un outil d'IA purement Apple Silicon.
De nombreux développeurs utilisent Ollama comme backend pour les applications ou pour alimenter d'autres interfaces telles que AnythingLLM, une configuration d'espace de travail de génération augmentée de récupération par projet qui alimente un client de discussion et d'agent complet ; Open WebUI, un client Ollama populaire qui héberge lui-même une interface utilisateur de type ChatGPT avec RAG, voix et plugins ; et des agents d'IA locaux complets tels qu'OpenClaw et Hermes.
