La startup s'est taillé un rôle nouveau dans l'industrie du calcul de l'intelligence artificielle, en créant un marché qui permet de connecter les développeurs et les entreprises à des unités de traitement graphique hautes performances mises en commun par les opérateurs de centres de données du monde entier. Il tente de résoudre une crise mondiale croissante de capacité de calcul qui rend les ressources GPU extrêmement coûteuses.
Hydra Host a développé un système d'exploitation pour les centres de données qui prend en charge l'achat, la fourniture et l'orchestration de GPU, ainsi qu'un réseau de « prélèvement » intelligent utilisé par les principaux fournisseurs mondiaux de plates-formes d'inférence d'IA, les laboratoires pionniers et les entreprises. La société basée à Boulder, au Colorado, affirme que le système d'exploitation Brokkr AI Factory a été déployé dans plus de 50 centres de données à travers le monde, notamment dans les régions des Amériques, de l'Asie-Pacifique et de l'Europe, du Moyen-Orient et de l'Afrique.
Ce cycle intervient dans un contexte de débats intenses autour du coût en capital stupéfiant de l’infrastructure de l’IA. La semaine dernière, l'action d'Oracle Corp. a fortement chuté à la suite d'un rapport sur les résultats dans lequel la société a révélé un plan de dépenses en capital pour développer ses centres de données d'IA qui a dépassé les prévisions de Wall Street. La société a annoncé son intention de lever des milliards de dollars de nouvelles dettes, ce qui a inquiété les investisseurs inquiets de la pérennité de ces dépenses.
La réaction au plan d'Oracle a révélé les tensions croissantes dans le secteur de l'IA : la demande croissante qui rend les marchés de calcul distribué comme Hydra Host si attractifs nécessite également un investissement initial colossal de la part de quiconque tente d'être compétitif à grande échelle.
Hydra Host affirme que son modèle de calcul distribué est le résultat direct de cette dynamique. Au lieu d’essayer de lever des milliards pour construire ses propres centres de données, il regroupe l’offre de GPU auprès de fournisseurs mondiaux pour fournir une capacité de manière plus flexible, augmentant ainsi l’utilisation au-delà de ce avec quoi les hyperscalers peuvent rivaliser.
Le co-fondateur et directeur général Aaron Ginn a déclaré que la société utiliserait les fonds du cycle d'aujourd'hui pour étendre sa plate-forme GPU en tant que service afin de répondre à la demande croissante d'infrastructure d'IA. « Nous avons passé des années à créer le système d'exploitation incontournable pour les déploiements mondiaux de GPU pour les centres de données qui souhaitent devenir une usine d'IA », a-t-il expliqué. « Ce financement permettra d'étendre l'empreinte de notre centre de données, de faire évoluer notre plate-forme et de soutenir notre clientèle mondiale, qui cherche à louer des GPU facilement n'importe où et n'importe où. Il contribuera également à développer notre équipe logicielle, nos opérations mondiales et le support de nos centres de données pour faciliter la conversion des mégawatts en jetons. »
