Delos Data Inc., une startup qui développe du matériel pour les clusters d'intelligence artificielle, a levé plus de 100 millions de dollars de financement.
Cette augmentation intervient trois mois après le lancement par la société de son premier produit. Le Delos Nonstop AI Server est un appareil informatique optimisé pour l'inférence. Les clients peuvent l'équiper de jusqu'à quatre cartes graphiques provenant de fournisseurs externes. Les accélérateurs se connectent à la carte mère du système via une interconnexion open source appelée OAM, spécifiquement optimisée pour les cas d'utilisation de l'IA.
Les clients peuvent relier plusieurs serveurs Nonstop AI dans un cluster. Les machines échangent des données via OSFP, une technologie de routage open source. Chacune des quatre puces de Nonstop AI Server possède neuf ports OSFP avec 1,6 térabits par seconde de bande passante chacun. Cela donnerait au système une capacité réseau comparable à celle des appliances Rubin de Nvidia Corp.
Delos a lancé un nouvel ajout à sa gamme de matériel parallèlement à son annonce de financement. L'interface de données Delos Nonstop AI, comme on l'appelle, est une puce conçue pour fonctionner avec le serveur Delos Nonstop AI. Il permet au serveur de se connecter au réseau du cluster d'inférence dans lequel il est déployé.
La société affirme que sa nouvelle puce réseau offre une latence 10 fois inférieure à celle des produits concurrents. Delos affirme également qu’il est plus efficace et plus évolutif.
En plus d'alimenter les connexions réseau, la puce surveille le cluster hôte pour détecter tout dysfonctionnement. Il détecte les problèmes tels que les pannes de carte graphique et les pannes de liaison réseau. L'interface de données Nonstop AI automatise également une partie du travail nécessaire à la récupération après de telles pannes.
Delos vend la technologie en trois versions. La première est une carte PCIe que les opérateurs de centres de données peuvent connecter à leurs serveurs. Les deux autres implémentations, à leur tour, permettent aux clients d'intégrer la technologie dans leurs systèmes au niveau des composants.
Il propose un chipset Nonstop AI Data Interface qui peut traiter plus de 30 térabits de trafic par seconde. Les clients peuvent l'intégrer directement dans leurs accélérateurs d'IA. Il existe également une version optique quasi-emballée, ou NPO, avec une capacité de plus de 10 térabits par seconde. Il est conçu pour être posé sur le même substrat que l'accélérateur qui l'utilise. Cet agencement offre des vitesses inférieures à celles d'un chiplet intégré directement dans l'accélérateur mais peut être plus simple à mettre en œuvre.
« Agentic AI s'étend au-delà d'un seul appareil, et lorsque cela se produit, les performances ne sont pas uniquement déterminées par les processeurs, elles sont décidées par la manière dont les données circulent entre eux », a déclaré Dan Daly, co-fondateur et directeur de la technologie de Delos (photo de droite, avec le co-fondateur et PDG Ed Doe). « Agentic AI a besoin d'une interface de données rapide et qui ne se brise pas sous la charge. »
Delos utilisera son cycle de financement récemment clôturé pour embaucher davantage d'ingénieurs et accélérer ses efforts de vente.
