La start-up d'automatisation des infrastructures SkyPilot Inc. a été lancée aujourd'hui avec un financement de démarrage de 20 millions de dollars.
Lux Capital a mené cette augmentation avec la participation de plusieurs autres bailleurs de fonds institutionnels. Les fonds ont été rejoints par le PDG de Databricks Inc., Ali Ghodsi, le scientifique en chef de Google LLC, Jeff Dean, et d'autres investisseurs providentiels de premier plan.
SkyPilot, basé à San Francisco, commercialise un projet open source du même nom. Il a été développé à l'UC Berkeley par l'équipe fondatrice de la société, qui comprend le cofondateur de Databricks, Ion Stoica. Le logiciel permet aux entreprises de gérer plus facilement l'infrastructure qu'elles utilisent dans les projets d'intelligence artificielle.
Les entreprises mélangent et associent souvent différents types d’infrastructures d’IA. Par exemple, une entreprise peut exécuter des charges de travail d'inférence dans le cloud tout en conservant ses environnements de formation et les ensembles de données associés sur site. Dans de nombreux cas, chaque environnement d'infrastructure contient des puces et des outils de gestion différents.
La gestion d’actifs matériels avec des paramètres techniques divergents peut s’avérer très difficile. Habituellement, le déplacement de charges de travail entre différents types d’infrastructure nécessite d’importantes modifications du code. De plus, les workflows d'automatisation qui s'exécutent de manière fiable dans un environnement peuvent ne pas fonctionner correctement dans un autre.
L'outil open source éponyme de SkyPilot facilite la tâche. Il permet aux développeurs de gérer des environnements d'infrastructure avec différentes configurations via une seule interface. Selon l'entreprise, le logiciel automatise également plusieurs tâches de maintenance courantes.
Les développeurs peuvent parfois rendre un cluster d'IA plus efficace en modifiant quel serveur exécute quelle charge de travail. Si une machine dotée de 10 Go de mémoire exécute une charge de travail de 6 Go, un ingénieur peut la remplacer par deux charges de travail de 5 Go. Cette approche d’optimisation est connue sous le nom de bin packaging. SkyPilot affirme que son logiciel effectue la tâche automatiquement pour faire gagner du temps aux utilisateurs.
Lorsque les exigences matérielles d'une charge de travail d'IA augmentent, le logiciel provisionne automatiquement une infrastructure supplémentaire. Il peut également résoudre certains types de problèmes techniques sans intervention humaine.
SkyPilot monétise le logiciel avec une version payante appelée SkyPilot Platform. Il comprend un outil permettant de créer des sandbox d'inférence, des machines virtuelles dans lesquelles les agents d'IA peuvent exécuter du code sans créer de risques de cybersécurité. Les développeurs peuvent personnaliser les machines virtuelles en ajoutant des composants tels que des outils de programmation.
Le lancement d’un bac à sable d’inférence peut prendre beaucoup de temps dans certains cas. Selon SkyPilot, sa plateforme accélère la tâche en chargeant les machines virtuelles avant qu'elles ne soient nécessaires. Cela permet au logiciel d'activer un nouveau bac à sable en moins d'une seconde lorsqu'il est demandé par un agent IA.
La plateforme SkyPilot accélère également les entraînements d’IA. La société affirme pouvoir lancer des clusters de cartes graphiques comportant 5 000 puces en moins d’une minute. Pour une mesure supplémentaire, un outil appelé SkyPilot GPU Manager vérifie régulièrement l'état des accélérateurs et résout tous les problèmes techniques qu'il détecte.
« Chaque organisation construit des informations personnalisées autour de ses propres données et domaines », a déclaré Zongheng Yang, co-fondateur et PDG de SkyPilot. « Le défi est que le calcul de l'IA nécessaire à sa construction est fragmenté entre les nuages. SkyPilot offre aux équipes d'IA de pointe une plate-forme unique pour gérer cette infrastructure afin qu'elles puissent créer plus rapidement des informations personnalisées. »
SkyPilot utilisera son tour de table pour améliorer les versions payantes et open source de sa plateforme. L'entreprise prévoit également d'augmenter ses effectifs.
