Tether lance un cadre d'IA open source sur appareil pour les développeurs

Tether Operations SA de CVune société surtout connue pour exploiter et émettre la crypto-monnaie du même nom, aujourd'hui a annoncé la sortie d'un framework entièrement open source permettant aux développeurs de créer des fonctionnalités d'intelligence artificielle directement sur les appareils et les plates-formes.

Le cadre s'appelle le Kit de développement logiciel QVACqui signifie QuantumVerse Automatic Computer. Il vient de l'entreprise Unité QVAC. Il affirme que l’entreprise jette les bases d’un nouvel Internet de l’IA conçu pour ouvrir la voie à « l’ère du renseignement stable » et gérer l’expansion prochaine de l’IA.

« Le monde approche d'un moment où des milliards d'humains partagent la planète avec des milliards de machines autonomes et des milliards d'agents d'IA », a déclaré le directeur général Paolo Ardoino. « Le modèle actuel, qui fait passer chaque décision par un serveur centralisé, ne sera pas adapté à cette réalité. Les lois de la physique à elles seules font de l'IA centralisée une impasse. »

QVAC est conçu pour rester abstrait et s'exécuter n'importe où, sur n'importe quel appareil, plateforme et système d'exploitation. Les applications construites sur le SDK peuvent fonctionner sans modification sur iOS, Android, Windows, macOS et Linux.

Pour les consommateurs, cela signifie qu’ils ont accès aux fonctionnalités familières de l’IA : chat textuel, résumé, lecture et réponse aux e-mails, génération d’images, chat vocal et bien plus encore. Pour les développeurs, le SDK simplifie la création d'applications qui peuvent être créées une seule fois et exécutées n'importe où plutôt que de gérer une implémentation source différente pour chaque plate-forme, spécification matérielle et système d'exploitation.

La société a déclaré que le SDK intègre QVAC Fabric, un fork de llama.cpp, un exécuteur populaire pour les grands modèles de langage, fournissant un cadre pour exécuter les charges de travail des modèles d'IA, les intégrations, la génération de texte, les images, l'audio et la vidéo. Il intègre également les meilleurs moteurs locaux de sa catégorie, notamment murmur.cpp et Parakeet pour la synthèse vocale et Bergamot pour la traduction sur l'appareil.

Bien sûr, Tether est issu d’un contexte de blockchain décentralisé, les fonctions peer-to-peer sont donc profondément intégrées au cœur du SDK. QVAC comprend des primitives intégrées pour la distribution décentralisée de modèles, permettant une inférence déléguée sans avoir besoin d'une infrastructure centralisée. Cela signifie que si un homologue ou un nœud extérieur tombe en panne, le groupe des autres peut prendre le relais et le « cerveau » du cloud IA continue de fonctionner.

La société a ajouté que bientôt, des essaims peer-to-peer pour la formation décentralisée, le réglage fin et l'inférence seront mis en ligne.

Toutes les fonctions peer-to-peer seront gérées de la même manière sur toutes les plates-formes, ce qui signifie que les consommateurs ne connaîtront pas la différence entre se connecter à un fournisseur centralisé ou utiliser les capacités décentralisées. Le cadre lui-même permettra des expériences d’IA locales résilientes, des systèmes d’IA peer-to-peer qui ne nécessitent pas de services centralisés et la possibilité de se connecter aux fournisseurs d’IA – le tout géré de manière transparente.

Dans les mois et les années à venir, a déclaré Tether, il consacrera des ressources et des investissements substantiels à l'écosystème pour couvrir des fonctionnalités et des boîtes à outils spécifiquement conçues pour des cas d'utilisation de pointe tels que la robotique et les interfaces cerveau-ordinateur.

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine