Le fournisseur de service client d'entreprise Scaled Cognition Inc. présente aujourd'hui un modèle de synthèse vocale qui, selon lui, fournit une prononciation plus précise des numéros de compte, des adresses et d'autres détails à un coût inférieur à celui des services concurrents.
Le produit, appelé Voice, est disponible via une interface de programmation d'application ou pour un déploiement auto-hébergé. Il prend en charge plus de 25 langues, le clonage vocal et peut fonctionner avec les agents d'intelligence artificielle existants, les plates-formes de centres de contact et les anciens systèmes téléphoniques. Le clonage vocal crée une réplique numérique de la voix d'une personne donnée.
Le lancement cible un écart entre une parole à consonance naturelle et l’IA qui communique de manière fiable les informations dont les clients ont besoin pour effectuer des transactions.
« Les modèles TTS génératifs modernes peuvent sembler fantastiques, mais ils butent souvent sur les détails qui comptent le plus dans le service client, comme la lecture d'un code de confirmation alphanumérique, un montant en dollars ou une adresse postale », a déclaré Akshay Kannan, vice-président de la gestion des produits chez Scaled Cognition, dans des commentaires par courrier électronique.
Ces difficultés deviennent plus prononcées dans des langues autres que l'anglais, a déclaré Kannan. Scaled Cognition a déclaré que Voice permet aux entreprises d'obtenir une parole naturelle et des lectures précises sans payer de prix élevés.
La voix coûte 9 $ par million de caractères via l’API hébergée ou 1 $ par million de caractères pour l’auto-hébergement. Ce dernier chiffre exclut l’infrastructure nécessaire à son fonctionnement.
Kannan a expliqué comment le calcul permet de réduire les coûts par rapport aux fournisseurs concurrents. Une unité de traitement graphique peut gérer environ 32 conversations simultanées à l'aide de Voice. Une configuration redondante utilisant deux GPU sur du matériel cloud standard coûte environ 6 000 dollars par mois et prend en charge environ 500 millions de caractères, a-t-il déclaré.
En incluant l'infrastructure, Kannan a estimé les coûts à environ 13 dollars par million de caractères pour un tarif de 500 millions de caractères et à moins de 7 dollars pour 1,5 milliard de caractères. Il a comparé ce chiffre à entre 35 et 100 dollars par million de personnages facturés par d'autres voix hébergées, qu'il a refusé de nommer.
« L'auto-hébergement devient rentable plus rapidement que prévu », a-t-il déclaré.
Option cloud
En cas d'utilisation faible, le coût de l'auto-hébergement peut dépasser le prix de l'API hébergée de Scaled Cognition. « La plupart des entreprises avec lesquelles nous travaillons gèrent déjà leur propre infrastructure, donc Voice intervient simplement », a déclaré Kannan. « Pour les équipes qui ne souhaitent pas le gérer, nous l'hébergeons pour elles. »
La société revendique également 70 millisecondes de latence de génération de parole, le temps écoulé entre la réception du texte et le début de la parole, plutôt que le temps total nécessaire à un système d'IA pour comprendre un appelant et formuler une réponse.
« Même avec 16 conversations en direct partageant une seule tranche GPU, le temps de réponse typique reste autour de 80 millisecondes », a-t-il déclaré. « Le principal facteur que les clients contrôlent est la distance. » L’exécution de Voice dans la même région cloud que le reste d’une pile d’appels n’ajoute qu’une ou deux millisecondes de latence. « C'est l'une des principales raisons pour lesquelles nous laissons les entreprises l'héberger elles-mêmes, juste à côté de leurs agents et de leur téléphone », a déclaré Kannan.
L'une des caractéristiques distinctives de Voice est sa capacité à interpréter le sens avant de générer de l'audio, a indiqué la société. Par exemple, sa capacité de prononciation intelligente détermine si les abréviations font référence à des titres, des noms de rues ou d'autres informations et comment les chiffres doivent être prononcés. Par exemple, il est écrit « Payer 1/2 par 1/2 » comme « payer la moitié avant le 2 janvier ».
« La voix ne se contente pas de lire le texte de gauche à droite », a déclaré Kannan. « Avant de prononcer un mot, la prononciation intelligente détermine ce que la phrase signifie réellement, grâce à la même intelligence adaptée à l'expérience client que celle qui sous-tend notre modèle APT. »
APT est le modèle de l'entreprise pour les conversations et les actions du service client dans les systèmes d'entreprise. Lorsque les produits sont associés, APT fournit un contexte de conversation qui peut aider Voice à résoudre les ambiguïtés au-delà d'une phrase individuelle.
Voice ne nécessite pas APT ou un autre grand modèle de langage pour fonctionner. « Il diffuse l'audio via une API standard et est réglé pour l'audio du téléphone, de sorte que tout ce qui peut envoyer du texte et lire de la parole peut l'utiliser, des agents d'IA modernes et des plates-formes de centre de contact aux anciens (systèmes de réponse vocale interactive) », a déclaré Kannan.
Cette compatibilité pourrait donner aux entreprises un moyen de mettre à jour les systèmes de réponse vocale interactive sans remplacer les applications sous-jacentes.
Scaled Cognition propose également un test d'écoute à l'aveugle qui compare Voice avec d'autres modèles dans toutes les gammes de prix. Kannan a déclaré que les premiers retours étaient favorables à Voice, bien que les documents fournis ne fournissaient pas de tailles d'échantillon ni de résultats détaillés.
