La startup d'infrastructure d'intelligence artificielle agentique Modiqo Inc. affirme qu'elle peut aider les entreprises à passer de flux de travail expérimentaux à des systèmes reproductibles et prêts pour la production après avoir levé 3 millions de dollars de financement de pré-amorçage.
La startup tente de remédier à la nature imprévisible des agents IA, qui ont tendance à être très créatifs et à faire des choses très étranges et uniques qui n'aboutissent pas toujours au résultat espéré par les utilisateurs. De plus, ils le font même s'ils ont exécuté avec succès la même tâche la veille.
« Les agents IA d'aujourd'hui sont impressionnants en démonstration et peu fiables en production », a déclaré Joseph Ruscio, associé général de Heavybit.
Selon Ruscio, le problème avec les agents IA est que chaque fois qu'ils tentent d'effectuer une tâche, ils travaillent à partir d'un journal de discussion unique plutôt que d'un artefact qui peut être prouvé et répété. En d’autres termes, chaque fois qu’on leur demande de faire quelque chose, ils recommencent à zéro, même s’ils l’ont déjà fait, et ils ne prennent peut-être pas les mêmes décisions, en partie à cause des changements constants dans les modèles qui les alimentent et dans les systèmes sur lesquels ils fonctionnent.
« Les équipes paient sans cesse la même taxe de redécouverte, et les abstractions qui émergent autour d'elles n'ont pas été conçues pour survivre au changement », a expliqué Ruscio.
La solution de Modiqo à ce problème est une couche d'exécution locale qu'elle appelle Rote, conçue pour capturer ce qui se passe pendant l'exécution de l'agent IA, afin que les tâches exécutées avec succès puissent être mémorisées et transformées en flux de travail réutilisables.
« Rote de Modiqo capture ce qui a fonctionné la première fois et le transforme en code déterministe – réduisant l'utilisation des jetons, réservant l'inférence aux parties qui en ont réellement besoin et maîtrisant le contexte qui sévit dans les piles d'agents d'aujourd'hui », a ajouté Ruscio.
Rote s'adresse aux opérateurs système chargés de garantir le bon déroulement des déploiements d'agents IA. La plateforme peut connecter des agents d'IA à tout type d'interface de programmation d'applications, sans avoir besoin d'une infrastructure de serveur, de side-cars ou de kits de développement logiciel. Une fois connecté, il peut éviter aux équipes de devoir déboguer à plusieurs reprises les mêmes échecs à chaque fois qu'un modèle ou une API est mis à jour, a expliqué l'entreprise. Les utilisateurs pourront voir exactement ce que chaque agent a exécuté, quand il l'a fait, pourquoi il a agi comme il l'a fait et combien a coûté ce flux de travail.
Le fondateur et directeur général Chetan Conikee (photo) a déclaré que Rote s'est révélé utile pour les premiers utilisateurs en raison de la nature incroyablement fragile des flux de travail d'IA modernes. Bien qu'il puisse sembler facile de demander à un agent IA d'effectuer une tâche du premier coup, les utilisateurs découvrent rapidement qu'il est presque impossible de lui faire répéter cette tâche en cas de légère variation.
« Le faire fonctionner de la même manière à mesure que les modèles, les API et les systèmes évoluent n'est certainement pas facile », a-t-il expliqué. « Les équipes assemblent des invites, des compétences, des scripts et des intégrations qui s'interrompent discrètement à mesure que le contexte est perdu et que les systèmes changent, les obligeant à reconstruire encore et encore les mêmes flux de travail. Rote transforme les exécutions réussies en actifs durables et réutilisables. »
