Resect AI, une startup de recherche en intelligence artificielle basée à Seattle, a annoncé jeudi avoir levé 25 millions de dollars de financement initial pour créer une couche de responsabilité pour l'IA d'entreprise en capturant et en réduisant les hallucinations au moment de l'exécution.
Les hallucinations, ou confabulations, se produisent lorsqu’un modèle d’IA répond par une réponse fausse ou fabriquée et la présente avec une grande confiance.
À la base, les modèles fonctionnent en prédisant des modèles basés sur la formation, et non sur la « mémorisation ». Cela signifie que des lacunes dans les données ou un manque d’informations réelles les amènent à deviner. De plus, de nombreux modèles sont conçus pour sembler utiles pendant le raffinement et après la formation ; au lieu de générer une réponse « Je ne sais pas », ils peuvent donner des réponses fausses en toute confiance.
« L'IA a été placée prématurément dans une position de confiance », a déclaré le directeur général Kevin Owens. « L'ajout d'étiquettes telles que « utilisation à vos propres risques » va à l'encontre d'une gouvernance ou d'une conformité adéquate. L'IA doit être ancrée dans la vérité pour être largement adoptée dans l'ensemble de l'entreprise. «
Owens a ajouté que Resect vise à apporter responsabilité et transparence aux modèles d'IA, qui jusqu'à présent étaient des boîtes noires. Resect AI crée une offre open source pour les produits d'entreprise qui ouvre cette boîte noire pour examiner de grands modèles de langage afin d'observer, détecter, interpréter, auditer et modifier ce comportement.
« Beaucoup soutiennent que comprendre les composants internes des boîtes noires des LLM est hors de portée, mais nous ne sommes fondamentalement pas d'accord », a déclaré Tim Walton, directeur de l'IA. « Nous avons consacré beaucoup de temps et de ressources à rechercher comment les modèles pensent et ce qui les pousse à choisir les réponses qu'ils font. »
Le parcours de Resect a commencé avec le lancement de ses propres modèles d'IA capables de produire une haute réalité. Selon l'entreprise, elle a construit son propre modèle pour contrôler les données, développé un processus de formation, une formation comportementale et par renforcement, qui, selon elle, pourraient être appliqués aux modèles ouverts existants, notamment DeepSeek, Qwen et Llama.
Après cette découverte, la tâche consistait moins à créer un meilleur modèle et s'est tournée vers la création d'une suite d'outils capables de fonctionner au sein de l'architecture du modèle elle-même pour intercepter les mauvais comportements et les rediriger avant que les hallucinations ne se produisent. Cela signifie comprendre pourquoi l’IA se comporte comme elle le fait en interne.
La société a déclaré que ces outils de visibilité interne constitueront la base d'un outil d'audit au niveau de l'entreprise appelé NeuroWave Product Suite, décrit comme un polygraphe pour les réseaux neuronaux.
« Nous avons consacré beaucoup de temps et de ressources à rechercher comment les modèles pensent et ce qui les pousse à choisir les réponses qu'ils font », a expliqué Walton. « Grâce à ce processus, nous avons développé une technologie qui observe exactement quand et comment les modèles échouent et les corrige chirurgicalement. »
Le langage chirurgical est particulièrement approprié. Le nom de l’entreprise, « Resect », est un verbe médical qui signifie couper ou retirer une partie d’un organe, d’un tissu ou d’un os – une opération chirurgicale qui consiste à couper soigneusement les tissus endommagés tout en laissant intacts les tissus sains.
Actuellement, la société propose deux modèles sur HuggingFace, le référentiel de modèles : un vérificateur de faits Veritas « 0,6b » de 600 millions de paramètres et un modèle de 8 milliards de paramètres. Les deux sont basés sur l’architecture Qwen3 et fonctionnent sans réflexion, ce qui signifie qu’ils n’ont pas de couche de chaîne de pensée sous-jacente. Selon les fiches modèles, les performances des modèles ont été évaluées sur LLM-AggreFact ; les performances globales du modèle 0,6B ont obtenu une moyenne de 72,3 % par rapport à Qwen3, soit une amélioration de 7,4 %.
La société est également liée à un référentiel GitHub où elle proposera des outils open source, mais il n'est pas encore alimenté.
Resect n'a pas annoncé les noms de ses bailleurs de fonds, mais a déclaré que le financement provenait d'investisseurs en capital-investissement. La société a déclaré que le financement serait consacré à la recherche et au développement, aux initiatives de mise sur le marché et au recrutement de talents locaux dans les grandes régions de Seattle et de Portland.
