Le contexte devient la couche manquante de l’IA d’entreprise

Le marché de l’IA d’entreprise entre dans une nouvelle phase. Au cours des dernières années, l’accent a été mis sur des modèles plus grands, une inférence plus rapide et un déploiement plus large de capacités d’IA générative. Pourtant, malgré des investissements croissants, de nombreuses organisations continuent de rencontrer des difficultés en matière de gouvernance, de précision, d’évolutivité opérationnelle et de résultats commerciaux mesurables.

Le défi devient de plus en plus clair : de meilleurs modèles ne garantissent pas à eux seuls de meilleurs résultats.

Selon CUBE Research, les organisations passent rapidement de l’expérimentation de l’IA aux déploiements en production, mais nombre d’entre elles découvrent que l’écart entre ce que les modèles d’IA peuvent faire et la valeur qu’ils apportent réellement reste obstinément important. De plus en plus, la conversation passe de la performance du modèle au contexte.

Dans le dernier épisode du podcast AppDevANGLEle projet de recherche CUBE Paul Nashawaty parlé avec Molham Areffondateur et PDG de RelationalAI, sur l'écart croissant de valeur de l'IA, l'importance de l'intelligence contextuelle et pourquoi la prochaine vague d'IA d'entreprise pourrait dépendre davantage de la compréhension relationnelle que de l'avancement du modèle.

Pourquoi les modèles plus gros ne comblent pas l’écart de valeur de l’IA

L’un des thèmes centraux de la discussion était que de nombreuses initiatives d’IA en entreprise rencontrent des difficultés parce qu’elles manquent de contexte commercial suffisant.

Même si les grands modèles de langage se sont révélés très efficaces dans des domaines tels que le développement de logiciels et les flux de travail centrés sur les documents, ils ne suffisent souvent pas lorsqu'on leur demande de prendre en charge des processus décisionnels critiques pour l'entreprise. L'optimisation de la chaîne d'approvisionnement, les décisions de tarification, la gestion des risques, la détection des fraudes et la planification opérationnelle reposent toutes sur des données commerciales structurées et des relations complexes qui s'étendent bien au-delà du texte.

« L'écart existe vraiment dans les éléments qui animent votre entreprise », a expliqué Aref. « Y a-t-il vraiment des agents qui dirigent leur chaîne d'approvisionnement ? Des agents qui décident du prix des produits ? Il y a très peu de preuves que cela se produise à grande échelle. »

Le problème n’est pas nécessairement l’intelligence du modèle. Le fait est que la prise de décision d'une entreprise dépend de systèmes d'enregistrement, de données transactionnelles, de règles métier et de relations difficiles à capturer uniquement à l'aide d'invites.

Le contexte doit être plus que des documents

L’industrie a de plus en plus adopté l’idée selon laquelle l’IA nécessite du contexte. De la génération augmentée par récupération aux bases de données vectorielles et à la recherche sémantique, les fournisseurs du marché se précipitent pour fournir des informations plus pertinentes aux systèmes d'IA.

La plupart des approches échouent encore car elles se concentrent principalement sur les documents et le texte, selon Aref.

« Qu'est-ce que le contexte ? » » a-t-il demandé pendant la discussion. « Historiquement, le contexte a inclus les données. Mais de plus en plus de gens réalisent l'importance de la sémantique : la manière dont les données sont calculées, dont les entreprises définissent les concepts et dont les relations importantes sont dérivées. »

Le point de vue de RelationalAI est que le contexte doit devenir exécutable. Plutôt que de simplement fournir des documents ou des informations statiques, les systèmes d’IA doivent accéder à des structures relationnelles, à une logique métier et à des modèles sémantiques qui représentent le fonctionnement réel des organisations.

Cette approche fait passer le contexte d’un matériau de référence passif à un élément actif du raisonnement et de la prise de décision.

Les données structurées deviennent stratégiques

Depuis des décennies, les logiciels d’entreprise sont construits autour de données structurées. Les bases de données, les systèmes ERP, les plateformes CRM et les applications transactionnelles restent les systèmes qui font fonctionner les entreprises au quotidien. Pourtant, une grande partie de l’écosystème actuel de l’IA reste optimisée pour le texte.

Cette déconnexion est l’une des principales raisons pour lesquelles les entreprises ont du mal à opérationnaliser l’IA au-delà des projets pilotes, a expliqué Aref.

« C'est vraiment dans le nom : l'IA relationnelle », a-t-il déclaré. « Le contexte doit être relationnel. Tout mettre en texte et en documents ne suffit pas. »

Alors que les organisations cherchent à passer des copilotes aux systèmes d’aide à la décision autonomes ou semi-autonomes, les données relationnelles, les relations sémantiques et la logique métier exécutable deviennent de plus en plus importantes. Les systèmes d’IA doivent comprendre non seulement quelles données existent, mais également comment ces données sont liées aux objectifs, processus et résultats de l’entreprise.

La rentabilité nécessite un meilleur contexte

Le contexte n’est pas seulement un problème de qualité ; cela devient une question économique. À mesure que les déploiements d’IA en entreprise évoluent, la consommation de jetons, les coûts d’infrastructure et les dépenses d’inférence deviennent des sujets de discussion au niveau du conseil d’administration. Les organisations recherchent de plus en plus de moyens d'améliorer l'efficacité des modèles tout en réduisant les coûts opérationnels.

Aref a souligné le contexte comme un levier essentiel pour contrôler l’économie de l’IA : « Il est très important de disposer du bon type de contexte qui guide très rapidement les agents vers les bonnes informations et les empêche de parcourir les mauvaises informations », a-t-il déclaré.

Plutôt que d’obliger les modèles à traiter de manière répétée de grands volumes d’informations non pertinentes, les systèmes contextuels peuvent guider les agents vers les bonnes données, les bons outils et les bonnes voies de décision. Le résultat est une efficacité améliorée, une consommation de jetons réduite et des résultats commerciaux potentiellement meilleurs.

La prochaine phase de l'IA d'entreprise

Pour l’avenir, Aref estime que le marché évolue vers un avenir dans lequel le contexte, la sémantique et les capacités de raisonnement spécialisées deviendront des composants fondamentaux des architectures d’IA d’entreprise.

L'attention du secteur évolue progressivement, passant de la question de savoir si les modèles peuvent générer des réponses à la question de savoir s'ils peuvent générer des résultats commerciaux précieux. Cette distinction est importante.

Alors que les organisations recherchent un retour sur investissement mesurable grâce à leurs investissements en IA, le succès dépendra de plus en plus de leur capacité à connecter des modèles avec des connaissances d'entreprise structurées, des processus métier et des cadres de décision.

Les gagnants de la prochaine phase de l’IA ne seront peut-être pas ceux qui disposent des modèles les plus vastes, mais ceux qui peuvent fournir la compréhension la plus riche du fonctionnement réel des entreprises.

Comme le dit Aref : « Tout le monde reconnaît que ces modèles seuls, sans contexte, ne fonctionnent pas. »

Pour les entreprises cherchant à combler l’écart de valeur de l’IA, le contexte pourrait à terme devenir la couche la plus importante de la pile.

Voici la conversation complète avec Paul Nashawaty de CUBE Research et Molham Aref, PDG de RelationalAI, dans le cadre de la série de podcasts AppDevANGLE :

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine