Meta Platforms Inc. s'associe à Walmart Inc., Stripe Inc. et à la société d'intelligence artificielle d'entreprise Sierra Technologies Inc. pour la création de nouvelles normes qui définiront la manière dont les agents d'IA autonomes interagissent avec d'autres entreprises en ligne.
La nouvelle norme a été introduite par Bret Tayler, cofondateur de Sierra et ancien co-directeur général de Salesforce Inc., qui a déclaré qu'elle aiderait les entreprises à distinguer les achats des agents IA autorisés à travailler pour le compte de leurs utilisateurs. « Nous le concevons pour gérer l'authentification, responsabiliser les consommateurs et donner aux entreprises une visibilité sur ce que font les agents personnels via leurs sites Web, leurs API ou leurs agents », a écrit Taylor dans un article de blog. « La mise en œuvre est ouverte à tous. »
De nombreuses sociétés d'IA, y compris Meta et son agent d'IA personnel Muse, parient gros sur le commerce agent, ou sur l'idée que les gens utiliseront simplement des agents pour effectuer des achats en ligne pour eux. Cependant, des inquiétudes majeures ont été soulevées concernant la sécurité des agents d’IA et les problèmes qui pourraient survenir s’ils avaient accès à des fonds personnels et s’ils étaient laissés en liberté sur Internet.
« Nous définissons des rails que nous espérons que les agents personnels et les agents commerciaux pourront parcourir à l'avenir », a déclaré David Singleton, vice-président de l'ingénierie et des produits de consommation de Meta Superintelligence Labs, dans une interview avec CNBC. « Si vous pensez au courrier électronique, cela fonctionne très bien car c'est une norme que tout le monde peut utiliser pour se parler, et nous pensons que ce sera assez similaire. »
Meta, Sierra et leurs partenaires appellent la nouvelle norme le protocole d'agent personnel, et cela semble être une réponse à un appel de six grandes banques, dont Bank of America et Capital One, pour fournir plus de clarté sur les agents d'IA. Le mois dernier, les banques ont publié un document exhortant l'industrie de l'IA à établir des normes, des politiques et des protections des consommateurs complètes basées sur cinq principes clés : transparence, sécurité, confidentialité et données, choix et interopérabilité.
Les craintes autour des agents d’IA sont répandues. Certains craignent que leur adoption puisse entraîner une augmentation des escroqueries financières, des fraudes et des litiges, ont affirmé les banques. Ils pensent également que les agents IA pourraient donner la priorité à certains types de produits ou méthodes de paiement en raison d'incitations telles que des commissions plus élevées, plutôt que de choisir ce qui convient le mieux à leurs utilisateurs.
Muse, le nouvel agent de Meta, qui n'a été lancé que le mois dernier mais est déjà devenu l'une des applications les plus téléchargées sur l'App Store d'Apple Inc., a déjà soulevé des problèmes de confidentialité. Lundi, 404 Media a rapporté que les ingénieurs de Meta avaient dû s'efforcer de corriger plusieurs failles de sécurité dangereuses dans l'agent afin de le préparer pour sa date de lancement. Mais même avec Meta faisant des heures supplémentaires, les chercheurs ont déjà soulevé un certain nombre de problèmes de confidentialité et de sécurité concernant Muse.
Muse s'est également vu interdire de faire quoi que ce soit sur la plateforme de vente au détail en ligne d'Amazon.com Inc., après que cette société a déclaré que les agents n'avaient pas réussi à s'identifier, ce qui a suscité des inquiétudes quant à la manière dont ils pourraient gérer les données et les informations d'identification des comptes des utilisateurs. Cette semaine, Muse a encore fait la une des journaux lorsque Wired a rapporté que Muse créait des profils pour chaque personne dans la vie de ses utilisateurs, même si elles n'utilisent pas Muse elles-mêmes.
Taylor, qui semble être à l'avant-garde du développement du protocole d'agent personnel, a déclaré à CNBC qu'il y aurait « du chaos jusqu'à ce qu'une telle norme existe » qui puisse garantir la visibilité et la transparence de ce que font les agents personnels sur les sites Web des détaillants. Taylor, qui est également président d'OpenAI Group PBC, a déclaré qu'il s'attend à ce que le géant de l'IA soutienne également la norme à l'avenir.
Singleton a déclaré que Meta espère que la norme rendra les agents commerciaux plus faciles à adopter, à faire confiance et à utiliser pour les consommateurs. Meta a de bonnes raisons de vouloir que cela se produise. Selon un rapport de Citigroup publié plus tôt cette semaine, Muse pourrait générer plus de 27 milliards de dollars de revenus pour l'entreprise d'ici la fin de la décennie, alors qu'elle s'efforce de devenir la « porte d'entrée » du monde des achats en ligne.
