Google explique comment il améliore ses aperçus de l'IA

Google a répondu à la mauvaise presse entourant ses aperçus d'IA récemment déployés dans un nouveau article de blog par sa nouvelle responsable de la recherche, Liz Reid. Google a expliqué comment fonctionnent les aperçus d'IA, d'où viennent les étranges aperçus d'IA, les améliorations apportées et continuera d'apporter à ses aperçus d'IA.

Cependant, Google a déclaré que les chercheurs « sont plus satisfaits de leurs résultats de recherche et posent des questions plus longues et plus complexes pour lesquelles ils savent que Google peut désormais les aider », et fondamentalement, ces aperçus de l'IA ne mèneront nulle part.

Aussi bon que les extraits présentés. Google a déclaré que les aperçus d'IA sont « très efficaces » et, sur la base de ses tests internes, « le taux de précision des aperçus d'IA est comparable à celui des extraits de code ». Les extraits en vedette utilisent également l’IA, a déclaré Google à plusieurs reprises.

Aucune hallucination. Les aperçus de l'IA n'hallucinent généralement pas, a écrit Liz Reid de Google. Les aperçus de l'IA n'inventent pas les choses de la même manière que d'autres produits LLM, a-t-elle ajouté. Les aperçus de l’IA ne tournent généralement pas mal lorsque Google « interprète mal les requêtes, interprète mal une nuance de langage sur le Web ou ne dispose pas de beaucoup d’informations intéressantes », a-t-elle écrit.

Pourquoi ces « résultats étranges ». Google a expliqué qu'il avait testé « de manière approfondie » les aperçus de l'IA avant de les publier et qu'il était à l'aise de les publier. Mais Google a déclaré que les gens essayaient de faire en sorte que les aperçus de l'IA renvoient des résultats étranges. « Nous avons également constaté de nouvelles recherches absurdes, apparemment destinées à produire des résultats erronés », a écrit Google.

En outre, Google a écrit que les gens avaient falsifié de nombreux exemples, mais en manipulant des captures d'écran montrant de fausses réponses d'IA. « Ces aperçus de l'IA ne sont jamais apparus », a déclaré Google.

Quelques exemples étranges sont survenus, et Google apportera des améliorations dans ce type de cas. Google n'ajustera pas manuellement les aperçus de l'IA, mais améliorera plutôt les modèles afin qu'ils fonctionnent sur beaucoup plus de requêtes. « Nous ne nous contentons pas de « corriger » les requêtes une par une, mais nous travaillons sur des mises à jour qui peuvent aider un large éventail de requêtes, y compris de nouvelles que nous n'avons pas encore vues », a écrit Google.

Google a parlé des « vides de données », dont nous avons parlé à plusieurs reprises ici. L'exemple « Combien de pierres dois-je manger ? » était une requête que personne n’avait recherchée auparavant et qui ne contenait pas de contenu vraiment intéressant. Google a expliqué : « Cependant, dans ce cas, il existe un contenu satirique sur ce sujet… qui s'est également avéré être republié sur le site Web d'un fournisseur de logiciels géologiques. Ainsi, lorsque quelqu'un a posé cette question dans la recherche, un aperçu de l'IA est apparu, fidèlement lié à l'un des seuls sites Web à avoir abordé la question.

Améliorations des aperçus de l'IA. Google a partagé certaines des améliorations apportées aux aperçus de l'IA, expliquant qu'il continuera à apporter des améliorations à l'avenir. Voici ce que Google a déclaré avoir fait jusqu'à présent :

  • Création de meilleurs mécanismes de détection pour les requêtes absurdes qui ne devraient pas afficher un aperçu de l'IA et limitation de l'inclusion de contenu satirique et humoristique.
  • Mise à jour de ses systèmes pour limiter l'utilisation de contenu généré par les utilisateurs dans les réponses pouvant offrir des conseils trompeurs.
  • Ajout de restrictions de déclenchement pour les requêtes pour lesquelles les aperçus de l'IA ne s'avéraient pas aussi utiles.
  • Pour des sujets tels que l’actualité et la santé, Google a déclaré avoir déjà mis en place de solides garde-fous. Par exemple, Google a déclaré qu'il avait pour objectif de ne pas afficher d'aperçus de l'IA pour les sujets d'actualité difficiles, où la fraîcheur et la réalité sont importantes. Dans le cas de la santé, Google a déclaré avoir lancé des améliorations de déclenchement supplémentaires pour améliorer nos protections de qualité.

Enfin, « Nous continuerons à améliorer le moment et la manière dont nous affichons les aperçus de l'IA et à renforcer nos protections, y compris pour les cas extrêmes, et nous sommes très reconnaissants pour les commentaires continus », a conclu Liz Reid.

Pourquoi nous nous en soucions. Il semble que les aperçus de l'IA ne mèneront nulle part et Google continuera à les montrer aux chercheurs et à les déployer dans davantage de pays et d'utilisateurs à l'avenir. Vous pouvez vous attendre à ce qu’ils s’améliorent au fil du temps, à mesure que Google continue de recevoir des commentaires et d’améliorer ses systèmes.

D’ici là, je suis sûr que nous trouverons d’autres exemples d’aperçus d’IA inexacts et parfois humoristiques, similaires à ce que nous avons vu lors du lancement initial des extraits de code.

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine