La startup d'intelligence artificielle Anthropic PBC a annoncé aujourd'hui qu'elle changeait la façon dont Claude, son produit phare d'IA, utilise la mémoire en permettant aux utilisateurs de voir tout ce dont il se souvient « sujet par sujet » et de le modifier ou de le supprimer.
Claude ne stocke pas non plus les sujets sensibles par défaut. Cela inclut les sujets mentionnés par les utilisateurs, notamment les problèmes de santé, la race, l'origine ethnique, l'identité de genre, la religion ou les convictions politiques. Cependant, si un utilisateur actionne une bascule, l’IA les ajoutera à sa mémoire.
Avec la mise à jour, la mémoire de l'IA persistera également dans le chat et dans Cowork, l'agent IA de bureau de l'entreprise qui peut effectuer des tâches en plusieurs étapes. C'est désormais le même que celui que Claude utilise lorsqu'un utilisateur pose des questions et réfléchit, ou se plonge profondément dans le travail agent, crée des documents, code des sites Web à grande échelle ou exécute des tâches dans le cloud. Cela signifie que peu importe qu'un utilisateur soit assis devant son ordinateur, sur son mobile, sur le Web ou qu'il se connecte à l'agent Cowork : il « se souvient » toujours des sujets évoqués dans le chat au fil des mois de contexte.
Anthropic a expliqué cela comme n'ayant pas besoin de réexpliquer la même chose encore et encore. Claude connaît déjà des sujets simples que tu lui racontes souvent.
Par exemple, si vous utilisez Cowork pour créer un rapport pour votre responsable, il peut mémoriser tout le contexte de vos discussions au cours desquelles vous avez discuté de qui est votre responsable, de son nom, de ses préférences quant à la façon dont elle aime la rédaction des rapports et de la voix que vous aimez utiliser (par exemple, ne pas commencer les puces par un verbe « fort »). Expliquez une fois dans le chat comment l'équipe définit les métriques et comment elle les aime visualisées et Cowork les utilise lorsqu'il crée des diapositives à partir de là.
Si l'utilisateur ne l'aime pas, il peut rapidement le sauvegarder dans la mémoire, trouver le sujet dans l'interface et le modifier rapidement à son goût. Ils peuvent aussi simplement le dire à Claude : cela ajoute des souvenirs au fur et à mesure que la conversation se déroule, au lieu de résumer les conversations une fois qu'elles sont terminées.
Mentionnez la date limite d'un projet déplacée à septembre, et la conversation suivante le sait déjà sans avoir besoin de dire « souviens-toi de ça ».
S'occuper des sujets sensibles
Bien que Claude soit configuré pour ignorer automatiquement les sujets sensibles, une fois que les sujets sensibles sont autorisés, les utilisateurs verront un avis indiquant que le modèle d'IA pense avoir stocké ce qui pourrait être considéré comme un sujet délicat.
Tout ce qui précède l'activation de la bascule n'est pas enregistré. Anthropic a noté que certains sujets ne sont jamais enregistrés, même lorsque les sujets sensibles sont activés. Il s'agit notamment d'informations hautement privées telles que les numéros de sécurité sociale, les numéros d'identification gouvernementaux, les antécédents criminels, le statut d'immigration et les sujets susceptibles de violer la politique d'utilisation acceptable de l'entreprise, qui comprend de nombreuses directives concernant la sécurité, les dommages émotionnels, la confidentialité et l'identité.
