Meta Muse : une page par proche, tenue à jour chaque heure

Muse, l'assistant personnel de Meta, est conçu pour créer « une page pour chaque personne de la vie de l'utilisateur ». C'est ce que montrent ses instructions système, extraites par plusieurs chercheurs et relayées par Wired. Selon le média, l'agent a été téléchargé par des millions de personnes, qui le relient à leurs comptes bancaires, leurs messages ou leurs données de santé.

Une fiche pour chaque relation

Le chercheur indépendant en sécurité de l'IA Karan Joshi a obtenu ces fichiers via l'interface de discussion habituelle, en demandant à Muse de copier et partager ses propres fichiers logiciels. Il a transmis le résultat à Wired. Meta affirme avoir voulu rendre ces fichiers accessibles par souci de transparence.

D'après les instructions, un processus horaire rassemble des données sur la famille, les partenaires, les amis, les collègues, les « collaborateurs » et les personnes que l'utilisateur « suit ». La mémoire de Muse repose sur des fichiers texte structurés. Une page peut démarrer « clairsemée » puis s'étoffer, avec des rubriques comme Faits, Historique, La relation, Points communs, Fils ouverts et Renforcement.

On y trouve le lieu de vie, l'activité, les sujets récurrents (un déménagement, un objectif d'épargne commun) et les dates qui comptent, comme anniversaires ou fêtes. La rubrique « Renforcement » propose par exemple une raison d'appeler ou un point à rouvrir. Les consignes précisent que Muse ne doit s'appuyer que sur les « preuves » disponibles, et qu'un détail inventé est pire qu'une page vide.

« Ils veulent comprendre les relations que vous entretenez avec de vraies personnes », estime Karan Joshi. « Ils essaient de vous connaître comme un ami, ce qui est franchement assez inquiétant » (traduction), ajoute-t-il (Wired).

La défense de Meta

Le porte-parole Daniel Roberts répond qu'un agent utile a besoin de contexte sur l'utilisateur et sur ses interlocuteurs. Muse s'appuierait sur des informations publiques et sur ce que l'utilisateur choisit de partager. Meta ajoute plusieurs garde-fous : chaque utilisateur dispose d'une machine virtuelle dédiée, inaccessible aux autres agents ; il peut effacer les souvenirs ou déconnecter des services à tout moment ; une confirmation humaine est demandée avant un envoi d'e-mail ou un achat ; un journal d'audit montre l'activité et les actions prévues.

Des experts inquiets de l'appétit en données

Miranda Bogen, du Center for Democracy and Technology, juge que Muse met davantage l'accent sur les relations et les contacts que ses concurrents. Selon elle, ces outils « sollicitent activement les utilisateurs pour qu'ils y branchent toute leur vie » (traduction), ce qui représente « bien plus d'informations » que ce que les gens confiaient jusque-là à ces entreprises (Wired).

Carissa Véliz, de l'Institute for Ethics in AI à Oxford, souligne l'asymétrie : « Nous donnons aux systèmes d'IA bien plus d'informations sur nous que nous n'en recevons d'eux » (traduction). Elle vise aussi ce qu'ils peuvent déduire, à raison ou à tort, et recouper à partir d'autres sources.

Les personnes concernées par ces fiches, elles, n'utilisent pas forcément Muse. Les sources ne précisent pas comment Meta traite leur cas.

Une présentation publique qui alimente le débat

Lors de la conférence Meta Connect, Alexandr Wang, qui dirige l'IA chez Meta, a présenté des nouveautés de Muse : mesures de sécurité, application Mac, déploiement dans davantage de pays. « C'est ainsi que l'on fait des agents personnels pour tout le monde », a-t-il déclaré, selon Slate. Toujours d'après Slate, il a raconté pouvoir suivre les recherches de certains utilisateurs, citant quelqu'un qui avait cassé le service de porcelaine préféré de sa belle-mère et un autre qui préparait des vacances avec sa femme. L'autrice, Steffi Cao, juge l'anecdote « assez étrange » ; le texte ne précise pas comment ces données ont été consultées.

Slate replace Muse dans la concurrence entre Meta et OpenAI sur les agents personnels. Meta n'a pas, à ce stade, détaillé davantage le fonctionnement des pages dans les sources disponibles.