Oui les IA agentiques sont dangereuses pour votre vie privée, c'est en tout cas ce que pense Meredith Whittaker, la présidente de Signal.
Après les chatbots élaborant de riches réponses, l'ère de l'IA se tourne désormais vers des IA "agentiques", ou semi-autonomes. Plusieurs éditeurs sont déjà sur le coup, c'est le cas d'Opera Software, de Perplexity ou encore de The Browser Company qui planchent sur des navigateurs de nouvelles génération.
La paresse, au détriment de la vie privée
Pour Meredith Whittaker, ces éditeurs présentent l'IA agentique comme un formidable serviteur capable de réaliser des tâches pour vous. De lui-même, le navigateur sera donc en mesure d'effectuer une réservation dans un restaurant, d'ajouter un événement à votre calendrier ou d'effectuer des achats en ligne.
"Nous pouvons donc simplement mettre notre cerveau de côté parce que ce truc fait ces choses sans que l'on ait à intervenir, c'est bien ça ?" a affirmé la présidente de Signal à l'occasion du festival SXSW qui se déroule actuellement à Austin, au Texas.
Mais pour elle, la réalisation de ces actions est bien plus complexe qu'il n'y paraît et pose un véritable problème en termes de confidentialité et de sécurité pour l'utilisateur.
Une prise de contrôle total de l'ordinateur
Pour réaliser des paiements, accéder aux applications de messagerie ou aux calendriers, les algorithmes d'Intelligence artificielle auraient besoin d'obtenir des accès proches de celui d'un utilisateur "root" sur la machine, c'est-à-dire avec les pleins droits d'administrateur. Selon Meredith Whittaker, ces accès seraient par ailleurs "probablement en clair, parce qu'il n'existe aucun modèle capable de faire du chiffrement".
Selon Techcrunch, qui rapporte ces propos, elle ajoute qu'une IA ne serait certainement pas capable de faire tout cela directement en local. Non seulement ces agents IA ouvriraient des barrières entre le socle applicatif et le système d'exploitation, mais en plus, ils enverraient ces requêtes directement sur des infrastructures cloud tierces pour les traiter.
Elle affirme alors : "Il y a donc un profond problème de sécurité et de confidentialité qui plane au-dessus de ce battage médiatique autour des agents".
Et de conclure que Signal n'embarquera pas d'IA, car cela affecterait grandement la sécurité de l'application en lui octroyant des droits de lecture sur les contenus des messages pour, par exemple, les résumer.
