Pressroom

Nouveau navigateur ChatGPT Atlas : «Le danger principal : que l'IA agisse au nom de l'utilisateur» (Libération)

hacker-gloves-laptop-freepik
La start-up OpenAI a dévoilé mardi un moteur de recherche internet bâti sur sa célèbre intelligence artificielle. Fabian Suchanek, professeur à Télécom Paris, spécialisé dans les modèles de langage, décrypte les enjeux qui entourent un tel outil.

Fabian Suchanek, page perso (nouvelle fenêtre)[…] L’arrivée de ce nouvel outil marque-t-elle un véritable tournant en matière de numérique ?

C’est un des modèles de langage parmi les plus puissants sur le marché, donc l’initiative est notable – même si d’autres offrent déjà des chatbots intégrés dans leur navigateur, comme c’est le cas pour Opera, Firefox, Brave et Edge. Ce qui est « plus futuriste » et novateur est l’utilisation du système ChatGPT comme « agent ». Cela signifie que le robot lui-même va interagir avec la page web pour achever des tâches telles que faire une réservation ou acheter quelque chose. Le danger principal : que l’IA fasse des actions au nom de l’utilisateur. C’est une nouveauté.

Quels sont les risques de ces nouveautés ?

Ce sont les mêmes questions qui se posent avec les LLM [Large language models, soit un type de programme d’intelligence artificielle capable de reconnaître et générer un texte ndlr] en général. Il faut avoir conscience du degré auquel on veut partager ses données privées ici, l’historique de navigation par exemple. Les pages que je visite, leur contenu, notamment ce qui n’est pas accessible aux moteurs de recherche normalement, tels que les Google docs, ce type de choses… ChatGPT va pouvoir voir tout ça. C’est là où il y a un vrai défi de sécurité parce que jusqu’à maintenant, c’était toujours l’utilisateur lui-même qui effectuait l’action.

Au début, l’internaute va surveiller ce que l’IA a fait. Mais une fois qu’il lui fera confiance, il y a le risque que ChatGPT prenne des libertés et fasse des choses par erreur, ou qui n’étaient pas planifiées ! Maintenant, on peut aussi s’imaginer que ce serait détourné par des hackeurs qui manipuleraient le système. Mais c’est encore une autre problématique. […]

Image d’entête source Freepik