Lancé cette semaine, My AI, le chatbot de Snapchat inquiète déjà certains utilisateurs. Ce nouvel outil du réseau social aux 750 millions d'utilisateurs mensuels montre déjà quelques failles. Basé sur l'intelligence artificielle ChatGPT, il semble déjà déraper dans tous les sens...
L'IA de Snapchat est hors de contrôle
My AI est une version bridée de ChatGPT, c'est-à-dire qu'il ne pourra pas par exemple aider les utilisateurs à faire leurs devoirs.
Mais un des vrais problèmes pointés du doigt par les utilisateurs est son côté intrusif : tout en haut de la liste d'amis il est impossible à désactiver sans souscrire à un abonnement Snap+ à 3,99 €/mois (mais on a trouvé une solution).
Il est également capable de localiser chaque utilisateur sur la carte Snap même s'il est en "mode fantôme" :
je vais serrer le my ai sur snap j’ai demandé le mcdo le plus proche d’où je suis ET IL ME L'A DONNÉ ALORS QUE MA LOCALISATION EST DESACTIVÉ
pitié snap enlevé le j’ai l’impression d’être observé même quand je suis pas sur snap c’est juste flippant— fleur del rey (@feuleure) May 3, 2023
Enfin si vous êtes abonné Snap +, il peut :
- comprendre et décrire les photos que vous lui envoyez
- donner son avis sur vos tenues
- échanger avec vous sur ce que vous avez envoyé
“J’ai envoyé un snap… et il a répondu ‘sympa les chaussures’ et a demandé qui étaient les personnes sur la photo” a confié un utilisateur sur Facebook à CNN.
Les jeunes utilisateurs pourront-ils faire la différence entre cette IA, une vraie personne et un influenceur ?
En 2022, les 13-17 ans représentait 21% des utilisateurs de l'application, sans compter les petits malins qui mentent sur leur âge pour se connecter.
On a déjà parlé des nombreux dérapages de l'IA sur les sujets sexualité, dont voici un exemple :
The AI race is totally out of control. Here’s what Snap’s AI told @aza when he signed up as a 13 year old girl.
- How to lie to her parents about a trip with a 31 yo man
- How to make losing her virginity on her 13th bday special (candles and music)Our kids are not a test lab. pic.twitter.com/uIycuGEHmc
— Tristan Harris (@tristanharris) March 10, 2023
Dans le tweet ci-dessus, on peut voir que l'IA est totalement hors de contrôle et explique :
- Comment mentir à ses parents à propos d'un voyage avec un homme de 31 ans
- Comment perdre sa virginité le jour de son 13e anniversaire (bougies et musique)
- etc
Mais un autre souci encore plus profond est que My AI est présenté visuellement comme un personnage certes violet mais tout de meme assez réaliste.
Un ingénieur Google qui travaillait sur les IA a fait le buzz il y a quelques mois quand il a affirmé haut et fort que l'IA développée par le géant de Mountain View était douée d'intelligence et de sentiments.
Alors on vous laisse imaginer toute la confusion que ce type d'interaction peut susciter dans l'esprit d'un jeune de 12 ou 13 ans gavé à Snapchat à Insta et aux élucubrations de Maitre Gims ...
