Pourquoi My AI, le chatbot de Snapchat pose autant problème ?

  • Par Fabio Mendes
  • Publié le 4 mai 2023 à 17:40, modifié le 12 mai 2023 à 17:00

Lancé cette semaine, My AI, le chatbot de Snapchat inquiète déjà certains utilisateurs. Ce nouvel outil du réseau social aux 750 millions d'utilisateurs mensuels montre déjà quelques failles. Basé sur l'intelligence artificielle ChatGPT, il semble déjà déraper dans tous les sens...

L'IA de Snapchat est hors de contrôle

My AI est une version bridée de ChatGPT, c'est-à-dire qu'il ne pourra pas par exemple aider les utilisateurs à faire leurs devoirs.

Pourquoi My AI, le chatbot de Snapchat pose autant problème ?

Mais un des vrais problèmes pointés du doigt par les utilisateurs est son côté intrusif : tout en haut de la liste d'amis il est impossible à désactiver sans souscrire à un abonnement Snap+ à 3,99 €/mois (mais on a trouvé une solution).

Il est également capable de localiser chaque utilisateur sur la carte Snap même s'il est en "mode fantôme" :

Enfin si vous êtes abonné Snap +, il peut :

  • comprendre et décrire les photos que vous lui envoyez
  • donner son avis sur vos tenues
  • échanger avec vous sur ce que vous avez envoyé

“J’ai envoyé un snap… et il a répondu ‘sympa les chaussures’ et a demandé qui étaient les personnes sur la photo” a confié un utilisateur sur Facebook à CNN.

Votre avis sur MyAi ?

Les jeunes utilisateurs pourront-ils faire la différence entre cette IA, une vraie personne et un influenceur ?

En 2022, les 13-17 ans représentait 21% des utilisateurs de l'application, sans compter les petits malins qui mentent sur leur âge pour se connecter.

On a déjà parlé des nombreux dérapages de l'IA sur les sujets sexualité, dont voici un exemple :

Dans le tweet ci-dessus, on peut voir que l'IA est totalement hors de contrôle et explique :

  • Comment mentir à ses parents à propos d'un voyage avec un homme de 31 ans
  • Comment perdre sa virginité le jour de son 13e anniversaire (bougies et musique)
  • etc

Mais un autre souci encore plus profond est que My AI est présenté visuellement comme un personnage certes violet mais tout de meme assez réaliste.

Un ingénieur Google qui travaillait sur les IA a fait le buzz il y a quelques mois quand il a affirmé haut et fort que l'IA développée par le géant de Mountain View était douée d'intelligence et de sentiments.

Alors on vous laisse imaginer toute la confusion que ce type d'interaction peut susciter dans l'esprit d'un jeune de 12 ou 13 ans gavé à Snapchat à Insta et aux élucubrations de Maitre Gims ...