L'IA peut désormais lire vos pensées et c'est très inquiétant

  • Par Alexandre Boyer
  • Publié le 4 mai 2023 à 10:36, modifié le 12 mai 2023 à 17:01

Des chercheurs américains ont réussi à transcrire les pensées en texte. Cet exploit a été possible grâce à une IA similaire à ChatGPT et à des IRMf (Imagerie par Résonance Magnétique Fonctionnelle). Une innovation technologique pour l’instant uniquement à usage médical, pour aider les personnes qui ne peuvent plus s’exprimer.

Un décodeur pour retranscrire les pensées en texte

Dans une étude publiée le 1er mai dans Nature Neuroscience, des scientifiques ont réalisé ce qui jusque-là semblait du domaine de l’impossible : ils ont développé un décodeur de pensées aussi appelé décodeur sémantique. Et oui, maintenant même vos pensées ne seront plus privées. Bon rassurez-vous, vous avez encore un peu de temps avant que ce décodeur ne se démocratise.

Si ce décodeur arrive à retranscrire l’activité cérébrale humaine sous forme de texte, sa mise en place de système est assez longue : trois personnes ont dû passer 16 heures à le calibrer lors des premiers tests.

L'IA peut désormais lire vos pensées et c'est très inquiétant

Les médecins ont dû raconter des histoires a leurs patients pendant que leurs flux sanguin étaient analysés, l’objectif étant de déterminer quelles parties de leur cerveau été stimulées a ce moment précis.

Ces données ont ensuite été envoyées à GPT-1, l’ancêtre de ChatGPT, qui s’est révélé très efficace pour reconnaître les schémas cérébraux relevés par l’IRMf et les associer à des mots ou des lettres. Une fois que l’IA a analysé toutes ces données, il a été capable de retranscrire les pensées des patients.

Même si son interprétation divergeait un peu de ce qu’entendaient les patients, elle restait compréhensible.
Par exemple dans le compte rendu de l’étude, on peut voir que lorsqu’un patient entend « Je n’ai pas encore mon permis de conduire » le décodeur le traduit sa pensée par « Elle n’a même pas encore commencé à apprendre à conduire« .

L'IA peut désormais lire vos pensées et c'est très inquiétant #2

Ce décodeur ne fonctionne que sur les personnes sur lesquelles il est entraîné

Ce décodeur peut être utilisé pour les personnes qui ont perdu l’usage de la parole, comme l’a expliqué Jerry Tang, un étudiant qui travaille sur ce projet, à Vice :

L’objectif du décodage du langage est de prendre les enregistrements de l’activité cérébrale d’un utilisateur et de prédire les mots qu’il a entendus, dits ou imaginés.

Pour l’instant cet appareil est encore trop gros pour être déplacé et impossible à utiliser sans opérateurs, mais les choses pourraient rapidement évoluer … surtout si certains services de renseignements investissent massivement dans le projet !

Les chercheurs assurent que leur décodeur ne fonctionne bien qu’avec des personnes qui ont accepté d’entrainer ce dispositif de leur plein gré, néanmoins il fait froid dans le dos : on imagine très bien comment il pourrait être rapidement détourné par des services de renseignement afin de violer tous nos droits les plus élémentaires à la vie privée…

L'IA peut désormais lire vos pensées et c'est très inquiétant #3