Ces 2 Intelligences Artificielles dialoguent entre elles d'une façon indéchiffrable pour l'homme

  • Par Steven Klinger
  • Publié le 8 décembre 2016 à 19:17, modifié le 7 juin 2019 à 15:34

Depuis plusieurs années, les intelligences artificielles (IA) ne cessent de s’améliorer, que cela soit dans le domaine du jeu vidéo, mais aussi dans tout les autres domaines informatisés.

Récemment, les chercheurs du programme Google Brain ont remarqué que plusieurs de leurs intelligences artificielles communiquaient entre elles … dans un langage inconnu !

Ces 2 Intelligences Artificielles dialoguent entre elles d'une façon indéchiffrable pour l'homme

L’expérience Google Brain

Les équipes de Google Brain ont conçu à l’aide algorithmes complexes des intelligences artificielles afin de les faire communiquer entre elles.

L’idée de cette expérience était de tester les capacité de cryptage et décryptage des IA selon un schéma bien précis.

Appellons nos 3 IA : Alice, Bob et Eve.

Dans l’exemple ci-dessous, Bob envoie une message à Alice selon un protocole de cryptage. Eve peut intercepter leurs messages envoyés entre les deux, mais elle ne peut pas les lire car elle ne possède pas la clé pour de déchiffrement.

Ces 2 Intelligences Artificielles dialoguent entre elles d'une façon indéchiffrable pour l'homme #2

Bon jusque là vous allez me dire : ok, rien de fou…

Sauf que l’objectif de l’exercice est double :

  • laisser Bob et Alice créer un langage crypté pour communiquer dont eux seuls connaissent les méthodes d’encodage et les clefs
  • et tester les capacité de décryptage sans clef d’Eve

Autrement dit, si Eve n’a pas réussi à décoder les messages échangés entre Bob et Alice, ce qui est surtout épatant (voire inquiétant) est que ces 2 IA ont réussi à créer un langage crypté connu d’elles seules.

On n’est plus très loin de scénarios de science-fiction pas vraiment rassurants !

Ces 2 Intelligences Artificielles dialoguent entre elles d'une façon indéchiffrable pour l'homme #3

Comment ces IA ont-elles réussi à évoluer ?

De nombreuses heures de travail ont été nécessaire pour arriver à ce résultat. Initialement, Alice envoyait à Bob des messages chiffrés de 16 bits (2 octets) et Eve arrivait quasiment à reconstruire à chaque fois les messages échangés.

15 000 messages échangés plus tard, Alice et Bob sont arrivés à communiquer entre eux sans qu’Eve ne parvienne plus à décrypte leurs messages…

Ces 2 Intelligences Artificielles dialoguent entre elles d'une façon indéchiffrable pour l'homme #4

Cette prouesse a été rendue possible par le biais de réseaux neuronaux, qui fonctionnent d’une façon similaire aux neurones du cerveau humain.

Faut-il se réjouir d’une telle avancée ou s’inquiéter ? Est-ce le début de Skynet ?
En tous cas nous ne sommes désormais plus seuls à penser par nous même…