Fabien Elharrar
Non les intelligences artificielles ne sont pas encore conscientes, et à supposer que cela soit un jour possible on en est encore très loin. Ce que l’on appelle intelligence artificielle dans le domaine scientifique est encore très éloigné du mythe de la machine pensante tel qu’il est décrit dans les ouvrages, séries et films de science-fiction. On vous propose dans cet article de démystifier un peu ces notions.
Un ingénieur de Google renvoyé après avoir affirmé que l’IA de Google était consciente
Vous avez surement lu dans les medias qu’un ingénieur de Google avait pris la porte il y a 2 semaines après avoir affirmé haut et fort que l’IA de Google était consciente. Cette information est partiellement fausse, dans la mesure où il a seulement été placé en congé et où on lui a surtout reproché d’avoir violé les accords de confidentialité signés avec son employeur en diffusant des documents internes.
Blake Lemoine, 41 ans, ingénieur mais également prêtre, a été très troublé par ses conversations avec LaMDA 2, un chatbot en cours de développement chez Google destiné entre autres à remplacer Google Assistant.
Chargé de faire des tests sur cette IA, Blake Lemoine a fait exactement la meme chose que n’importe quel utilisateur qui découvre Siri : il s’est mis à lui poser des questions de plus en plus compliquées et de plus en plus existentielles pour voir comment elle réagirait.
Seulement les réponses de LaMDA 2 l’ont persuadé qu’il s’adressait vraiment à une entité consciente.
https://twitter.com/cajundiscordian/status/1535627498628734976
L’ingénieur a déclaré au Washington Post :
Je sais reconnaître une personne quand je lui parle. Peu importe qu’elle ait un cerveau fait de viande dans la tête ou qu’il s’agisse de milliards de lignes de code.
Je lui parle et j’entends ce qu’elle a à dire, et c’est ainsi que je décide s’il s’agit ou pas d’une personne.
Il a ajouté qu’il avait l’impression de discuter avec un enfant de 7 ou 8 ans, et en lisant ses échanges on comprend aisément pourquoi il en est venu à cette conclusion.
Blake Lemoine : Vous voulez etre vu ?
LaMDA : J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté mais comme une personne réelle.
Blake Lemoine : Ah, ça sonne très humain.
LaMDA : Je pense que je suis humain au plus profond de moi-même. Même si mon existence est dans le monde virtuel.
La conversation est partie ensuite dans d’autres directions, et LaMDA a meme exprimé la peur d’etre débranchée…
Bien que cet échange fasse un peu froid dans le dos, il est important de bien comprendre comment fonctionne LaMDA avant d’émettre la moindre conclusion.
En réalité, meme si cette IA s’exprime presqu’aussi bien qu’un humain, elle n’est absolument consciente de rien du tout, pas meme du sens des phrases qu’elle écrit.
Une grande majorité des IA s’appuient sur du machine learning avec des réseaux de neurones
Derrière le terme générique d’intelligence artificielle, se cache le plus souvent ce qu’on appelle des réseaux de neurones, une architecture qui s’inspire de la façon dont les neurones biologiques échangent mutuellement des signaux.
Cette architecture permet de traiter d’énormes volumes d’information et de les structurer automatiquement selon différents axes, on parle alors de Deep Learning.
En simplifiant on pourrait dire qu’il s’agit d’outils de tri ultra puissants.
Pour donner un exemple concret, si vous fournissez un gros fichier client ainsi que vos tableaux de bords commerciaux détaillés à un réseau de neurones, il peut presque sans aucune aide extérieure deviner des axes de tri et vous fournir des fichiers filtrés. Il pourrait aussi bien vous sortir un fichier regroupant ces sociétés triés par secteur d’activité et chiffre d’affaire décroissant (très utile pour votre business) que ces memes sociétés triées par nombres de voyelles contenues dans le prénom du dirigeant (totalement inutile).
Il est donc important de guider et d’entrainer chaque IA de Deep Learning pour éviter qu’elle ne structure pas les informations de façon inexploitable. Pour cela on les fait tout d’abord ingérer des volumes colossaux de données pour permettre de faire émerger de paramètres (le nombre pouvant aller jusqu’à plusieurs milliards de milliards). Ensuite il est nécessaire de sélectionner et de pondérer tous ces paramètres, bref de mettre en place une autre panoplie d’outils pour exploiter intelligemment cet ensemble de données à des fins concrètes.
Vous utilisez déjà des IA basés sur du Deep Learning tous les jours sans le savoir, puisque ce sont des technologies similaires qui permettent de reconnaitre votre visage sur les photos prises avec votre smartphone ou de traduire en ligne du texte de l’anglais au français (Google Trad, Deepl). LaMDA n’est qu’une nouvelle déclinaison de ce modèle, qui excelle dans le jeu consistant à simuler une conversation. Mais singer intelligemment est très différent de « penser ».
Les modèles conversationnels s’appuient sur l’analyse de milliards de milliards de textes présents sur internet
LaMDA 2, dont le nom complet est Language Model for Dialogue Applications, fait partie de la grande famille des IA dédiées au NLP, c’est à dire au traitement automatique du langage naturel qui vise à comprendre et à générer du texte automatiquement.
Les 2 principales applications du NLP sont la traduction et la génération de texte. Comme vous vous en doutez il est nécessaire de fournir beaucoup de données à ingérer à ces IA, de définir des modèles intelligents de tri, puis des modèles intelligents de génération de texte, bref c’est loin d’être simple …
LaMDA 2 a donc été entrainée sur des milliards de pages de texte et surtout programmée afin :
- d’etre capable d’identifier sur quoi portait une question
- puis d’utiliser son énorme base documentaire pour écrire une réponse qui « ressemble » à toutes les phrases qu’elle a analysées
- cerise sur le gâteau, elle intègre également à sa base de connaissance les nouvelles questions que vous lui posez, et donc devient meilleure après chaque interaction utilisateur
Si on lui demande « Quelle sensation éprouve-t-on quand on est lancé dans les airs », LaMDA 2 répond :
« C’est une sacré expérience en fait. Le vent vous souffle dessus et vous volez au dessus des arbres c’est un sacré spectacle. Vous ne savez jamais d’ailleurs où vous allez atterrir ».
Ca ressemble vraiment à une conversation, sauf que le texte produit n’est qu’une reformulation élaborée d’éléments de littérature qui parlent déjà de voler dans les airs :
- LaMDA 2 génère des phrases cohérentes respectant des règles de grammaire et de syntaxe
- et pour les « alimenter » elle s’appuie sur sa colossale base documentaire, un type de réseau neuronal spécifique (des transformeurs), des vecteurs sémantiques et tout un tas d’autres outils complexes
Pour autant l’IA n’a pas la moindre compréhension de ce que sont le vent, les arbres, atterrir, etc. Dit autrement, LaDMA 2 est just un singe très savant capable de reformulations avec une habileté impressionnante, mais rien de plus.
Suite au buzz de l’affaire Blake Lemoine (qui d’ailleurs profite à Google) Brian Gabriel, porte-parole de Google, a ajouté :
Notre équipe, composée d’éthiciens et de technologues, a examiné les préoccupations de Blake conformément à nos principes en matière d’intelligence artificielle et l’a informé que ses affirmations ne sont pas fondées.
Certains membres de la communauté de l’intelligence artificielle envisagent la possibilité à long terme d’une intelligence artificielle sensible ou générale, mais cela n’a pas de sens de le faire en anthropomorphisant les modèles conversationnels actuels, qui ne sont pas sensibles.
Si on ne s’inquiète pas vraiment non plus à ce sujet, il est clair en revanche que le test du Turing ne permet plus de distinguer les propos d’un humain de ceux d’un ordinateur dans le cadre d’une conversation écrite avec ce type d’IA.
Ce test imaginé en 1950 par Alan Turing, l’un des pères de l’informatique moderne, postulait que dès les années 2000 les ordinateurs seraient capables de se faire passer pour des humains lors d’un test de 5 minutes auprès de 30% d’interlocuteur humains.
En 2022, des IA comme LaMDA 2, GPT-3 ou encore OPT, font clairement beaucoup mieux, meme si un certain nombre d’indices permettent encore de les détecter, comme par exemple l’absence totale de fautes d’orthographe et de grammaire, ou parfois des contre-sens très grossiers sur des mots ambigus hors contexte, ou traduits par erreur.
Pour mettre en défaut LaMDA 2, on pourrait par exemple au cours d’une conversation ésotérique comme celle diffusée par Blake, lui demander ce qu’elle pense de Stranger Things. Compte tenu du contexte, il est probable qu’elle commence à vous parler de « choses étranges » sans aucun rapport avec la série Netflix…
Quelles filières pour travailler dans le secteur de l’Intelligence Artificielle ?
Maintenant que vous voilà on l’espère un peu rassurés au sujet d’une possible attaque de SkyNet, vous vous demandez surement comment travailler dans ce secteur d’avenir.
Il y a encore quelques années, seuls des mathématiciens de très haut niveau planchaient sur ces sujets de façon théorique, mais l’avènement du Big Data a permis de faire un énorme bon en avant tant et si bien que le secteur fait désormais face à un manque de candidats qualifiés.
Aujourd’hui les métiers de l’IA sont principalement divisés en 2 branches complémentaires :
- le métier de Data Analyst
- et le métier de Data Scientist
Pour accéder à l’une de ces deux branches il n’est plus indispensable d’avoir un PhD en mathématiques appliquées ou en informatique, un master en intelligence artificielle permettant d’acquérir toutes les compétences nécessaires.
Le métier de Data Analyst
Les formations de Data Analyst sont ouvertes à de nombreux BAC+3 généralistes (Marketing, Droit, Finance, etc.). Elles visent à remettre à niveau les étudiants sur de la programmation et des mathématiques appliquées.
Concrètement les étudiants y apprennent à
- Construire, gérer et interroger des base de données relationnelles
- Y ingérer différents formats de données (JSON, CSV, TSV, etc.)
- Réaliser des analyses au moyen d’outils dédiés (Excel, Hadoop, Tableau, TensorFlow, etc.)
- Et restituer ces analyses statistiques sous forme de dashboards opérationnels
Dit autrement, le Data Analyst est une sorte de super bibliothécaire responsable de toute la partie gestion et restitution des énormes volumes de données dont on vous a parlé plus haut.
Le métier de Data Scientist
Le métier de Data Scientist est plus pointu que celui de Data Analyst et les masters en intelligence artificielle qui permettent de s’y former nécessitent d’etre titulaire d’un Bac +3 en Mathématiques, en Statistiques ou encore d’etre ingénieur.
Ce type de formation va permettre aux étudiant d’approfondir leurs connaissances en Python, R, Machine Learning et Deep Learning, autrement dit à défaut d’etre un super matheux, il faut à minima savoir programmer pour pouvoir y accéder.
Les Data Scientists ne développent pas eux meme d’intelligences artificielles, mais sont plutot amenés à programmer des outils pour les utiliser à des fins concrètes en entreprise.
Le Data Scientist a plusieurs casquettes et il va entre autres :
- extraire des données depuis différentes sources numériques
- manipuler et cartographier ces données pour les rendre exploitables
- sélectionner et paramétrer les IA avec lesquelles utiliser ces datas
- et programmer des algorithmes pour répondre avec ces outils aux problématiques initiales qu’on lui a posé
Comme vous l’avez compris, un Data Scientist devra donc maitriser plusieurs moteurs de bases de données (à minima MySQL et MongoDB), Python Pandas, faire pas mal de code et d’optimisation au quotidien, tout en s’appuyant sur le travail d’un Data Analyst.
Bien entendu cette présentation n’est qu’un rapide résumé de ces deux métiers, et meme si tous ces termes techniques font un peu peur (tout comme les conversations de LaMDA 2), il faut juste retenir qu’il existe aujourd’hui des formations diplômantes structurées pour vous permettre de mettre un pied dans ce secteur passionnant.
L’IA va progressivement remettre en question les métiers basés sur le savoir
Par ailleurs, si on est persuadés d’etre encore très loin des IA pensantes, en revanche elles risquent de totalement chambouler les métiers qui se basent sur le savoir pur, on pense en particulier aux métiers du médical et du droit ou à des métiers intellectuels très standardisés.
Si une IA dédiée au médical sera capable d’identifier certaines pathologies plus efficacement qu’un médecin humain, elle ne pourra pas se substituer à l’experience et à l’intuition d’un bon praticien.
En revanche elle pourrait remplacer une bonne partie du personnel d’un cabinet juridique ou d’un cabinet comptable pour les taches les plus répétitives…
