Sam Altman le patron d’Open AI, la société derrière ChatGPT, a estimé que le gouvernement américain devrait intervenir sur l’intelligence artificielle. Il est en faveur de la création d’une agence fédérale destinée à éviter les dérives des IA développées par de grosses entreprises américaines.
Le créateur de ChatGPT craint les dérives de son IA
Depuis quelques semaines ChatGPT est sur les lèvres de tout le monde, le chatbot IA faisant encore et toujours parler de lui. L'outil permet de créer des applications, de devenir riche en créant des cryptomonnaies, et mille et une autres choses. Et bien évidemment il ne s'agit là que d'une IA parmi tant d'autres comme, Amazon Bedrock, Google Bard ou Grace étant sur le point d'entrer elles aussi dans la danse.
L’IA ne semble pas avoir de limites, ce qui pose déjà pas mal de problèmes, comme par exemple la triche lors d’examens ou la fuite de données confidentielles.
Même Sam Altman, le cofondateur d’Open AI et créateur de ChatGPT estime, comme il l'a expliqué lors d’une commission parlementaire américaine, que le gouvernement devrait réguler les IA.
Il est essentiel que l'IA la plus puissante soit développée avec des valeurs démocratiques, ce qui signifie que le leadership des États-Unis est déterminant.
Sam Altman est bien conscient des dérives possibles et il ne souhaite pas être tenu responsable de conséquences de dérapages graves :
L’une de mes plus grandes peurs, c’est que nous - cette industrie, cette technologie - causions des dommages significatifs à la société. Si cette technologie va dans le mauvais sens, elle peut aller assez loin. Et nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise.
Le patron d'Open AI souhaite la création d’une agence fédérale américaine pour encadrer l'IA
Pour travailler avec le gouvernement, l’entrepreneur se dit favorable à la création d’une agence fédérale censée encadrer et réguler le secteur de l’intelligence artificielle.
En France, la Commission Nationale de l’Informatique et des Libertés (CNIL) a déjà commencé à se pencher sur le sujet et a lancé un plan d’action pour encadrer le secteur de l’IA.
Il espère que d’éventuelles mesures d'encadrement ne viendront pas non plus étouffer la recherche indépendante, et se concentreront essentiellement sur les acteurs de grande taille comme Open AI.
Il a en effet souligné qu'une régulation trop stricte et touchant toutes les tailles d'entreprises dans le secteur de l'IA pourrait aussi avoir des conséquences négatives :
Si l’industrie américaine ralentit, la Chine ou quelqu’un d’autre peut progresser plus vite.
Pour qu'une IA puisse avoir un impact (positif ou négatif) sur la société il faut qu'elle soit techniquement opérationnelle à grande échelle, or pour faire simplement tourner les serveurs de ChatGPT, Open AI doit débourser près de 250 millions de dollars par an.
Dans ces conditions commencer à museler aussi une toute petite entreprise qui fait de la R&D à petite échelle n'aurait en effet pas beaucoup d'intéret, et aurait pour seule conséquence d'empêcher le moindre petit acteur américain dans l'IA de prendre son envol ...
