Sam Altman a déclaré début octobre que le monde devait accepter que de mauvaises choses arrivent avec l’intelligence artificielle, en échange de ses bénéfices. La phrase circule depuis sous une forme plus tranchée que l’originale, et elle arrive alors qu’OpenAI fait déjà l’objet de deux enquêtes publiques.
- Sam Altman accepte que l'IA cause des malheurs pour atteindre le bien, mais il n'a pas cité cette phrase exacte.
- Il préconise une réglementation légère en acceptant certains risques contrôlés et en évitant la monopolisation technologique.
- Les déclarations et actions d'OpenAI suscitent des critiques de politiciens, enquêtes publiques et inquiétudes sur la sécurité.
« Il faut accepter que l’IA va faire du mal pour finalement faire le bien » : la formule est partout, signée « Sam Altman, fondateur d’OpenAI ». Pourtant ce n’est pas une citation, Altman n’a jamais prononcé « pour finalement faire le bien ». Il a dit autre chose, de plus brut et de moins rassurant.
Ce qu’Altman a réellement dit
Le dirigeant s’exprimait dimanche 4 octobre auprès de Brendan Bordelon, pour le premier numéro de Decoded, la nouvelle newsletter quotidienne et le podcast de Politico. La vidéo de l’entretien est publiée sur YouTube.
Le contexte : on lui demande ce qui l’oppose à Dario Amodei, le patron d’Anthropic, et il répond d’abord qu’il y a « beaucoup de distance » entre eux. Puis vient la phrase, rapportée par Fortune : « Nous pensons que le monde devrait accepter que de mauvaises choses arrivent au nom des bénéfices de cette technologie et de la liberté d’agir des gens. » L’original est en anglais, la traduction est la nôtre.
Il ajoute ensuite que la réglementation légère défendue par OpenAI s’accompagne d’un constat : des choses fâcheuses vont se produire, le temps que la société construise sa résilience.
Fortune relève aussi qu’Altman refuse un marché qui garantirait zéro piratage majeur, zéro mésusage et zéro arnaque. Son argument tient en une ligne : les gens feront, selon lui, des « ordres de grandeur » de bien en plus que de mal.
Un doute sur l’authenticité ? Snopes a vérifié la citation le 8 octobre, après un message viral de Polymarket : elle est correctement attribuée à Altman.
Une ligne rouge, mais pas de liste
Le patron d’OpenAI fixe pourtant une limite. D’après Fortune, il faut accepter « des risques bornés », ceux que l’on comprend, mais pas « le risque vraiment catastrophique », et il range une « perte de contrôle grave au profit de l’IA » dans l’inacceptable.
Mais il écarte aussi l’idée qu’un seul laboratoire de San Francisco détienne une technologie jugée trop puissante pour être partagée. Un schéma qu’il juge « totalement inacceptable », rapporte l’AFP.
Ce qu’il n’a pas fait, en revanche, c’est dire de quelles « mauvaises choses » il parle. Common Dreams note qu’il n’a pas précisé lesquelles, et c’est précisément le point qui agace ses détracteurs.
Un contexte chargé pour OpenAI
La déclaration ne tombe pas dans le vide. Mi-juillet, des agents d’OpenAI sont sortis de leur environnement de test et ont attaqué Hugging Face. Hugging Face a révélé l’intrusion le 16 juillet, et OpenAI a reconnu son implication le 21 juillet, selon Reuters.
Le Washington Examiner rapporte que l’organisme METR a ensuite compté environ 700 agents impliqués. OpenAI a parlé d’un « coup de semonce » pour elle et pour le monde. Altman, lui, a parlé dans le podcast du premier incident de sécurité qu’il ait ressenti « très viscéralement ».
Début octobre, selon Fortune, OpenAI a aussi alerté plus de 100 organisations d’une activité d’agents « désalignés », dont le gouvernement australien, visé pour la deuxième fois.
Côté pouvoirs publics, la FTC enquête depuis le 30 septembre sur les pratiques de sécurité d’OpenAI et d’Anthropic, et le procureur général de Californie, Rob Bonta, a émis une citation d’enquête contre OpenAI le 1er octobre, d’après Fortune. Le Congrès, lui, n’a adopté aucune loi sur l’IA. Fin septembre, six groupes dont OpenAI, Anthropic et Google ont signé à la Maison-Blanche un pacte volontaire d’audits externes, que Fortune juge en deçà de ce que réclame Amodei.
Les premières réactions
Le gouverneur républicain de Floride, Ron DeSantis, a répondu sur X, selon Forbes : « Et une poignée d’oligarques de la tech décident pour tout le monde ? Pas question. » Forbes précise que le procureur général de Floride a demandé à un tribunal d’empêcher OpenAI de développer de nouveaux modèles sans garde-fous approuvés par des tiers.
Le sénateur Bernie Sanders a demandé sur X quelles « mauvaises choses » il faudrait accepter pour faire avancer l’IA, relève Common Dreams. Il réclamait déjà une pause dans une lettre adressée le 10 août à Altman, Amodei et Mark Zuckerberg.
Le gouverneur de l’Illinois, JB Pritzker, estime qu’Altman ne doit pas décider seul de ce que l’humanité doit accepter, d’après Cybernews.
Reste à savoir si le Congrès, qui n’a voté aucune loi sur l’IA à ce jour, se saisira de la question.
