Une commission d’experts a remis mardi 10 novembre à Emmanuel Macron un rapport de 18 recommandations sur les risques de l’IA générative. Dépendance, désinformation, contenus pédocriminels, affaiblissement cognitif : le texte veut que ces outils soient évalués avant leur mise sur le marché. Le même jour, l’Élysée a présenté une charte signée par quatre entreprises.
Un rapport de 18 recommandations sur les vulnérabilités liées à l’IA
Le rapport s’intitule « Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative ». Il a été remis au chef de l’État le 10 novembre, selon le communiqué de l’Élysée. La commission « IA générative et vulnérabilités » réunit neuf experts. Elle est pilotée par Serena Villata, Raphaël Gaillard et Amine Benyamina, et s’appuie sur 55 auditions.
Le document complet est public. Son titre résume la ligne. Il ne s’agit pas de freiner ces outils, mais de protéger les personnes les plus exposées.
Plus de la moitié des Français utilisent déjà l’IA générative
Selon ce rapport, plus de 50 % des Français utilisent l’IA générative. La France se classerait au cinquième rang mondial, avec environ 70 % d’usagers chez les 15-24 ans, rapporte l’AFP. L’Élysée avance de son côté 33 millions d’utilisateurs uniques début 2026, et un quart des Français se disent inquiets.
Les experts s’attardent sur trois points. D’abord l’affaiblissement cognitif. Le rapport parle de dette cognitive, avec un chiffre d’environ 55 % qui renvoie à une étude du MIT. Mais cette étude est contestée par certains chercheurs, car il vaut mieux lire ce chiffre comme une alerte que comme une mesure établie.
Ensuite la dépendance. D’après le rapport, 92 % des adolescents passent plus de temps sur ces outils qu’ils ne le voulaient. Enfin l’information, puisque 73 % des Français s’informeraient via l’IA, dont les réponses seraient jugées 50 % plus persuasives qu’un article de presse.
Un exemple électoral est cité, avec 34 % de réponses erronées données à des électeurs écossais. Radio France reprend 35 %. L’écart est minime, pourtant il rappelle que vous lisez ici des chiffres de seconde main.
Les experts veulent encadrer la conception des IA avant leur lancement
Les recommandations visent d’abord les concepteurs. Les experts demandent d’encadrer dès la conception la flagornerie des modèles, leur tendance à donner raison à l’utilisateur, et l’anthropomorphisme, qui pousse à leur prêter des sentiments. Ils réclament une évaluation pluridisciplinaire avant toute mise sur le marché grand public, puis des évaluations indépendantes avant et après.
Ils veulent aussi un accès aux données pour les autorités et des chercheurs agréés, un protocole national de réponse aux crises informationnelles et une éducation à l’IA dès le plus jeune âge, avec et sans IA. Sur les enfants, le texte réclame un niveau de protection élevé et une répression renforcée des contenus sexuels non consentis ou pédocriminels générés par IA. Le rapport appelle aussi à la vigilance sur « l’économie de la cognition » et les publicités intégrées aux réponses.
Macron promet une « pré-certification », la charte reste plus prudente
Dans une interview aux Échos publiée lundi 9 novembre, Emmanuel Macron a dit vouloir « interdire » l’IA là où existe un « risque » pour les enfants. Mardi, au Forum de Paris pour la paix, il a promis une « pré-certification » et un « pré-audit », via une charte qui inclurait notamment OpenAI et Anthropic.
La charte d’engagement pour une IA plus sûre pour les enfants est soutenue par Anthropic, Black Forest Labs, Microsoft et OpenAI. Mais son texte est plus mesuré que le discours. Il prévoit une recherche indépendante, évaluations « avant leur déploiement lorsque cela est pertinent », accès aux modèles et aux données « lorsque la loi le permet », bilan annuel. Où est la pré-certification dans ces termes ?
Les recommandations de la commission ne sont, elles, pas contraignantes tant qu’un texte national ou européen ne les reprend pas, relève X-Pression, cité par Nouvelles du Monde. L’AI Act interdit déjà, depuis le 2 février 2025, les systèmes manipulateurs qui exploitent l’âge des utilisateurs.
Reste à savoir qui portera ces mesures dans la loi.
