FraudGPT et WormGPT, 2 clones maléfiques de ChatGPT pour aider les pirates

2 IA conçues pour des campagnes de phishing

Là où il y a de la lumière il y aura toujours une part d’ombre. Des versions de l’intelligence artificielle ChatGPT, fonctionnant via le dark web ont été découvertes par l’entreprise de cybersécurité NetenRich et Slashnext. Les deux IA, FraudGPT et WormGPT ont été conçues pour faire du phishing, une pratique malhonnête qui consiste à se faire passer par une banque par exemple via un SMS ou un mail contenant un lien pour vous demander vos coordonnées bancaires et ainsi vider votre compte.

Les auteurs de ces arnaques vont avoir la vie plus facile grâce à FraudGPT et WormGPT qui utilisent l’intelligence artificielle générative pour envoyer ces messages. Avec ces IA les hackers sont capables de générer des mails et des SMS de plus en plus convaincants qui ressemblent à ce que pourrait écrire un être humain.

Ces IA posent de vrais problèmes de sécurité si l’on ne peut plus faire la différence entre des tentatives de phishing et des mails d’organisations officielles. FraudGPT peut également vous apprendre à créer des malwares, un programme malveillant qui peut voler, voir même supprimer les données présentes sur votre ordinateur. Comme si cela ne suffisait pas, vous pouvez également apprendre à devenir un hacker via cette IA.

FraudGPT et WormGPT répondent à toutes les demandes y compris les plus dangereuses

FraudGPT se présente comme « un bot sans limites, règles et frontières » lorsque l’on tombe sur sa page d’achat. C’est là la principale différence entre cette IA du dark web et ChatGPT ou Google Bard. Les IA d’Open AI et de Google ont des sortes de garde fous qui empêchent de donner suite à vos recherches qui sont considérées comme dangereuses ou illégales. ChatGPT ne peut pas vous apprendre à faire une bombe par exemple, et encore moins à créer un code malveillant.

Le problème des avancées technologiques c’est qu’elles peuvent être utilisées par n’importe qui. Les IA génératives peuvent aider un étudiant à faire ses exposés tout comme il peut faciliter la tâche à des hackers pour vous arnaquer. Si les hackers redoublent d’efforts il va falloir aussi redoubler d’effort pour créer des contres mesures face aux futures vagues d’arnaques qui vont arriver.

FraudGPT est vendu par abonnement mensuel de 200 dollars ou un abonnement annuel de 1700 dollars. Mais cela ne semble pas déranger les acheteurs puisque le vendeur de cette IA revendique plus de 3000 ventes, ce qui est d’autant plus inquiétant. D’autres IA fonctionnant sur le même principe existent également dans le dark web comme DarkBERT que l’on avait vu il y a quelques mois. Nul doute que d’autres IA vont continuer à voir le jour.