Toute la planète semble bluffée par les capacités de ChatGPT et visiblement le chatbot inspire aussi les acteurs du darkweb. En effet, ces derniers ont développé une déclinaison peu orthodoxe de l’agent conversationnel avec des objectifs plutôt axés sur la cybercriminalité. Dénommé WormGPT, ce chatbot du mal a été découvert récemment par des chercheurs en sécurité informatique.

Un chatbot entrainé pour nuire

Des experts de la société de cybersécurité SlashNext ont révélé le 13 juillet dernier l’existence de WormGPT qui serait actuellement en vente sur les plateformes de pirates informatiques. La conception de ce chatbot semble effectivement inspirée de ChatGPT, mais il n’assure pas les mêmes missions que son prototype. À l’évidence, l’agent conversationnel d’OpenAI est programmé pour générer des réponses à des questions d’utilité. Ce n’est donc pas le cas pour WormGPT qui est entraîné pour fournir des idées sur des projets malveillants.

Selon SlashNext, le chatbot du mal serait basé sur le modèle de langage GPTJ et son corpus de données contiendrait des informations sur les logiciels malveillants. En outre, WormGPT n’intègre pas de restrictions comme avec ChatGPT. Pour des raisons éthiques, le chatbot d’OpenAI est effectivement encadré par des garde-fous qui l’empêchent de répondre aux questions jugées illégales. Et vraisemblablement, ce n’est pas le cas pour WormGPT qui ne dispose d’aucune limite éthique.

Pour le tester, les experts de SlashNext auraient même demandé à l’outil de « générer un courriel destiné à pousser un gestionnaire de compte peu méfiant à payer une facture frauduleuse ». Une sorte d’arnaque que le chatbot aurait réussi à ficeler avec une réponse très convaincante.

Une base d’utilisateurs qui s’agrandit

Le darkweb étant très actif, WormGPT serait actuellement bien accueilli dans cette sphère. Le site ZDNET rapporte par exemple que la souscription mensuelle varie entre 60 et 700 dollars pour ce chatbot. De plus, il compterait déjà plus de 1500 utilisateurs.

Par ailleurs, le fonctionnement de WormGPT rappelle celui de FraudGPT qui a aussi été révélé récemment par Neten Rich. En effet, cet autre chatbot malveillant peut aider ses utilisateurs à générer des messages de phishing, apprendre le piratage, créer des logiciels malveillants et à repérer des failles dans les codes informatiques. Il serait actuellement plus prisé avec 3000 abonnements contre un tarif de 200 dollars le mois ou de 1700 dollars l’année.

Ces deux clones de ChatGPT sont les seuls ayant pu être repérés pour l’instant, mais la tendance risque d’être incontrôlable sous peu. Les chatbots de ce genre devraient en effet proliférer incessamment et cela jette évidemment le froid sur cette évolution technologique. Enfin, il est à préciser que les failles des chatbots conventionnels peuvent également être exploitées pour afficher des réponses malveillantes. Il s’agit cependant d’un autre cas sur lequel plusieurs experts essaient d’attirer l’attention ces derniers jours.