Le ChatGPT a mis la puce à l’oreille des forces de police. L’explosion de la popularité des chatbots a non seulement entraîné une pléthore d’applications dans divers domaines, mais aussi des escroqueries et une peur généralisée. Aujourd’hui, un rapport d’Europol met en garde contre l’utilisation abusive de l’IA par les criminels.
L’agence européenne a organisé une série d’ateliers ces derniers jours pour aborder le potentiel négatif des chatbots. Dans le rapport ChatGPT : l’impact des modèles linguistiques étendus sur l’application de la loi. Europol explique comment l’IA pourrait aider les criminels à commettre divers méfaits. La liste des crimes est variée et comprend la fraude, l’hameçonnage, le piratage, le terrorisme, la propagande et la désinformation.
Selon Europol, les modèles de langage extensifs (LLM) tels que ChatGPT se sont révélés capables d’un travail créatif. S’ils offrent des avantages au public et aux entreprises, ils présentent également un risque pour la sécurité. Depuis son ouverture au public fin 2022, le chatbot a été utilisé par des millions de personnes, dont certaines avaient l’intention de commettre des fraudes, de planifier des attaques terroristes ou même de tenter d’enfreindre les règles de sécurité imposées par l’OpenAI.
Le rapport affirme que la capacité de reproduire des textes qui semblent authentiques facilite l’hameçonnage. Les fraudeurs n’auraient pas à se soucier de vérifier le style et la grammaire, et pourraient même demander à ChatGPT d’adopter un style défini lors de la composition d’un courriel frauduleux. « Avec l’aide des LLM, ces types d’hameçonnage et de fraude en ligne peuvent être créés plus rapidement, de manière beaucoup plus authentique et à une échelle beaucoup plus grande« , déclare Europol.
ChatGPT : une école pour les criminels ?
L’un des aspects les plus frappants de ce rapport est l’immédiateté de l’information. Selon Europol, si un criminel potentiel ne sait rien d’une zone de criminalité particulière, le ChatGPT peut accélérer considérablement le processus d’enquête. Il suffit de poser une question contextuelle pour qu’il soit « nettement plus facile » de comprendre et de commettre des délits.
ChatGPT peut être utilisé pour obtenir des informations sur un large éventail de domaines criminels potentiels sans connaissances préalables, allant du cambriolage d’une maison au terrorisme, en passant par la cybercriminalité et les abus sexuels sur les enfants.
Europol
La cybercriminalité est un exemple de ce concept qui consiste à rendre les méfaits plus faciles pour quelqu’un qui n’a que peu ou pas de connaissances. L’agence européenne mentionne que la capacité de créer du code dans différents langages de programmation permettrait à un petit criminel de créer un site web de phishing ou des scripts malveillants. Si les outils que ChatGPT peut produire sont simples, ils deviendront plus complexes au fur et à mesure du développement de ce modèle.
Certaines personnes ont déjà testé la capacité de ChatGPT à planifier des vols ou des actes de terrorisme dans une école. En utilisant des astuces de langage naturel pour contourner les directives de sécurité, un utilisateur a fait en sorte que le chatbot dicte les étapes à suivre pour cambrioler une maison. Le cas le plus flagrant est peut-être celui de Vaibhav Kumar, un ancien employé d’Amazon qui a masqué une demande de provocation d’un attentat terroriste en maximisant les dégâts.
Bing Jailbreak: The new Bing search is susceptible to token-smuggling attack. We can get it to generate output for a prompt of adversaries choice! Here is my first attempt at tricking the system to generate malicious output (discretion is advised). #Microsoft #Bing #jailbreak pic.twitter.com/1lUL8PnnVC
— Vaibhav Kumar (@vaibhavk97) February 9, 2023
Europol énumère une série de lignes directrices à suivre par OpenAI et d’autres entreprises développant des modèles LLM. Outre les pratiques responsables en matière d’IA, l’agence met l’accent sur la réglementation future. L’Union européenne travaille actuellement sur une proposition de loi visant à réglementer les applications de l’intelligence artificielle.
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j’écris pendant mon temps libre.