Europol met en garde contre le fait que le ChatGPT contribue à accroître la criminalité

Le a mis la puce à l'oreille des forces de police. L'explosion de la popularité des chatbots a non seulement entraîné une pléthore d'applications dans divers domaines, mais aussi des escroqueries et une peur généralisée. Aujourd'hui, un rapport d'Europol met en garde contre l'utilisation abusive de l'IA par les criminels.

L'agence européenne a organisé une série d'ateliers ces derniers jours pour aborder le potentiel négatif des chatbots. Dans le rapport ChatGPT : l'impact des modèles linguistiques étendus sur l'application de la loi. Europol explique comment l'IA pourrait aider les criminels à commettre divers méfaits. La liste des crimes est variée et comprend la fraude, l'hameçonnage, le piratage, le terrorisme, la propagande et la désinformation.

Selon Europol, les modèles de langage extensifs (LLM) tels que ChatGPT se sont révélés capables d'un créatif. S'ils offrent des avantages au public et aux entreprises, ils présentent également un risque pour la sécurité. Depuis son ouverture au public fin 2022, le a été utilisé par des millions de personnes, dont certaines avaient l'intention de commettre des fraudes, de planifier des attaques terroristes ou même de tenter d'enfreindre les règles de sécurité imposées par l'.

A lire :   Comment j'ai sauvé ma casserole brûlée avec cette astuce virale

Le rapport affirme que la capacité de reproduire des textes qui semblent authentiques facilite l'hameçonnage. Les fraudeurs n'auraient pas à se soucier de vérifier le style et la grammaire, et pourraient même demander à ChatGPT d'adopter un style défini lors de la composition d'un courriel frauduleux. “Avec l'aide des LLM, ces types d'hameçonnage et de fraude en ligne peuvent être créés plus rapidement, de manière beaucoup plus authentique et à une échelle beaucoup plus grande“, déclare Europol.

ChatGPT : une école pour les criminels ?

L'un des aspects les plus frappants de ce rapport est l'immédiateté de l'information. Selon Europol, si un criminel potentiel ne sait rien d'une zone de criminalité particulière, le ChatGPT peut accélérer considérablement le processus d'enquête. Il suffit de poser une question contextuelle pour qu'il soit “nettement plus facile” de comprendre et de commettre des délits.

ChatGPT peut être utilisé pour obtenir des informations sur un large éventail de domaines criminels potentiels sans connaissances préalables, allant du cambriolage d'une maison au terrorisme, en passant par la cybercriminalité et les abus sexuels sur les .

Europol

La cybercriminalité est un exemple de ce concept qui consiste à rendre les méfaits plus faciles pour quelqu'un qui n'a que peu ou pas de connaissances. L'agence européenne mentionne que la capacité de créer du code dans différents langages de programmation permettrait à un petit criminel de créer un site web de phishing ou des scripts malveillants. Si les outils que ChatGPT peut produire sont simples, ils deviendront plus complexes au fur et à mesure du développement de ce modèle.

A lire :   Chaque machine à laver peut sécher les vêtements : une fonctionnalité méconnue à découvrir

Certaines personnes ont déjà testé la capacité de ChatGPT à planifier des vols ou des actes de terrorisme dans une école. En utilisant des de langage naturel pour contourner les directives de sécurité, un utilisateur a fait en sorte que le chatbot dicte les étapes à suivre pour cambrioler une maison. Le cas le plus flagrant est peut-être celui de Vaibhav Kumar, un ancien employé d' qui a masqué une demande de provocation d'un attentat terroriste en maximisant les dégâts.

Europol énumère une série de lignes directrices à suivre par OpenAI et d'autres entreprises développant des modèles LLM. Outre les pratiques responsables en matière d'IA, l'agence met l'accent sur la réglementation future. L'Union européenne travaille actuellement sur une proposition de loi visant à réglementer les applications de l'.

Plongée au coeur du temps : Hamilton dévoile les éditions limitées Ventura, inspirées de ‘Dune Partie 2'

Voter pour cet article