L’ère de l’intelligence artificielle générative (IA Gen) a inauguré une nouvelle vague d’opportunités technologiques, mais elle a également intensifié l’une des caractéristiques les plus fondamentales de notre société contemporaine : la fraude. Le récent rapport de Data & Society, co-écrit par Alice Marwick, Lana Schwarz et Kate Larson, intitulé Scam GPT: GenAI and the Automation of Fraud, met en lumière la façon dont l’IA Gen suralimente et automatise la fraude. Ce document est considéré comme crucial car il attire l’attention sur un problème omniprésent mais souvent négligé.
La Fraude, une Pierre Angulaire Socio-Technique
Pour les auteurs du rapport, la fraude et le jeu (gambling) sont devenus des piliers de notre société. Les arnaques ne doivent pas être considérées comme des incidents isolés, mais comme faisant partie d’un contexte social bien plus vaste, englobant les systèmes de marketing multiniveau (MLM), la cryptomonnaie, le dropshipping et la culture de la débrouille (hustle university).
La ligne entre ce qui constitue une arnaque et une « opportunité commerciale légitime » est de plus en plus floue. L’IA Gen est le parfait catalyseur de cette ambiguïté et de cette expansion de la fraude. Vivre à une époque où nous pouvons être contactés de multiples façons—par courriel, SMS, réseaux sociaux—à tout moment, crée autant de failles dans nos défenses que l’IA peut exploiter pour nous piéger. Historiquement, chaque innovation médiatique communicative a vu l’apparition de tentatives d’exploitation criminelle.
L’Accélération par l’IA : Le Mimétisme Social
Ce qui rend l’IA générative si efficace pour les escrocs, c’est sa capacité à imiter les interactions et les relations sociales. L’escroquerie est fondamentalement sociale, et l’IA est incroyablement douée pour créer une simulation de ces relations.
L’IA Gen accélère et suralimente les escroqueries existantes. Elle est principalement utilisée pour :
- Rendre les messages plus persuasifs et les adapter à une personne spécifique.
- Effectuer des traductions d’un niveau parfait et vernaculaire, permettant aux escrocs non anglophones d’opérer de manière transparente.
Un exemple frappant est l’escroquerie de l’« engraissement du cochon » (pig butchering), une forme d’arnaque romantique où la victime est « engraissée » au fil du temps. L’escroc établit une relation de confiance, souvent via des messages, puis utilise les réseaux sociaux (Instagram, par exemple) pour présenter un style de vie luxueux comme preuve de réalité. L’argent est finalement transféré en crypto, un domaine intrinsèquement propice à l’escroquerie. L’IA Gen peut créer des écosystèmes entiers de faux sites d’investissement, des textes d’entreprise crédibles, et des fausses images de luxe (comme des personnes posant devant une Lamborghini).
Même si les escroqueries utilisant des deepfakes sophistiqués de PDG sont rares en raison de l’effort considérable qu’elles demandent, l’IA est couramment utilisée pour rendre les courriels d’hameçonnage (phishing) ou de compromission de courriel d’entreprise (BEC) plus convaincants.
La Face Cachée : L’Esclavage dans les Composés d’Escrocs
Une dimension particulièrement sombre révélée par les enquêtes journalistiques est la corporatisation croissante des arnaques. Les opérations d’escroquerie sont gérées par de gigantesques composés, principalement situés en Asie du Sud-Est, au Moyen-Orient et en Europe de l’Est.
Les personnes qui travaillent dans ces centres sont elles-mêmes des victimes : elles sont souvent victimes de la traite humaine. Ce sont des professionnels ou des travailleurs de premier échelon qui ont répondu à des offres d’emploi pour du travail à distance, pour se voir confisquer leur passeport et forcés d’arnaquer des gens pendant de longues heures, sous la menace de coups ou de famine. Ces travailleurs sont tout autant des victimes de l’écosystème de l’escroquerie que ceux qui perdent leur argent.
Vulnérabilité et Culture de la Débrouille
La susceptibilité aux escroqueries est intrinsèquement liée aux conditions matérielles. La vulnérabilité financière est un facteur majeur. Les gens aux moments de transition (déménagement, recherche d’emploi) ou ceux ayant un statut d’immigration précaire sont souvent ciblés.
De plus, l’augmentation des jeux d’argent (paris sportifs) et des investissements risqués (crypto, meme stocks) s’inscrit dans une culture de la débrouille (hustle culture) qui promet la richesse rapide, ciblant particulièrement les jeunes hommes. Beaucoup de jeunes, cherchant une issue à une situation d’énorme précarité économique, se retrouvent face à des opportunités à haut risque, incluant les arnaques.
L’IA Gen aggrave également le marché de l’emploi : certaines entreprises publient de fausses annonces d’emploi, tandis que les candidats utilisent l’IA Gen pour créer des CV et lettres de motivation, créant une boucle où « des robots examinent des robots qui examinent des robots ».
Enfin, la crise de la santé mentale et l’isolement social post-COVID-19 jouent un rôle important. L’effilochage du tissu social mène certaines personnes isolées ou désespérées à chercher conseil et soutien auprès d’outils d’IA Gen, bien que les conséquences négatives potentielles soient graves.
La Nécessité d’une Réponse Structurelle
Le rapport insiste sur le fait que les solutions individuelles sont des palliatifs face à un problème structurel massif. Les conseils visant à renforcer la vigilance individuelle sont insuffisants.
Les plateformes sociales, les fournisseurs d’accès à Internet et les entreprises d’IA Gen ne semblent pas disposés à assumer leur responsabilité, car la lutte contre la fraude pourrait nuire à leurs intérêts financiers.
Pour s’attaquer efficacement à ce problème, une réponse à plusieurs niveaux est nécessaire :
- Responsabilité des entreprises : Les entreprises (y compris celles d’IA Gen) devraient être tenues responsables.
- Législation et réglementation : Une réponse législative est cruciale, y compris la régulation des deepfakes et, potentiellement, l’encadrement des LLM (Large Language Models) piratés qui ne sont pas soumis aux garde-fous des versions commerciales (comme ChatGPT).
- Infrastructure de signalement : Les procureurs généraux des États ont exprimé le besoin urgent d’un mécanisme de signalement centralisé pour les escroqueries, car actuellement, les victimes contactent diverses entités (police, lignes d’assistance AARP, etc.) sans coordination. Ce système permettrait de poser les bases d’une enquête et d’une élaboration de politiques efficaces.
Il est essentiel de noter que les efforts de prévention de la fraude ne doivent pas entraîner le déni injustifié de prestations légitimes aux populations vulnérables.
Face à cette « poly-crise » croisée (fraude, désinformation, crise de la santé mentale), il est crucial de ne pas se contenter de l’analyse dystopique. Les chercheurs doivent imaginer des « utopies réelles »—des visions d’un avenir juste avec la technologie moderne—afin de construire une trajectoire positive plutôt que de simplement critiquer l’existant.
Le Data & Society Institute est un institut de recherche indépendant à but non lucratif qui se concentre sur les impacts sociaux des technologies basées sur les données et l’IA. Toutes leurs publications sont gratuites et accessibles sur datasociety.net.
Vincent est un passionné de la technologie et plus particulièrement de l’intelligence artificielle.
Sa formation d’ingénieur en électronique et sa passion pour l’écriture se combinent pour donner naissance à Minderlist.
Minderlist est une plateforme qui rend l’information sur la technologie accessible à tous.
