7 façons dont les cybercriminels utilisent l'IA pour les escroqueries amoureuses

Les applications de rencontres en ligne ont toujours été un foyer d'escroqueries amoureuses. Les cybercriminels vont au-delà pour voler de l'argent, des informations personnelles et des photos explicites. Vous trouverez leurs faux profils partout.

Et avec la prolifération des outils d'IA générative, les escroqueries amoureuses deviennent encore plus faciles à exécuter. Ils abaissent les barrières à l'entrée. Voici sept façons courantes dont les escrocs amoureux exploitent l'IA, ainsi que la façon dont vous pouvez vous protéger.

1. Envoi massif d'e-mails générés par l'IA

Les spams sont de plus en plus difficiles à filtrer. Les escrocs amoureux abusent des outils d'IA génératifs pour rédiger des messages trompeurs et convaincants et créer plusieurs comptes en quelques heures. Ils approchent des centaines presque instantanément.

Vous verrez des messages de spam générés par l'IA sur diverses plates-formes, pas seulement dans votre boîte de réception. Prendre la arnaque au faux numéro par exemple. Les escrocs envoient en masse de jolis selfies ou des photos suggestives. Et si quelqu'un répond, il le jouera comme une erreur innocente.

Une fois que quelqu'un est en ligne, il sera transféré vers une autre plate-forme de messagerie (par exemple, WhatsApp ou Telegram). La plupart des programmes durent des semaines. Les escrocs établissent progressivement la confiance avant de demander à leurs cibles de rejoindre des plans d'investissement, d'assumer leurs factures ou de payer des voyages.

Restez en sécurité en évitant complètement les messages de spam. Limitez votre engagement avec les étrangers, peu importe leur apparence ou ce qu'ils offrent.

2. Répondre rapidement à plus de conversations

Les robots se répandent comme une traînée de poudre en ligne. Imperva rapporte que les bad bots représentaient 30 % du trafic Web automatisé en 2022. Vous en trouverez un quelques secondes après avoir parcouru les matchs de Tinder.

L'une des raisons de ce pic soudain de bots est la prolifération d'outils d'IA générative. Ils produisent des bots en masse. Entrez simplement la bonne invite et votre outil présentera un extrait de code complet et efficace pour la génération de bots.

Sachez quand vous parlez à un bot. Bien que l'IA utilise un ton conversationnel naturel, son dialogue semble toujours monotone et maladroit. Après tout, les chatbots ne font que suivre des modèles. Cela pourrait produire des réponses similaires à différentes questions, déclarations et demandes.

3. Création d'identités multiples à partir d'images volées

Générateurs d'art IA manipuler des images. Prenez la démonstration ci-dessous comme exemple. Nous avons fourni à Playground AI une photographie franche d'un chanteur célèbre - la plate-forme a produit trois variations en quelques secondes.

Oui, ils ont des défauts. Mais notez que nous avons utilisé un outil gratuit exécutant un modèle de texte en image obsolète. Les escrocs produisent une sortie plus réaliste avec des itérations sophistiquées. Ils peuvent rapidement restituer des centaines de photos personnalisées et manipulées à partir de quelques échantillons seulement.

Malheureusement, les images AI sont difficiles à détecter. Votre meilleur pari serait de faire un recherche d'image inversée et passer au crible les résultats pertinents.

4. Construire des profils trompeusement authentiques

Les robots approchent les victimes en masse. Ainsi, les escrocs romantiques qui préfèrent un stratagème ciblé ne créent qu'un ou deux profils d'apparence authentique. Ils utiliseront l'IA pour paraître convaincants. Les outils d'IA générative peuvent composer des descriptions authentiques qui semblent naturelles et authentiques; la mauvaise grammaire ne sera plus un problème.

Voici ChatGPT suggérant quelques passe-temps à lister sur un profil de rencontre.

Et voici ChatGPT qui écrit une biographie complète pour votre profil de rencontre.

Étant donné que ce processus prend beaucoup de temps, il nécessite également un gain plus important. Ainsi, les escrocs ont tendance à en demander plus. Une fois qu'ils auront gagné votre confiance, ils vous demanderont de l'aide pour divers "problèmes", comme les factures d'hôpital, les remboursements de prêts ou les frais de scolarité. Certains prétendront même vous rendre visite si vous endossez leur ticket.

Ces cybercriminels sont habiles à manipuler les victimes. La meilleure tactique est d'éviter de s'engager avec eux dès le départ. Ne les laissez pas dire n'importe quoi. Sinon, vous pourriez progressivement tomber dans le piège de leurs méthodes de tromperie et d'éclairage au gaz.

5. Exploiter la technologie Deepfake pour l'extorsion sexuelle

Des outils de deepfake avancés par l'IA à un rythme alarmant. Les nouvelles technologies réduisent imperfections mineures dans les vidéos deepfake, comme un clignement anormal, des tons chair irréguliers, un son déformé et des éléments incohérents.

Malheureusement, ces erreurs servent également de drapeaux rouges. Permettre aux utilisateurs de les supprimer rend plus difficile la différenciation entre les vidéos légitimes et deepfake.

Bloomberg montre comment toute personne possédant des connaissances technologiques de base peut manipuler sa voix et ses visuels pour en reproduire d'autres.

En plus de créer des profils de rencontres réalistes, les escrocs exploitent des outils deepfake pour l'extorsion sexuelle. Ils mélangent des photos et des vidéos publiques avec de la pornographie. Après avoir manipulé du contenu illicite, ils feront chanter les victimes et exigeront de l'argent, des données personnelles ou des faveurs sexuelles.

Ne cédez pas si vous êtes ciblé. Appelez le 1-800-CALL-FBI, envoyez un conseil du FBI ou visitez votre bureau local du FBI si vous vous trouvez dans cette situation.

6. Intégration de modèles d'IA avec des systèmes de piratage Brute-Force

Bien que les modèles de langage open source prennent en charge certaines avancées de l'IA, ils sont également susceptibles d'être exploités. Les criminels profiteront de tout. Vous ne pouvez pas vous attendre à ce qu'ils ignorent l'algorithme derrière des modèles de langage hautement sophistiqués comme Lama et OuvrirAssistant.

Dans les escroqueries amoureuses, les pirates intègrent souvent des modèles de langage avec le craquage de mot de passe. Les capacités de NLP et d'apprentissage automatique de l'IA permettent aux systèmes de piratage par force brute de produire des combinaisons de mots de passe rapidement et efficacement. Ils pourraient même faire des prédictions éclairées s'ils disposent de suffisamment de contexte.

Vous n'avez aucun contrôle sur ce que font les escrocs. Pour protéger vos comptes, assurez-vous créer un mot de passe vraiment sécurisé comprenant des caractères spéciaux, des combinaisons alphanumériques et 14+ caractères.

7. Imiter de vraies personnes avec le clonage de la voix

Les générateurs de voix AI ont commencé comme un jouet cool. Les utilisateurs transformeraient des exemples de morceaux de leurs artistes préférés en reprises ou même en nouvelles chansons. Prenez Heart on My Sleeve comme exemple. Utilisateur de TikTok Ghostwriter977 a fait une chanson super réaliste imitant Drake et The Weeknd, bien qu'aucun des deux artistes ne l'ait chantée.

Malgré les blagues et les mèmes qui l'entourent, la synthèse vocale est très dangereuse. Il permet aux criminels d'exécuter des attaques sophistiquées. Par exemple, les escrocs amoureux exploitent des outils de clonage de voix pour appeler des cibles et laisser des enregistrements trompeurs. Les victimes qui ne sont pas familiarisées avec la synthèse vocale ne remarqueront rien d'inhabituel.

Protégez-vous des escroqueries par clone de voix AI en étudiant comment le son synthétisé sort. Découvrez ces générateurs. Ils créent simplement des clones presque identiques - vous remarquerez toujours des imperfections et des incohérences.

Protégez-vous contre les escrocs de rencontres AI

Au fur et à mesure que les outils d'IA générative progressent, les escrocs amoureux développeront de nouvelles façons de les exploiter. Les développeurs ne peuvent pas arrêter ces criminels. Jouez un rôle proactif dans la lutte contre la cybercriminalité au lieu de simplement croire que les restrictions de sécurité fonctionnent. Vous pouvez toujours utiliser des applications de rencontres. Mais assurez-vous de connaître la personne de l'autre côté de l'écran avant de vous engager avec elle.

Et faites attention aux autres programmes assistés par l'IA. Outre les escroqueries amoureuses, les criminels utilisent l'IA pour le vol d'identité, la cyber-extorsion, le chantage, les attaques de rançongiciels et le piratage par force brute. Apprenez également à combattre ces menaces.