Explication des robots de réseaux sociaux: comptes malveillants et comment les repérer

Publicité

Le terme «bot de médias sociaux» n'est plus seulement associé aux chatbots ou à l'IA du service client. Les bots des médias sociaux ont plutôt une réputation beaucoup plus inconvenante de nos jours en raison de campagnes de désinformation malveillantes.

Mais quels sont exactement ces robots sociaux malveillants? Comment repérez-vous les différents types? Et existe-t-il des outils qui peuvent vous aider à trier les vrais comptes des faux? Voici ce que vous devez savoir…

Que sont les robots de réseaux sociaux malveillants?

Bien qu'il existe différents types de robots sur les plateformes de médias sociaux, nous nous concentrerons sur les robots politiques et malveillants malveillants. Ces robots diffèrent des robots du service client ou d'autres comptes automatisés. Par exemple, certains bots tels que Deep Question Bot sont censés être un outil amusant à utiliser pour les utilisateurs de Twitter. Pendant ce temps, des robots comme l'application Thread Reader transforment les fils Twitter en une page de texte.

Les bots malveillants des réseaux sociaux et les faux comptes, cependant, se présentent comme des utilisateurs humains. Ils visent à manipuler l'opinion publique sur les réseaux sociaux Comment les médias sociaux vous manipulent et vos opinionsLes sites de médias sociaux tirent vos ficelles. Et voici comment les médias sociaux vous manipulent ainsi que vos opinions ... Lire la suite , répandre de fausses nouvelles, accroître la polarisation, semer la méfiance envers les institutions, diffuser la propagande gouvernementale et propulser les complots.

Selon le Société académique, l'intention rend les robots malveillants différents des autres comptes automatisés.

«Les robots malveillants, en revanche, sont conçus dans le but de nuire. Ils opèrent sur les réseaux sociaux avec une fausse identité. Les robots malveillants comprennent le spam, le vol de données personnelles et
identités, la diffusion de désinformation et de bruit lors des débats, l'infiltration d'entreprises et la diffusion de logiciels malveillants », explique l'organisation dans son guide 2018 sur le sujet.

Les bots y parviennent en augmentant certains hashtags et mots clés, en déployant du harcèlement ciblé et en partageant certains liens et articles.

Selon un document de travail de 2017 de l'Université d'Oxford, intitulé «Propagande informatique dans le monde: Résumé«, Les personnes derrière ces robots vont des petits groupes marginaux aux grandes campagnes politiques et aux gouvernements.

Twitter est la plateforme la plus connue pour gérer les bots des réseaux sociaux, mais ces bots malveillants existent également sur Facebook, Reddit, Weibo et d'autres réseaux plus petits.

Les robots malveillants soutiennent-ils des politiques spécifiques?

Bien que ces robots aient été utilisés notamment lors des élections américaines de 2016 et à l'approche du référendum sur le Brexit, ils ne visent pas seulement un côté du spectre politique.

Un article publié dans Nature, intitulé «La diffusion de contenus à faible crédibilité par les bots sociaux», A constaté qu'un dénominateur commun trouvé parmi de nombreux robots malveillants est le partage de contenu à faible crédibilité, comme les fausses nouvelles et la désinformation. Cette désinformation cible différentes facettes du spectre politique.

«Les sources de faible crédibilité réussies aux États-Unis, y compris celles situées aux deux extrémités du spectre politique, sont fortement soutenues par les robots sociaux», indique le journal. "Depuis les premières manifestations découvertes en 2010, nous avons vu des bots influents influencer les débats en ligne sur les politiques de vaccination et participer activement aux campagnes politiques."

Bien que les bots dans leur ensemble ne soient pas partisans, les comptes de bots individuels respectent généralement un type de point de vue à promouvoir (tel qu'un point de vue anti-science).

Différents types de robots sociaux malveillants

Lorsqu'il s'agit de faux comptes de médias sociaux visant à amplifier les opinions politiques et à partager la désinformation, il en existe plusieurs types. Cela dépend de leur niveau d'automatisation et de leurs objectifs principaux.

Nous examinons les différents bots et expliquons chaque type…

Bots standard / complets

Un bot de médias sociaux standard est un compte entièrement automatisé. Ces comptes n'ont aucune contribution humaine dans leurs publications et opérations quotidiennes. Ils s'appuient plutôt sur des algorithmes et des scripts pour guider leurs publications.

Ces bots amplifient le contenu (retweet bots) ou répondent au contenu avec certains mots clés ou hashtags (bots de réponse).

Bots malveillants

Les robots malveillants sont un autre type de robot malveillant entièrement automatisé. Cependant, plutôt que de se concentrer sur la désinformation, ils visent à compromettre la sécurité des utilisateurs des médias sociaux. Ces comptes se concentrent souvent sur le contenu d'appâts cliquables, se faisant parfois passer pour un éditeur de contenu existant, pour essayer de rediriger les utilisateurs vers un site Web malveillant.

Cyborgs

Un cyborg est un compte partiellement automatisé ou hybride. Le ratio des publications bot / humain sur un compte cyborg spécifique varie, mais l'automatisation doit être importante (plutôt qu'une publication automatisée occasionnelle).

Ces comptes utilisent la contribution humaine pour aider à masquer le fait qu'ils sont des robots. L'apport humain peut aider à orienter les réponses, à effectuer un harcèlement ciblé ou à ajouter un comportement plus humain.

Les cyborgs ne sont pas les mêmes que les utilisateurs humains qui peuvent utiliser des planificateurs comme TweetDeck pour leurs publications. Les cyborgs sont de faux comptes se présentant comme une vraie personne, dans le but de diffuser des informations pour atteindre un objectif particulier ou pour une pêche à la traîne ciblée.

Comment repérer les bots des médias sociaux

Les bots de médias sociaux sont de plus en plus difficiles à identifier à mesure que leurs algorithmes deviennent plus sophistiqués. Par exemple, il était souvent facile de distinguer un compte bot d'un compte réel en raison du manque de publications d'origine - uniquement en partageant d'autres publications ou en ajoutant des hashtags à des publications existantes. Cependant, de plus en plus de robots sont capables de publier du contenu et des réponses originaux.

Selon le Digital Forensic Research Lab du Conseil atlantique, les robots politiques partagent trois caractéristiques dans tous les types.

«Beaucoup de ces comptes de bot et de cyborg sont conformes à un modèle reconnaissable: activité, amplification, anonymat. Un compte anonyme qui est inhumainement actif et qui amplifie de manière obsessionnelle un point de vue est probablement un bot politique, plutôt qu'un humain », dit le laboratoire dans un article sur le repérage de robots sur les réseaux sociaux.

Ces traits sont quelques-uns des principaux drapeaux rouges qu'un compte est probablement un bot.

Quelques autres signes qu'un compte de réseau social est en fait un bot malveillant ou un cyborg incluent:

• Une date de création de compte récente
• Le compte montre le partage et l'amplification coordonnés des postes entre un petit réseau de comptes
• Temps de réponse irréalistes aux autres, indiquant que le compte est presque toujours en ligne
• Commentaires de faible qualité avec un vocabulaire limité et répétitif
• Noms d'utilisateur avec de longues séquences de nombres aléatoires
• Images de profil volées de personnes réelles ou images de profil «patriotiques» (telles que des drapeaux, des armes, des symboles politiques)
• Un volume élevé de contenu retweeté et partagé, avec des publications originales limitées
• Concentration limitée sur le contenu en dehors d'un ensemble prédéfini de hashtags et de sujets.

Les vraies personnes ont tendance à tweeter sur plusieurs sujets, y compris des articles plus banals tels que la façon dont leur journée se passe. Ils ne publient pas non plus 24 heures sur 24 à des volumes massifs.

4 outils pour trouver des robots de médias sociaux

Comme il est de plus en plus difficile de distinguer les robots humains sur les réseaux sociaux, les chercheurs et les analystes ont publié un certain nombre d'outils pour mieux analyser les comptes.

Aucun de ces outils n'est infaillible. Cependant, avec d'autres types d'observations, ces outils peuvent certainement aider les utilisateurs à mieux comprendre la probabilité qu'un compte soit un bot ou un cyborg.

Ces outils se concentrent sur Twitter, où les robots malveillants sont probablement les plus prolifiques.

Anciennement appelé BotOrNot, Botometer est un outil créé par une équipe de l'Université de l'Indiana. L'outil utilise un algorithme pour déterminer la probabilité d'automatisation d'un compte.

Avec Botometer, vous pouvez non seulement consulter un compte Twitter, mais aussi les évaluations de robots des abonnés d'un compte. Étant donné que les robots fonctionnent souvent au sein d'un réseau, amplifiant les messages les uns des autres, il s'agit d'une fonctionnalité utile.

BotCheck.me est une extension de navigateur qui analyse les comptes Twitter pour déterminer s'il s'agit de robots de propagande. Le site Web de l'entreprise comprend également un outil d'analyse.

L'outil prend en compte des facteurs tels que la fréquence des messages, les retweets et le langage polarisant.

Une grande partie de l'outil est la possibilité de signaler si BotCheck a incorrectement catégorisé un compte.

L'analyse de compte est un autre outil qui vous permet d'analyser l'activité des comptes Twitter publics. Créé par l'analyste de données Luca Hammer, l'outil fournit des métriques et des visualisations pertinentes pour l'activité du compte.

Cela vous aide à identifier les comptes de robots que d'autres outils auraient pu manquer. Par exemple, dans un test d'un compte de bot connu, plusieurs outils n'ont pas pu identifier le bot (en raison de sa concentration sur la publication de tweets, le manque de hashtags et l'absence de retweets). Cependant, le rythme quotidien des publications du compte (toute la journée, tous les jours) et l'interface utilisée par le compte (la plateforme Cheap Bots, Done Quick!) Confirment que le compte est en fait un bot.

Ainsi, bien que l'analyse de compte n'attribue pas de note de bot, elle reste un outil utile pour identifier les comptes de bot.

Social Bearing fournit également un résumé des statistiques liées aux comptes Twitter publics, similaire à l'analyse de compte. Ce résumé comprend la fréquence des tweets, les retweets, les réponses, le sentiment de la langue, etc.

Un aperçu de ces statistiques est incroyablement utile pour décider si un compte peut être un bot. Mieux encore, l'outil est gratuit et ne vous oblige pas à vous connecter avec Twitter.

Ne lui faites pas confiance simplement parce que quelqu'un l'a partagé

Bien que les robots soient un outil majeur dans la diffusion de la désinformation et des fausses nouvelles, vous devez également vous méfier des informations que vous consommez en dehors des réseaux sociaux. Après tout, les gens partagent et retweetent également de fausses nouvelles.

Pour élever vos défenses contre la désinformation, consultez notre guide sur la façon de éviter les fausses nouvelles Comment éviter rapidement les fausses nouvelles pendant une crise en coursLa prochaine fois qu'il y aura une crise, ne tombez dans aucun battage médiatique. Coupez les arnaques sociales et les mensonges pour trouver la vérité avec ces conseils. Lire la suite en recherchant ses signes révélateurs.

Crédit d'image: sdecoret /Depositphotos