La base de données sur le contenu terroriste violera-t-elle votre vie privée?

Publicité

Facebook, Twitter, Microsoft et YouTube ont annoncé qu'ils travailleraient ensemble pour créer une énorme base de données. Cette base de données contiendra des images et des vidéos utilisé par les réseaux terroristes Criminalité, terrorisme et sécurité: le côté obscur des médias sociauxLes médias sociaux ne sont pas seulement des mèmes de chat et des vidéos de farce. Les utilisateurs de Facebook, Twitter et Tumblr peuvent tout aussi facilement rencontrer du matériel plus sombre distribué par des groupes terroristes technologiquement qualifiés. Que devriez-vous faire à ce propos? Lire la suite pour diffuser la propagande et atteindre les recrues potentielles. La base de données alertera ces entreprises lorsque quelque chose sur leur site viole probablement leurs conditions d'utilisation.

Semble être une bonne idée, non?

Les détails

Pour l'instant, les détails sont un peu flous. Chaque image et vidéo de la base de données aura une «empreinte numérique unique» et les entreprises seront alertées lorsque ce contenu apparaîtra sur leur site. Au début du programme, les entreprises ajouteront uniquement «les images et vidéos terroristes les plus extrêmes et les plus flagrantes» à la base de données.

L'idée est que ces images et vidéos seront les plus susceptibles de violer le conditions d'utilisation Pourquoi vous devriez lire les conditions d'utilisation, faire disparaître Pokemon GO... [Recueil de nouvelles techniques]Tout le monde ignore les conditions d'utilisation, PokeGone transforme Pokemon GO en Pokemon NON, Facebook garde vos conversations secrètes, Blizzard fait taire les joueurs de douchebag World of Warcraft et Samuel L. Jackson explique Game of Thrones. Lire la suite de toutes les plateformes. Il est donc facile de supprimer ce contenu s'il apparaît ailleurs. Chaque entreprise décide quelle image et quelles vidéos doivent figurer dans la base de données. Ils auront également le pouvoir de décider de supprimer ou non le contenu s'il apparaît sur leur site.

C’est à peu près tout ce que nous savons à ce jour. Twitter espère que «cette collaboration conduira à une plus grande efficacité alors que nous continuons à appliquer nos politiques pour aider à réduire le problème mondial urgent du contenu terroriste en ligne. » Mais nous ne savons vraiment pas grand-chose loin. Qui décidera du contenu à contribuer? Les entreprises vont-elles créer des comités d'examen indépendants pour ce genre de choses? Ou vont-ils simplement ajouter quelques éléments de temps en temps quand ils en auront envie?

Un dossier médiocre

Il est vraiment difficile de contrôler le contenu en ligne. Qu'il s'agisse de désinformation, d'abus, vidéos de recrutement de terroristes Comment les plateformes de médias sociaux combattent les extrémistesLes réseaux de médias sociaux représentent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils lutter contre le terrorisme? Lire la suite , ou l'un des nombreux autres types de mauvais contenu en ligne, il existe un champ de mines de problèmes inhérents au processus. Qui décide quels groupes sont qualifiés de terroristes? Comment la décision est-elle prise de supprimer du contenu? Les entreprises vont-elles le chercher ou comptent-elles sur les utilisateurs pour le signaler?

Microsoft, dans sa déclaration sur le contenu terroriste en ligne, a déclaré ceci:

Lorsque le contenu terroriste de nos services aux consommateurs hébergés est porté à notre attention via notre outil de signalement en ligne, nous le supprimons.

Et ils fournissent un lien vers un formulaire utilisé spécifiquement pour signaler le contenu terroriste. Mais quelle est la probabilité que quelqu'un cherche et utilise ce formulaire? Ils disent également qu'ils "ne supprimeront les liens vers des contenus liés au terrorisme de Bing que lorsque ce retrait sera exigé des moteurs de recherche en vertu de la législation locale".

Cela met en outre la responsabilité ailleurs.

Questions de responsabilité

L'Electronic Frontier Foundation a beaucoup écrit sur les difficultés rencontrées pour contrôler ce type de contenu en ligne. Dans un article de 2014, ils ont critiqué le plan du Royaume-Uni d'obliger les FAI à bloquer le «contenu extrémiste» sans procédures de transparence et de responsabilité. Les groupes de défense des droits de l'homme ont également critiqué la France pour avoir des définitions très larges de l'activité terroriste.

Twitter et Facebook ont ​​des dossiers plutôt médiocres avec contrôler le contenu de leurs sites Comment les plateformes de médias sociaux combattent les extrémistesLes réseaux de médias sociaux représentent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils lutter contre le terrorisme? Lire la suite . Bien que Twitter ait supprimé plus de 100 000 comptes Twitter liés à ISIS et commencé à contrôler les discours de haine plus fortement, ils ont la mauvaise réputation de laisser l’extrémisme et les abus se répandre sur leur Plate-forme. Facebook, lui aussi, semble content de continuer à utiliser une approche mains libres sous la bannière de la liberté d'expression.

Bien sûr, il est assez difficile de gérer ce genre de responsabilité. Je ne dis pas que c'est facile. Mais les entreprises technologiques sont capables de prendre leurs distances par rapport à l'utilisation de leur technologie. Cela comprend la propagation d'images terroristes, de vidéos, de campagnes de recrutement et d'autres contenus. En août 2016, un Rapport britannique a déclaré que Facebook, Twitter et YouTube «ne parviennent pas consciemment à lutter contre l'utilisation de leurs sites pour promouvoir le terrorisme et les tueries».

La création d'une base de données d'images et de vidéos ne semble pas susceptible de changer cela. Il est encourageant qu’ils agissent, mais il est difficile d’imaginer que ce soit plus que timide.

Serait-ce un problème de confidentialité?

Étant donné que les entreprises ajouteront manuellement des éléments à la base de données une fois que les utilisateurs les auront signalés, il semble que vos images ou vidéos pourraient accidentellement se retrouver dans le base de données. Ce qui est encourageant. Cependant, la création d'une énorme base de données centrale pleine de «mauvais» contenus identifiés de manière unique est préoccupante.

Cela est dû en grande partie au fait que les responsables à l'époque doivent décider ce qui compte comme «mauvais». Cela est particulièrement vrai en cas d’implication du gouvernement. Vous pourriez faire partie de la majorité un jour, et faire partie d'une minorité persécutée le lendemain. Le déploiement de ce type de technologie rend ce type de changement encore plus effrayant.

Bien sûr, rien n'indique que ces sociétés utiliseront cette base de données pour autre chose que l'application laxiste de leurs propres directives d'utilisation. Mais le fait que des organisations privées aient développé et déploient cette technologie pourrait inquiéter certaines personnes. Les gouvernements ont sûrement déjà une technologie de surveillance qui est déjà si puissante, mais la prolifération pourrait être un signe que les entreprises auront les outils pour collecter plus d'informations dans un avenir proche.

Pour le moment, il n'y a aucune raison de craindre que votre vie privée soit mise en danger par la base de données de contenu terroriste. Mais organisations de protection de la vie privée et de défense des droits Qui se bat en votre nom contre la NSA et pour la vie privée?Il existe plusieurs groupes d'activisme sur Internet qui se battent en votre nom pour la confidentialité. Ils font également de leur mieux pour éduquer les internautes. Voici quelques-uns d'entre eux qui sont incroyablement actifs. Lire la suite ferait bien de garder un œil sur le déploiement de ce type de technologie ailleurs.

Un pas en avant?

Il est bon de voir que les entreprises technologiques intensifient et se montrent proactives concernant le contenu terroriste sur leurs plateformes. Mais leur bilan est plein d'application laxiste et de négligence volontaire. Cet outil aidera-t-il à renverser la vapeur? Cela semble peu probable. (À moins qu'ils ne l'automatisent, ce qui s'accompagne de toute une série d'autres problèmes.) À mon avis, cette base de données ne changera pas grand-chose, et Twitter, Facebook, Microsoft et YouTube l'ont très bien conçu comme une mesure de relations publiques au lieu d'une mesure réellement destinée à faire du bien.

Qu'est-ce que tu penses? Cette base de données aidera-t-elle à lutter contre la propagation de contenus terroristes en ligne? Ou s'agit-il d'un geste vide dans le but de susciter l'admiration du public? Partagez votre opinion dans les commentaires ci-dessous!

Crédits image: Yunava1 / Shutterstock