En ce qui concerne les médias sociaux, nous savons tous qu'en plus des nombreux avantages qu'ils offrent pour établir des liens plus facile, il peut également y avoir certains risques et dangers liés à l'interaction en ligne, en particulier pour les jeunes. Heureusement, il existe des applications qui sont proactives et essaient de limiter ces dommages qui peuvent arriver aux jeunes en mettant en œuvre des technologies de modération appropriées.
Yubo, l'application de découverte sociale en direct la plus utilisée par la génération Z, a annoncé que sa modération audio en direct la technologie s'étend à ses plus grands marchés, à savoir les États-Unis, le Royaume-Uni, l'Australie et Canada.
Cela vient après plusieurs mois de test de la fonctionnalité dans certaines régions des États-Unis, alors que la société a appris à résoudre les problèmes liés à l'analyse audio en temps réel.
L'importance de la modération de contenu
Modérer du contenu en ligne est un travail difficile à faire. Nous avons vu cela avec Facebook et Twitter et Instagram et ainsi de suite. Entre les insultes, les commentaires haineux, voire parfois la violence ou l'automutilation, la modération est extrêmement importante pour assurer la sécurité de ces plateformes et la protection de leurs utilisateurs. Il y a quelque chose dans le fait de pouvoir se cacher derrière le supposé anonymat offert par Internet qui peut faire ressortir le pire chez certaines personnes.
Eh bien, Yubo continue de montrer qu'il fait tout ce qu'il peut pour empêcher cela, d'autant plus que sa base d'utilisateurs est beaucoup plus jeune. Selon Yubo, 99% de leur base d'utilisateurs sont des Gen Z âgés de 13 à 25 ans. Bien que le harcèlement en ligne ne soit agréable à supporter pour personne, il peut être particulièrement nocif pour les adolescents.
La technologie de modération d'images et de vidéos existe depuis un certain temps et a été mise en œuvre à différents stades de succès. Modération audio, cependant, est resté un défi majeur, en particulier avec les flux en direct. Qu'il s'agisse d'un flux en direct pris en marchant dans la rue ou d'un flux où quelqu'un joue à un jeu vidéo, cela n'a pas vraiment d'importance.
Comment fonctionne la modération audio de Yubo
À partir de mai 2022, Yubo a entamé une phase d'essai de sa technologie de modération audio dans diverses régions des États-Unis. Désormais, la phase suivante comprend la plupart des régions anglophones où Yubo dispose d'une large base d'utilisateurs afin de permettre à l'entreprise de mieux comprendre son nouvel outil de sécurité.
Bien qu'encore nouvelle, il s'agit d'une technologie qui pourrait finir par être largement utilisée pour détecter la violence ou l'automutilation à l'avenir.
Yubo ne fait pas tout cela tout seul, mais plutôt en partenariat avec Hive. Hive, si vous n'en avez pas entendu parler, est une entreprise qui crée et fournit des API de modération de contenu pour traiter des images et des vidéos en temps quasi réel.
La technologie mise en œuvre par Yubo fonctionne en enregistrant et en transcrivant des extraits audio de 10 secondes dans des flux en direct de 10 personnes ou plus. Le texte est immédiatement analysé par l'intelligence artificielle pour détecter tout mot ou phrase qui enfreint les règles de l'application. Règles de la communauté.
Attendez, ça ne s'arrête pas là. Bien que l'intelligence artificielle puisse être excellente pour détecter de telles choses, elle est encore loin du point où elle peut faire la différence entre les utilisations problématiques réelles et les faux drapeaux.
Les faux drapeaux peuvent être, par exemple, des chansons jouées en arrière-plan ou un langage ludique qui n'est pas mal intentionné.
C'est donc là que les spécialistes de la sécurité de Yubo entrent en jeu, car ils sont amenés à enquêter sur les incidents signalés. Les humains sont ceux qui déterminent si une situation nécessite une escalade ou non s'il y a des actions qui devraient être prises contre les personnes utilisant un langage grossier, ou même si les forces de l'ordre doivent être amenées dans.
Si le flux en direct est parfaitement correct, aucune transcription n'est examinée ou conservée au-delà d'une limite de 24 heures, donc tout reste privé; ou aussi privé qu'un flux en direct avec plus de 10 personnes peut l'être.
Cependant, si les algorithmes détectent des menaces violentes, des discours de haine ou des actes d'automutilation, par exemple, les transcriptions sont conservées jusqu'à un an. Il s'agit, bien sûr, d'une mesure de sécurité pour l'entreprise au cas où les forces de l'ordre auraient besoin de ces informations ou si l'entreprise elle-même avait besoin des détails pour de nouvelles enquêtes internes.
Le directeur général de Yubo, Marc-Antoine Durand, voit l'expansion de modération audio la technologie comme élément clé de l'évolution de la sécurité en ligne dans l'ensemble de l'industrie.
« Il reste encore beaucoup de progrès à faire dans le domaine de la détection vocale, mais nous sommes fiers de tracer la voie pour nos pairs en être le premier à lancer la modération audio avec Hive et contribuer à rendre cet outil plus fiable et efficace grâce à cet essai », Durand a dit.
De toute évidence, les plateformes sociales ne veulent pas d'intimidation généralisée, de discours de haine et de commentaires incitant à la violence, car cela repousserait les autres utilisateurs. La mise en œuvre d'une telle technologie de modération est un excellent outil pour assurer la sécurité des utilisateurs, et également pour aider à garantir la croissance et le succès de Yubo à long terme.