La première fois que nous avons entendu l'idée que l'algorithme de recadrage d'images de Twitter pouvait avoir des biais, c'était en septembre 2020. L'ingénieur en cryptographie Tony Arcieri a téléchargé deux images montrant le chef de la majorité au Sénat Mitch McConnell et l'ancien président Barack Obama, et l'IA a recadré le visage de McConnell les deux fois.
Lorsque la controverse a finalement atteint les gens de Twitter, la société a promis d'analyser son modèle. Enfin, nous lisons ces résultats.
Twitter partage les résultats de son analyse algorithmique
Début mai, Twitter a enfin déployé des aperçus d'images en taille réelle sur ses chronologies mobiles. Un article sur le blog Twitter a révélé que l'application avait supprimé son algorithme de recadrage d'image après qu'une analyse ait montré qu'elle avait des préjugés raciaux et sexistes.
La plate-forme a commencé à utiliser un algorithme de saillance en 2018 pour recadrer ses images. Twitter dit que les modèles de saillance sont formés sur des données de suivi de l'œil humain, qui sont ensuite utilisées par le algorithme pour estimer les sujets / éléments de l'image qui, selon lui, sont les plus importants pour la plupart gens.
L'algorithme proposerait alors un score de saillance pour toutes les parties de l'image avant de choisir le point avec le score le plus élevé pour être le centre de la culture.
Après avoir effectué un test quantitatif pour vérifier les biais potentiels, l'équipe a constaté que l'algorithme de saillance semblait favoriser les femmes par rapport aux hommes et les individus blancs par rapport aux individus noirs.
Twitter a également testé l'algorithme pour le «regard masculin», mais aucune preuve de biais d'objectivation n'a été trouvée.
Même si l'algorithme de saillance a été ajusté pour refléter une égalité parfaite entre les sous-groupes de race et de sexe, nous [Twitter] sommes préoccupés par le préjudice de représentation de l'algorithme automatisé lorsque les gens ne sont pas autorisés à se représenter comme ils le souhaitent sur le Plate-forme. La saillance présente également d'autres préjudices potentiels au-delà de la portée de cette analyse, notamment l'insensibilité aux nuances culturelles.
En considérant les compromis entre la vitesse et la cohérence de la culture automatisée et ses risques, Twitter dit que son équipe a réalisé que la façon de recadrer une image est une décision qui est mieux prise par les gens, pas algorithmes.
En rapport: Les tendances technologiques qui changent déjà l'avenir
Twitter se débarrasse du recadrage automatique des images
Twitter n'utilise plus l'algorithme de saillance et affiche désormais les photos au format standard dans leur intégralité sur iOS et Android. Lors de la création d'un tweet, vous constaterez que la nouvelle mise à jour comprend également un véritable aperçu des images téléchargées, afin que vous sachiez à quoi tout ressemblera une fois publié.
Si vous souhaitez lire l'article académique de l'étude, vous pouvez le trouver sur arXiv.org. Vous pouvez également trouver le code de Twitter pour l'analyse sur GitHub.
L'application Twitter vous permet désormais de télécharger et de visualiser des images en 4K. Voici comment modifier vos paramètres.
Lire la suite
- Des médias sociaux
- Actualités techniques
- Intelligence artificielle
La plupart du temps, vous pouvez trouver Jessibelle recroquevillée sous une couverture lestée dans un appartement confortable au Canada. Elle est une écrivaine indépendante qui aime l'art numérique, les jeux vidéo et la mode gothique.
Abonnez-vous à notre newsletter
Rejoignez notre newsletter pour des conseils techniques, des critiques, des ebooks gratuits et des offres exclusives!
Un pas de plus…!
Veuillez confirmer votre adresse e-mail dans l'e-mail que nous venons de vous envoyer.
