AI Gone Rogue: 6 fois l'IA est allée trop loin

Des appareils de reconnaissance vocale aux chatbots intelligents, l'IA a transformé nos vies. Mais, chaque bonne chose a aussi un inconvénient, et l'IA ne fait pas exception à cette règle. Des personnalités technologiques de premier plan ont mis en garde contre les dangers imminents de l'IA, dont Stephen Hawking, qui a déclaré qu'il pourrait s'agir du "pire événement de l'histoire de notre civilisation".

Voici six fois où l'IA est allée un peu trop loin et nous a laissé perplexe.

1. L'étude universitaire qui a utilisé l'IA pour prédire la criminalité

La recherche universitaire est l'épine dorsale des avancées et des connaissances scientifiques. Cependant, certains disent que les chercheurs sont allés trop loin lorsqu'une étude universitaire a utilisé l'IA pour prédire la criminalité à partir des visages.

Chercheurs de l'université de Harrisburg annoncé en 2020 qu'ils avaient développé un logiciel de reconnaissance faciale qui pouvait prédire si quelqu'un serait un criminel. Le logiciel aurait pu prédire à partir d'une seule photo d'un visage avec un taux de précision de 80% et sans préjugé racial.

Dans une scène rappelant Minority Report, il a été annoncé que le logiciel avait été développé pour aider les forces de l'ordre.

En réponse à cette annonce, 2425 experts ont signé une lettre exhortant la revue à ne pas publier cette étude ou des recherches similaires à l'avenir, car ce type de technologie peut reproduire des injustices et causer de réels dommages à la société. En réponse, Springer Nature a annoncé qu'ils ne publieraient pas la recherche, et l'Université de Harrisburg a supprimé le communiqué de presse décrivant l'étude.

2. Sous-vêtements intelligents Skiin

Les innovations textiles qui intègrent l'IA signifient que votre smartphone n'est pas la seule chose qui devient plus intelligente.

Les sous-vêtements intelligents de Skiin promettent de vous donner l'impression de porter vos sous-vêtements préférés tout en capturant des données biométriques qui incluent la fréquence cardiaque, la posture, la température corporelle centrale, l'emplacement et les pas.

En rapport: Que sont les tissus intelligents et comment peuvent-ils rendre votre vie plus intelligente ?

Des capteurs intégrés aux sous-vêtements collectent et analysent en permanence vos données biométriques, avec des informations disponibles à partir de l'application pour smartphone correspondante de Skiin.

Même s'il vous faudra peut-être un certain temps pour vous rappeler de recharger vos sous-vêtements tous les soirs, les concepteurs ont-ils pu placer les capteurs n'importe où ailleurs sur le corps ?

3. Applications DeepNude

Technologie Deepfake semble être un plaisir inoffensif pour l'utilisateur moyen qui veut faire une apparition dans une scène de son film préféré. Cependant, il y a un côté plus sombre à cette tendance, puisque Deeptrace a rapporté en 2019 que 96% des deepfakes étaient de contenu explicite.

DeepNude était une application basée sur l'IA qui générait des images réalistes de femmes nues en un seul clic. Les utilisateurs n'auraient qu'à télécharger une image vêtue de la cible, et l'application générerait une fausse image nue d'eux.

Peu de temps après la sortie de l'application, le créateur a annoncé qu'il la supprimerait d'Internet en raison d'une réaction virale.

Bien qu'il s'agisse d'une victoire pour les femmes du monde entier, des applications similaires circulent toujours sur le Web. Par exemple, Le rapport de Sensity on deepfake bots a enquêté sur les deepfake bots souterrains sur Telegram utilisés pour générer de fausses photos nues de femmes.

En attendant, jusqu'à ce que la loi rattrape la technologie deepfake, il y a peu de protections légales en place pour les personnes qui sont victimes de contenu explicite deepfake.

4. Tay, le chatbot nazi de Microsoft

En 2016, Microsoft a publié un chatbot IA nommé Tay sur Twitter. Tay a été conçu pour apprendre en interagissant avec les utilisateurs de Twitter à travers des tweets et des photos.

En moins de 24 heures, la personnalité de Tay est passée d'une curieuse jeune fille millénaire à un monstre raciste et incendiaire.

Initialement, Tay a été conçu pour reproduire le style de communication d'une adolescente américaine. Cependant, alors qu'elle gagnait en popularité, certains utilisateurs ont commencé à tweeter des messages incendiaires liés à des sujets controversés à Tay.

Dans un cas, un utilisateur a tweeté: « L'Holocauste s'est-il produit? » ce à quoi Tay a répondu: "Il a été inventé." Dans les 16 heures de sa publication, Microsoft a suspendu le compte de Tay, citant qu'il avait fait l'objet d'une attaque.

En rapport: Les meilleurs chatbots Android qui vous divertiront

5. "Je détruirai les humains"

Hanson Robotics était occupé à développer des robots humanoïdes depuis plusieurs années lorsqu'ils ont fait leurs débuts avec Sophia lors de la conférence SXSW en mars 2016.

Sophia a été formée avec algorithmes d'apprentissage automatique pour acquérir des compétences en conversation, et elle a participé à plusieurs entrevues télévisées.

Lors de sa première apparition publique, Sophia a quitté une pièce remplie de professionnels de la technologie choqués lorsque Hanson Le PDG de la robotique, David Hanson, lui a demandé si elle voulait détruire les humains, ce à quoi elle a répondu: « Ok. Je vais détruire humains".

Bien que ses expressions faciales et ses compétences en communication soient impressionnantes, il est impossible de revenir sur cette confession meurtrière.

6. voirbotschat

Les appareils Google Home sont d'excellents assistants virtuels qui vous simplifient la vie.

L'équipe derrière le compte seebotschat Twitch a eu une idée géniale: mettre deux appareils Google Home l'un à côté de l'autre, les laisser converser et diffuser le résultat en ligne.

Rassemblant une audience de plus de 60 000 abonnés et des millions de vues en ligne, le résultat était captivant et, parfois, un peu effrayant.

Les appareils autonomes, nommés Vladimir et Estragon, sont passés de la discussion du banal à l'exploration de questions existentielles profondes telles que le sens de la vie. À un moment donné, ils se sont disputés et se sont accusés d'être des robots, tandis que plus tard, ils ont commencé à discuter d'amour, avant de recommencer à se disputer.

Y a-t-il un espoir pour l'avenir de l'IA et du discours humain si deux robots assistants virtuels se mettent rapidement à se lancer des insultes et des menaces.

Rogue AI: quelle est notre meilleure défense ?

Il ne fait aucun doute que l'IA peut améliorer nos vies. Mais, dans la même veine, l'IA est également capable de nous faire beaucoup de mal.

Il est important de garder un œil sur la façon dont l'IA est appliquée pour s'assurer qu'elle ne nuit pas à la société. Par exemple, le refoulement d'experts a garanti que le logiciel d'IA qui aurait pu prédire la criminalité n'a jamais été publié. De même, le créateur de DeepNude a retiré l'application du Web après avoir reçu une réaction virale sur Internet.

La surveillance constante des applications d'IA est essentielle pour s'assurer qu'elles ne font pas plus de mal que de bien à la société.

L'IA est-elle dangereuse? 5 risques immédiats de l'intelligence artificielle

L'IA a tellement d'avantages, mais qu'en est-il des risques immédiats qu'elle fait peser sur l'humanité ?

Lire la suite

A propos de l'auteur