Le top 9 des mythes sur les chatbots IA démystifiés

Il faut généralement du temps pour que les mythes se perpétuent sur n'importe quel sujet. Cela en dit long sur les chatbots d'IA générative que tant de mythes sont apparus si rapidement.

Presque en un clin d'œil, les chatbots IA sont devenus la technologie la plus perturbatrice du siècle. C'est aussi une technologie qui fait l'objet de controverses, et certaines d'entre elles sont véritablement préoccupantes. Mais les mythes sont au cœur d'au moins une partie de la controverse.

Démêlons réalité et fiction en explorant les principaux mythes des chatbots IA.

1. Les chatbots IA sont sensibles

Les chatbots comme ChatGPT et Bing Chat peuvent être capables de générer des réponses de type humain, mais ils sont loin d'être sensibles. Cette capacité est l'imitation et non la sensibilité. Ces outils utilisent d'énormes bases de données de texte et d'images pour créer des réponses qui imitent les réponses humaines.

C'est complexe, c'est intelligent et, dans une certaine mesure, on pourrait discuter de la présence d'intelligence, mais pas de sensibilité. Toute « intelligence » présente dans ces outils est créée en les entraînant sur des quantités massives de données. En ce sens, ils s'apparentent plus à une base de données incroyablement puissante et flexible qu'à un être sensible.

2. Les chatbots peuvent gérer n'importe quel type de tâche ou de demande

Alors que les chatbots peuvent être considérés comme une sorte de couteau suisse technologique, il existe des limites distinctes quant à ce qu'ils peuvent réaliser. Cela se voit lorsque l'on travaille sur des sujets complexes ou hautement spécialisés. Mais même des tâches simples peuvent les jeter.

Par exemple, le domaine émergent des chatbots d'IA générative serait un sujet que vous penseriez que de tels outils pourraient tout savoir, mais essayez de poser une question à ChatGPT sur l'un de ses rivaux et les limitations sont immédiatement apparent:

Nous lui avons demandé: "Quel grand modèle de langage Google Bard utilise-t-il ?"

Maintenant, juste pour être clair, il existe des limites connues à ChatGPT et à l'âge des données auxquelles il peut faire référence. Cette question a été délibérément mise en place pour exposer cela. Cependant, nous avons posé la même question à Bard lorsque comparant Google Bard vs. ChatGPT, et il s'est trompé aussi :

Les chatbots peuvent être intelligents, mais ils ne sont capables d'aucun type de tâche et échouent parfois sur les questions les plus simples.

3. Les chatbots sont une menace pour l'humanité

Le problème ici est que les gens confondent les outils de productivité avec Robocop. Les chatbots peuvent constituer une menace pour l'emploi de certaines personnes et peuvent perturber certaines industries. Mais il serait exagéré de prétendre qu'ils sont une menace pour l'humanité dans son ensemble.

En fin de compte, l'IA est une technologie émergente qui devra être surveillée de près pour s'assurer qu'elle reste une technologie éthique et sûre. Mais les chatbots ne sont pas sur le point de régner en maître.

Dans ce cas, nous ne pourrions pas dire mieux que ChatGPT.

Mais ça dirait ça. N'est-ce pas?

4. Les chatbots IA sont infaillibles

Rien ne pourrait être plus éloigné de la vérité. Comme les outils eux-mêmes se donnent beaucoup de mal pour expliquer, ils peuvent générer des informations incorrectes. Le problème est que les chatbots IA génératifs s'appuient sur d'énormes bases de données appelées grands modèles de langage (LLM).

Les LLM contiennent du texte provenant d'une vaste gamme de sources, tout, de la littérature aux publications sur les réseaux sociaux, est inclus dans les LLM. C'est le référentiel auquel les chatbots se réfèrent pour fournir leurs réponses. Toute erreur factuelle présente dans ceux-ci peut se manifester dans les réponses qu'ils fournissent.

Les hallucinations de l'IA sont une forme courante d'erreur cela montre trop souvent à quel point ces outils sont faillibles.

5. Les chatbots remplaceront l'interaction humaine

La réponse à cette question peut renvoyer à la section sur la sentience. Les chatbots peuvent imiter les réponses humaines et peuvent certainement répondre avec compétence à des questions factuelles (principalement) et aider de plusieurs façons. Cependant, ils ne peuvent pas comprendre les émotions, les expériences humaines et de nombreuses nuances de la conversation.

L'interaction humaine est un processus complexe à plusieurs niveaux qui implique des éléments tels que l'empathie, la pensée critique, la compréhension émotionnelle et l'intuition. Aucun de ces attributs n'est présent dans les chatbots d'IA générative.

6. Les chatbots génératifs IA ne sont bons que pour les interactions textuelles

Celui-ci a au moins un anneau de vérité à ce sujet. Cependant, des progrès ont été réalisés dans le domaine des chatbots génératifs d'IA pour étendre leurs capacités au-delà du simple texte.

Les développements récents ont introduit des chatbots multimodaux capables de gérer non seulement du texte, mais également d'incorporer d'autres interactions telles que des images, des vidéos et même des commandes vocales.

La vitesse à laquelle ces outils se développent est en partie à l'origine de ce mythe. Les limites de ce que cette technologie peut faire sont repoussées à un rythme rapide et les itérations initiales qui étaient principalement basées sur du texte sont déjà considérées comme démodées.

7. Les chatbots fourniront toujours des réponses impartiales

Malheureusement, ce n'est pas le cas. Le potentiel de réponses biaisées est toujours là avec les chatbots IA. La racine du problème remonte aux LLM. La grande quantité de données auxquelles les chatbots font référence contient inévitablement des biais. Ces préjugés peuvent inclure le sexe, la race, la nationalité et des préjugés sociétaux plus larges.

Bien que les développeurs s'efforcent de minimiser les biais dans les réponses des chatbots, la tâche est incroyablement difficile et les réponses biaisées se glissent à travers le filet. Inévitablement, ces techniques « non biaisées » s'amélioreront et le nombre de réponses biaisées diminuera.

Cependant, pour le moment du moins, le potentiel de réponses biaisées est un problème non résolu.

8. Les chatbots sont en fait de vrais humains

Le mythe le plus ridicule est peut-être que derrière chaque chatbot IA se cache un véritable humain. Celui-ci marche sur une ligne délicate entre la théorie du complot et le mythe, nous ne nous attarderons pas sur celui-ci autrement que pour dire que c'est un non-sens.

9. Les chatbots IA peuvent se programmer eux-mêmes

Les chatbots doivent être formés et programmés pour effectuer leurs tâches de la même manière que tout logiciel doit être programmé pour exécuter des fonctions spécifiques.

Bien que les chatbots IA utilisent des techniques d'apprentissage automatique pour améliorer leurs performances, ils ne possèdent pas la capacité de se programmer de manière autonome.

Le processus de formation pourrait être assimilé au processus de test de logiciels non IA. La formation consiste à prédéfinir leurs objectifs, à concevoir leur architecture et à leur apprendre à générer des réponses basées sur les données du LLM concerné. Tout ce progrès nécessite encore une intervention humaine et une expertise en programmation.

Chatbots IA: séparer les faits de la fiction

L'adoption rapide de l'utilisation de ces outils a perpétué toute une série de mythes. Certains d'entre eux sont des absurdités absolues, et certains d'entre eux ont un grain ou deux de vérité. Ce qui est clair, c'est qu'il y a beaucoup de désinformation autour des chatbots IA qui doivent être clarifiées.

En examinant les faits et en dissipant la fiction, nous pouvons mieux comprendre les véritables capacités et limites de ces puissants outils. Les chatbots IA ne sont pas les seuls à perpétuer rapidement les mythes, il existe de nombreux autres mythes qui circulent sur l'IA en général.