Alors que le domaine de l'intelligence artificielle continue d'évoluer à un rythme vertigineux, un nouveau concurrent est sur le point d'entrer sur le terrain. TruthGPT, un chatbot IA proposé par le milliardaire technologique Elon Musk, génère beaucoup de buzz en ligne.
Mais qu'est-ce que TruthGPT? Pourquoi Elon Musk veut-il le créer? Et en quoi sera-t-il différent des outils d'IA dont nous disposons déjà?
Qu'est-ce que TruthGPT?
TruthGPT est un modèle d'IA proposé visant à remédier aux maux des modèles existants qui alimentent ChatGPT et Bard, avec un accent particulier sur la vérité et la sécurité. Selon Elon Musk, TruthGPT sera une IA « à la recherche maximale de la vérité » qui comprend la nature du l'univers et serait peu susceptible de détruire l'humanité parce qu'il considère les humains comme un élément essentiel de la univers.
Une IA à la recherche de vérité maximale? Comprendre la nature de l'univers?
Vous serez pardonné si la description de Musk ne vous donne pas une image claire de ce qu'il essaie exactement de construire. Cependant, vous aurez une meilleure idée de ce dont il parle en regardant pourquoi il essaie de le construire en premier lieu.
Pourquoi Elon Musk construit-il TruthGPT?
Dans une interview avec Fox News, Elon Musk a exprimé ses inquiétudes quant à la façon dont les grandes entreprises d'IA peuvent perpétuer les préjugés et la désinformation par le biais des chatbots d'IA, un outil émergent dont les gens dépendent de plus en plus pour obtenir des informations. Elon Musk a également commenté la menace que l'IA représente pour l'humanité, soulignant la possibilité d'une apocalypse de l'IA, un scénario où les systèmes d'IA pourraient prendre le contrôle de notre vie quotidienne.
Distinguant des entreprises comme OpenAI et Google, qui, selon lui, n'en font pas assez dans les domaines de la sécurité de l'IA et de la protection contre la désinformation, Elon Musk a proposé une troisième force: TruthGPT. Le PDG de SpaceX et Tesla veut créer TruthGPT comme contrepoids à Bard de Google et ChatGPT d'OpenAI. L'idée est de créer un modèle d'IA qui essaie autant que possible d'être véridique dans les informations qu'il fournit.
Elon Musk, qui a récemment rédigé une lettre ouverte appelant à une moratoire sur le développement d'IA puissantes modèles (en particulier ceux plus puissants que GPT-4), pense que l'IA va trop vite. Il pense que nous devons ralentir et réévaluer notre approche de la sécurité de l'IA avant que l'IA "ne prenne le contrôle". TruthGPT est un grand modèle de langage (LLM) qui promet de répondre à ces deux préoccupations fondamentales avec l'IA d'aujourd'hui systèmes.
À quoi ressemblerait TruthGPT?
Le premier indice sur l'apparence de TruthGPT est dans le nom. Compte tenu de l'appendice "GPT", TruthGPT aura probablement une architecture similaire à ChatGPT. Rappelez-vous, Elon Musk a aidé à assembler OpenAI et l'équipe qui a construit le modèle GPT de ChatGPT.
De plus, étant donné que l'architecture de GPT s'est avérée être à la fois un succès technique et commercial, suivre une voie différente sera probablement trop long et coûteux. Le temps est une chose qu'Elon Musk n'a pas s'il veut construire quelque chose qui peut vraiment se mesurer avec une IA de pointe dès que possible. Alors, ne soyez pas trop excité - TruthGPT n'est peut-être pas si radicalement différent des outils d'IA que nous avons déjà.
La précision, ou dans le jargon d'Elon Musk, la "véracité", d'un modèle d'IA dépend fortement de ses données d'entraînement et de l'algorithme d'entraînement. Nous ne savons pas exactement comment les données de formation de TruthGPT proviendraient, mais pour avoir les meilleures chances de créer un LLM aussi "véridiques" que possible, TruthGPT d'Elon Musk devrait donner la priorité aux données provenant de "sources véridiques". Mais c'est précisément le problème. La vérité est un concept très subjectif. Ce qui est vrai pour moi ne l'est peut-être pas pour vous.
Alors, cette idée d'une IA à la recherche maximale de la vérité est-elle même pratique ?
Pourquoi Construire TruthGPT est un énorme défi
Une fois que vous comprendre comment fonctionnent les grands modèles de langage comme GPT, il devient clair qu'il n'est pas pratique d'être correct à tout moment. Généralement formés sur un grand ensemble de données Internet, beaucoup d'entre elles seront, comme on pouvait s'y attendre, de fausses informations, et les LLM n'ont aucun moyen inerte de distinguer les faits de la fiction.
La meilleure intervention est généralement celle de formateurs humains qui essaient d'enseigner au modèle de langage ce qui est un bon comportement et ce qui est mauvais. Mais les dresseurs humains sont biaisés. Le biais est transmis aux modèles d'IA, allant à l'encontre de l'objectif d'une "IA à la recherche maximale de la vérité". Notez que nous ne parlons pas de préjugés ou de préjugés purs et simples contre un peuple ou autrement. C'est le biais le plus subtil sur la façon dont vous interprétez le langage, les situations, les défis, etc. qui s'infiltrent dans le processus. Les humains sont humains, après tout.
Bien sûr, la précision peut également être abordée du côté de l'algorithme. Cependant, quel que soit l'algorithme, l'ambiguïté du langage représente toujours un gros problème pour la précision des modèles d'IA. Même les humains ont souvent du mal à interpréter avec précision le sens d'une phrase ou d'une expression, ce qui conduit à la désinformation. Pour les modèles d'IA, l'ambiguïté peut conduire à des interprétations erronées entraînant des inexactitudes.
Pour Musk, TruthGPT semble être une chance pour lui de créer un modèle d'IA qu'il juge bon de livrer la vérité. Comment cela se produirait-il sans introduire ses propres préjugés est une autre question qui nous ramène entièrement et efficacement au début de la conversation. En quoi les opinions de Musk sur ce qui est biaisé ou pas différent de ceux qui ont formé et dirigé ChatGPT ?
Est-ce que TruthGPT est une possibilité passionnante?
Les plans d'Elon Musk pour TruthGPT semblent nobles et louables. Cependant, la construction d'un modèle d'IA avec une incidence négligeable d'inexactitudes est une tâche difficile.
Bien que nous nous attendions à ce qu'un milliardaire de la technologie qui a démystifié la science des fusées soit capable de réaliser quelque chose de cette nature, certaines choses sont plus faciles à dire qu'à faire.