Est-il possible pour les ordinateurs d’apprendre le bon sens ?

Points clés à retenir

• Le bon sens est la capacité de comprendre et de réagir aux situations quotidiennes sans suranalyser. Elle s’acquiert à travers les expériences et observations de la vie, ainsi que les normes sociétales et culturelles.
• Les ordinateurs ont du mal à faire preuve de bon sens car ils manquent d’expériences du monde réel et de capacité à s’adapter à de nouveaux contextes. Ils sont également aux prises avec des règles et des hypothèses tacites que les humains comprennent intuitivement.
• Les chercheurs explorent différentes approches, telles que la constitution de bases de connaissances approfondies, faire appel au bon sens et enseigner l'IA à travers des mondes simulés pour former les ordinateurs à l'acquisition bon sens. Des progrès ont été réalisés, mais il reste encore du travail à faire.

Bon sens. Nous pensons tous que nous l'avons. mais qu'est ce que c'est exactement? Les ordinateurs ou les systèmes d’intelligence artificielle pourront-ils réellement l’acquérir ?

Qu’est-ce que le bon sens et comment les humains l’acquièrent-ils?

Le bon sens est la capacité fondamentale de percevoir, de comprendre et de juger les choses que la plupart des gens sont censés posséder. Il s'agit d'un ensemble de faits, d'informations et de règles empiriques que nous accumulons à travers nos expériences et observations de la vie. Le bon sens nous permet de traiter et de réagir efficacement aux situations quotidiennes sans les analyser trop en profondeur.

Les humains commencent à acquérir le bon sens dès le plus jeune âge. En tant que bébés, nous commençons à apprendre les relations de cause à effet, comme si pleurer conduisait à être nourri ou changé. Grâce à des expériences répétées, nous acquérons des connaissances pratiques sur le monde. Par exemple, toucher une cuisinière chaude entraîne des brûlures. On apprend donc à ne pas toucher les surfaces chaudes.

En tant qu'enfants, nous continuons à développer notre bon sens par des essais et des erreurs, ainsi que par l'observation et l'interaction avec les membres de la famille. Par exemple, nous sommes conscients que les vêtements doivent être lavés régulièrement, qu'il ne faut pas parler la bouche pleine et que renverser son verre de lait entraîne des dégâts. Les parents, frères et sœurs, enseignants et autres adultes nous corrigent lorsque nous violons les normes et attentes de la société. Au fil du temps, ces leçons s’enracinent dans le bon sens fondamental.

Outre les expériences personnelles, le bon sens est façonné par des normes sociétales et culturelles plus larges. Ce qui peut être du bon sens dans une culture (comme enlever ses chaussures en entrant dans une maison) peut ne pas l’être dans une autre culture.

Notre bon sens s’adapte à mesure que nous mûrissons et que nous sommes exposés à davantage de personnes et d’environnements. Ainsi, un enfant qui grandit dans une petite ville acquiert un bon sens de base quant à la vie dans ce cadre. Un adulte qui déménage dans une grande ville métropolitaine doit adapter son bon sens au nouvel environnement.

Le bon sens continue d’évoluer à mesure que nous vivons de nouvelles expériences tout au long de notre vie.

Pourquoi le bon sens est-il un défi pour les ordinateurs?

Il y a plusieurs raisons pour lesquelles le bon sens est difficile à programmer.

D’une part, les humains acquièrent progressivement leur bon sens au fil des années de découverte du monde. Nous essayons des choses, voyons ce qui fonctionne et ce qui ne fonctionne pas et mémorisons les leçons. Les ordinateurs n’ont pas ce genre d’expériences du monde réel sur lesquelles s’appuyer. Ils ne savent que ce que les humains leur disent explicitement.

Par exemple, j'ai posé cette question à ChatGPT (GPT 3.5) :

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Il s'est avéré avec cette réponse :

Un autre problème est que le bon sens dépend du contexte. Si un ordinateur n’a programmé que des règles spécifiques, il ne peut pas les adapter à de nouveaux contextes comme le font intuitivement les humains.

Par exemple, disons que vous avez appris à un ordinateur quoi faire s'il commence à pleuvoir alors qu'il est dehors. Cela semble simple, non? Et si au lieu de la pluie, c'était un arroseur qui se mettait en marche? Ou que se passe-t-il si c'est à l'intérieur d'une épicerie et que les tuyaux commencent à laisser échapper de l'eau du plafond? Nous saurions instantanément comment gérer ces variations, mais un ordinateur suivrait aveuglément sa règle « quand il pleut dehors, rentrez à l'intérieur », ce qui n'a désormais aucun sens.

Il existe également des règles et des hypothèses tacites que les humains absorbent sans même s’en rendre compte. Par exemple, à quelle distance pouvez-vous vous tenir à côté de quelqu’un avant que cela ne vous semble gênant? Les humains connaissent intuitivement la réponse, mais ne sont peut-être pas facilement en mesure d’expliquer les règles exactes. Ces normes sociales implicites peuvent être particulièrement difficiles à comprendre pour les ordinateurs uniquement à partir des données.

Ainsi, pour l’instant, le bon sens reste l’une des plus grandes faiblesses de l’IA par rapport à l’intelligence humaine. Cela vient naturellement aux gens, mais pas tellement aux machines.

Comment les ordinateurs peuvent apprendre le bon sens

Après un début d’optimisme dans les années 1970 et 1980, les chercheurs ont réalisé à quel point il serait difficile d’enseigner le bon sens aux ordinateurs. Cependant, de nouvelles approches s’avèrent prometteuses pour former les systèmes d’IA à acquérir un bon sens commun concernant le monde physique et social quotidien.

Une approche consiste à construire manuellement de vastes bases de connaissances, détaillant les faits et les règles sur le fonctionnement du monde. Le projet Cyc, lancé en 1984 par Doug Lenat, représente un effort ambitieux de ce genre.

Des centaines de logiciens ont codé des millions d’axiomes logiques en Cyc au fil des décennies. Bien que cela prenne du temps, le résultat est un système doté de connaissances considérables du monde réel. Cyc peut apparemment penser qu'une tomate est techniquement un fruit mais ne devrait pas entrer dans une salade de fruits, grâce à sa connaissance des profils de saveurs culinaires.

Crowdsourcing de bon sens avec ConceptNet

Des bases de connaissances plus modernes comme ConceptNet adopter une approche de crowdsourcing pour générer des affirmations de bon sens. L’idée est qu’au lieu de demander à des experts ou à l’IA d’essayer de trouver tous les faits et relations fondamentaux du monde, ils les ouvrent afin que chacun puisse apporter des bribes de bon sens.

Cette approche de crowdsourcing permet à ces bases de connaissances d'exploiter l'intelligence collective de nombreuses personnes diverses sur Internet. En accumulant des milliers et des milliers de ces petites pépites de bon sens provenant de la foule, ConceptNet a constitué des référentiels étonnamment vastes de connaissances de base quotidiennes. Et comme de nouveaux contributeurs y ajoutent toujours, les connaissances ne cessent de croître.

Enseigner le bon sens par l’expérience

Une autre approche prometteuse consiste à créer des mondes simulés détaillés dans lesquels les agents d’IA peuvent expérimenter et apprendre la physique et les intuitions grâce à l’expérience.

Les chercheurs créent des environnements virtuels 3D remplis d'objets du quotidien qui imitent le monde réel, comme la maison numérique « AI2 THOR » construite par l'Institut Allen. Dans ces espaces, les robots IA peuvent tester toutes sortes d’interactions pour développer une compréhension intuitive des concepts que les humains tiennent pour acquis.

Par exemple, un robot IA peut recevoir un corps virtuel et essayer de ramasser des blocs, de les empiler, de les renverser, etc. En voyant les blocs tomber et entrer en collision de manière réaliste, le robot apprend des notions de base sur la solidité, la gravité et la dynamique physique. Aucune règle n'est nécessaire, juste de l'expérience.

Le robot peut également essayer des actions comme laisser tomber un objet en verre et le voir se briser lorsqu'il touche le sol. Il peut également expérimenter les propriétés de l'eau en versant des liquides et en observant comment ils s'écoulent et s'accumulent. Ces leçons pratiques fondent les connaissances de l’IA sur l’expérience sensorielle et pas seulement sur les modèles de données.

Techniques basées sur les données comme la pré-formation grands modèles de langage puissants se sont également révélés étonnamment efficaces pour capter des schémas de bon sens. Des modèles d'IA comme GPT-3.5 et GPT-4 peut générer un texte incroyablement semblable à celui d'un humain après avoir « lu » de grandes quantités de données Internet.

Même s'ils font parfois des suggestions peu judicieuses (autrement connu sous le nom d'hallucination de l'IA), l’approche d’apprentissage statistique leur permet de mimer certains types de bon sens. Cependant, des désaccords subsistent quant à savoir si cela relève du bon sens ou s'il s'agit d'une exploitation intelligente des biais des données.

Comment tester les ordinateurs pour faire preuve de bon sens

À mesure que les systèmes d’intelligence artificielle assument des tâches plus complexes dans le monde réel, il devient crucial d’évaluer s’ils font preuve de « bon sens ».

Bon sens physique

Un domaine à tester est le bon sens physique – l’intuition sur les objets, les forces et les propriétés fondamentales du monde.

Par exemple, montrez un système de vision par ordinateur une photo avec un livre flottant dans les airs et demandez-lui de décrire la scène. Remarque-t-il quelque chose d'inhabituel à propos du livre flottant? Ou alimentez le système d'IA avec des scénarios inhabituels comme "l'homme a coupé une pierre avec une miche de pain" et vérifiez s'il les signale comme improbables.

L'environnement AI2 THOR de l'Allen Institute simule des tours de blocs, des tasses renversées et d'autres scènes pour tester ces intuitions physiques.

Bon sens social

Les humains ont également un bon sens social – une compréhension implicite des motivations, des relations et des normes des gens. Pour évaluer cela en IA, posez des situations avec des pronoms ou des motivations ambigus et voyez si le système les interprète raisonnablement.

Par exemple, j'ai demandé à ChatGPT si « ça » faisait référence à la valise ou au trophée dans l'invite ci-dessous :

The trophy could not fit into the suitcase because it was too small. 

Il a échoué au test; pendant ce temps, un humain saurait évidemment que je faisais référence à la valise.

Ce type de test s'appelle le Winograd Schema Challenge, ciblant spécifiquement le bon sens social.

Sécurité et éthique

Il est essentiel de vérifier si les systèmes d’IA ont appris des modèles dangereux ou contraires à l’éthique. Analysez si l'IA présente des préjugés néfastes basés sur le sexe, la race ou d'autres attributs lors de la prise de jugement.

Vérifiez s’il fait des distinctions éthiques raisonnables. Tuer un ours pour sauver un enfant peut être considéré comme justifié, alors que faire exploser une bombe nucléaire dans le même but ne le serait pas. Signalez toute recommandation concernant des actes manifestement contraires à l’éthique.

Performances réelles

Évaluez le bon sens en observant le fonctionnement des systèmes d’IA dans des contextes réels. Par exemple, faites les voitures autonomes identifient et réagissent correctement aux objets et aux piétons? Un robot peut-il se déplacer dans des environnements domestiques variés sans casser des objets de valeur ni blesser des animaux domestiques ?

Les tests en conditions réelles révèlent des lacunes dans le bon sens qui pourraient ne pas apparaître dans des conditions de laboratoire limitées.

Des progrès réalisés, mais il reste du travail sur l'IA de bon sens

Certains experts affirment que l’IA pourrait ne jamais atteindre le bon sens humain sans développer des structures cérébrales et des corps comme les nôtres. D’un autre côté, les esprits numériques ne sont pas limités par les préjugés humains et les raccourcis mentaux, donc en théorie, ils pourraient nous surpasser! Bien que nous n’ayons probablement pas encore à nous soucier de l’IA super intelligente.

À court terme, le meilleur pari est l’IA qui combine le bon sens appris avec une bonne programmation à l’ancienne. De cette façon, des erreurs stupides comme confondre une tortue avec un fusil pourront, espérons-le, être évitées.

Nous n’en sommes pas encore là, mais le bon sens n’est plus la matière noire de l’IA: des progrès sont en cours! Néanmoins, une bonne dose de bon sens humain sera nécessaire pour appliquer ces technologies pendant un certain temps.