Comment réduire les hallucinations de l'IA avec ces 6 techniques d'incitation

Points clés à retenir

• Des invites claires et spécifiques sont essentielles pour minimiser les hallucinations de l’IA. Évitez les instructions vagues et fournissez des détails explicites pour éviter des résultats imprévisibles.
• Utilisez la mise à la terre ou la technique « selon… » pour attribuer la sortie à une source ou une perspective spécifique. Cela permet d’éviter les erreurs factuelles et les biais dans le contenu généré par l’IA.
• Utilisez des contraintes et des règles pour façonner les résultats de l’IA en fonction des résultats souhaités. Énoncez explicitement les contraintes ou impliquez-les à travers le contexte ou la tâche pour éviter des résultats inappropriés ou illogiques.

Vous n’obtenez pas la réponse que vous attendez d’un modèle d’IA générative? Vous êtes peut-être confronté à une hallucination de l'IA, un problème qui se produit lorsque le modèle produit des sorties inexactes ou non pertinentes.

Elle est causée par divers facteurs, tels que la qualité des données utilisées pour entraîner le modèle, le manque de contexte ou l'ambiguïté de l'invite. Heureusement, il existe des techniques que vous pouvez utiliser pour obtenir des résultats plus fiables à partir d’un modèle d’IA.

1. Fournir des invites claires et spécifiques

La première étape dans minimiser les hallucinations de l'IA est de créer des invites claires et très spécifiques. Des invites vagues ou ambiguës peuvent conduire à des résultats imprévisibles, car les modèles d'IA peuvent tenter d'interpréter l'intention derrière l'invite. Soyez plutôt explicite dans vos instructions.

Au lieu de demander « Parlez-moi des chiens », vous pourriez demander: « Donnez-moi une description détaillée de l'état physique caractéristiques et le tempérament des Golden Retrievers." Affiner votre invite jusqu'à ce qu'elle soit claire est un moyen simple d'empêcher l'IA hallucination.

2. Utilisez la mise à la terre ou la technique « Selon... »

L’un des défis liés à l’utilisation des systèmes d’IA est qu’ils peuvent générer des résultats factuellement incorrects, biaisés ou incompatibles avec vos points de vue ou vos valeurs. Cela peut se produire parce que les systèmes d’IA sont entraînés sur des ensembles de données volumineux et diversifiés susceptibles de contenir des erreurs, des opinions ou des contradictions.

Pour éviter cela, vous pouvez utiliser la technique de mise à la terre ou « selon… », qui consiste à attribuer le résultat à une source ou une perspective spécifique. Par exemple, vous pouvez demander au système d’IA d’écrire un fait sur un sujet selon Wikipédia, Google Scholar ou une source spécifique accessible au public.

3. Utiliser des contraintes et des règles

Les contraintes et les règles peuvent aider à empêcher le système d’IA de générer des résultats inappropriés, incohérents, contradictoires ou illogiques. Ils peuvent également aider à façonner et à affiner le résultat en fonction du résultat et de l’objectif souhaités. Les contraintes et les règles peuvent être explicitement énoncées dans l'invite ou implicitement impliquées par le contexte ou la tâche.

Supposons que vous souhaitiez utiliser un outil d’IA pour écrire un poème sur l’amour. Au lieu de lui donner une invite générale comme « écrivez un poème sur l'amour », vous pouvez lui donner une invite plus contrainte et basée sur des règles comme « écrivez un sonnet sur l'amour avec 14 vers et 10 syllabes par vers ».

4. Utiliser l'invite en plusieurs étapes

Parfois, des questions complexes peuvent conduire à des hallucinations de l’IA, car le modèle tente d’y répondre en une seule étape. Pour surmonter ce problème, divisez vos requêtes en plusieurs étapes.

Par exemple, au lieu de demander: « Quel est le traitement du diabète le plus efficace? » vous pouvez demander: « Quels sont les traitements courants pour le diabète? » Vous pouvez ensuite enchaîner avec: « Lequel de ces traitements est considéré comme le plus efficace selon les données médicales? études?"

Les invites en plusieurs étapes obligent le modèle d'IA à fournir des informations intermédiaires avant d'arriver à une réponse finale, ce qui peut conduire à des réponses plus précises et mieux informées.

5. Attribuer un rôle à l'IA

Lorsque vous attribuez un rôle spécifique au modèle d'IA dans votre invite, vous clarifiez son objectif et réduisez le risque d'hallucination. Par exemple, au lieu de dire « Parlez-moi de l'histoire de la mécanique quantique », vous pouvez demander à l'IA: "Assumez le rôle d'un chercheur assidu et fournissez un résumé des étapes clés de l'histoire du quantum mécanique."

Ce cadre encourage l’IA à agir comme un chercheur assidu plutôt que comme un conteur spéculatif.

6. Ajouter des informations contextuelles

Ne pas fournir d’informations contextuelles lorsque cela est nécessaire est une erreur rapide à éviter lors de l'utilisation de ChatGPT ou d'autres modèles d'IA. Les informations contextuelles aident le modèle à comprendre le contexte, le domaine ou l'objectif de la tâche et à générer des résultats plus pertinents et cohérents. Les informations contextuelles comprennent des mots-clés, des balises, des catégories, des exemples, des références et des sources.

Par exemple, si vous souhaitez générer un avis produit pour une paire d'écouteurs, vous pouvez fournir des informations contextuelles, telles que le nom du produit, la marque, les fonctionnalités, le prix, la note ou les commentaires des clients. Une bonne invite pour cette tâche pourrait ressembler à ceci :

Obtenir de meilleures réponses de l'IA

Cela peut être frustrant de ne pas obtenir le retour que vous attendez d'un modèle d'IA. Cependant, en utilisant ces techniques d’invite de l’IA, vous pouvez réduire le risque d’hallucination de l’IA et obtenir des réponses meilleures et plus fiables de vos systèmes d’IA.

Gardez à l’esprit que ces techniques ne sont pas infaillibles et peuvent ne pas fonctionner pour chaque tâche ou sujet. Vous devez toujours vérifier et vérifier les sorties de l'IA avant de les utiliser à des fins sérieuses.