Les réponses ChatGPT ont-elles une limite de caractères ou de mots ?

ChatGPT est une grande nouvelle. Mais quelle est l'ampleur des réponses que vous obtenez de ce chatbot polyvalent ?

L'établir n'est pas aussi simple qu'on pourrait le penser. Pour commencer, posez cette question à ChatGPT, et vous serez assuré qu'il n'y a pas de limite à la longueur de ses réponses.

Cependant, comme nous le découvrons ici, ce n'est pas si simple. Il existe des limites cachées à la longueur d'une réponse ChatGPT, mais il existe également des solutions simples et astucieuses pour vous aider à obtenir des réponses plus longues.

Comment ChatGPT détermine-t-il la longueur d'une réponse?

Le fonctionnement de ChatGPT est complexe, et la longueur de la réponse varie en fonction de ce qui est demandé et du niveau de détail demandé. Comme le montre la capture d'écran suivante, ChatGPT affirme qu'il n'y a pas de limites strictes.

Ce n'est pas ce que nous avons trouvé. L'exemple ci-dessous montre que ChatGPT arrête soudainement une réponse au milieu d'une phrase. Nous lui avons demandé de rédiger un essai de mille mots sur les avantages d'une économie circulaire. ChatGPT a cessé de répondre lorsqu'il est arrivé à 677 mots.

Nous avons répété le test plusieurs fois avec des questions différentes, et à chaque fois il s'est arrêté au milieu d'une phrase; parfois, cela s'accompagnait d'une erreur de réseau. C'est une erreur courante, et il y a différentes façons de corriger les erreurs de réseau dans ChatGPT.

Une partie de la réponse à la raison pour laquelle cela se produit réside dans quelque chose appelé le système de jetons.

À quoi sert le système de jetons ChatGPT ?

Plutôt qu'un simple décompte de mots pour déterminer la longueur des requêtes et des réponses, ChatGPT utilise un système de jetons. Cela décompose chaque entrée et sortie en une série de jetons utilisés pour classer la taille de la demande et de la réponse.

Bien que le nombre de mots joue un rôle dans cela, ce n'est pas toute l'histoire. Par exemple, l'exemple ci-dessous a été saisi dans L'outil Tokenizer d'OpenAi.

La phrase et la réponse ont été "tokénisées" à une valeur de neuf jetons. Ceci est conforme à la "règle empirique" d'OpenAI selon laquelle un jeton équivaut aux trois quarts d'un mot.

Le modèle GPT 3.5 limite les questions et les données des utilisateurs à 4 097 jetons. Selon les calculs d'OpenAI, cela équivaut à environ 3 000 mots. Cependant, il est important de noter que cette limite s'applique à la fois à la réponse et à la question.

Bien que tout cela soit beau et bon en théorie, les résultats que nous avons rencontrés n'ont jamais approché ces limites. La réponse incomplète que ChatGPT a renvoyée lors de notre test précédent ne pesait que 798 jetons.

Pourquoi les réponses de ChatGPT sont-elles limitées?

Cette technologie naissante est rapidement devenue le développement technologique dont on parle le plus au cours de ce siècle. Cela a généré une énorme demande pour ChatGPT. En fin de compte, cette demande a effectivement réduit les réponses bien en deçà des limites indiquées.

Bien qu'il n'y ait aucune confirmation officielle de cela, il semble y avoir une limite de facto d'environ cinq cents mots ou 4 000 caractères.

Pour souligner, ce n'est pas une règle fixe - nous avons généré des sorties qui dépassaient cela de près de deux cents mots. Cependant, cela peut être considéré comme une limite supérieure sûre pour obtenir des réponses complètes.

Comment obtenir des réponses plus longues de ChatGPT

Une fois que vous comprenez qu'il existe une "limite cachée" aux réponses de ChatGPT, il existe des moyens simples pour vous aider à obtenir des réponses plus complètes.

1. Demandez à ChatGPT de continuer: Si ChatGPT s'arrête au milieu d'une réponse, une option consiste simplement à lui demander de continuer. Dans l'exemple ci-dessous, nous avons tapé "Continuez", et cela a ajouté deux cents mots supplémentaires à la réponse.
2. Divisez votre question en sections plus petites: Par exemple, nous lui avons demandé à plusieurs reprises d'écrire un essai sur l'impact de l'IA sur la société. A chaque fois la réponse s'arrêtait. Une option ici consiste à lui demander de mettre en évidence certains sujets pour un essai sur l'IA, puis d'utiliser les puces fournies comme invites individuelles.
3. Utilisez l'option Régénérer: Bien que cela puisse générer la même erreur, sans rien à perdre, cela vaut toujours le coup.
4. Spécifiez une limite supérieure à votre nombre de mots dans votre invite: L'image ci-dessous illustre comment cela peut être utilisé pour manipuler le nombre maximum de mots dans une réponse.

Ces conseils vous aideront à obtenir des réponses plus complètes de ChatGPT et à contourner la limite non officielle de la longueur de ses réponses.

ChatGPT: la qualité plutôt que la quantité

Bien qu'il n'y ait pas de limites fixées à la longueur des réponses de ChatGPT, la plate-forme semble imposer une limite d'environ cinq cents mots ou 4 000 caractères.

Cela peut principalement être attribué en raison de l'énorme demande de ChatGPT. Cela a conduit à des réponses incomplètes et à des réponses interrompues au milieu d'une phrase, mais il existe des solutions de contournement simples pour vous aider à obtenir des réponses plus longues.

Malgré ses limites, ChatGPT reste un développement technologique remarquable qui continuera à développer et à étendre les limites de qualité et de quantité de sa production.