Le chatbot automatisé alimenté par l'IA d'OpenAI, ChatGPT, a pris d'assaut Internet, mais non sans créer quelques problèmes en cours de route. Avec des écrivains, des codeurs, des spécialistes du marketing et apparemment tout le monde entre eux utilisant ChatGPT pour générer du contenu, les entreprises du monde entier regardent un tsunami de contenu généré par l'IA.
Avec des problèmes de plagiat et de contenu volé tourbillonnant constamment autour de ChatGPT et de sa sortie, OpenAI a maintenant publié un nouveau GPT-Classifier, un outil conçu pour détecter et divulguer si le texte que vous lisez est l'œuvre de ChatGPT ou de l'un de ses autres Outils GPT.
OpenAI lance GPT-Classifier pour aider à vérifier le texte écrit par l'IA
L'annonce d'OpenAI vient comme examen minutieux de l'écriture par l'IA et du texte généré par l'IA s'intensifie et les entreprises intègrent la sortie ChatGPT.
Le nouveau GPT-Classifier tente de déterminer si un texte donné a été écrit par un humain ou le travail d'un générateur d'IA. Alors que ChatGPT et d'autres modèles GPT sont formés de manière approfondie sur toutes sortes de saisie de texte, le L'outil GPT-Classifier est "affiné sur un ensemble de données de paires de texte écrit par l'homme et de texte écrit par l'IA sur le même sujet."
Ainsi, au lieu d'aspirer les informations et de recréer sa meilleure approximation, le classificateur GPT tente de comparer les similitudes entre le texte humain connu et le texte connu de l'IA pour trouver des divergences qui révèlent la source écrivain.
La détection de GPT-Classifier est actuellement limitée
Alors que l'idée de repérer facilement le texte généré par l'IA sera de la musique aux oreilles des éditeurs et des éducateurs, OpenAI a averti que son "classificateur n'est pas entièrement fiable".
Actuellement, GPT-Classifier "identifie correctement 26 % du texte écrit par l'IA" tout en étiquetant 9 % du texte humain comme écrit par l'IA. OpenAI note également que la précision de l'outil "s'améliore généralement à mesure que la longueur du texte saisi augmente".
Un test rapide du classificateur GPT a repéré un exemple généré par l'homme et l'a marqué "très peu susceptible d'être généré par l'IA ", et a également correctement indiqué qu'un extrait généré par ChatGPT sur les problèmes USB était" peut-être AI généré."
La demande de détection ChatGPT est élevée
Même avec les limites du GPT-Classifier, la demande d'une détection fiable de ChatGPT est susceptible de voir beaucoup se tourner vers cet outil. L'engagement d'OpenAI à créer et à publier un outil de détection GPT gratuit est important car, à mesure que de plus en plus d'étudiants, les écrivains, programmeurs et autres utilisent des outils de génération de texte AI, comprendre et détecter cette entrée deviendra vital.
Pour l'instant, bien que GPT-Classifier soit opérationnel et disponible pour les tests, il est préférable de prendre son étiquetage avec une pincée de sel.
