OpenAI lance un outil pour détecter le contenu rédigé par ChatGPT et les IA

Mardi, OpenAI, entreprise spécialisé dans la recherche sur l'intelligence artificielle et qui édite le célèbre ChatGPT, ainsi que d'autres outils d'intelligence artificielle, a lancé un logiciel pour contrer ses propres technologies. Ce nouvel outil permet de déterminer rapidement et facilement si un texte provient d'un humain ou d'une intelligence artificielle. En effet, après son lancement il y a quelques semaines maintenant, ChatGPT a fait couler pas mal d'encre. Ce chatbot qui peut générer des textes, discours et paroles similaires à ce que peut faire un humain est impressionnant. Microsoft a déjà investi plusieurs milliards de dollars dans OpenAI, et affirme qu'elle utilisera les modèles d'IA de la jeune startup dans ses prochains produits. Mais plusieurs personnes ont craint notamment que les étudiants utilisent un outil d'intelligence artificielle pour tricher ou pour copier. C'est pourquoi, de nombreuses universités françaises ont d'ores et déjà interdit ChatGPT. Sam Altman, le PDG d'OpenAI, a déclaré que les tablettes et d'autres outils connectés ont modifié l'enseignement par le passé. Il pourrait bien lui-aussi, apporter sa pierre à l'édifice et modifier l'enseignement avec son logiciel, si l'on comprend ce qu'il veut dire. Il ajoute que ce nouvel outil permettra justement aux enseignants de savoir quels textes proviennent des humains et lesquels proviennent des intelligences artificielles. Mais ce nouvel outil n'est pas encore totalement prêt, il lui manque encore quelques correctifs afin d'être pleinement opérationnel et de ne plus faire d'erreurs.

"Lors de notre évaluation sur notre 'challenge set' de textes anglais, notre classificateur identifie correctement 26% des textes écrits par l'IA (vrais positifs) comme 'susceptibles d'avoir été écrits par une IA', tandis que 9% des textes écrits par des humains ont été incorrectement étiquetés comme écrits par l'IA (faux positifs),".

Pour les textes de moins de 1000 caractères, le nouvel outil n'est pas encore fiable ni efficace. D'ailleurs, l'éditeur, OpenAI, déconseille clairement de l'utiliser pour ça et aussi, dans d'autres langues que l'anglais. Pour l'instant, les fonctionnalités restent encore limitées, mais elles grandiront avec le temps. Un texte peut toutefois avoir été un peu modifié par un utilisateur, l'outil déterminera toujours facilement s'il a été rédigé par une AI initialement. OpenAI indique qu'elle contacte les éducateurs pour discuter des forces et des faiblesses de ChatGPT et qu'elle continuera à travailler sur l'identification des documents générés par l'IA. OpenAI a fait comprendre dès 2019 que la détection de textes créés par une intelligence artificielle n'est pas une tâche simple. Un employé d'OpenAI a déclaré :

"Notre travail sur la détection de texte généré par l'IA se poursuit, et nous visons à fournir des méthodes améliorées à l'avenir."