ChatGPT est-il le diffuseur ultime de fausses nouvelles ?

May 27, 2023

22 août 2023

ChatGPT a pris d'assaut le monde en 2023. À moins que vous n'ayez vécu sous un rocher, vous saurez déjà ce que c'est : un chatbot d'intelligence artificielle (IA) qui peut répondre aux questions ou accomplir la tâche que vous lui avez confiée (sans compter le manuel, tâches réelles).

Par Lourens Sanders, ingénieur commercial senior chez Commvault SEEMEA

Les avantages sont largement évoqués : gain de temps et de ressources, réduction des coûts et création de contenu innovant, pour n'en citer que quelques-uns.

Pièges potentiels

Pourtant, il devient de plus en plus évident que ChatGPT n'est pas toujours précis à 100 %. Si on lui demande quelque chose qu’il ne sait pas, le chatbot vous donnera une réponse en toute confiance, même si elle est fausse, et, ne sachant pas le contraire, la plupart des consommateurs sont susceptibles de le croire. En fait, ChatGPT va même argumenter contre les utilisateurs qui suggèrent que c'est faux et expliquer pourquoi la réponse qu'il a donnée est correcte.

Cela se produit parce que ChatGPT n'est pas comme un moteur de recherche. Les moteurs de recherche collectent des informations à partir de bases de données, classent les résultats les plus populaires et montrent à l'utilisateur ces résultats pour qu'il trouve la réponse qu'il recherche.

De la même manière, ChatGPT trouve les informations dans sa base de données, mais plutôt que de les transmettre à l'utilisateur exactement comment elles ont été trouvées, il crée la réponse en faisant une série de suppositions basées sur les résultats. C’est là que les choses peuvent mal tourner et que de fausses nouvelles commencent à être générées.

Mais ce n’est pas seulement la création de réponses par ChatGPT qui entraîne le risque de générer de fausses nouvelles. En tant que chatbot IA, ChatGPT n’a pas la capacité de raisonner, comme le font les humains. Il ne peut pas identifier un article d’opinion à partir d’un article d’actualité factuel et prend donc tout au pied de la lettre. On estime que les fausses nouvelles représentent 62 % de toutes les informations sur Internet. La probabilité que ChatGPT trouve de fausses informations lors de sa phase de découverte et vous les transmette comme réponse définitive est élevée.

De plus, avec sa base d'utilisateurs à croissance rapide et record, il est probable que les utilisateurs poseront des questions similaires à ChatGPT et obtiendront des réponses similaires, sinon exactement les mêmes. En conséquence, plusieurs doublons de fausses informations pourraient se retrouver en ligne. Après avoir été répété et énoncé tant de fois, cela deviendra un fait.

Une entreprise risquée

Cependant, ChatGPT peut être utile dans de nombreux services commerciaux, du marketing au développement de produits. En créant la dernière campagne marketing ou en développant le dernier produit, de nombreux employés se tourneront vers Google pour s'inspirer, posant peut-être des questions sur les derniers problèmes rencontrés par l'industrie afin de pouvoir consacrer leur travail à résoudre le problème. ChatGPT étant accessible à tous, il devient rapidement un outil utile dans la phase de génération d'idées de nouveaux projets.

Pourtant, comme souligné ci-dessus, il existe un risque énorme que ChatGPT fournisse une réponse incorrecte à une question autour de laquelle les équipes construisent ensuite un produit ou une campagne complète. Par exemple, ChatGPT pourrait suggérer qu'un problème industriel d'il y a cinq ans était l'un des problèmes actuels du secteur.

En prenant cela pour acquis, une équipe marketing pourrait construire toute une campagne autour de cette idée, ce qui entraînerait d'énormes dommages à la réputation et l'entreprise serait considérée comme déconnectée et obsolète. Pire encore, si une entreprise devait construire un produit complet autour de ce supposé problème, des millions de rands pourraient être investis dans une solution dont ses clients n’ont pas besoin. Cela aurait non seulement un impact énorme sur la réputation, mais entraînerait également une perte financière importante.

Gardez les humains

Des erreurs comme celles ci-dessus peuvent être évitées si un peu d’expertise est appliquée parallèlement à la technologie. Les humains ne doivent pas encore être exclus de l’équation et toutes les informations que ChatGPT vous fournit doivent être vérifiées – puis revérifiées – par des experts dans le domaine.

Qui sait si un jour nos emplois seront complètement remplacés par des robots mais, du moins pour l’instant, l’expertise humaine reste essentielle en entreprise. Considérez ChatGPT davantage comme un « collègue IA » qui vous aide dans certaines tâches et propose des idées mais, en fin de compte, vous devez toujours faire votre part du travail.