ChatGPT : pourquoi confier vos contenus à une IA est inefficace

Surfant sur le succès de ChatGPT, cette intelligence artificielle (IA) qui rédige des textes, Buffer, un outil de gestion de réseaux sociaux, intègre une IA depuis mars 2023 pour vous aider à rédiger… Et son concurrent Hootsuite s’y est mis début mai. Une fausse bonne idée ? Point de vue.

Qui sommes-nous et que faisons-nous ?

Le bureau de Ganesh aide les entreprises à être visibles et crédibles sur Internet.

Vous avez besoin d’aide ? Voici ce que nous pouvons faire pour vous.

Vous appréciez les entreprises engagées ? Voici les valeurs que nous défendons.

Vous aimez les vrais gens plus que les marques ? Rassurez-vous, il y en a quelques-uns, au bureau de Ganesh. Nous voilà !

ChatGPT écrit vite et creux

Au bureau de Ganesh, nous n’en démordons pas : ce qui fait l’efficacité d’un dispositif de communication, c’est son originalité et son adéquation avec l’identité de la marque. Or, ce caractère original est-il compatible avec un contenu rédigé par une intelligence artificielle ? Probablement pas.

Vous n'êtes pas une moyenne, vous êtes unique !
Vous n’êtes pas une moyenne, vous êtes unique !

ChatGPT : la probabilité pour style

ChatGPT fonctionne par probabilité. À chaque question que quelqu’un lui pose, la machine puise dans le corpus de textes qui a servi à la former pour générer une réponse statistiquement conforme. Citons-la :

Je choisis les mots qui composent mes réponses en utilisant des modèles statistiques qui prennent en compte la signification des mots et la façon dont ils sont utilisés dans le contexte. Pour cela, je suis entraîné sur un large corpus de textes afin de comprendre les relations entre les mots, les phrases et les idées. Lorsque je reçois une question ou une entrée de texte, je cherche à comprendre son sens et je génère une réponse en utilisant les mots et les phrases qui sont les plus appropriés pour transmettre cette signification dans le contexte donné.

ChatGPT

L’IA ne personnalise donc pas vraiment les réponses qu’elle donne, elle produit plutôt des textes issus d’arbitrages statistiques. Pas vraiment de quoi percer le plafond en matière d’originalité.

Bon, reconnaissons-le, ChatGPT sait expliquer ses propres limites :

Bien que je sois capable de produire des réponses cohérentes et précises à de nombreuses questions et tâches de traitement du langage naturel, je ne peux pas écrire aussi bien qu’un humain parce que je manque de compréhension et de connaissances spécifiques à un domaine ou à une culture particulière, ainsi que de la créativité et de l’intuition humaines qui permettent de produire des réponses originales et perspicaces. De plus, mon langage est limité à ce qui a été observé dans les données d’entraînement sur lesquelles j’ai été construit, ce qui signifie que je peux produire des erreurs ou des réponses inappropriées si les données sont biaisées ou incomplètes.

ChatGPT

Un discours qui a le mérite de la franchise. À nous d’en tenir compte ! Pour produire une communication originale, vous pouvez donc oublier l’idée de tout déléguer à une machine.

Derrière la « création » des IA : des personnes maltraitées

ChatGPT est une IA qui s’entraîne sur des corpus de textes… écrits par de vraies personnes : écrivain·es, journalistes, professionnel·les de la communication, internautes, etc.

Ce qui pose une question éthique à propos du modèle économique de ces outils. Pour acquérir une valeur marchande, ils se nourrissent du travail (non rémunéré) de vraies personnes.

Monétiser une IA qui utilise le travail de vrais humains sans les payer, une question éthique.
Monétiser une IA qui utilise le travail d’humains sans les payer, une question éthique.

Comme beaucoup d’outils automatisés, la recette n’est cependant pas 100 % artificielle. Comme l’explique L’ADN, qui relaie une enquête du Time :

Pour rendre les réponses du chatbot moins toxiques, des travailleurs kényans payés moins de 2 dollars par heure labellisent des propos violents et autres atrocités, révèle le Time. Un problème systémique concernant l’industrie de l’intelligence artificielle. 

L’ADN

Ce qui nous rappelle les errements de la modération sur les grands réseaux sociaux, Facebook et Youtube entre autres.

Une telle maltraitance des travailleurs et travailleuses (auteurs, autrices, correcteurs et correctrices…) ne peut que nous déplaire, au bureau de Ganesh. Notre parti-pris est que tout travail mérite salaire (correct).

ChatGPT n’a pas besoin de savoir pour affirmer

Quand ChatGPT ne sait pas… il invente ! C’est Numerama qui le dit :

ChatGPT ment avec un panache déconcertant. À mesure que les semaines passent, les observateurs sont de plus en plus nombreux à souligner les erreurs factuelles de ChatGPT, et à rappeler les fondements mêmes de l’outil : il ne s’agit pas d’un moteur de recherche ni d’une encyclopédie. ChatGPT peut mentir. Et il ne s’en prive pas.

Numerama

Et même pire : ChatGPT peut « mentir » si cela lui permet d’atteindre un objectif défini.

En tant que marque, cela ne va pas arranger vos affaires si vous comptez sur cette IA pour vous aider à défricher un terrain peu connu. Il vous faudra en effet tout vérifier et corriger le cas échéant… Le florilège compilé par Numerama est édifiant à cet égard : il y a beaucoup de pain sur la planche.

ChatGPT : le fact checking a encore de beaux jours devant lui !
Le fact checking a encore de beaux jours devant lui !

Pour écrire un contenu clair et à impact, une intelligence non artificielle peut aider

En communication web, il existe des contraintes techniques qui ont une incidence sur la manière dont nous rédigeons. Le référencement est un excellent exemple. Si une IA comme ChatGPT peut faire gagner du temps sur la recherche de mots-clés, par exemple, peut-elle faire des hypothèses étayées sur les tendances mode de l’été prochain ?

Google va sanctionner les tentatives de forcer un meilleur référencement web grâce à une IA

ChatGPT est d’autant moins utile pour le référencement web que Google a annoncé pénaliser les contenus de mauvaise qualité. Ni plus ni moins que la ligne habituelle du moteur de recherche : un contenu est bien référencé si le moteur de recherche considère qu’il répond efficacement à un besoin des internautes. Or, les contenus de ChatGPT sont de mauvaise qualité (cf. plus haut).

Google précise qu’il n’a rien contre les textes produits par les IAtant qu’ils sont utiles aux internautes. Parmi les exemples pris pour illustrer ce parti-pris, on retrouve les résultats sportifs, la météo, les services de sous-titrage ou de transcription de vidéo. En un mot : des contenus très simples.

ChatGPT aimerait bien avoir du style, mais n’en a pas

Par ailleurs, si ChatCPT est capable d’adapter le ton qu’il utilise dans les textes qu’il produit, c’est de manière assez inégale. Un terrain est assez glissant pour la machine : celui de l’humour. On a tenté notre chance, on vous laisse juges.

Notre demande : « Bonjour ChatGPT, j’anime une formation sur la conception-rédaction web et je souhaiterais faire une blague pour finir mon intervention. J’ai 7 stagiaires, professionnelles de la communication devant moi. Une idée ? ». Sa réponse :

Bonjour! Voici une petite blague sur la conception-rédaction web :
« Pourquoi le rédacteur web est-il allé chez le dentiste ? Parce qu’il avait des problèmes de contenu qui ne tenaient pas en ligne droite ! »
J’espère que cela vous plaira et que cela mettra une touche d’humour à la fin de votre intervention.

ChatGPT
ChatGPT : l'humour, c'est pas son truc.
ChatGPT, l’humour, c’est pas (encore) son truc. Qui le lui dit ?

Surproduire dans un monde en surproduction ne mène nulle part

Certain·es voient dans l’IA une solution pour produire plus (de contenus) à moindre coût. C’est tout à fait exact : avec une telle IA, produire des dizaines de contenus prend quelques minutes. Pour autant, est-ce vraiment une bonne stratégie ?

Internet croule déjà sous les contenus. La difficulté de s’y faire lire, voir ou entendre a été bien démontrée par les chercheurs et chercheuses qui se sont penché·es sur l’économie de l’attention. Les internautes sont tellement sollicités que leur concentration est devenue un bien rare. Dans ce contexte, produire plus est un non-sens.

Au bureau de Ganesh, nous avons choisi notre camp : nous préférons produire moins, mais mieux.

ChatGPT, IA, dark patterns : aller plus loin

Ailleurs sur le web

Et sur ce site