Mails, mémos, appels d'offres... Comment ChatGPT va bouleverser l’entreprise
La vraie révolution du générateur de texte sera pour les usages professionnels. Avec un risque d’uniformisation poussée à l'extrême.
Il y a quelques années James Rosone, un auteur américain de techno-thrillers, publiait Monroe Doctrine, sur une guerre entre la Chine et les Etats-Unis. Dans le récit, les défenses américaines sont vite anéanties par les cyberattaques chinoises. Mais ce qui fait la différence est une capacité extraordinaire de la Chine à anticiper les décisions de l’état-major américain grâce à une intelligence artificielle qui a collecté et analysé le moindre détail biographique de tous les officiers supérieurs américains.
Février 2023. Conduisant vers un rendez-vous au Pentagone, Nicolas Chaillan explique avec passion son projet, qui n’est pas sans rappeler l’IA magique de Monroe Doctrine. L’idée de celui qui fut responsable des logiciels de l’US Air Force : gaver ChatGPT d’une multitude d’informations pour en faire un puissant instrument d’aide à la décision. Il vient de créer une start-up avec cet objectif, Ask Sage : "Nous avons injecté les biographies des dirigeants militaires chinois, et tous les détails possibles, carrière, formations, spécialités, réseaux, vie personnelle, goûts…" Il s’agit de connecter des éléments disparates afin que sur un sujet donné émerge une image claire à partir des signaux faibles que ChatGPT sera en mesure de collecter et surtout de connecter entre eux. Exemple (ultra simplifié) : les services de renseignement américains ne savent rien du projet Qiangzhan ("Saisir" en chinois), mais ChatGPT repère un groupe de militaires rattachés aux trois branches de l’Armée populaire de libération à l’intersection desquelles se trouvent les forces spatiales militaires de la Chine. Autour d’eux gravitent des spécialistes ultra pointus. Au fil des connexions, le puzzle se construit et révèle des informations inédites sur un programme antisatellite.
Dans le cas des profils de militaires chinois, l’idée est que l’interface d'Ask Sage puisse être interrogée en langage naturel et qu’elle restitue une synthèse nourrie de connexions entre des éléments hétérogènes, par exemple autour d’un projet militaire - un travail qui aurait nécessité des semaines de travail à un analyste de la Defense Intelligence Agency. Evidemment, plus les données biographiques seront précises, meilleure sera la restitution. A terme, l’application d’Ask Sage sera classifiée et nourrie par les agences de renseignement américaines.
Ask Sage vise aussi le marché des fournisseurs de l’armée. Il a ingéré des dizaines de milliers de contrats et réponses à des appels d’offres (gagnés) pour le compte du Pentagone ; en bonne logique, le bot sera à même de générer des propositions ayant les meilleures chances de l’emporter.
Contrats, analyses, présentations…
Le fait de circonscrire l’usage de ChatGPT à l’environnement fermé d’une entreprise en élimine une grande partie des inconvénients. Car la grande faiblesse de ChatGPT est qu’il gère très mal le chaos de la vie réelle. Sur la base des 500 milliards de mots dont on l’a gavé, il ne propose qu’une approche statistique lui permettant de déterminer le mot le plus probable pour compléter une phrase dans un contexte donné. Il ne comprend rien du sens des mots, il ne fait que supposer. Mais sa capacité à produire sans faillir un paragraphe syntaxiquement correct lui confère le caractère péremptoire du sachant. Cela ne l’empêche pas de se tromper souvent, car il va chercher dans l’espace des vecteurs mathématiques dans lesquels il a traduit ces monceaux de textes la réponse la plus proche sans se soucier de la source ou de la vérité.
Dans une série d’essais passionnants, Gary Marcus, professeur de psychologie et de neurosciences à l'université de New York, résume le problème d’une formule lapidaire : ChatGPT ne ment pas, car le mensonge suppose d’aller contre une vérité établie, il bidonne avec l’absence d’états d’âme propre aux machines, ayant pour unique but de fournir une réponse statistiquement acceptable. D’ailleurs, ceux qui développent des applications sur le générateur de texte d’OpenAI regrettent qu’il soit incapable d’admettre son ignorance sur un sujet. "ChatGPT fonctionne comme un consultant, résume Christophe Tricot, créateur de la start-up la Forge. Il en a le vernis de culture générale et l’aplomb. Donc il inspire confiance. Il peut sortir une ineptie, mais ça passe, car celle-ci est plausible.
Dans l’entreprise, l’environnement est normé, connu et fiable. Il est constitué de mails, mémos, contrats, études, appels d’offres, propositions… Avec sa formidable mémoire, ChatGPT est capable d’ingérer toute cette connaissance et de la transformer en fonction d’une requête. Cela concerne autant les avocats que les agences de communication. "Dans un environnement professionnel, l’essentiel du temps est passé à traduire des idées en texte, poursuit le CEO de la Forge. J’envoie un mail à un client, je rédige un mémo, j’ai des éléments formels autour desquels je brode. Dans mon entreprise, j’utilise quotidiennement ChatGPT pour ça. J’ai fait la démonstration récemment à mes investisseurs en demandant à ChatGPT de leur générer un mail pour leur transmettre des informations sur la société. Ils étaient bluffés. Nous faisons aussi des tests dans la santé en transformant un compte rendu d’examen médical en texte accessible par le patient. On a alors le meilleur des deux mondes : au départ, le jargon impénétrable du médecin, fiable et rigoureux, à la fin, une information précise et utile pour le patient, qu’il est même facile de rendre rassurante…" Le gros risque, note ce titulaire d’un PhD en intelligence artificielle, c'est un appauvrissement massif des échanges ; on va s’envoyer les mêmes e-mails, les mêmes mémos, avec une présence sur les réseaux sociaux uniforme car automatisée. Cela, note-t-il, c’est le pire des mondes.