Très utilisée par les collégiens et les lycéens qui lui accordent une confiance aveugle, cette intelligence artificielle aligne des mots qu’elle ne comprend pas. Surtout, elle n’hésite pas, pour sembler crédible, à inventer des sources.
Nous connaissons tous autour de nous, un préadolescent ou un adolescent qui utilise l’algorithme d’intelligence artificielle ChatGPT pour rechercher de l’information ou pour lui demander de rédiger ses devoirs à sa place…
Que faut-il penser de cet agent conversationnel (“chatbot” en anglais) avec qui discuter est aussi fluide qu’avec un être humain, ce qui le rend très séduisant ?
Au premier abord, les capacités intellectuelles de ChatGPT sont étonnantes : ses réponses semblent constituer d’excellentes synthèses, rédigées sans faute d’orthographe, ni de grammaire.
Mais à y regarder de plus près, ce n’est que du bluff. La machine aligne les mots sans comprendre ce qu’elle dit:
- elle se répète souvent au sein d’un même texte
- elle adopte un ton soi-disant objectif car ne prenant pas partie, mais dont l’inhumanité permet assez rapidement de repérer ses créations
- elle ne cite pas ses sources, ce qui laisse la porte ouverte à tous les abus possibles.
- pire, elle invente des sources qui n’existent pas !
- elle n’apprend pas de ses erreurs.
- elle est même très instable dans ses réponses.
Exemple !
J’ai interrogé plusieurs fois ChatGPT sur un sujet que, par définition, je connais bien, : « Qui est Jacques Henno ? ». Tantôt il me répond qu’il ne me connaît pas, tantôt il affirme que je suis déjà mort mais que j’étais un bon journaliste, plutôt spécialisé dans la défense de la langue bretonne, tantôt que j’ai été journaliste mais aussi fonctionnaire au ministère de la Justice… Après quatre ou cinq tentatives et que j’ai rectifié toutes ses erreurs, l’algorithme parvient enfin à rédiger ma biographie et à en souligner les points importants.
Mais si je lui pose la même question quelques jours plus tard, patatras, tout est à refaire…
Paradoxalement, cette incapacité à se remettre en cause est à la fois rassurante et inquiétante :
- rassurante, car cela signifie qu’il est impossible de manipuler ChatGPT pour lui inculquer des fausses informations ;
- inquiétante, car il semble difficile de rectifier une erreur, une fois qu’elle a été introduite dans la mémoire – en réalité les données d’apprentissage – de la bestiole. Il y a là une impasse que les développeurs d’OpenAI, l’entreprise californienne à l’origine de ce programme, vont devoir résoudre.
Surtout, surtout, cet algorithme n’a aucun scrupule à inventer des sources qui n’existent pas (voir ci-dessous les saisies d’écran de mes échanges avec l’algorithme), ce qui est très facilement vérifiable : il suffit de cliquer sur les liens proposés pour se rendre compte qu’ils ne débouchent sur aucun site. Je vous invite à en faire vous même l’expérience :
- L’article « Jacques Henno, le reporter de guerre » publié sur le site de la chaîne de télévision France 3 : https://france3-regions.francetvinfo.fr/bretagne/morbihan/lorient/jacques-henno-le-reporter-de-guerre-1207639.html
- L’article « Jacques Henno, grand reporter » publié sur le site du magazine Le Point : https://www.lepoint.fr/medias/jacques-henno-grand-reporter-12-10-2012-1512468_260.php
- L’article « Jacques Henno, reporter de guerre » publié sur le site de la radio RFI : https://www.rfi.fr/fr/podcasts/20201213-jacques-henno-reporter-guerre
- La page Wikipédia en français dédiée à Jacques Henno : https://fr.wikipedia.org/wiki/Jacques_Henno
- L’article « Jacques Henno, l’homme qui murmurait à l’oreille des Bretons » publié sur le site du quotidien Ouest-France : https://www.ouest-france.fr/bretagne/lorient-56100/jacques-henno-l-homme
Pas sûr qu’un enfant de 10 ans se comporte aussi bêtement.
Bref, ChatGPT ne constitue pas une source d’information fiable.
Les élèves peuvent toutefois l’utiliser de façon intelligente pour :
- s’autocorriger : il est en effet possible de demander à ChatGPT de mettre en avant les fautes commises dans un programme informatique ou dans un texte, que celui-ci soit en français, en anglais ou en allemand. Cette faculté de ChatGPT, associée à la reconnaissance de texte que proposent les appareils photos des smartphones les plus récents, permet même d’auto corriger des devoirs manuscrits.
Surtout, les enseignants pourraient profiter de l’engouement suscité par ChatGPT pour inviter leurs élèves à engager une réflexion sur l’intelligence artificielle, à partir de quelques questions simples :
- quelles sont les sources utilisées par ChatGPT ?
- comment écrit-il ses textes ?
- quelles sont les meilleures utilisations possibles de cet agent conversationnel ?
- qu’espèrent les entreprises américaines qui investissent des milliards de dollars dans le développement d’algorithmes d’intelligence artificielle, comme Microsoft et Google, mais aussi Meta, la maison-mère de WhatsApp et Instagram, deux des réseaux préférés de nos jeunes…
