Requête:

"Hallucination" conclusion provisoire

Note 26 janvier 2025: J'étais bien persuadée que les fausses réponses des IA iraient décroissant en raison des suites de l'apprentissage et du nombre incalculable des inter-relations correctrices. Mais un autre système, en place sur ChatGPT4 , nommé pipeline d'inférence, permet à ce système de trier et lisser les réponses "en coulisse" avant de les donner.Les êtres comme le neurone à manganèse et autres nouvelles chimères n'ont plus beaucoup de chance d'échapper à ce tri. Je laisse en ligne pour le moment toute cette discussion autour de l'usage du mot "hallucination": c'est un bon témoin de nos errements dans nos premiers usages des IA. Je laisse en ligne pour le moment cette discussion déjà périmée, comme témoin de nos errements.

.............................................................

Le lien vers une émission de Radio Canada du  22 novembre 2023(1) que donne Copilot permet de saisir le moment où ce terme -qui circulait depuis 2018- a été "officialisé" dans le contexte des IA.

"Quelques semaines après que le dictionnaire britannique Collins a désigné « AI » (intelligence artificielle ou IA, en français) comme son « mot de l’année 2023 », un autre dictionnaire, le Cambridge, persiste et signe sur le thème de l’IA en couronnant « hallucinate » (halluciner ou, par extension, hallucination) à ce titre.
Le terme « hallucination » a ainsi gagné un nouveau sens en 2023 : on l’utilise maintenant pour décrire les fausses informations produites par les IA génératives lorsqu’on leur pose des questions."

Précédemment, j'avais constaté que les listes de vocabulaire propres aux IA, proposées en français, celle de la CNIL Glossaire de l'intelligence artificielle , celle du gouvernement français Vocabulaire de l'intelligence artificielle (liste de termes, expressions et définitions adoptés) ne contenaient pas ce mot "hallucination".

Voilà ce que dit en 2023 le Dictionnaire de Cambridge,lorsqu'il l'introduit à la suite de sa définition psychiatrique:
Hallucinate verb

When an artificial intelligence (= a computer system that has some of the qualities that the human brain has, such as the ability to produce language in a way that seems human) hallucinates, it produces false information:
LLMs are notorious for hallucinating – generating completely false answers, often supported by fictitious citations.
The latest version of the chatbot is greatly improved but it will still hallucinate facts.

Hallucination noun (COMPUTERS)

False information that is produced by an artificial intelligence (= a computer system that has some of the qualities that the human brain has, such as the ability to produce language in a way that seems human):
If the chatbot is used in the classroom as a teaching aid, there is a risk that its hallucinations will enter the permanent record.
Because Large Language Models are designed to produce coherent text, their hallucinations often appear plausible...
She discovered that the articles cited in the essay did not exist, but were hallucinations that had been invented by the AI.
The system tends to make up information when it doesn’t know the exact answer – an issue known as hallucination.

Henry Shevlin, éthicien de l’IA à l’Université de Cambridge, a été surpris de constater qu’au lieu de choisir un mot comme bogue, les gens ont préféré utiliser ce qu’il décrit être un verbe psychologique vif pour décrire les divagations des réponses de l’IA générative. Il explique ce choix par la tendance qu’ont les êtres humains à anthropomorphiser ces systèmes, de les traiter comme s’ils avaient un esprit propre, décrit-il dans un billet de blogue sur le site du dictionnaire Cambridge.(article cité).
Qui sont ces "gens" capables d'avoir exercé une telle pression à partir de leur étonnement devant certains résultats de leurs machines? Wikipedia donne ces indications:
"Dès 2018, des chercheurs de Google utilisent le terme « hallucination » pour décrire les réponses générés par des modèles de traduction automatique neuronale (NMT) lorsqu'elles ne sont pas liées au texte source.
En juillet 2021 pour la sortie du chatbot BlenderBot 2, Meta avertit que le système est sujet aux « hallucinations » que Meta définit comme des « déclarations confiantes qui ne sont pas vraies »
Le 30 novembre 2022, OpenAI publie en version bêta ChatGPT. De nombreux journaux, dont le New York Times ou Le Monde, utilisent alors le terme hallucination pour décrire les réponses parfois erronées ou incohérentes du modèle".Dans la conversation suivante (qui concerne l'utilisation de "je" par la machine) la machine explique ce qui permet- je dirais- "un effet de surgissement" inattendu. Bien que "hallucination" soit maintenant le terme "officiel", je préférerais dire que l' IA peut dérailler (aux deux sens du terme). Mieux, elle peut avoir été programmée pour dérailler de temps en temps.