L’enjeu des IA émotionnelles

Cette chronique est la transcription de l’épisode 11 de TRENDSPOTTING consacré aux IA émotionnelles et leurs conséquences possibles.

On est entré dans une période trouble, où on ne fait plus la différence entre un dialogue avec l’IA et le dialogue avec un humain. Si, il y a deux différences : l’IA est plus cultivée mais elle ne montre (pas encore) d’émotions. Mais cela devrait changer…

La perspective d’une IA émotionnelle

Depuis quelques mois, on a vu une évolution fulgurante des IA génératives. On en a parlé dans les épisodes précédents. OpenAI a sorti fin novembre une nouvelle version de leur modèle neuronal et l'a mis à disposition du grand public. Vous avez certainement testé ChatGPT (sinon, faites-le).

On est entré dans une période troublante où on ne fait plus la différence entre un dialogue avec l'IA et le dialogue avec un humain.

La seule différence est l'absence d'émotion dans le discours de l'IA. C'est ce point qui m'amène au sujet de cet épisode. Si l'émotion est l'ingrédient manquant pour imiter parfaitement un humain, allons-nous voir naître des IA émotionnelles à court terme ? Et comment fonctionnerait une IA émotionnelle ? À quoi servirait-elle ? Quels usages pourrions-nous en avoir ?

Vous imaginez bien que c'est un sujet à aborder avec beaucoup de précautions pour ne pas dire d'énormités. J'ai pu tester aussi depuis plus d'un an l'évolution des IA génératives du marché pour me faire une idée précise de leur capacité et de leur évolution. Bref, j'ai préparé cet épisode depuis quelques semaines, mais le sujet avance si vite et suscite tant de spéculation que n'hésitez pas à me faire part d'une erreur ou d'une précision par email ou sur Twitter. Je tiens un suivi de cet épisode sur ce site.

Back to 1991

Et pour commencer, je voudrais vous raconter une histoire personnelle qui m'a amenée à m'intéresser au sujet.

En 1991, j'étais en prépa dans un lycée parisien, au lycée Jacques Decours dans le 18e arrondissement. J'étais en Mathématique Spéciale. Et à l'époque, tous les matins, je me souviens que j'avais cours de Mathématiques. C'était une torture. Pendant tout l'hiver, la salle de cours était glaciale. Et notre prof de l'époque, un vieux monsieur à la barbiche grise, allumait systématiquement un petit cigarillo pendant que nous nous installions à nos tables. À 8h du matin... Vous connaissez cette odeur âcre du cigarillo. 8h du matin... encore à moitié endormis. Et dès que la première bouffée, il commençait à noter des équations et des schémas à la craie jaune au tableau.

La fumée et la poussière formaient un nuage sale en dessous des néons. C'était la parfaite image de mon cerveau pendant ces cours de mathématiques.

Je n'ai jamais autant été largué de ma vie pendant un cours.

Et puis, 2 heures plus tard, on se retrouvait 4 fois par semaine en cours de Physique. Et là, c'était radicalement différent. Notre prof démarrait toujours son cours par un exemple, une expérience. Il nous expliquait un phénomène pour ensuite aboutir toujours à la même question : "Comment ça marche?" Chez lui, pas de fumée, pas de poussière de craie. Tout était clair dans ses cours.

Évidemment, l'expérience se prête plus à la biologie, la physique ou la chimie qu'aux mathématiques. Encore que... on aurait pu commencer un nouveau chapitre de mathématiques par un cours de physique et créer un besoin. Une question que l'outil mathématique aurait résolue si nos professeurs s'étaient coordonnés ?

La pédagogie expérientielle

Ce n'est que 20 ans plus tard que j'ai découvert les théories de la pédagogie expérientielle. Et combien il est important dans le processus d'apprentissage de faire appel au questionnement, de créer une occasion pour le cerveau de prédire une conclusion. Et ensuite, de générer une émotion quand cette intuition est confirmée. Vous savez, c'est le fameux effet Eureka !

À l'école, on nous a enseigné tout le contraire. Dans toutes les matières et avec la grande majorité de nos professeurs, on a appris en commençant par la théorie, l'abstraction que l'on a ensuite tenté d'appliquer dans des exercices ou des expériences. Les fameux TD.

Il y a de plus en plus de littérature qui évoque la pédagogie expérientielle comme une approche plus efficace à l'école. Comme en entreprise d'ailleurs. L'OCDE, dans son dernier rapport sur l'innovation en pédagogie, met en avant cette conclusion.

Et cela donne naissance à de nouvelles méthodes d'apprentissage qui partent de l'exemple pour aller vers la théorie. Comment cela fonctionne ?

De l’exemple à la théorie 

On peut avancer une hypothèse : il est plus efficace d'utiliser une succession d'exemples, d'expériences pour construire des schémas mentaux, des intuitions chez la personne qui apprend, et de venir confirmer ces schémas par la théorie plutôt que de faire l'inverse.

Quand l'intuition est confirmée, cela produit une émotion positive qui aide à mémoriser l'information. Certains appellent cela Eureka, d'autres disent que cela imprime !

J'utilise souvent un autre exemple pour expliquer ce phénomène. Depuis plus de 10 ans, je prépare des intervenants à donner des TED talk. J'ai accompagné des centaines d'intervenants. Je leur conseille systématiquement de réfléchir au message qu'ils souhaitent délivrer. C'est la première chose à faire. Et puis, je leur dis de toujours partir du concret pour aller vers l'abstrait. Et non l’inverse.

Par exemple, je leur demande de me raconter une, deux, trois anecdotes qui illustrent le message qu’ils souhaitent donner. Et ensuite de conclure avec ce message. Mais jamais l’inverse. En faisant ça, ils créent un réseau d’images mentales chez l’audience, une architecture plus ou moins nette qui se fixe quand ils dévoilent leur message à la fin. L’audience n’a pas l’impression que l’intervenant leur a appris quelque chose. Elle a le sentiment qu’il leur a fait vivre quelques histoires. Vivre des émotions. Puis révélé une idée qui préexistait dans leur cerveau. En fait, l’intervenant a construit cette intuition pas à pas, grâce à l’exemple. Et les cerveaux dans l’audience ont comme prédit une conclusion que l’intervenant est venu confirmer. C’est cette confirmation qui crée l’effet Eureka. C’est une récompense pour le cerveau. Et ça crée une émotion positive. 

Ce qui est valable à l’école ou dans un TED talk l’est certainement pour la pédagogie en générale : chez vos enfants à l’école ou pour vous lors de vos formations professionnelles.

C’est probablement ce principe que Maria Montessori a tenté d’appliquer dans sa méthode…

C’est aussi ce que Ulrich Boser décrit dans son livre Learn Better. Au tout début du processus, l’apprenant doit être surpris, sa curiosité doit être excitée pour le mettre dans une situation où il a un désir d’apprendre.

Ensuite, le story telling, l’exemple, l’expérimentation est un bon moyen de créer cette première surprise et surtout de commencer à construire une figure mentale qui doit se confronter au réel, grâce à l’expérience, la mise en pratique, l’essai erreur.

Dans le cadre des programmes d’apprentissage que je conçois depuis des années avec l’équipe de Brightness, on travaille avec cette approche.

Qu’est ce qu’une émotion

Mais jusqu’à présent, c’était une approche artisanale, heuristique, qui n’était pas basée sur des conclusions scientifiques prouvées. C’est comme ça que j’ai commencé à m’intéresser au rôle de l’émotion dans le processus d’apprentissage.

Par exemple, l'émotion a-t-elle une influence sur la mémorisation ? C'est un domaine de recherche en plein essor. De plus en plus de chercheurs émettent l'hypothèse que les émotions soutiennent l'attention, l'encodage de l'information dans le cerveau, la consolidation des souvenirs ou même leur inhibition. Ainsi, l'émotion est devenue un élément important dans les solutions pédagogiques modernes, ce qui n'était pas du tout le cas avant les années 1980. En cours, les élèves devaient être concentrés et déconnectés de toute émotion qui pourrait les déconcentrer...

Même si on ne connaît pas les mécanismes en jeu, on sait que les émotions ont une influence sur la mémorisation. Probablement parce que le cerveau est une machine à prédire. Quand une prédiction est juste, le cerveau produit une récompense qui sert au processus d'apprentissage et induit une émotion positive.

Mais est-ce que l'on peut transposer ce qui se passe dans un cerveau humain au fonctionnement d'une intelligence artificielle ?

Comment fonctionne le machine learning et le deep learning en particulier ? On alimente un réseau de neurones avec des données et on le programme pour qu'il génère des réponses. Plus on alimente le réseau de données, plus il ajuste ses résultats afin de diminuer l'écart entre les résultats qu'il génère et les résultats attendus. Autrement dit, on fait en sorte de « dresser » la machine à être de plus en plus précise dans ses prédictions.

A chaque fois que la machine fait une prédiction correcte, elle obtient une récompense. Est-ce que la récompense obtenue par l'IA quand sa prédiction est juste s'apparente à l'émotion ressentie par l'humain ? Est-ce qu'une émotion existe sans chimie, sans organe, sans corps ? Dans le cas de l'IA, il n'y a pas d'interaction chimique ou biologique, ni de lien avec un corps.

Mais si on essaie d'aller un cran plus loin. Admettons qu'on ajoute des processus organiques et chimiques à un système d'apprentissage artificiel. Est-ce qu'on pourrait alors dire que la machine ressent une émotion ? Il faudrait définir ce qu'est une émotion. Et c'est là qu'on bloque.

Certains chercheurs pensent qu’une émotion est le produit de son expression. Expression verbale ou non verbale. En effet, on ne peut pas avoir de preuve qu’une émotion existe autrement que par des signaux fournis par le système qui "ressent" cette émotion. Je parle des signaux internes chimiques, électriques, externes, implicites ou explicites. En résumé, il n’y aurait pas d’émotions, il n’y aurait que des expressions d’émotions. C’est le même problème avec la conscience. Il n’y a conscience que s’il y a expression de la conscience. Un être sans expression de conscience est considéré comme inconscient.

Les machines émotionnelles

Donc, si une machine exprime une émotion par tous les moyens à sa disposition, pourquoi ne pourrions-nous pas dire que cette machine ressent cette émotion ?

Une fois cette hypothèse posée, peut-on simuler l’expression d’une émotion par une IA ?

L’IA sait depuis des années détecter les émotions humaines. J’avais présenté en 2018 sur la scène de l’Echappée Volée le projet Datakalab, qui utilise l’IA pour identifier les émotions grâce à une simple webcam, en utilisant les expressions ou micro-expressions du visage.

Est-ce que l’IA serait capable de reproduire ces expressions et micro-expressions et simuler des émotions ressenties par l’IA ?

En quatre ans, l’accélération des IA génératives n’a jamais été aussi rapide. En 2019, GPT2 contenait 1,5 milliard de paramètres (l’équivalent de 1,5 milliard de connexions dans un réseau de neurones). Deux ans plus tard, GPT3 comptait 100 fois plus de connexions, soit 175 milliards de paramètres. GPT4 devrait compter + 100 000 milliards de paramètres, soit 100 000 milliards de connexions.

Aujourd’hui, on traduit du texte, on crée des images, des articles, des vidéos, demain des environnements immersifs. On construira des univers virtuels.

On sera par exemple en mesure de créer des traducteurs vers des langues encore inconnues.

De comprendre et parler les langues animales, par exemple. Oui, on pourra comprendre et parler aux chiens ou aux chats ! On le fait déjà avec les abeilles. Les abeilles communiquent en dansant. Elles dansent pour indiquer où se trouve une source de pollen.

Et bien, une équipe de chercheurs allemands a réussi à reproduire ce langage avec des robots pour diriger des abeilles dans l'espace.

Si une émotion se résume à l'expression de cette émotion, on va pouvoir créer des IA exprimant la colère, la joie, la peine. Mais aussi de simuler la communication non verbale en utilisant l'intonation de la voix, le rythme, la respiration... évidemment.

Vous vous souvenez de la séquence de 2001, l'odyssée de l'espace où l'ordinateur central HAL est débranché ? Elle a été imaginée et filmée en 1968 par Kubrick ! Comment être plus visionnaire que ça ?

Les applications, les enjeux

Mais si on revient à la question de la pédagogie.

Une expérience avait été menée en Inde par Sugata Mitra, un chercheur qui s'intéressait à la capacité des enfants à s'auto-former. Il a remarqué que l'encouragement d'un tiers, même s'il est totalement incompétent dans le domaine que l'enfant apprend, améliore les capacités d'apprentissage de l'enfant. Il a travaillé avec des réseaux de grand-mères. Et il a découvert que leurs encouragements créaient une boucle de rétroaction positive chez les enfants, que l'empathie entre autres leur permettait d'améliorer leur résultat.

On pourrait tout à fait imaginer des IA empathiques qui nous encouragent, qui rient, qui pleurent, qui nous font penser qu'elles nous aiment ou nous détestent. Des IA qui nous influencent positivement.

Pourquoi pas nous coacher au quotidien ? Nous accompagner psychologiquement ? Vous imaginez un avatar qui en permanence nous nourrit en émotions positives ? Ce serait une drogue dont on aurait beaucoup de mal à se défaire...

Mais on peut aussi imaginer des IA qui font pareil, mais avec une tout autre intention...

Ça n'est pas complotiste de dire que beaucoup d'acteurs économiques utilisent l'IA pour influencer nos choix de consommation. Mais qu'est-ce qui se passera si ces IA sont utilisées pour aller au-delà pour modifier nos comportements, nos jugements, nos convictions ? Comment allons-nous nous défendre contre ces armes logicielles ?

Dans la guerre cognitive qui se prépare, où les puissances rassemblent leurs forces et où le soft power, l'influence des foules et la propagande jouent un rôle de plus en plus critique, comment allons-nous nous protéger contre ces IA émotionnelles mal intentionnées qui pourraient nous nuire ?

Encore un sujet passionnant pour un prochain épisode...