Intelligence artificielle, menace réelle ?

Le "Sommet pour l'action sur l'Intelligence Artificielle", les 10 et 11 février 2025, a réuni à Paris des chefs d'État, des chercheurs et des grands patrons du secteur. Plus de 300 milliards d'euros d'investissement parmi les annonces, ainsi que l'engagement signé pour des IA "ouvertes", "inclusives" et "éthiques". L'intelligence artificielle éthique ? On peine à y croire tant l'IA suscite de craintes et de fantasmes de toute-puissance - voire, dans le même temps, d'impuissance.

L’intelligence artificielle est-elle réellement intelligente ? Qu’est-ce que l’intelligence humaine ? L’intelligence peut-elle être artificielle ? Se pencher sur l'IA, c’est par miroir se plonger dans un questionnement passionnant sur ce qui fait notre humanité et ce qui peut la menacer.

Le podcast Pas si simple, co-produit par le Jour du Seigneur, RCF et les Semaines sociales de France (SSF), donne la parole à Mathieu Guillermin. Physicien devenu philosophe des sciences, il est enseignant chercheur à l’université catholique de Lyon (Ucly). Son domaine de recherche concerne précisément "l’intelligence humaine", décrit-il. Il apporte un éclairage précieux pour prendre du recul sur ce que l'on compare à une vague, une submersion.

Le fantasme d'être dépassés par la machine

Et nous étions devant l’IA comme hypnotisés devant un fantasme ? "Nous avons en tête ce fantasme-là d’être dépassés par une machine qui est comme nous en plus grande et plus puissante", observe la sémiologue Mariette Darrigrand. Une machine d’autant plus menaçante qu’elle nous ressemble. Pour la sémiologue il y a dans l'IA un effet de miroir.

Rien que l’expression "intelligence artificielle", elle est déjà "très anthropomorphique". "C’est quelqu’un, l’intelligence artificielle, c’est une dame, c’est une dame très puissante, une sorte de divinité. Nous l’avons incarnée dans une puissance." Cela nous renvoie aussi à Frankenstein ou à "2001, l’Odyssée de l’espace" : le mythe de la créature qui prend le dessus sur le créateur.

On peut aussi convoquer des concepts plus anciens encore, comme "l’ubris, la grande faute du monde grec, où l’on est plus fort qu’un dieu". "Dans culture judéo-chrétienne c’est le péché d’orgueil", ajoute Mariette Darrigrand. De même que "Dieu créa l’homme à son image", comme il est dit dans la Genèse, "nous, nous avons créé une machine à notre image. Fantasmatiquement, c’est prendre la place de Dieu." Il y a à la fois quelque chose qui nous rend tout-puissants mais aussi "qui nous culpabilise énormément" .

 "Qu’est-ce qu’un ordinateur ? Du silicium, des transistors..."

Les anglo-saxons parlent de "learning machines", une expression pour le coup beaucoup plus concrète qui renvoie au fonctionnement de ces logiciels. Pour Mathieu Guillermin, "il y a de plus en plus de débats qui mériteraient d’être plus calmement posés. Ceux qui défendent qu’un ordinateur peut être conscient, ils vous disent : parce qu’on s’en moque de savoir si ce qui se passe est fait par un transistor inerte dans une puce de silicium ou par un neurone ! Ils vous disent en gros que la différence entre les deux n’est pas pertinente… Ces affirmations-là sont beaucoup trop rapides. Là on est en train de dire qu’on s’en moque de savoir si on parle d’organismes vivants !"

Comme le disait l’entrepreneur Tariq Krim, "ce qui est très incessant avec ChatGPT, ce n’est pas tellement la technologie, mais la manière, le produit final, cette façon dont ça ressemble à du SMS, on a l’impression d’être dans un chat avec un copain…" (émission C ce soir, France 5, le 1er février 2023). Le philosophe constate en effet "un focus excessif" sur "le produit fini". Si la machine est capable de parler comme nous, d’imiter le son comportement humain ou les expressions du visage, on en viendrait à croire qu’elle est plus puissante que nous ?

Avant d’aller vers ce type de conclusion, Mathieu Guillermin rappelle ce qui peut sembler une évidence : "Qu’est-ce qu’un ordinateur ? Du silicium, des transistors : un organisme, un corps humain, un corps animal, c’est quand même autre chose !" Une donnée certes fondamentale, mais "si on n’a pas fait cette réflexion-là, on peut se faire balayer" par la puissance du fantasme.

Au XXIe siècle, croit-on encore au progrès ?

Tout a commencé avec l’apparition, il y a dix ou quinze ans, de l’idée "d’apprentissage machine". "Au départ, le but c’était de lui faire re-générer du texte qui ressemble le plus possible aux exemples qu’on lui a donnés. Donc il y a plein de textes disponibles et il re-génère du texte. L’IA générative, là où ça va un peu plus loin, c’est qu’on ne veut pas que ça re-génère un texte qui existe mais il faut que ça ressemble."

L'idée de ressemblance est au cœur de l’IA générative. "D’un côté on a des calculateurs de plus en plus puissants et qui sont capables de traiter un maximum de données, explique Mathieu Guillermin, et d’un autre côté, on a une collecte de données extrêmement large et on a une machine qui est capable, parce qu’elle synthétise, d’aller assembler quelque chose qui ressemblerait à une réponse presque humaine."

L’IA est le résultat de "verrous technologiques" qui ont sauté, pour reprendre une expression de Mathieu Guillermin. Elle arrive à une époque où "nous sommes incapables de jouir du progrès", observe la sémiologue Mariette Darrigrand. Finies les grandes espérances des XVIIIe et XIXe siècles qui ont accompagné la révolution industrielle. Désormais, après le XXe siècle, "nous savons que la technique peut conduire à la mort". D’où les peurs, sans doute, nourries par des fantasmes archaïques. Dans dix, vingt ou cinquante ans peut-être saurons-nous si l’IA est au service de l’humanité, et si elle peut -ou pas - nous aider à résoudre des crises et parmi elle la crise écologique...