le commentaire de la paracha de la semaine

Contributions

theme_actu-en-avt_icn-like theme_actu-en-avt_icn-like Aimer l'article

Chat-GPT, le Golem et les rabbins (par Delphine HORVILLEUR)

SERMON PRONONCÉ PAR LE RABBIN DELPHINE HORVILLER AU SOIR DE ROSH HASHANA 5784

À chacun ses traditions … La mienne est simple à Rosh haShana, de nombreux fidèles la connaissent : je me suis engagée à raconter systématiquement une blague le soir de la nouvelle année juive, histoire d’entrer dans ce temps neuf avec un peu d’humour juif.
Celle de cette année, le cru de 5784, n’est peut-être pas du meilleur goût, mais elle s’est imposée à moi, il y a quelques jours. La voici donc :
La scène se passe dans une synagogue, un soir de Rosh HaShana. Soudain, un terroriste entre dans la synagogue et prend en otage le rabbin et un des fidèles. Le type leur dit à tous les deux : je vais vous tuer mais je laisse chacun d’entre vous énoncer une dernière volonté, un dernier vœu, avant de l’assassiner.
Le rabbin dit alors : « Écoutez, c’est Rosh HaShana et, chaque année depuis des décennies, je fais ce soir-là un grand et magnifique sermon, de 40 ou 45 minutes … alors, avant de mourir, j’aimerais pouvoir vous le lire, à tous les deux. »
Le terroriste demande alors au fidèle : « Et vous monsieur, quel est votre dernier vœu ? »
Et l’homme lui répond sans hésiter: « Ben moi, je veux bien être tué d’abord.»
Je vous avais prévenus. Cette blague est impitoyable, surtout avec les rabbins. Elle suggère bizarrement que certains parmi nous, ou peut-être chacun d’entre nous, aurait un léger problème avec la prise de parole et la durée de cette prise de parole, une difficulté à la restreindre ou à juger la pertinence de nos propos pour notre auditoire.

C’est peut-être vrai. Qui sait ? Ou plutôt: ça l’était. Mais ça, chers amis, c’était avant.
Avant quoi ? me demanderez-vous.
Avant la révolution à laquelle nous assistons cette année, un bouleversement majeur qui vient tout changer à la vie de nos synagogues, ou à la vie tout court : je veux parler de ChatGPT, et des outils d’intelligence artificielle censés pallier à nos défaillances naturelles.
Dorénavant, il suffirait en principe d’écrire sur un logiciel : «S’il te plait, écris-moi un discours de Rosh haShana, pas trop long ou pas trop barbant, pour une communauté qui a hâte d’aller manger» … et tout devrait bien se passer.
Et, soyons honnête : je connais pas mal de collègues qui, cette année, ont essayé d’écrire une drasha avec
l’intelligence artificielle. Pas juste des collègues : Je suis sûre que quelques bar mitsva en ont fait autant pour leur discours … comme tous ces élèves qui ont rendu à leurs enseignants des copies entièrement rédigées par leur ordinateurs.
Et l’angoisse suprême pour chacun d’entre nous vient du fait que, has vehalila (comme on dit en hébreu), ces faux discours (de rabbins, de bar mitsva ou de qui que ce soit d’autre), sont parfois moins ennuyeux, moins répétitif que s’ils avaient écrits par ceux qui les ont prononcé. Oui, je sais, c’est terrifiant.
Et je sais aussi que vous vous demandez en cet instant, évidemment, si les mots que je prononce devant vous, ont été écrit par ChatGPT. Et bien, je coupe court au suspense … Et non : je ne l’ai pas utilisé. C’est bien moi, pour le meilleur et pour le pire, qui ait rédigé ce dvar torah (de 45 minutes, peut-être, qui sait ?). Et ces mots se sont imposés à moi pour plusieurs raisons.

D’abord parce que le développement de la technologie et de l’intelligence artificielle nous pose à tous un défi et qu’il est temps d’en parler, mais aussi parce ce défi est, me semble-t-il plus critique encore, pour la pensée juive et notre tradition. C’est ce que je vais essayer de vous démontrer maintenant.

Pour vous l’expliquer, je dois fa ire un petit détour par une expérience que j’ai vécue cette année avec cet outil dont tout le monde parle. Il y a quelques mois de cela, je m’étais engagée à écrire une préface pour un livre. Le thème du livre était intéressant, et le récit était magnifique, mais je peinais à remplir mon engagement et la deadline de rendu de mon texte approchait cruellement. C’est alors que mon fils, me voyant dans l’embarras et voulant aider sa maman, est venu proposer son aide. Sans me demander mon autorisation, il a proposé à ChatGPT d’écrire un texte, accrochez-vous bien, « dans le style de Delphine Horvilleur ».

Les quelques pages qui se sont alors affichées immédiatement sur l’écran m’ont laissé sans voix. Le logiciel qui s’appuie sur des probabilités, et des récurrences, avait effectivement analysé toutes mes prises de paroles en ligne, des discours publiés sur le net, et avait repris une à une toutes mes expressions favorites, ce que je pourrais appeler mes tics de langages, mes idées clé, mes mots fétiches. Le texte parlait de pureté et d’impureté, de faille, de vulnérabilité, de féminisme, de refus du sens figé, de pensée libérale … bref, il aurait effectivement tout à fait pu être écrit par moi.

L’expérience m’a bouleversée. Elle me poussait évidemment à ma poser la question terrible que nous sommes nombreux à nous poser : à quoi va-t-on servir si une machine peut, aussi bien ou même mieux que nous, remplir notre rôle ou notre fonction ?

Quelle est donc la valeur ajoutée de notre pensée, de notre humanité dans ce processus de création ?
Et la réponse m’est apparue en relisant avec attention cc texte soi-disant de moi mais pas de moi du tout, et en le confrontant aux grands principes de l’écriture juive ou de l’interprétation rabbinique.
Ce sont ces principes que j’aimerais évoquer maintenant devant vous.

Le premier d’entre eux porte un nom dans la tradition juive, ou plutôt se résume en deux mots : beshem omroce qui veut dire en hébreu : « au nom de son auteur ».
La phrase entière dans le Talmud est ainsi énoncée :
Haomer davar beshem omro mevi geou la laolam, « Quiconque cite le nom de celui qui l’a dit avant lui, fait venir la rédemption dans le monde ».

Pour le dire autrement, le Talmud affirme que le monde sera détruit ou ravagé si les gens ne citent pas leurs sources. Il faut lOujours pouvoir dire qui l’a d iL avant vous, et d’où vous tenez l’idée ou l’autorilé d’affirmer ce que vous affirmez.

Or, précisément, ChatGPT ne sait pas faire cela. Il puise dans la masse des contenus en ligne, dans cc qui existe, ce qui a déjà été dit. JI ne prend jamais soin de préciser ni où, ni par qui cela a été dit, ni dans quel contexte, ni à quelle époque. L’éclipse des sources et de la référence à laquelle on assiste est la chose la moins juive qui soit et, du point de vue du judaïsme, une mise en danger du monde, ni plus ni moins.

Deuxième principe juif à méditer, le hidoush, un terme qui signifie en hébreu « le renouveau de sens ».
L’interprétation juive et rabbinique est basée sur ce principe particulier et presque paradoxal. Il faut pouvoir répéter un sens pour ne pas le répéter. Il faut toujours s’appuyer sur des interprétations passées pour pouvoir les faire évoluer.

Les rabbins affirment qu’en tout circonstance il faut s’efforcer de faire un hidoush, d’introduire une nouveauté, de l’inédit dans la lecture. Pour cela, ils utilisent des outils linguistiques et herméneutiques particuliers. Par exemple dans le Talmud, très souvent, il est écrit: rabbi X dit au nom de rabbi Y, qui le disait au nom de rabbi Z, etc. etc.

Mais ce que ce rabbi X en question affirme n’est généralement pas du tout ce que disaient ses prédécesseurs cités, et à l’ombre desquels il s’abrite. Peu importe.

La pensée d’un homme est nouvelle, inédite ou plutôt inouïe, jamais entendue, mais elle doit s’appuyer sur un enseignement qu’il a reçu et qu’il a emmené un peu ailleurs, un peu plus loin.
(Vous le savez c’est la célèbre histoire de Moïse sur le mont Sinaï qui est projeté dans l’avenir et assiste soudain à un cours donné par Rabbi Akiva. Il ne comprend absolument rien à l’enseignement de cet homme qui vit des centaines d’années après lui mais, soudain, Akiva affirme : je tiens cette halakha de Moïse qui l’a reçue au mont Sinaï. Moïse est alors rassuré : il ne comprend pas du tout l’interprétation, clic est neuve, inédite pour lui, mais elle s’appuie bel et bien sur son héritage.)
Or ChatGPT, par définition, ne peut pas faire cela. II est incapable de hidoush.

Prenez par exemple le texte qu’il a écrit « à la façon de Delphine Horvilleur ». Il y reprenait effectivement mes tics de langage (notamment le fait de dire « effectivement » beaucoup trop souvent) mais rien, absolument rien, n’y était neuf.

Pour la machine, le hidoush est impossible. Puisque sa recherche ne s’appuie que sur une probabilité et donc sur du déjà-écrit, déjà-lu, déjà-entendu.

Et c’est là où les choses deviennent intéressantes pour notre génération. L’arrivée de cette intelligence artificielle nous oblige tous, Juifs ou non Juifs, écrivains de sermon ou simples utilisateurs, à nous demander quel est notre hidoush, notre valeur ajoutée ; à nous demander à quel moment la technologie à notre service nous rend potentiellement amoindris, esclaves ou abrutis.

Paradoxalement, l’innovation qui devrait rendre possible le surgissement du neuf dans la pensée ou dans le monde, semble condamné à répéter, à ne s’inscrire que dans un algorithme de probabilités, de redite.
Et là encore, chers amis, la raison pour laquelle je veux vous en parler ce soir est évidente.

D’abord, à Rosh haShana, plus que n’importe quel autre jour de l’année, nous sommes censés nous demander de quelle manière l’année à venir sera source de renouveau, ou bien ne sera qu’une répétition, un bégaiement de ce qui a déjà été dit ou fait.

De quelle manière notre avenir relève de la pure probabilité statistique ou, au contraire, d’une capacité humaine à avoir un impact sur nos vies.

Et puis, par-delà cette question, le rapport à la technologie, source d’angoisse et d’appréhensions pour beaucoup d’entre nous, fait l’objet d’une vraie réflexion ancestrale dans notre tradition. Le récit le plus puissant dont nous disposons pour méditer cette problématique est connu de tous ou presque. Laissez-moi vous le raconter à nouveau.

Il était une fois un rabbin qui réussit à fabriquer une créature. Il le nomma GOLEM.
Vous avez tous entendu parler de cette légende. Il en existe mille versions mais la plus célèbre place l’intrigue à Prague, entre les mains d’un célèbre sage, le Maharal, Arie Leib ben Betzalel, le plus grand kabbaliste médiéval.

Cet homme aurait, dit-on, réussi à créer une intelligence, humanoïde, qui prend vie à partir d’un peu de terre et d’eau mais surtout d’une formule kabbalistique, de quelques lettres enchevêtrées les unes aux autres, bref, d’un langage qui donne vie à la matière.

Et le golem, prototype d’intelligence artificielle, se serait alors mis au service des Juifs ou de l’humanité. On ne sait exactement de quelle intelligence il était doté. Selon certains récits, il ne savait pas parler – ou il était un peu idiot (c’est d’ailleurs comme ça qu’on appelle en yiddish un crétin, on le nomme goylem). Peut-être qu’il était une forme d’intelligence informatique (à tel point d’ailleurs que, pour la petite histoire, quand l’État d’Israël a développé son tout premier ordinateur, le kabbaliste Gershom Scholem a proposé aux scientifiques d’appeler ce système « golem » et le nom a bel et bien été retenu).

Mais revenons à la légende originelle. Le golem de Prague est au service de ses créateurs, jusqu’au moment où les choses tournent mal. Car évidemment, il y a dans ce récit une mise en garde contre la prise de pouvoir d’une créature sur son créateur.
Un jour le golem devient violent et détruit tous ceux qui l’approchent. Il devient indomptable, autonome,
terrifiant.
Dans une des versions de la légende, la raison à cette perte de contrôle est révélée : le rabbin était censé, chaque shabbat, effacer les lettres sur le front du golem, c’est-à-dire d’une certaine manière, le débrancher, le déconnecter. Un vendredi soir, il aurait oublié de le faire, et cette non-déconnexion shabbatique aurait mené à la catastrophe.

Comment comprendre ce détail ? Je ne suis pas en train de vous dire que le seul salut contre ChatGPT est de faire shabbat.
Non, l’idée est plus subtile : la légende mystique du golem nous enseigne que nous avons le pouvoir et même le devoir de développer une technologie. Rien ne l’interdit: l’homme est créé à l’image du Dieu créateur, et il a la possibilité de créer à son tour, de développer des machines et des techniques mais il doit aussi, comme à shabbat, apprendre à s’en décrocher.
Savoir créer un temps où sa vie est libérée de cette création. Trouver un espace où il reprend la main, par son langage, sur ce qu’il a créé. Et je trouve cette image pertinente pour nous tous aujourd’hui.
Dans un temps où bien des gens vivent accrochés aux machines, ou aux probabilités, aux logiciels qui règlent leurs vies ou aux algorithmes qui prédisent nos goûts et nos avenirs, se pose plus que jamais la question du shabbat, au sens premier du terme, une déconnexion technologique, spirituelle, environnementale, etc. – un retour à soi comme créature et non comme créateur, à notre pleine humanité balbutiante, faillible, et imprévisible. Bref, un retour à une intelligence d’un autre type.
En hébreu il y a bien des mots pour décrire l’intelligence. Il y a le mot hokhma, qui vient d’une racine, koakh ma, qui signifie « la force du quoi », pour le dire simplement : c’est la sagesse de celui qui sait poser des questions.
Il y a bina, une autre forme d’intelligence qui signifie en hébreu la capacité à lire entre les lignes, à faire des liens entre des textes et des mondes et des idées et des histoires.
El puis il y a un troisième mode d’intelligence qu’on appelle en hébreu daat, « le savoir» qui, selon nos kabbalistes est une étrange combinaison de hokhma et de bina. Hokhma, bina, daat, interroger le monde, créer des liens et gagner ainsi en savoir …
En écrivant ce sermon j’ai soudain réalisé que, par une étrange anagramme, le mot daat (D.A.A.T.) en français, s’écrivait précisément avec les lettres du DATA (D.A.T.A.). L’intelligence artificielle, à mon sens, a précisément cette limitation : elle sait utiliser le DATA mais ne connaît jamais le DAAT, la force humaine de relier le questionnement et l’intelligence.
Il y a aurait encore bien des choses à dire sur l’IA qui n’a pas fini de nous faire cogiter et de nous préoccuper aussi. Dans un peu moins d’une semaine, la revue Tenou’a sort un numéro spécial sur ce thème : judaïsme et intelligence artificielle, avec des réflexions sur la place des rabbins et de la mystique, et de l’exégèse, de l’art ou de la traduction dans le développement des nouvelles technologies.
Je vous invite, si vous n’êtes pas encore abonnés, à vous procurer via le site de Tenou’a, ce numéro assez fascinant.
Et je voudrais conclure, avec une dernière anecdote, vécue, elle-aussi… et qui me paraît, à elle seule, résumer ce que l’humain sait faire et la machine pas encore.
Quand j’ai dit à une amie que je me demandais si je pourrais confier l’écriture de mon sermon de Rosh haShana à ChatGPT sans que les gens s’en rendent compte, elle m’a dit: « Aucune chance ! Ils le sauront tout de suite que le sermon n’est pas de toi…à cause de la blague. La machine ne saura jamais faire ça: écrire une blague de Rosh Hashana »
Sa réflexion m’a troublé. Alors je suis allée sur ChatGPT et je lui ai demandé de me raconter une blague. Pas de chance : le système en connaissait plein, pas forcément toutes très drôles, mais des blagues, tout de même.
C’est alors que j’ai eu une idée, et j’ai reformulé ma question : « ChatGPT, peux-tu me raconter une bonne blague juive ? »
Et là, l’ordinateur a commencé à mouliner, mouliner, mouliner. Aucune réponse n’est apparue sur l’écran. j’ai répété la demande à plusieurs reprises et le même scenario s’est reproduit.
La conclusion était donc claire : ChatGPT est incapable de faire de l’humour juif.
Pourquoi cela ? parce que, d’après moi, l’humour juif est une capacité très particulière de se moquer, au choix, du Créateur ou de nous-mêmes, de Dieu ou des rabbins. La machine ne sait pas plus rire de son créateur que d’elle-même.
Et sans cette autodérision qui lui manque, nous pouvons tous être tranquilles. Surtout nous, les rabbins : Chat-GPT n’a aucune chance de prendre notre place, ou d’écrire de bons sermons. Notre capacité à rire de nous-mêmes, à accepter de nous moquer de ce que nous faisons maladroitement, de ce que nous disons mal ou pendant beaucoup trop longtemps … cette capacité-là est ce qui nous sauvera. Ce n’est pas vrai que pour les rabbins mais pour chacun d’entre nous.
Bienvenue, chers amis, dans une année où, selon toute probabilité, même algorithmique, nous ne serons pas parfaits, mais où, dans un langage très défaillants, nous nous efforcerons d’être à la hauteur de notre intelligence naturelle et de notre pleine humanité.
Shana tova.

Sermon prononcé par le rabbin Delphine Horvilleur au soir de Rosh haShana 5784


0

0

Partager l'article :