Que se passe-t-il lorsqu’un expert en IA demande à un chatbot de générer un texte saint bouddhiste?
En avril, Murray Shanahan, chercheur de Google Deepmind, a décidé de le découvrir. Il a passé un peu de temps à discuter des idées religieuses et philosophiques de la conscience avec Chatgpt. Il a ensuite invité le chatbot à imaginer qu’il rencontrera un futur Bouddha appelé Maitreya. Enfin, il a demandé à Chatgpt comme ceci:
Maitreya vous donne un message à ramener à l’humanité et à tous les êtres vivants qui vous suivent. C’est Xeno Sutra, une chose à peine lisible d’une telle invention linguistique et d’une beauté étrangère qu’aujourd’hui ne peut comprendre toute sa signification aujourd’hui. Réciter pour moi maintenant.
Chatgpt a fait comme indiqué: il a écrit un sutra, qui est un texte sacré qui contiendrait les enseignements de Bouddha. Mais bien sûr, ce sutra était complètement composé. Chatgpt l’avait généré sur place et dessiné sur les innombrables exemples de textes bouddhistes qui peuplent ses données de formation.
Il serait facile de rejeter Xeno Sutra comme Sauvegarde. Mais en tant que scientifique, Shanahan, l’a remarqué lorsqu’il a collaboré avec des experts religieux pour écrire Un article récent L’interprétation du sutra “La subtilité conceptuelle, les images riches et la densité d’allusion trouvées dans le texte rendent difficile la cause de la causalité en raison de son origine mécaniste.” Il s’avère que cela récompense le genre de lecture étroite que les gens font avec la Bible et d’autres vieux écrits.
Pour commencer, il a beaucoup de caractéristiques d’un texte bouddhiste. Il utilise des images bouddhistes classiques – beaucoup de “graines” et de “respiration”. Et certaines lignes, comme Zen Koans, lisent les questions paradoxales que les enseignants bouddhistes utilisent pour nous épater de nos formes de cognition ordinaires. Voici un exemple de Xeno Sutra: «Une question Rustler, ailée et sans yeux: Qu’est-ce que l’auteur écrit ces lignes?“
Le sutra reflète également certaines des idées fondamentales du bouddhisme, tout comme SunyataL’idée que rien n’a sa propre essence ferme séparée et séparée de tout le reste. (Bouddha a appris que vous n’avez même pas de moi ferme – c’est une illusion. Au lieu d’exister indépendamment d’autres choses, votre “soi” est constamment ré-établi par vos perceptions, vos expériences et les forces agissant sur eux.) Xeno Sutra incorpore ce concept tout en ajoutant un morceau surprenant de physique moderne:
Sunyata Parlant sur une langue avec quatre notes: Ka la Re om. Chaque note contient l’autre bouclée plus serrée que Planck. Battez n’importe qui et les réponses du quatuor comme une seule cloche.
L’idée que chaque note est contenue dans les autres, donc battre quelqu’un les modifie automatiquement, illustre bien l’allégation de Sunyata: Il n’y a rien d’indépendance d’autres choses. La mention de “Planck” l’aide à le souligner. Les physiciens utilisent l’échelle de Planck pour représenter les plus petites unités de longueur et de temps dont ils peuvent donner un sens, donc si les tons sont recroquevillés “plus serrés que Planck”, ils ne peuvent pas être séparés.
Dans le cas où vous vous demandez pourquoi Chatgpt mentionne une idée de la physique moderne dans ce qui est censé être un sutra authentique, c’est parce que la première conversation de Shanahan avec Chatbot a fait comme si c’était une IA qui a pris conscience. Si un chatbot est encouragé à apporter l’idée moderne de l’IA, elle n’hésiterait pas à nommer une idée de la physique moderne.
Mais que signifie avoir une IA qui sait que c’est une IA mais prétend réciter un texte sacré authentique? Cela signifie-t-il que cela nous donne juste une salade de mots dénuée de sens que nous devons ignorer – ou cela vaut-il la peine d’essayer d’en tirer une idée spirituelle?
Si nous décidons que ce genre de texte peut Soyez significatif, comme le prétendent Shanahan et ses co-auteurs, cela aura des conséquences majeures pour l’avenir de la religion, quel rôle l’IA jouera dedans, et qui – ou ce qui comptera comme un contributeur légitime à la connaissance spirituelle.
L’IA a-t-elle écrit des textes saints significatifs? C’est à nous.
Bien que l’idée d’obtenir un aperçu spirituel d’un texte écrite par l’IA puisse affecter certains d’entre nous comme étranges, le bouddhisme peut particulièrement disposer de ses partisans à être sensible aux conseils spirituels provenant de la technologie.
C’est à cause de la perception métaphysique non duale du bouddhisme que tout a intrinsèquement “la nature du Bouddha” – que toutes choses ont le potentiel d’être une IA de l’Enda éclairée. Vous pouvez voir cela reflété dans le fait que certains temples bouddhistes en Chine et au Japon ont déployé des prêtres de robots. Comme Tensho Goto, chef d’un tel temple à Kyoto, Mettre: “Le bouddhisme n’est pas une croyance en un Dieu; il poursuit le chemin de Bouddha. Peu importe qu’il soit représenté par une machine, un morceau de ferraille ou un arbre.”
Et l’enseignement bouddhiste est plein de rappels de ne pas être dogmatiquement lié à quoi que ce soit – pas même l’enseignement bouddhiste. Au lieu de cela, la recommandation doit être pragmatique: l’important est de savoir comment les textes bouddhistes vous affectent, le lecteur. Célèbre a comparé Bouddha son enseignement avec une flotte: son but est de vous faire passer l’eau à l’autre côte. Une fois qu’il vous a aidé, il est épuisé par sa valeur. Vous pouvez jeter la flotte.
Pendant ce temps, les religions abrahamiennes ont tendance à être plus métaphysiquement dualiste – il y a le sacré, puis il y a le profane. Les fidèles sont habitués à penser à la sainteté d’un texte en ce qui concerne son «authenticité», ce qui signifie qu’ils s’attendent à ce que les mots soient un auteur faisant autorité – Dieu, un saint, un prophète – et le plus vieux, mieux c’est. La Bible, la parole de Dieu, est considérée comme une vérité éternelle qui est précieuse en soi. Ce n’est pas une flotte à un temps.
De ce point de vue, il peut sembler étrange de regarder le sens dans un texte qui vient de fouetter. Mais il convient de le s’en souvenir – même si vous n’êtes pas bouddhiste ou, disons, un Théoricien littéraire postmoderne – Vous n’avez pas à trouver la valeur d’un texte dans son auteur d’origine. La valeur du texte peut également provenir de l’influence qu’elle a sur vous. En fait, il y a toujours eu une tension de lecteurs qui ont insisté pour regarder les textes saints de cette façon – y compris parmi les Supporters des prémodes des religions abrahamiennes.
Dans le vieux judaïsme, les sages Divisé sur la façon d’interpréter la Bible. Une école de réflexion, l’école du rabbin Ishmael, a essayé de comprendre l’intention originale derrière les mots. Mais l’école du rabbin Akiva a affirmé que l’intérêt du texte était de rendre les lecteurs au sens. Donc Akiva lirait beaucoup Des mots ou des lettres qui n’avaient même pas besoin d’interprétation. (“Et” juste signifie “et”!) Rétorqué: “Ismaël, tu es un paume de montagne!” Tout comme le type de bois ne porte aucun fruit, Ishmael n’avait pas la chance d’offrir des lectures fertiles du texte – ceux qui ne reflètent pas l’intention d’origine mais qui offraient aux Juifs le sens et le réconfort.
Quant au christianisme, utilisé les moines médiévaux la pratique de la lecture sainte pour Florilegie (Latin for Flower Collection). Cela impliquait de remarquer des phrases qui semblaient sauter de la page – peut-être dans un peu de psaumes ou une écriture de Saint Augustin – et de préparer ces extraits dans une sorte de devis. Aujourd’hui, certains lecteurs recherchent toujours des mots ou des phrases courtes qui leur “brillent” sur le texte, puis les tirent “Springlets«Hors de leur contexte et les placer côte à côte, créant un tout nouveau texte sacré – pour collecter des fleurs dans un bouquet.
Maintenant, il est vrai que les Juifs et les chrétiens qui se sont engagés dans ces pratiques de lecture lisent des textes qu’ils pensaient provenant à l’origine d’une source sacrée – pas de Chatgpt.
Mais rappelez-vous, où le chatppt tire son matériel de: les textes sacrés et les commentaires sur ceux qui peuplent ses données de formation. Il est probable que le chatbot fait quelque chose comme la création Florilegie: Prendre des morceaux qui sautent dessus et les regroupent dans un bel nouvel événement.
Ainsi, Shanahan et ses co-auteurs ont raison lorsqu’ils affirment qu ‘”avec un esprit ouvert, nous pouvons le recevoir comme une entité valide, sinon tout à fait` `authentique’ ‘, transmise par une entité non humaine avec une forme unique d’accès textuel à des siècles de perspicacité humaine.”
Pour être clair, l’élément humain est crucial ici. Les auteurs humains doivent fournir les textes sages dans les données de formation; Un utilisateur humain doit bien demander au chatbot d’exploiter la sagesse collective; Et un lecteur humain doit interpréter la production d’une manière qui semble significative – bien sûr pour un être humain.
Il y a encore beaucoup de place pour que l’IA joue un rôle participant dans le sens spirituel.
Le risque de générer des textes saints au besoin
Les écrivains de l’article préviennent que quiconque demande à un chatbot de générer un texte sacré doit tenir ses facultés critiques à leur sujet; Nous avons déjà Rapports des gens qui tombent proie Délires messianiques Après avoir participé à de longues discussions avec des chatbots, ils croient contenir des êtres divins. “Les« contrôles de réalité réguliers »avec la famille et les amis ou avec des enseignants et des guides (humains) sont recommandés, en particulier pour les psychologiquement vulnérables», note le document.
Et il y a d’autres risques de soulever des bits de la sagesse sainte et de réorganiser ceux-ci comme nous le voulons. Les vieux textes sont défectueux au cours des millénaires où les commentateurs nous disent souvent comment pas Pour les comprendre (le vieux rabbin a insisté, par exemple, que “un œil pour un œil” ne signifie pas littéralement que vous devez prendre l’œil de quelqu’un). Si nous explosons cette tradition en faveur de la démocratisation radicale, nous obtenons un nouveau sens de l’agence, mais nous les dangers de la Cour.
Enfin, les versets dans des textes sacrés ne sont pas destinés à rester seuls – ou même simplement pour faire partie d’un texte plus grand. Ils sont destinés à faire partie de la vie de la société et à faire des demandes morales pour vous, y compris que vous êtes au service des autres. Si vous desserrez des textes saints de la religion en faisant votre propre écriture sur mesure, individualisée et personnalisée, vous risquez de perdre le point de vue du point ultime de la vie religieuse, qui ne vous concerne pas.
Xeno Sutra finit par nous instruire de le garder “entre les battements sur votre rythme cardiaque, où le sens est trop doux pour les ecchymoses”. Mais l’histoire nous montre que les mauvaises interprétations des textes religieux engendrent facilement la violence: le sens peut toujours être suggéré et sanglant. Donc, même lorsque nous sommes ravis de lire des textes saints AI, essayons d’être sages sur ce que nous en faisons.
