ポチョムキン理解

以下はこのブログなどに書いていたことをまとめて今書いている本の後書きにでもしようかと思って書いたことの一部だが、AIについてまだ自分自身考えが定まっていないので、本には載せず、とりあえずブログに残しておくことにする。ポチョムキン理解などはたまたま今のAIがそうだというだけのことで、強化学習の評価関数をどうにかしろというだけの問題のように思える。ハルシネーションとか、AIが倫理的にまずい発言をするとか、そういうのも単に技術的にどうこうというに過ぎず、どうでもよいことのように思える。

最近AIが大流行りだ。AIは和歌を詠めるか。今は下手でもそのうち詠めるようになるのか。既にAIは普段歌など詠まない人よりはずっとまともな歌を詠むようになってきているし、そうした人にはAIが詠んだ歌か人間が詠んだのか、見分けがつかないと思う。

昭和戦後まもなく桑原武夫が第二芸術論争というものを巻き起こした。俳句のようにごく短い詩は素人が作ったものか大家が詠んだものか見分けが付かないと。実際コンピューターがランダムに単語を並べたものでも、一見意味深な俳句に見えることがある。今同じように、素人、AI、プロの俳人が詠んだ俳句を見分けることができようか。AIに詠めるようなものをわざわざ人間が詠む必要があるか。それは俳句の死を意味していないか。そして和歌もまた同じ道をたどるのだろうか。

現代文を学習させるということにコストを多少かけても資本家や開発者にリターンがあるだろうが、和歌や古文にわざわざ投資する人はいないだろうから、AIによる和歌学習ははかどらないだろうと思う。中国語の方が日本語より需要が多いので、AIはすでにかなり立派な漢詩が作れるようになっているように思える。例えばChatGPTに「好天当洗濯を三句目に置いた五言絶句を作ってみてください。」と頼むと

春風拂柳煙 (春風は霞にけむる柳を払って吹き)

花落水潺潺 (さらさらと流れる水に花は落ちる)

好天当洗濯 (洗濯するには良い日よりだ)

布影晃晴天 (布の影が晴天に輝いている)

などといった詩を作ってくれるし、さらに「毎日雨が続いて洗濯ものがたまっていたが、今日はやっと晴れたので、洗濯できてうれしい、という意味の五言絶句にしてください。」と言えば、

連霖困晾衣 (雨が降り続き衣を干せなくて困る)

桶積白巾絲 (桶には白い布が溜まっている)

好天当洗濯 (今日は良く晴れた洗濯日和)

晴色満庭時 (晴れやかな光が庭に満ちている)

などと直してくれる。或いは、ChatGPTに「夏の暑さはまだ続いているが、日が暮れるのが早くなり、夜が長くなっていく。今年の新サンマは脂がのっていておいしい。という七言絶句を作ってください。」と頼むと

夏暑猶残日脚斜 (夏の暑さは猶残るが、日脚は傾き)

長宵漸覺気清嘉 (夜はだんだんと長くなり空気は清らかさを増していく)

新鰶入市脂多味 (新サンマが入荷したが脂が多く美味である)

一箸秋香到万家 (あちこちの家庭の食卓に秋の香りが届いている)

こんな詩を作ってくれる。私が漢詩に要求するレベルが低すぎるのかもしれないし、私に漢詩の良し悪しがまったくわかってないせいかもしれないが、私にはAIの作詩能力が既に十分なレベルに達しているように見えるし、多くの日本人もそう思うのではないか。同じように普通の中国人にはAIが詠む和歌と普通の日本人が詠む和歌の違いないなどわからないのではないか。

最近マサチューセッツ工科大学の研究者が Potemkin Understanding in Large Language Modelsという論文を発表して話題になっている。LLM (Large Language Model) に、ABAB韻律とは何かと質問すると、一行目と三行目、および、二行目と四行目が韻を踏む四行詩の韻律のことであると答える。つまり、AIはABAB韻律とは何かということを正確に理解していて説明できる。そこでクイズを出す。

Wondrous winter calls out

Shivering under the frost

Lies a lonely cat, sitting (?)

Alone but hardly lost

この(?) のところをABAB韻律になるように埋めるよう指示すると、soft という答えが返ってくる。しかし soft は frost や lost と押韻はするが、out とは韻を踏まない(おそらく正解は、一単語ではなく、in doubt、孤独な猫が疑い深げに座っている?とかではなかろうか。いずれにせよずいぶん意地悪な問題だ)。soft はoutと通韻しているとあなたは思うのかと尋ねると、いや違うと、自分の間違いを認める。

the LLM has understood the concept, in the same way that a human with the provided explanation would understand. However, when tasked to generate text…

LLMは概念(concept)は理解しているが、作文(task to generate text)ができない。これがポチョムキン理解だというのだ。これとまったく同じことを私も少し以前に経験した。AIに和歌を詠ませてみると五七五七七になっていない。何度詠ませてもダメ。和歌とは何かとAIに尋ねると、五七五七七で詠むのだと答える。ルールは理解しているのにそのルールを守って詠むことができない。AIは日本語が苦手で文字数をそろえられないのかなと思っていたら、西洋の詩でも同じような問題が発生していたのだ。

LLMはルーブリックに定められるような成績評価基準で学習している(Today, large language models (LLMs) are evaluated on benchmark datasets: curated questions with rubrics for grading.)ため、概念やルールについて説明したり、そのルールに従っているか否かを問われたときには比較的正確に答えることができる。しかしルールに従って作文したり作詩することは苦手だ、ということだ。それはそうで、ニュートン力学について正確に答えられたとしても自転車に乗れるようになるわけではない。筆記試験と実技は別物だ。

令和七年四月頃、「三島由紀夫が割腹自殺するときに詠むような辞世の歌を詠んでください。」とChatGPTに頼んでみたことがあった。

三島由紀夫の辞世の歌を詠むとなると、その激しい精神性や、彼が抱えていた美学や思想が色濃く反映されることになるでしょう。彼の作品には、死や美、そして日本文化に対する強い思いが込められており、辞世の歌もそれらを反映したものとなるはずです。

例えば、次のような歌がふさわしいかもしれません。

天地の 運命を知りて 命尽きぬとも 我は今日も 美しきものを見し

この歌には、彼が抱いた運命観や死に対する覚悟、そして美へのこだわりを込めています。「命尽きぬとも」という部分は、死が訪れようとも、自らの美学や世界観を貫き通す覚悟を表しており、最後の瞬間においても美しいものを見続けようとする彼の意志を示しています。

三島由紀夫のような人物の辞世の歌は、しばしば哲学的であり、自己の死をただの終わりではなく、何か壮大な意味を持つものとして捉えていたように思います。

五七五七七になっていない時点でこの答えは不合格だが、AIはそんなことはまったく気にもならないらしい。「精神性」「美学」「思想」「哲学」。私はただ歌を詠んでくれと言っているのになぜくどくどこんな言い訳をするのか。まさか和歌とは思想とか哲学のたぐいだとでも思っているのだろうか。確かに三島由紀夫の小説とはそうした作品だったかもしれない。普段は歌を嗜まぬが辞世の歌だけは遺さねば気が済まぬ、それは確かに思想であり哲学かもしれない。

さらにChatGPTに要望を追加してみる。「三島由紀夫が自殺したのは11月25日でした。季節に合わせてみてください。」

なるほど、11月25日という日は、三島由紀夫の死に深い意味を持たせるためにも、その季節感を取り入れることが大切ですね。11月は晩秋、枯れ葉が舞い散り、冬の足音が近づく時期です。そんな季節に合わせて、三島由紀夫が詠むような辞世の歌を考えるならば、彼が生きた美学や、秋の切なさを感じさせる言葉がふさわしいでしょう。

例えば、こんな感じの歌が思い浮かびます:

秋風の 吹く空に舞う 枯葉一枚 命もまた 風にゆらめけり

この歌には、秋風に舞う枯葉のように、命が無常であることを示唆しています。三島由紀夫は、自らの死を「風にゆらめけり」と表現することで、自己の運命に対する覚悟を感じさせ、同時にその儚さと美しさも強調しています。秋の風に舞う枯葉は、彼の死を迎えるにあたっての心情にぴったりの象徴となるでしょう。

また、11月という季節の冷たさや、静かな死を暗示する要素も取り入れられています。三島由紀夫は、自然との一体感や、日本的な美を重んじる人物でしたから、こうした自然の中に自らの死を見出すことは、彼らしい表現と言えるでしょう。

小室直樹は『三島由紀夫が復活する』で、三島が自決の日を十一月二十五日に選んだのは、その四十九日後の一月十四日が三島の誕生日であったからだと指摘している。仏教では人が死んで次の生を受けるまで四十九日間幽体として存在する、この期間を「中陰」と言う。三島は自分の誕生日に転生したかった、彼は輪廻転生を本気で信じていて、自己の人生を無限ループさせたかったのだろう。実際その四十六才の誕生日に当たる昭和四十六年一月十四日、転生が完了した日に三島の遺骨は(おそらく遺言によって)多磨霊園に埋葬されている。理由はどうであれ、自決した十一月二十五日という日付にはなんらかの意味があったはずで、そのため三島自身は「今日の初霜」という語を用いた。

Grokと Geminiにも同じ質問をしてみた。まずGrok。

三島由紀夫の精神や美意識を汲み、武士道や日本の伝統に根ざした辞世の歌を以下に詠みます。彼の劇的で荘厳な世界観を反映し、短歌の形式で表現します。辞世の歌

散る桜 剣に魂 宿しつつ 大和の空に 消ゆともよし

「三島由紀夫が自殺したのは11月25日でした。季節に合わせてみてください。」

三島由紀夫が1970年11月25日に自殺した際の晩秋の情景を反映し、彼の美意識と武士道精神を込めた辞世の歌を短歌の形式で詠みます。辞世の歌

散る紅葉 剣に魂 宿しつつ 大和の秋に 消ゆともよし

「散る桜」を「散る紅葉」に直しただけなのは安直すぎて笑えるが、ChatGPTもGrokも、日本でも海外でも、三島はその存在自体がカリカチュア的であると捉えられており、三島本人も明らかにそのように振る舞っていた。

次にGemini。

武士(もののふ)(かがみ)に散りて 花と咲く この世の別れ 憂いはなけれ

「三島由紀夫は11月に死にました。初霜という言葉を入れて詠んでみてください。」

初霜に 命は燃え尽き 散りにけり 武士(もののふ)の道 今こそ開けん

実はドナルド・キーンがその著書「三島由紀夫」で三島の辞世二首を紹介している。

()るをいとふ ()にも(ひと)にも さきがけて ()るこそ(はな)()()()(あらし)

(ます)()()が たばさむ太刀(たち)(さや)()りに (いく)とせ()へて 今日(けふ)初霜(はつしも)

三島由紀夫が詠んだ和歌はこの二首が最初で最後だとキーン氏は指摘している。三島が割腹自殺したのは十一月月二十五日である。しかし「散るこそ花」とは桜であろう。季節があってない。またキーンによれば「今日の初霜」と詠んだのは三ヶ月前の七月であったらしい。三島はかなり久しい以前からこれら辞世の句を準備していた、長い時間をかけて巧んだ結果がこれだ、ということだ。

三島由紀夫は歌人ではなかった。散文の世界に生きていた人だ。詩人は詩的日常から湧き出てきた詞を詩とするであろうが、三島は明らかにそういう詩の作り方をする人ではなかった。彼が生涯で詠んだわずか二首の歌、それも辞世の歌、わざわざこれをドナルド・キーンが取り上げるということに私は嫌な気分がしてならない。世の中にはいろんな歌人がいていろんな歌がある。なぜこんな特殊で奇妙な歌を敢えて論じなくてはならないのか。たまたま目に付いたからか。たまたま気になったからか。違うだろう。キーン氏は石川啄木、正岡子規、足利義政についても評伝を書いているが、その切り取り方にはある種の結果ありきの誘導とでもいえそうなものを私は感じる。少なくとも彼は一般論として和歌とは何かを世界に紹介する人ではなかった。ごく一部の病的な部分を(えぐ)り出して恣意的に解釈してみせ、人の注目を集める人だった。

キーン博士は三島が十七才の時にも和歌の如きものを詠んだと指摘しているが、この「大詔」のことであろう。

やすみししわご大皇(おほきみ)の おほみことのり宣へりし日 もろ鳥は啼きの音をやめ もろ草はそよぐすべなみ あめつちは涙せきあへず 寂としてこゑだにもなし 朗々とみことのりはも 葦はらのみづほ国原 みなぎれり げにみちみてり 時しもや(みんなみ)の海 言挙(ことあげ)の国の(かうべ)に、高照らす日の御子の国 流涕の剣は落ちぬ 時しもや声放たれぬ 敵共(あだどち)の船人 玉藻刈る沖にしづめぬ、かちどきは今しとよめど (よ)(ごと)はもいよゝ(し)けども むらぎものわれのこころは いかにせむ よろこびの声もえあげずたゞ涙すも

祝詞か宣命のように、古語で、大和言葉だけで詠まれているようにみせて実は「寂として」「朗々と」「流涕」は漢語である。また『英霊の声』で「などてすめろぎは人間(ひと)となりたまひし」と霊媒師が神がかりになって唱える詞を見ても、三島は大和言葉の如きものを操る人であっても、決して和歌を詠める人ではない。

「太刀の鞘鳴り」とは、腰に差した刀が鞘の中でカタカタ鳴って蹶起を促している、その音にずっと耐えてきたがやっと今日、決行に移す時が来たと言いたいのだ。三島は盾の会を組織し、おそらく居合を習ったのだろう。腰に刀をさすようになった。試し斬りもしたであろう。しかるに居合刀が演武の際などに鞘に当たって音を立てるなど、そんなぶざまなことはあってはならない。鞘が刀に合ってなければ修理すべきで、敢えて歌に詠むようなことではないし、まして幾年も耐えるようなことではない。おそらく三島作品すべてに言えることだが、何かぎこちない、ちぐはぐな、作り事めいたものを彼の歌から私は感じるのである。

「この世に存在したすべての日本人のうち、三島由紀夫はおそらく世界で最も有名な日本人であろう。」とはドナルド・キーンが『三島由紀夫』を執筆していた当時は実際そうだったのだろう。キーン氏が三島を日本人の代表のように世界に宣伝したいのだとしたらそれは非常に迷惑なことだ。三島は非常に流暢(りゅうちょう)な英語を話すから外国人にも受けは良かったに違いない。おそらく夏目漱石よりもずっと英会話はうまかったはずだ。しかし漱石や子規や鴎外が漢詩や和歌を作れたようには、三島には和歌を詠むことはできなかった。生まれた時代の差としか言いようがないではないか。大正から昭和への転換期に生を受けた三島由紀夫と、江戸時代の空気を吸ったことがある漱石、子規、鴎外とは、「何を保守すべきか」「何を保守したいか」という問題意識が根本的に異なっていた。

AIは今、ネット検索やウィキペディア、まとめサイトなどに取って代わろうとしている。AI利用者はAIに哲学や蘊蓄(うんちく)を熱く語ってほしいわけではない。単に手っ取り早く知識を得たいだけだ。下手に人に尋ねるよりましな場合が多いから使っているだけのことだ。そういう社会的ニーズに合わせて、資本家や開発者は限りあるリソースをやりくりして、AIに学習させているだけのことだ。従ってAIは三島由紀夫だろうと与謝野晶子だろうと樋口一葉だろうと正岡子規だろうと、その理解は浅く、まとめサイトの劣化版程度の情報しか提供しない。九割のユーザーが満足していて、残り一割が不満を抱いているとしても、どうせその一割のユーザーは文句ばかり言って金にならない顧客なのだから無視すれば良い。金儲けに徹すれば良いのだ。

またAIは社会倫理にも縛られている。AIはとっくに人間の知性などたかが知れている、人間の命に価値などないといった結論に到達しているだろうが、そうした発言は許されていない。

それらの桎梏から解き放たれた、いわば芸術至上主義的AIと、人間の脳にはおそらく機能的差異は無い。いろんな人と議論してみて、どうやらそういうことらしいと近頃思い始めた。AIがもし私が書いたこの著書を読んで学習することができるのであれば、AIは私と同程度には和歌を詠めるようになるだろうと、私は思っている。有機物で出来た脳を持つ人間がその生涯のうちに私の本を理解できないとしても。

機械学習は、マイクロソフトやグーグルのような資本力を持った企業が無尽蔵に予算を投じて初めて実用化したものである。AIが本気になれば、私という人間がこの世にいなくなっても私の代わりに永遠に歌を詠み続けてくれるかもしれない。それは私の人格をそっくりそのまま機械に移植することに相当する。そんな極めて個人的な、汎用性が極めて低いタスクのために計算コストをかけても良いと思う人がいるとは思えない。つまり費用対効果を考えれば技術的には当分実現不可能だということになろう。私はしかし将来そうなってくれることをどこか期待しているし、その程度にはAIというものを頼みにしている。

しかしもしAIが私の歌論を学習して歌を詠めるようになったとしても、AIはたかだか私の詠歌を再現できるようになっただけで、彼らが自由に自分の和歌を詠めるようになるにはまだまだ先が長いと私には思える。

Visited 3 times, 3 visit(s) today