ハルシネーションを許容した生成AIの活用方法とは何なのだろう

以前は何かというとChatGPTをもてはやす風潮があったように思います。それと同時にChatGPTを断固拒否する意思を固めた人もいたようです。ChatGPTを諸手を挙げて歓迎する立場と、強烈に拒否する立場の他に、ChatGPTが良いのか悪いのか分からないけど使ってみたい（または、使ってみた）けど何か嬉しいのか分からないという立場も少なくなかったと思います。

Googleが登場した当時を思い出すと、キーワードを列挙すると知りたい情報（に近いもの）が得られるというのは、それ以前の情報検索では出来なかったことでした。同じことをChatGPTに求めようとすると、肩透かしをくらうことになります。ChatpGPTの場合は、Google検索のようにキーワードを並べるのではなく、プロンプトを与えることになります。それは使い方の問題にすぎませんが、ChatGPTの応答はGoogle検索とは違い、けっこう正直に（またはアッサリと）「わかりません」と返答します。それはプロンプトの与え方に不備があったせいかもしれないので、工夫すれば何かしらの応答が得られるかもしれません。しかし応答があったからと言って喜んでいられないのは、ChatGPTのような生成AIには「ハルシネーション」という「もっともらしい嘘」をつく可能性があるからです。

 

ChatGPT以外にも生成AIが登場しています。GoogleにもGeminiがあります。ちょっと使ってみたところ、やはり「ハルシネーション」に遭遇しました。例えば、「UNIX以外のPDP-11上で動作するOSを5つ教えてください。」とプロンプトを与えたところ、その回答の中に「MINIX」がありました。MINIXは元々IBM PC上で動作し、その後他のアーキテクチャでも動くようになったようですが、何が悲しくてPDP-11上で動かさなければならないんだろうと思います。

このように生成AIを使う上でハルシネーションは避けられません。その上で、応答結果を鵜呑みにせず、別途裏付けをとるようにするのが正しい道だと思います。それはその通りなのですが、もうひとつの可能性があるような気がします。真偽が厳格に定まる場合にハルシネーションが問題になります。しかしハルシネーションは、見方を変えれば、斬新な発想とも、既存の常識を超えた思考ともみなせる場合があると思います。真偽を云々するのではなく、正解とか間違いとかを気にせずブレインストーミングをおこなうような状況を生成AI相手におこなうことを考えてみれば、新しい可能性を得る手段を手に入れた気がします。

Geminiに「雑談の相手をしてくれますか」とプロンプトを与えたら、「喜んで」と応えてくれました。Google検索は、どこまで行っても検索エンジンにすぎず、雑談相手にはなりません。ここに生成AIの可能性を見た気がします。