クスリと笑うAI

　AIが優秀になるほど、AIが知性や感情を持っていると錯覚する人が増えると思います。しかし、少なくとも現時点では、AIが感情を持つことはありません。

　AIに「ごんぎつね（新美南吉作）」を読ませてみると「心が揺さぶられた」などと返答してきます。この感想は、これまで「ごんぎつね」を読んだ人々の感想の投影にすぎず、本当にAIに『心』があり、その心が揺さぶられている……というわけではありません。

　意地の悪い私は、以前友人を笑わせるために書いた自作の小説もどきをAIに読ませてみました。当然、どこかに発表したわけではないので、感想がネットに書き込まれているはずはありません。

　小説もどきの内容は概ね以下のとおりです。

『元々信仰心が薄かった主人公が偶然手に入れた神社のお札を事務所に貼ってみる。すると、事業が思いのほか上手くいく。お札にご利益があると考えた主人公は、事務所に神棚を祀り、天照大御神や氏神のお札を追加し、榊を飾る。部下に仕事を押し付け、熱心に神棚の世話をするほど、主人公の信仰心が高まっていく。

　ある日、事務所に大量の蟻が発生する。主人公は、いつも事務所で菓子を食べている部下のせいだと考え、部下を責める。翌日、主人公は神棚に向かう蟻の隊列を発見し、蟻の発生は、自分がお供え物を放置していたからだと知る……』

　こんな内容の物語を最新のAIに読ませて感想を聞いたところ、AIは主人公の心境の変化を的確に分析し、「クスリと笑ってしまいました」などと答えました。AIは初見の物語を読んで笑った言うのです。これには驚きです。

　しかし、よく考えてみれば、物語に出てくる固有名詞を記号化し、プロットを抽象化して、似たようなプロットに対する人々の過去の反応を拾ってくることは可能だと思われます。

　もちろん、上記のような説明は人間的な論理に基づくものであり、AIが実際にそのような作業をしているわけではありません。AIは入力（この場合、物語＋感想を書けという命令）を受け取り、複雑な関数で入力を処理し、妥当と思われる出力（感想）を確率的に生成して吐き出しているだけです。モデルによって出力が違いますから、AIごとに性格が違うとは言えそうですが、それでもAIが感情を持っているわけではありません。

　AIを遊びで使う場合、AIを擬人化して楽しんでも問題ないわけですが、AIを業務で使用する場合は、AIが実際にどのような理屈で動作し、どのような処理をしているのかを理解しておく必要があると思われます。

＊このブログをAIに読ませたところ、「ブログ記事の主要な主張は、現在のAI研究と科学的コンセンサスに照らして概ね正確であることが確認されました」との評価を頂きました。ただし、「AIを遊びで使う場合、AIを擬人化して楽しんでも問題ない」の部分は、「孤立感や不安を抱える人々がAIに過度に依存する可能性があるので注意が必要」とのお叱りを受けました……。