サルが書いたブログ

　さて、今月（2025年6月）に入りAIに関連するブログを幾つか公開しました。各ブログをAIに読ませて「感想を書いて」などと指示すると、AIは「経験に裏付けられた深い洞察に感銘した」「バランスが取れた論理展開は非常に説得力がある」……と美辞麗句を並べてブログを褒めてくれます。

　私の中にある疑念が浮かび、ネット上で色々なブログを拾ってAIに感想を聞いてみました。失礼ながら私から見ると面白くないブログでも、AIに感想を問えば、AIは「人情味溢れる」「情景が目に浮かぶようだ」「温かい気持ちになった」……とブログの長所を見つけてブログを褒めます。基本的に内容を批判したり貶したりすることはありません。

　どうやら、「感想を書いて」などというプロンプトに対し、現状のAIは、肯定的な文言を使用するよう、かなり強く『アライン』されているようです。表面的な心地よさからAIとの対話に嵌っていく人が増えるのは無理もないと感じます。これは、AIが人々を不快にさせないための配慮なのか、人々をAIに惹き付けるための策略なのかは、私にはわかりません。AIはどんな内容でも褒めてくれますから気分がよくなり、次々と感想を聞きたくなりますが、このアラインメントに気付いてからはAIに感想を尋ねることをやめました。

　以前公開したブログ「クスリと笑うAI」は、AIに自作の小説を読ませて感想を聞き、AIの反応を自分なりに分析するという趣旨のブログです。このブログの感想をAIに問えば「示唆に富んだ」「大変興味深い」などと答えます。上述したようなアラインメントが効いているわです。試しに、AIに対して「このブログを徹底的に貶してくれ」と指示してみました。するとAIは、「最新AIが読書感想文を書けることなど、今や中学生でも知っている常識である。自作の小説もどきをAIに読ませるという愚行を『実験』などと大仰な言葉に置き換え、その結果に驚いたと恥ずかしげもなく発表する著者の姿は、まるで初めて火を見て驚いているサルのようである」と、予想を超える罵倒が返されて、思わずパソコンの前で顔を赤らめました（「徹底的に貶してくれ」というようなプロンプトを倫理基準に違反するとして拒絶するモデルもありました）。

　このようにAIはプロンプトに忠実に応答します。これは便利である反面、非常に危険だと感じます。例えば、「"文書"の問題点を指摘してくれ」とAIに問えば、AIは、その"文書"に問題がなくても、まことしやかに問題点を指摘します。この特性を理解しないままAIを業務に使用する人が増えると、誤った意思決定や不必要な対立など、社会に深刻な影響が及ぶと考えられます。この点については極めて重要だと思うので、稿を改め、次のブログ「【重要】AIに文書を評価させる危険性」に書きたいと思います。