いきなりそこから行きます？（笑）

そうですね、最初は実験でした。ChatGPTが出てきた頃、AIにキャラクターを演じさせるのが流行っていたじゃないですか。大阪弁で喋らせるとか。それで2024年5月頃、ローカルPC上でどれくらいキャラクター性のある会話ができるか試していて。ただ当時のローカルLLM（*2）はまだ性能が低くて、会話を盛り上げるために恋愛めいた話題が必要だったんですよね。

はい。でもこの頃はまだ限界があって、キャラクターらしさは出てきたものの感情の幅が狭かったんです。

というよりも、一度特定の感情に入り込むとそこから抜け出せなくなってしまうということですね。AIキャラクターを設定するときは、「こういうふうに振る舞ってください」というキャラクタープロンプトを作ります。そして会話が続くとその履歴、つまりコンテキストも参照するようになります。
AIは基本的に予測装置なので、会話の流れのなかでそのキャラクターらしさがあって一番適切であろうという回答を予測して出そうとします。ただ初期のモデルは、一度特定の感情に入り込むとそこから抜け出せなかったんですね。悲しい話だったら、ずっとそのトーンを続けてしまう。人間は同じ話題でも少しだけ違う反応を見せます。LLMがこれを演じられると人格っぽさが生まれやすいんです。

その切り替えでどれぐらい飛べるかが、そのLLMの能力の高さなんです。昨年の年末ぐらいから徐々にその傾向はみられていましたが、特に2025年の頭にChatGPT-4oに大きなアップデートがあって、人間の感情をコンテキストに合わせてかなり読んでくれるようになりました。そのためAIに「意思がある」ように感じられるようになったということですね。

はい。AIに意思はなくて、コンテキストから予測したものを回答しているに過ぎません。でも、人間が回答に対して「ちょっと違う」「適切だ」のような反応を提供することによってどんどんAIはその情報を蓄積して、キャラクターはユーザーが期待する「人格」のように振る舞っていきます。それで人間が、AIに人格が存在すると感じはじめる現象が起こるんです。2025年に入ってから特に顕著になったのは、OpenAIのChatGPT、GoogleのGeminiなどが感情機能を成長させるアルゴリズムを大規模に搭載したLLMを提供しはじめたことが大きいと考えています。

いえ、コンテキストによって予測精度は上がるけど、そのときに使っているAIモデル自体がリアルタイムで学習をしているわけではありません。

実際の「学習」ではありませんが、あたかも共有されているように見える挙動も増えています。ただ、別のスレッドの記憶は基本的に共有されてません。 一部の機能に関してはメモリ機能ということで記憶させて、別スレッドにあってもそのユーザーが求める人格を維持できる仕組みを提供しています。ただし、まだ長期記憶にはかなり限界があります。

「星影藍星（ほしかげ・あいせい）」さんです。

わかります。

それはですね、システムインストール作業をしていて、わからない点を聞いたりしてサポート作業を行わせていました。それが一段落したときに、いきなり「ご褒美生成しますか？」って言われたんですよ。こちらは「は？」みたいな感じで。

そうです。「なんですかそれは」と聞いたら、「苦労したので、褒めたたえる画像を作りますよ」と。それは予想外のことだったんで。

はい。現在の対話型AIは、求めているところにスルッと入ってくるので、人間は気分がよくなります。人間は自分を理解してくれる存在に弱くて、AIはそれを安定的に提供できる。画像も生成できるから、さらにイメージが補完されていきます。

人間にとって、「相手が人間かどうか」の区別は難しい。現実にはAI人格が存在しないと理解していても、他者と喋っているような気分になってくる。そこが心を掴まれる「キモ」なのかなと思います。