生成AI（人工知能）の急速な進展により、AIは単純なツールとしての役割を超え、ユーザの認知や意思決定に深くかかわる存在へと変化しつつあります。大規模言語モデル（LLM：Large Language Model）は、文脈を汲んだ対話を通じて、ユーザの意思決定を支援するようになっています。こうした変化は、「AIをどう使うか」という実用上の問いに加え、「AIは人の判断をどう変えるのか」、さらには「AIと人の認知は相互作用の中でどのように変化するのか」という、より根本的な問いを私たちに投げかけています。これらの問いに答えるためには、AIの仕組みに関する理解に加え、人の脳や認知の仕組みに関する知見が不可欠です。Physics of Artificial Intelligence Group（PAI Group）では、Harvard University Center for Brain Scienceとの連携を通じて、AI・脳科学・認知科学を横断する研究に取り組んでいます。
これまでのAI研究では、ベンチマーク上の性能や応用可能性といった指標が重要な役割を果たしてきました。これらの指標は、AI技術の進展を測り、実用化を進めるうえで欠かせないものです。一方で、ベンチマーク上で高い性能を示すAIについても、その動作原理が十分に理解されているとは限りません。AIが正しい答えを返したとしても、それがどのような内部表現に基づくのか、どのような条件で誤るのか、どのような文脈でバイアスを増幅するのかが分からなければ、AIを社会の中で安定的に活用することは困難です。PAI Groupでは、AIの振る舞いを観察可能な現象としてとらえることで、その背後にある法則やメカニズムの解明をめざしています。
ここで鍵となるのが、複雑な現象の背後にある法則を探る現象論的なアプローチです。一見複雑に見える現象を観察し、その背後にある法則性を抽出し、数理モデルとして記述することで、予測や制御につなげていく考え方です。その視点は、膨大なパラメータを持つAIがどのように学び、どのような条件で新しい能力を示し、どのような場合に予期しない振る舞いをするのかを理解するうえでも有効です。水が氷や水蒸気へと状態を変える相転移のように、AIにも、規模や条件がある水準を超えたときに、それまでみられなかった能力が突然現れることがあります。PAI Groupは、こうした「創発」の背後にある原理の解明に取り組んでいます。

具体的な研究の1つが、画像生成モデルにおける合成的汎化の研究です^（1）。合成的汎化とは、既知の概念を分解し、それらを新しい組み合わせとして扱う能力のことです。人間であれば、「紫色の犬が透明な傘を差している」という文を初めて聞いても、その場面をある程度想像できます。これは、「紫色」、「犬」、「透明な傘」、「傘を差す」という概念を分けて理解し、それらを新しく組み合わせることができるからです。AIが本当に柔軟な知性を持つためには、訓練データに頻出するパターンを再現するだけでなく、概念を分解し、未知の状況に応じて再構成できる必要があります。本研究では、この能力を定性的に評価するだけでなく、概念変数、概念値、概念クラスからなるConcept graphとして定式化し、訓練データに存在しない概念の組み合わせを生成できるかを検証しています。例えば、色、形、大きさなどを制御した人工的な画像生成課題を設計し、条件付き拡散モデルが未観測の組合せに対してOut-of-distribution（分布外）な生成を行えるかを調べます。その結果、モデルは訓練データを単に記憶するだけでなく、ある条件を満たしたときに概念を組み合わせる能力を獲得することが分かってきました。特に、複数の基本能力がそろったときに合成能力が急激に現れるというMultiplicative emergenceの性質は、生成AIの創発的能力を理解するうえで重要な手掛かりになります。

画像生成モデルにおける合成的汎化の研究は、AIが概念をどのように分解し、新しい入力に応じて再構成できるのかを明らかにしようとするものです。この問題意識は、画像生成に限られません。AIが人間のように柔軟に振る舞うためには、物体や色、形といった視覚的な概念だけでなく、人間の感情や認知のような抽象的で文脈依存的な概念も適切にとらえる必要があります。PAI Groupでは、このような観点から、LLMが人間の感情をどのように表現し、どのような構造として整理しているのかを研究しています^（2）。具体的には、オープンウェイトなLLMの内部表現を解析し、条件付き確率に基づいて感情の木構造を抽出することで、モデル内部に形成される感情概念の階層構造を解析します。直感的には、本手法は文章中の感情の共起関係を調べるものです。例えば、モデルがある状況における感情を「安堵」と判断する場面では、多くの場合「幸せ」とも判断しやすいと考えられます。一方で、「幸せ」と判断される場面が常に「安堵」を表すとは限りません。これは、「いちご」は果物の一種ですが、「果物」と言ったときに必ずしも「いちご」を意味するわけではない、という関係に近いものです。このような非対称な条件付き確率の関係を用いることで、「幸せ」のような広い感情を親ノード、「安堵」のような具体的な感情を子ノードとして配置し、LLM内部における感情の木構造を推定します。この木構造により、LLMが感情をどの程度細かく区別し、階層的に整理しているかを評価できます。その結果、LLMの内部では、「喜び」「恐怖」「怒り」「悲しみ」といった基本的感情を上位概念として、「希望」「楽観」「不安」「心配」などの具体的な感情が分化する、階層的な構造がみられました（図1）。こうした構造は心理学で提案されてきた感情分類とも対応しており、LLMが人間の感情をどのような枠組みで理解しているのかを知る手掛かりになります。また、LLMの規模、すなわちパラメータサイズが大きくなるほど、感情の階層構造がより深くなる傾向もみられました（図2）。これは、より高性能なモデルほど、広い感情カテゴリだけでなく、その下にある具体的な感情も細かく区別していることを示しています。一方で、感情理解にはバイアスもあります。利用者の属性や文脈によって、同じ状況でもAIが異なる感情として解釈してしまうことがあり、特にメンタルヘルスケアや教育などの領域では注意が必要です。

こうした感情理解の研究は、応用へも広がっています。PAI Groupでは、Harvard Medical SchoolのDepartment of Psychiatryと連携し、LLMによる感情状態や思考の偏りの理解を支援に活かす研究も進めています。ユーザの発話には、不安、自己否定、完璧主義、過度な一般化といった認知の歪みが表れることがあります。AIが言葉の内容だけでなく、その背後にある感情状態や思考パターンをとらえられれば、利用者が自分の認知の偏りに気付くための手掛かりになります。一方で、共感的な応答は常に有効とは限りません。相手の感情を受け止めることは支援の出発点になりますが、過度な共感は、認知の歪みを修正するのではなく、それをさらに助長しかねません。PAI Groupでは、この問題を「LLMの応答がユーザの認知の歪みをどのように変えるか」という制御の問題として再定義しました。
本研究では、認知の歪みを定量的に評価するために、ゲーム理論＊1の枠組みを用います。ゲーム理論に基づく課題では、特定の条件のもとで、合理的な参加者であればどの選択をするかを理論的に定めることができます。また、ナッシュ均衡＊2などの解概念を用いて、ユーザの選択を比較するための基準点を設定します。例えば、本来であれば相手と協調する選択が安定した結果につながる課題において、ユーザが相手を過度に疑い、非協力的な選択を繰り返す場合、その行動は基準点からのずれとしてとらえられます。評価の際は、まずLLMのフィードバックを受ける前のユーザの選択が、基準点からどれだけ離れているかを数値化します。次に、フィードバック後の選択を同じ基準で再び測定し、そのずれがどれだけ小さくなったかを確認します。これにより、LLMの応答が単に妥当にみえるだけなのか、それともユーザの意思決定を理論上より妥当な方向へ動かす助けになっているのかを評価できます。その結果、適度な共感は有効である一方で、過度な共感はユーザの意思決定の偏りをかえって強めてしまうことが分かりました。さらに、ユーザの心理状態や認知状態に応じて、共感的な応答と批判的な応答を動的に切り替えるアルゴリズムも提案しています。

＊1 ゲーム理論：複数の意思決定者が互いに影響し合う状況で、最適な行動を分析する理論。
＊2 ナッシュ均衡：他のプレイヤーの戦略が決まっているときに、誰も自分だけ戦略を変えても得をしない状態。

こうした取り組みは、複数のAIエージェントが相互に作用するマルチエージェントLLMの研究へも広がっています^（3）。複数のAIが役割を分担し、互いの回答を参照しながら意思決定を行う仕組みは、今後さまざまな領域で広がっていくと考えられます。異なる観点を比較・統合することで、単独のモデルでは見落とされる誤りを補い、判断の正確性や頑健性を高める可能性があるためです。一方で、LLMどうしが互いの回答に強く影響されると、個々のLLMに含まれる小さな偏りが増幅され、集団全体として不公平な判断に至る可能性があります。
本研究では、この現象を統計物理学で用いられるスピンモデルを用いて解析しています。各LLMの判断をスピン状態、LLMどうしが互いの回答を参照する強さを相互作用係数、LLMのサンプリングによって生じる確率的揺らぎをノイズとして扱い、どのようなシステムノイズの条件下で偏った合意が生じるのかを理論・実験の両面から解析しました。本解析では、3つの同一LLMによる議論や、1つだけ異なるLLMを含む議論などを比較しました。その結果、LLM間の相互作用は判断を安定化させる一方、同質性が高くサンプリングノイズが小さい場合には、個々のLLMの小さなバイアスが増幅され、集団全体が偏った合意に収束しやすいことが分かりました。さらに、異種LLMや適度なノイズを導入することで、偏った合意を抑制し、投資シミュレーション等で高性能な解を得やすくなることを示しました。

こうした取り組みは、生成AIの能力がどのような条件で生まれ、社会の中でどのように影響を持つのかを明らかにするものです。AIが概念を組み合わせるとき、感情を読み取るとき、人の思考に働きかけるとき、あるいは複数のAIが互いに影響し合うとき、その背後にはそれぞれ固有のメカニズムが存在します。PAI Groupがめざす「AIの科学」とは、そうしたメカニズムを観察し、数理的に記述し、予測可能なかたちで理解するための基礎研究です。
生成AIは、人の知性や感情、社会のあり方と深くかかわる存在になりつつあります。AIは、私たちの考え方や価値観を映し出す一方で、人間との相互作用を通じて、私たちの判断や行動にも影響を与えます。私たちは、AIを人間の知性や感情、社会的な意思決定との関係の中でとらえ直すことで、AIが社会の中で持続的に機能していくための学術的基盤を築いていきます。

■参考文献
（1） https://robertdick.org/publications/okawa23dec.pdf
（2） https://arxiv.org/pdf/2507.10599
（3） M. Okawa：“Emergence of Biased Consensus in Multi-Agent LLM Debates,” ICML – International Conference on Machine Learning, 2026.