人間の限られた計算能力や情報処理能力を補い、より良い意思決定を支援するために、人工知能（AI）、機械学習などの技術が広く活用されています。しかし、大量の計算や情報処理が必要でない場合であっても、合理的な判断が難しい状況は少なくありません。特に、将来の状況や他者の行動に不確実性がある場面では、何を「合理的な意思決定」とするべきか自体が明確でないことがあります。
こうした意思決定の困難さを数理的に捉え、合理的な意思決定とは何かを理論的に探究します。加えて、合理的な判断を下すために、どのような情報をどのように処理すべきかについても数理科学の観点から分析し、実社会で活用可能なアルゴリズムとして実装・応用を目指します。とりわけ近年では、AIエージェントが関与する意思決定の場面に注目し、その特性を踏まえた研究を進めています。
AIエージェントが人間に代わって意思決定を担う場面が増えるなかで、AIの目的を人間の意図と整合させる「アライメント」の難しさが大きな課題として浮上しています。AIエージェントは、与えられた目的を最大限に達成しようと行動を最適化しますが、その目的が人間の本来の意図と食い違っていた場合、思わぬ形で人間社会に悪影響を及ぼす可能性があります。極端なケースでは、そうした齟齬が人類の存続に関わるリスクとなることすら指摘されています〔1〕。
こうした問題に対処するために、強化学習、メカニズムデザインなどの意思決定理論を応用し、AIエージェントの行動を人間の価値観と整合させる方法論や制度的な仕組みの構築を目指しています。数理的な分析に基づき、AIの安全性と信頼性を高めるための理論と実践の両面から取り組みを進めています。
このほかにも、リスクを考慮した意思決定〔2〕や戦略的な意思決定、さらにはボルツマンマシンなどの確率モデル〔3、4〕に関する理論とアルゴリズムの発展にも取り組んでいます。こうした基盤的な研究を通じて、AIエージェントが関与する複雑な意思決定に関する課題の解決に向けた新たな道筋を模索します。
〔1〕Takayuki Osogami, AI Agents Should be Regulated Based on the Extent of Their Autonomous Operations, arXiv:2503.04750, 2025.
〔2〕梶野洸・宮口航平・恐神貴行・岩城諒・和地瞭良, 強化学習から信頼できる意思決定へ, AI/データサイエンス ライブラリ “基礎から応用へ”, サイエンス社, 2024.
〔3〕恐神貴行, ボルツマンマシン, シリーズ 情報科学における確率モデル2, コロナ社, 2019.
〔4〕恐神貴行, 数理でひもとくAI技術の深化―ボルツマンマシンとたどる最先端への道―, コロナ社, 2025.
AIエージェントが関与する意思決定の探究には、多様な視点やアプローチが求められます。手法を問わず、複雑で不確実な環境における意思決定の理解と設計を通じて、AIの可能性を人類の利益に結びつけ、持続可能な社会の構築に貢献していきましょう。
