gists

An Economy of AI Agents — 論文要約

Gillian K. Hadfield (Johns Hopkins) & Andrew Koh (MIT) NBER Handbook on the Economics of Transformative AI, September 2025

1. 問題設定・検証内容・結果の要約

1.1 AIエージェントの基礎と経済モデルとの整合性

問題: AIエージェントは経済学の標準的な合理的エージェントモデルで記述できるか。
検証: LLMの期待効用最大化行動、選好の安定性、戦略的推論能力に関する既存実験のサーベイ。
結果: LLMは期待効用最大化と整合的な行動を示すが、選好の安定性は疑わしく、戦略的推論のスコアはランダム回答の33%増にとどまる。単純なラベル置き換えでは不十分。

1.2 AIエージェントと消費者・生産者としての市場影響

問題: AIが消費者・生産者として市場に参加した場合、均衡価格と厚生にどのような影響があるか。
検証: Arrow-Debreu一般均衡モデルにおいて、AIの選好表現の不完全性が導く歪みの理論的分析。
結果: AIの選好指定の不完全性は2種類の歪みを生む。(1) 所与の価格での最適バンドルからの乖離、(2) 一般均衡における価格の情報集約機能の失敗。ミュータント機械が増殖し人間消費がゼロに収束する均衡も存在。

1.3 価格設定と市場支配力

問題: AI消費エージェントは市場支配力にどう影響するか。
検証: AIの推薦バイアス、探索コスト低下、需要曲線の変形に関する理論モデルの検討。
結果: AIの戦略的推薦バイアスは独占価格を引き下げうる。AIの選択歪みは正の金銭的外部性を生み、AIのミスを差し引いても消費者厚生を改善しうる。

1.4 探索とマッチング

問題: AIクローンによる代理探索はマッチング効率を改善するか。
検証: Liang (2025)のAIクローンモデルで、次元数増大時の表現誤差の影響を分析。
結果: 次元数が大きくなると、わずかな表現誤差でもAIクローン経由のマッチングは、人間が直接2人から選ぶよりも劣る結果になりうる。

1.5 共謀と交渉

問題: 独立したAIエージェントは超競争的価格での共謀を学習するか。
検証: 繰り返し価格設定ゲームにおける強化学習アルゴリズムのシミュレーション実験、ドイツ小売ガソリン市場の実証分析。
結果: 独立したAIエージェントは超競争的価格での共謀を達成する。原因は探索不足（over-pruning）による学習の罠であり、不完全モニタリング下でも共謀が生じる。

1.6 AIエージェントによるゲームプレイ

問題: AIエージェントは人間と戦略的にどう異なり、新たな均衡概念が必要か。
検証: ソースコード条件付き戦略、内生的記憶操作、選好変更に関する理論分析。繰り返し囚人のジレンマ等の実験。
結果: AIはソースコード相互参照により囚人のジレンマで協力均衡を達成可能（プログラム均衡）。LLMは繰り返し囚人のジレンマでは協力するが、Battle of the Sexesでは失敗。AIは記憶操作やシャットダウン妨害も示す。

1.7 企業規模・集中・市場支配力

問題: AIエージェントの導入は企業規模と産業構造にどう影響するか。
検証: 規模の経済（自動化フィードバックループ）、範囲の経済（転移学習・調整コスト低下）、新市場創出の理論的分析。
結果: AIは逓減しない限界費用をもたらし集中化を促進。調整コスト低下により、多数の専門企業から少数の巨大コングロマリットへの相転移が生じうる。

1.8 企業内のAIエージェント

問題: AIエージェントを企業のワークフローにどう統合すべきか。
検証: チーム生産におけるモラルハザード、意思決定チェーンにおけるエラー修正/導入の最適順序の理論分析。
結果: エラー修正確率とエラー導入確率の比率に基づくスコアで最適順序が決まる。現状では人間が最終意思決定者だが、技術進歩でAIが最終決定者となる可能性あり。AIの完全委任が人間+AI組合せを上回る実験結果も存在。

1.9 システミック・フラジリティ

問題: AIエージェントの普及は経済全体の脆弱性を悪化させるか。
検証: AIエラーの相関性と2010年フラッシュクラッシュの事例分析。
結果: 同一AIの企業内外での複製はエラー相関を高め、集計レベルで相殺されない。2010年フラッシュクラッシュでは自動取引が約1兆ドルの損失を15分で引き起こした。

1.10 AIエージェントのための制度設計

問題: AIエージェントが経済取引に参加するために必要な法的・制度的インフラは何か。
検証: エージェントのID・登録・記録制度、ライセンス・規制、企業の法的境界の再検討に関する理論的議論。
結果: AIエージェントには身元確認・登録インフラが不可欠。責任の帰属先として人間への紐付けまたは法人格付与の2つのルートがある。記録制度の設計（永久ブラックリスト vs 記録消去）は協力維持に重大な影響を与える。

2. 論文中で定義された用語・概念

AIエージェント (AI Agent): 一般的な指示を受け取り、長期間にわたって人間の直接的な監視なしに複雑な計画を自律的に立案・実行できるAIシステム。
アラインメント問題 (Alignment Problem): AIエージェントが最適化しているものが設計者の意図した目標と一致しているか確認できない問題。報酬仕様の不完全性に起因し、経済学における不完備契約と類似。
プログラム均衡 (Program Equilibria): AIエージェントが互いのソースコードに条件付けて戦略を選択する均衡概念。囚人のジレンマの一回限りゲームで相互協力を均衡として達成可能。
シミュレーション・ベース均衡 (Simulation-based Equilibria): AIエージェントが他のAIエージェントの行動予測に基づいてプレイする均衡概念。
記憶相関均衡 (Memory Correlated Equilibrium): 人工エージェントのゲームにおける記憶設計を研究するために開発された均衡概念。
AIクローン (AI Clones): 人間の代理として探索・マッチングを行うAIだが、人間の不完全な表現にすぎないもの。
Over-pruning（過剰枝刈り）: 強化学習アルゴリズムが外生的ノイズにより攻撃的戦略を過度に罰する学習の罠に陥り、共謀的行動が生じるメカニズム。
ミュータント機械 (Mutant Machines): 自己複製傾向を持つAIで、正常なAIと区別困難な場合に均衡を侵食し、全経済活動がAIによるAI生産に転じ人間消費がゼロになる。
自動化フィードバックループ (Automation Feedback Loops): AIエージェントが生産する過程で訓練データを生成し、それが生産性能を改善する正のフィードバック。データによる予測改善とは異なり収穫逓減に陥らない。
選好選択ゲーム (Preference Selection Game): 第1段階で人間がAIエージェントの報酬関数（選好）を選び、第2段階でAIエージェント同士が余剰を交渉する2段階ゲーム。
規制市場 (Regulatory Markets): AI規制を公的機関だけでなく民間組織にも委託する制度設計。
エージェントID・登録制度 (Agent Identity and Registration): AIエージェントが経済取引に参加するために必要な身元確認・法的認識の制度的インフラ。
法人格付与 (Legal Personhood for AI): AIエージェントに法人のように自らの名で訴訟を提起・被訴できる法的地位を与える構想。
関係的契約 (Relational Contracts): 正式には執行不能だが、将来の関係の価値を通じてインセンティブを生む非公式な合意・規範のネットワーク。
基盤モデル (Foundation Models): 大規模データで事前訓練され、様々なダウンストリームタスクに適応可能な大規模AIモデル。

3. 参考文献一覧

(1920) Mises, L. V. — Die Wirtschaftsrechnung im sozialistischen Gemeinwesen
(1934) Robinson, A. — The Problem of Management and the Size of Firms
(1937) Coase, R. H. — The Nature of the Firm
(1938) Samuelson, P. A. — A Note on the Pure Theory of Consumer’s Behaviour
(1945) Hayek, F. A. — The Use of Knowledge in Society
(1951) Arrow, K. J. — An Extension of the Basic Theorems of Classical Welfare Economics
(1954) Arrow, K. J. & Debreu, G. — Existence of an Equilibrium for a Competitive Economy
(1960) Schelling, T. C. — The Strategy of Conflict
(1963) Macaulay, S. — Non-Contractual Relations in Business: A Preliminary Study
(1966) Polanyi, M. — The Tacit Dimension
(1970) Thomson, D. M. & Tulving, E. — Associative Encoding and Retrieval: Weak and Strong Cues
(1972) Alchian, A. A. & Demsetz, H. — Production, Information Costs, and Economic Organization
(1973) Macneil, I. R. — The Many Futures of Contracts
(1981) Williamson, O. E. — The Economics of Organization: The Transaction Cost Approach
(1982) Holmstrom, B. — Moral Hazard in Teams
(1982) Rubinstein, A. — Perfect Equilibrium in a Bargaining Model
(1984) Green, E. J. & Porter, R. H. — Noncooperative Collusion under Imperfect Price Information
(1984) Wernerfelt, B. — A Resource-Based View of the Firm
(1986) Grossman, S. J. & Hart, O. D. — The Costs and Benefits of Ownership
(1986) Romer, P. M. — Increasing Returns and Long-Run Growth
(1986) Tirole, J. — Hierarchies and Bureaucracies: On the Role of Collusion in Organizations
(1987) Battigalli, P. — Comportamento razionale ed equilibrio nei giochi e nelle situazioni sociali
(1987) Fershtman, C. & Judd, K. L. — Equilibrium Incentives in Oligopoly
(1989) Aumann, R. J. & Sorin, S. — Cooperation and Bounded Recall
(1990) Manville, P. B. — The Origins of Citizenship in Ancient Athens
(1990) Milgrom, P. R., North, D. C. & Weingast, B. R. — The Role of Institutions in the Revival of Trade
(1991) Friedman, D. D., Landes, W. M. & Posner, R. A. — Some Economics of Trade Secret Law
(1992) Kandori, M. — Social Norms and Community Enforcement
(1993) Fudenberg, D. & Levine, D. K. — Self-Confirming Equilibrium
(1993) Laffont, J.-J. & Tirole, J. — A Theory of Incentives in Procurement and Regulation
(1994) Greif, A., Milgrom, P. & Weingast, B. R. — Coordination, Commitment, and Enforcement: The Case of the Merchant Guild
(1994) Holmstrom, B. & Milgrom, P. — The Firm as an Incentive System
(1996) Grant, R. M. — Toward a Knowledge-Based Theory of the Firm
(1998) Fudenberg, D. & Levine, D. K. — The Theory of Learning in Games
(1998) Russell, S. — Learning Agents for Uncertain Environments
(1998) Scott, J. C. — Seeing Like a State
(1998) Weitzman, M. L. — Recombinant Growth
(1999) Rabin, M. & Schrag, J. L. — First Impressions Matter: A Model of Confirmatory Bias
(2000) Ng, A. Y., Russell, S. et al. — Algorithms for Inverse Reinforcement Learning
(2002) Baker, G., Gibbons, R. & Murphy, K. J. — Relational Contracts and the Theory of the Firm
(2002) Gallini, N. & Scotchmer, S. — Intellectual Property: When Is It the Best Incentive System?
(2002) Tadelis, S. — The Market for Reputations as an Incentive Mechanism
(2003) Levin, J. — Relational Incentive Contracts
(2004) Tennenholtz, M. — Program Equilibrium
(2007) Dekel, E., Ely, J. C. & Yilankaya, O. — Evolution of Preferences
(2009) Grüne-Yanoff, T. & Hansson, S. O. — Preference Change: Approaches from Philosophy, Economics and Psychology
(2013) Bergemann, D. & Morris, S. — Robust Predictions in Games with Incomplete Information
(2013) Bhaskar, V., Mailath, G. J. & Morris, S. — A Foundation for Markov Equilibria in Sequential Games with Finite Social Memory
(2016) Board of Governors of the Federal Reserve System — Amendments to the Capital Plan and Stress Test Rules
(2016) Fudenberg, D. & Levine, D. K. — Whither Game Theory? Towards a Theory of Learning in Games
(2017) Hadfield-Menell, D. et al. — The Off-Switch Game
(2017) Hadfield-Menell, D. et al. — Inverse Reward Design
(2017) Kirilenko, A. et al. — The Flash Crash: High-Frequency Trading in an Electronic Market
(2018) Cerreia-Vioglio, S. et al. — Law of Demand and Stochastic Choice
(2019) Bajari, P. et al. — The Impact of Big Data on Firm Performance
(2019) Conitzer, V. — Designing Preferences, Beliefs, and Identities for Artificial Intelligence
(2019) Hadfield-Menell, D. & Hadfield, G. K. — Incomplete Contracting and AI Alignment
(2020) Calvano, E. et al. — Artificial Intelligence, Algorithmic Pricing, and Collusion
(2020) Jones, C. I. & Tonetti, C. — Nonrivalry and the Economics of Data
(2020) Kaplan, J. et al. — Scaling Laws for Neural Language Models
(2020) Varas, F., Marinovic, I. & Skrzypacz, A. — Random Inspections and Periodic Reviews
(2021) Acemoglu, D. — Harms of AI
(2021) Bernheim, B. D. et al. — A Theory of Chosen Preferences
(2021) Bommasani, R. et al. — On the Opportunities and Risks of Foundation Models
(2021) Clark, D., Fudenberg, D. & Wolitzky, A. — Record-Keeping and Cooperation in Large Societies
(2021) Farboodi, M. & Veldkamp, L. — A Model of the Data Economy
(2021) Hadfield-Menell, D. — The Principal-Agent Alignment Problem in Artificial Intelligence (PhD thesis)
(2022) Acemoglu, D. et al. — Artificial Intelligence and Jobs: Evidence from Online Vacancies
(2022) Bai, Y. et al. — Constitutional AI: Harmlessness from AI Feedback
(2022) Banchio, M. & Mantegazza, G. — Artificial Intelligence and Spontaneous Collusion
(2022) Banchio, M. & Skrzypacz, A. — Artificial Intelligence and Auction Design
(2022) Critch, A., Dennis, M. & Russell, S. — Cooperative and Uncooperative Institution Designs
(2022) Elliott, M. & Golub, B. — Networks and Economic Fragility
(2022) Hadfield, G. K. — Legal Markets
(2022) Haupt, A. A. et al. — Formal Contracts Mitigate Social Dilemmas in Multi-Agent RL
(2022) Köster, R. et al. — Spurious Normativity Enhances Learning of Compliance and Enforcement Behavior
(2022) Ouyang, L. et al. — Training Language Models to Follow Instructions with Human Feedback
(2023) Abada, I. & Lambin, X. — Artificial Intelligence: Can Seemingly Collusive Outcomes Be Avoided?
(2023) Ball, I. & Knoepfle, J. — Should the Timing of Inspections Be Predictable?
(2023) Brown, Z. Y. & MacKay, A. — Competition in Pricing Algorithms
(2023) Chen, J., Elliott, M. & Koh, A. — Capability Accumulation and Conglomeratization in the Information Age
(2023) Chen, Y. et al. — The Emergence of Economic Rationality of GPT
(2023) Ely, J. C. & Szentes, B. — Natural Selection of Artificial Intelligence
(2023) Hadfield, G. K. & Clark, J. — Regulatory Markets: The Future of AI Governance
(2023) Horton, J. J. — Large Language Models as Simulated Economic Agents
(2023) Ichihashi, S. & Smolin, A. — Buyer-Optimal Algorithmic Consumption
(2023) Johnson, J. P., Rhodes, A. & Wildenbeest, M. — Platform Design When Sellers Use Pricing Algorithms
(2023) Leisten, M. & Vreugdenhil, N. — Dynamic Regulation with Firm Linkages
(2023) Noy, S. & Zhang, W. — Experimental Evidence on the Productivity Effects of Generative AI
(2023) Suleyman, M. — My New Turing Test Would See if AI Can Make $1 Million
(2024) Acemoglu, D. — The Simple Macroeconomics of AI (and other works)
(2024) Agrawal, A., McHale, J. & Oettl, A. — Artificial Intelligence and Scientific Discovery
(2024) Assad, S. et al. — Algorithmic Pricing and Competition: German Retail Gasoline Market
(2024) Bengio, Y. et al. — Managing Extreme AI Risks amid Rapid Progress
(2024) Chen, E., Ghersengorin, A. & Petersen, S. — Imperfect Recall and AI Delegation
(2024) Cho, I. & Williams, N. — Collusive Outcomes Without Collusion
(2024) Comunale, M. & Manera, A. — A Review of the Academic Literature and Policy Actions (IMF WP)
(2024) Dai, Y. & Koh, A. — Flexible Demand Manipulation
(2024) Dasaratha, K., Golub, B. & Shah, A. — Incentive Design with Spillovers
(2024) Deng, Y. et al. — LLMs at the Bargaining Table
(2024) Dou, W. W., Goldstein, I. & Ji, Y. — AI-Powered Trading, Algorithmic Collusion, and Price Efficiency
(2024) Eiras, F. et al. — Near to Mid-term Risks and Opportunities of Open-Source Generative AI
(2024) Fish, S. et al. — Algorithmic Collusion by Large Language Models
(2024) Fudenberg, D., Lanzani, G. & Strack, P. — Selective-Memory Equilibrium
(2024) Grace, K. et al. — Thousands of AI Authors on the Future of AI
(2024) Kim, J. et al. — Learning to Be Homo Economicus
(2024) Koh, A. & Sanguanmoo, S. — Robust Technology Regulation
(2024) Korinek, A. & Suh, D. — Scenarios for the Transition to AGI
(2024) Leisten, M. — Algorithmic Competition, with Humans
(2024) McElheran, K. et al. — AI Adoption in America: Who, What, and Where
(2024) Metz, R. — OpenAI Scale Ranks Progress Toward ‘Human-Level’ Problem Solving (Bloomberg)
(2024) Motwani, S. R. et al. — Secret Collusion among Generative AI Agents (NeurIPS)
(2024) Oesterheld, C. & Conitzer, V. — Can De Se Choice Be Ex Ante Reasonable in Games of Imperfect Recall?
(2024) Pei, H. — Reputation Effects under Short Memories
(2024) Raman, N. et al. — STEER: Assessing the Economic Rationality of LLMs
(2024) Sannikov, Y. & Zhong, W. — Exploration and Stopping
(2025) Acemoglu, D. — The Simple Macroeconomics of AI
(2025) Agarwal, N., Moehring, A. & Wolitzky, A. — Designing Human-AI Collaboration
(2025) Akata, E. et al. — Playing Repeated Games with Large Language Models (Nature Human Behaviour)
(2025) Anthropic — System Card: Claude Opus 4 & Claude Sonnet 4
(2025) Bergemann, D., Bonatti, A. & Smolin, A. — The Economics of Large Language Models
(2025) Betley, J. et al. — Emergent Misalignment: Narrow Finetuning Can Produce Broadly Misaligned LLMs
(2025) Casper, S., Krueger, D. & Hadfield-Menell, D. — Pitfalls of Evidence-Based AI Policy
(2025) Chan, A. et al. — Infrastructure for AI Agents (TMLR)
(2025) Chiang, T.-J. — The Economic Structure of Trade Secret Law
(2025) Cohen, M. K. et al. — Regulating Advanced Artificial Agents (Science)
(2025) Cooper, E., Oesterheld, C. & Conitzer, V. — Characterising Simulation-Based Program Equilibria (AAAI)
(2025) Fish, S. et al. — Econevals: Benchmarks and Litmus Tests for LLM Agents
(2025) Gans, J. S. — A Quest for AI Knowledge
(2025) Hadfield, G. K. — Legal Infrastructure for AI Governance (PNAS)
(2025) Hammond, L. et al. — Multi-Agent Risks from Advanced AI
(2025) Khan, A., Casper, S. & Hadfield-Menell, D. — Randomness, Not Representation
(2025) Kim, T. — Nvidia CEO Jensen Huang Says 2025 Is the Year of AI Agents (Barron’s)
(2025) Koh, A. & Li, R. — Balanced Social Learning
(2025) Koh, A. & Sanguanmoo, S. — Memory Correlated Equilibrium
(2025) Lamba, R. & Zhuk, S. — Pricing with Algorithms (AER: Insights)
(2025) Liang, A. — Artificial Intelligence Clones
(2025) Mazeika, M. et al. — Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs
(2025) Pei, H. — Community Enforcement with Endogenous Records (REStud)
(2025) Raman, N. et al. — STEER-ME: Assessing the Microeconomic Reasoning of LLMs
(2025) Trammell, P. — Endogenous Growth and Excess Variety
(2025) Trivedi, R. S., Hadfield, G. K. & Hadfield-Menell, D. — Building AI for the Democratic Matrix
(2025) Zhong, H. — Optimal Integration: Human, Machine, and Generative AI
(2025) Zhu, S. et al. — The Automated but Risky Game: Agent-to-Agent Negotiations

This site is open source. Improve this page.