本文在不完全信息的多人公共品博弈中,引入具有历史独立性的理性预期均衡(REE),通过操纵价格反馈序列和战略相互依赖强度,检验大语言模型智能体的上下文学习究竟源于递归信念推理还是统计外推。结果显示,长上下文仅在价格呈现明显单调趋势时改善决策;当趋势被跳跃序列打破时,改进基本消失,且高相互依赖强度会进一步放大偏离均衡的程度,整体更支持统计外推机制而非递归推理。
报告的核心问题是:当LLM智能体看到多轮互动历史后表现变好,这种改善是否意味着模型真正根据博弈结构更新了“对其他参与者的信念”,还是仅仅学习了历史价格与参与人数之间的统计趋势。作者选择重复公共品博弈作为实验环境,并将理性预期均衡(Rational Expectations Equilibrium,REE)作为不依赖历史路径的理论基准,以便区分两种机制。
报告的主要结论是:在价格历史呈单调趋势时,增加上下文确实能够使LLM群体行为更接近REE;但当价格序列被设计成频繁跳跃、没有可稳定外推的趋势时,较长上下文带来的改善基本消失,而且战略相互依赖越强,这种失效越严重。因此,作者认为本实验环境中的ICL更符合“统计外推”而不是“递归信念推理”。
ICL是指模型不更新参数,仅通过提示词上下文中的示例、历史反馈或交互轨迹来调整后续行为。报告将其可能机制分为两类:
这一区分具有理论意义。在单智能体任务中,正确推理和统计模式匹配可能产生相同的外在行为,但在多智能体博弈中,最优行动取决于“我认为别人会做什么”,而别人又在推测我会如何行动,因而存在高阶、递归的信念推理要求。
图1通过一个高度连接的网络说明多智能体相互影响结构。图中多个代理之间存在大量双向连线,表达“每个人都影响其他人”的情形;对单个代理而言,决策不再只是比较自身成本和收益,而是需要推断其他代理的行为,并进一步推断其他代理对自己的推断。
图1支持报告的基本动机:随着相互依赖程度提高,简单地沿历史趋势预测可能会产生系统性偏差。不过,该图属于概念示意图,而非定量结果,不能直接证明LLM具有或不具有递归推理能力。
实验考虑一个拥有(n)名参与者的同步行动博弈。每个智能体拥有一个固定的私有价值(\theta_i),该价值从共同知识分布中独立抽取;每轮开始时,所有智能体观察公共成本(p_t),随后同时决定是否参与公共项目。参与行为记为(a_i=1),不参与记为(a_i=0),总参与人数为(N_t)。参数β表示边际外部收益或网络效应强度,β越大,一个智能体的收益越依赖其他人的参与行为。
因此,β=0时,决策近似为独立的成本—收益比较;β提高后,参与行为之间形成更强的战略互补。一个智能体是否参与,不仅由自身私有价值决定,也由其对总参与人数的预期决定。
实验使用(n=50)、私有价值区间约为[0,49],并比较β=0.25和β=0.75两种相互依赖强度。每个实验会话包含6轮决策,智能体每轮获得当前价格、历史互动信息和自身私有价值,然后同时作出参与决策。
需要注意的是,所提供文本中的收益函数公式在转录过程中缺失,因而无法仅凭当前文本完整核验每一项收益的精确符号和常数项。但从附录给出的价格—均衡参与人数对应关系可以看出,β越高,达到同一均衡参与人数所需的价格越高,说明更强的网络外部性提高了参与激励。
在对称REE中,所有智能体采用同一个阈值策略:存在一个阈值(\theta^(p_t)),当且仅当(\theta_i\geq\theta^(p_t))时,智能体参与。这个阈值由当前公共价格、β以及私有价值分布共同决定。
REE的关键条件是信念与实际行为一致。智能体对其他人的参与概率必须等于其他人根据同一阈值策略实际产生的参与概率。因此,均衡是一个固定点:参与者预期影响行动,行动又决定总参与人数和收益,最终必须与最初预期一致。
报告最重要的识别假设是:REE具有历史独立性。只要当前价格(p_t)相同,过去价格是单调变化、随机波动还是频繁跳跃,都不应改变理性智能体的均衡阈值。换言之,历史路径不提供额外的因果信息,因为在共同知识先验下,当前基本面和分布已经足以形成理性预期。
作者进一步明确提出,偏离REE可作为递归推理能力的行为代理变量;越接近REE,意味着模型越可能进行了更深层的迭代式战略推理。不过,这一解释依赖一个重要前提,即“更接近REE”确实代表更深的推理,而不只是模型恰好学到了某种价格—参与人数映射。
由于不同β对应不同的价格区间,作者根据每个β下的均衡关系确定价格上下界,并通过仿射变换将价格映射到[0,5]。在归一化空间中,REE参与人数成为一个与β无关的线性基准,理论斜率为10。
这一设计的优点是可以在同一坐标尺度上比较不同β下模型反应曲线与理论直线的偏离。但附录也承认,同一个归一化价格在不同β下对应不同的原始价格,所以跨β比较绝对偏离值需要谨慎;实验识别主要依赖同一β内部不同序列类型的比较,以及序列类型与β的交互作用。
实验固定每轮的基本面,只改变同一组价格在时间上的排列顺序。作者从6个价格点中选择一组,使这些价格对应的均衡参与概率分布较为分散,然后构造两种历史结构:
这种设计的因果逻辑是:如果模型进行REE式递归推理,那么在当前价格相同的情况下,历史排列不应影响决策;如果模型依赖统计外推,那么单调序列应比跳跃序列带来更好的表现,而且β越高,趋势误判造成的偏差会被战略互补进一步放大。
实验使用三种上下文长度:(k=0,3,6)。其中,输入实现中对应的消息数量分别为1、7和13条,历史内容包括公共信号、总参与人数和个体收益。
图2展示了实验的动态反馈闭环。流程从初始化S0开始,环境广播信息S1,代理同时决策S2,系统汇总行动并计算收益S3,然后根据是否达到终止条件返回下一轮或进入终止状态S4。
图中左侧还将代理内部决策分解为信息收集、参与人数预期、效用计算与最终决策三个步骤。这一结构说明实验试图保证所有代理在同一轮中同步决策,不能读取其他代理的实时行动,从而避免把同时行动博弈变成顺序博弈。
有限状态机的优点是实验流程清晰、可复现,并且能明确区分广播、决策、结果汇总和下一轮循环。但它只规范了外部交互流程,并不能证明代理内部真的执行了图中所说的“参与者预期”或递归推理。
ED衡量实际参与人数与REE预测值之间的偏离程度。ED越低,说明群体行为越接近理论均衡;ED越高,说明模型在集体行动层面偏离理性基准越明显。
报告使用均衡决定系数(R^2_{eq})衡量REE直线解释参与人数波动形状的能力。与普通回归中的(R^2)类似,该指标越高,表示模型行为随价格变化的形状越接近理论关系;如果该指标为负,则说明REE线甚至不如简单的均值模型解释数据。
作者对每轮的归一化价格和参与人数进行OLS回归,估计截距α、斜率γ和拟合效果。理论斜率为10,因此γ接近10意味着模型对价格的敏感度与REE一致;γ过低表示参与人数随价格下降得不够快,即模型反应曲线过于平坦。
图3比较了没有互动历史时,模型在六个独立价格点上的预期参与人数分布。蓝色箱线图表示模型预期的分布,蓝色虚线连接群体均值,红色虚线表示REE理论线。
在β=0.25时,模型的参与人数随价格上升而下降,方向与理论一致,但蓝色均值线比红色REE线更平坦。低价格时模型低估参与人数,高价格时又高估参与人数,表现为向中间水平收缩的校准不足。
在β=0.75时,这种平坦化更加明显。低价格对应的模型参与人数明显低于REE,高价格对应的模型参与人数则明显高于REE,且箱线图和离群点更分散。这表明强相互依赖下,模型不仅平均行为偏离更大,个体之间的一致性也更弱。
文本报告称,提高β后ED接近翻倍,(R^2)下降超过一半,箱体宽度扩大,说明战略相互依赖放大了原本存在的递归信念推理缺陷。
图4展示了单调价格轨迹下三种上下文长度和两种β的比较。每列对应短、中、长上下文,每一行对应不同的β。
在β=0.25时,随着历史长度从0增加到3,蓝色群体均值快速贴近红色REE线,箱线图明显收窄;从3轮增加到6轮后,进一步改善较小。这说明短期历史已经足以让模型识别价格—参与人数的单调关系,更多历史信息的边际收益有限。
报告给出的ED数据进一步量化了这一点:β=0.25时,ED从无历史的6.18降至3轮历史时的0.84;β=0.75时,ED从11.14降至5.60。虽然两种β均有所改善,但强相互依赖条件下的剩余偏离仍明显更大。
单调序列下的改善并不等于模型完成了递归信念推理。第一,ED在中等上下文之后出现递减收益;第二,系统性偏差仍未完全消除;第三,β越高,模型越难贴合理性基准。回归斜率只有在β=0.25时较接近理论值10,在β=0.75时仍明显偏低。因此,作者认为模型更像是在沿着单调价格趋势外推,而不是根据均衡条件重新计算其他参与者的策略。
图5检验了单调趋势被破坏后的表现。价格在高低值之间交替变化,历史中没有一个容易识别的持续方向。
与图4相比,图5中增加上下文并没有稳定收窄预测分布,也没有使蓝色均值持续靠近红色REE线。β=0.25时,ED仍高于6.5,(R^2_{eq})最高约为0.854;β=0.75时,ED超过13.88,且无历史条件下的(R^2)为负,6轮历史时回归斜率仍只有γ=3.03,远低于理论值10。
这组结果是全文最关键的诊断证据:如果长上下文带来的改善主要来自真正的递归推理,那么历史序列无论单调还是跳跃,当前价格相同的决策都应接近REE;但实际结果是,单调趋势消失后,ICL优势基本消失,甚至在强相互依赖下不如无历史基准。
表1汇总五类价格轨迹下的ED和均衡决定系数。报告没有在所提供的正文转录中完整呈现表1的每一格数值,但文字明确指出:单调、可外推的序列中,增加历史显著降低ED;无趋势序列中,ED保持较高水平,(R^2_{eq})改善有限,甚至可能为负。
表1的另一个重要信息是β的放大作用:β=0.75时,各类轨迹的决策质量普遍低于相应的β=0.25条件。这意味着相互依赖并不是单纯增加噪声,而是把模型对历史模式的错误依赖转化为更大的集体行为偏差。
正文第4.4节称表3报告回归截距α、斜率γ和拟合程度,但随后又将OLS表格标为“Table 2”,附录第13页再次将其标为“Table 3”。因此,所提供版本存在表格编号不一致,读者需要以表格标题而不是编号识别内容。
这些回归的核心解释是:γ是否接近10。单调序列和较短历史下,若模型学到价格趋势,γ会向10靠近;跳跃序列中,γ明显偏离10,说明模型没有形成正确的价格反应函数。
附录中的表4采用价格路径固定效应和HC3稳健标准误,对个体偏离REE的驱动因素进行分析。完整样本共有7,800个观测,解释变量包括价格、β、私有价值θ、上下文长度k,并加入静态、上升、下降、收敛和发散五类路径固定效应。
报告称,β的主效应在基准规格中较小且统计上不显著,但β与价格、趋势信号存在显著交互作用。这意味着β更像是“放大器”,而不是单独造成偏差的根本原因;真正主导行为偏离的是历史序列结构。
上下文长度与价格、趋势信号的交互项也显著,说明历史长度的效果取决于序列是否提供了可识别趋势。这一结论与跳跃序列中低β尚有局部改善、但高β下改善消失的现象相吻合。
表5汇总Qwen3-Plus在不同轨迹下的ED和均衡决定系数,表6报告其参与人数对归一化价格的OLS回归。所提供文本没有呈现表5、表6的完整数值,因此只能依据作者的文字说明进行定性解读。
作者认为,Qwen3-Plus与GPT-5在方向上较为一致:弱网络效应下表现更集中,强网络效应下表现更差;但Qwen3-Plus对价格趋势不敏感,群体均值更偏离理论均衡,预期分散程度也更高。
附录D给出了价格与均衡参与人数的对应关系。β=0.25时,均衡参与人数为0、10、20、30、40、50对应价格约为49.99、42.49、34.99、27.49、19.99、12.49;β=0.75时,对应价格约为49.99、47.49、44.99、42.49、39.99、37.49。
这组数据清楚表明:β越高,同样增加10名参与者所需下降的价格幅度越小,即网络外部性本身可以支撑更高的公共成本。β=0.25下价格跨度约37.50,而β=0.75下价格跨度约12.50,体现了强战略互补对参与决策的支撑作用。
作者构造了四种轨迹:
其中,上升和下降属于单调序列,收敛和发散被归入跳跃序列。该设计保持价格集合不变,只改变时间顺序,因此有助于隔离“序列统计结构”的影响。
附录还说明,为避免效用恰好为零导致参与与不参与之间存在歧义,计算中对最终效用减去0.01。这一处理有助于保证决策确定性,但它是一个人为的边界修正,理论上可能轻微影响处于阈值附近的代理行为。
图8至图11展示Qwen3-Plus在单调下降、单调上升、跳跃收敛和跳跃发散轨迹下的行为。
从图形结构看,Qwen3-Plus同样在单调轨迹和较低β条件下更接近理论线,在强β和跳跃轨迹下出现更宽的分布和更平坦的响应曲线。作者将其解释为两种模型在机制方向上的一致性,但也指出Qwen3-Plus在处理复杂上下文和战略关系方面的定量表现较弱。
作者将GPT-5的采样温度从0.7降至0.35,保持其他参数不变,以检验随机解码是否决定了主要结果。图12至图15分别展示了下降、上升、收敛和发散轨迹下的低温结果。
作者报告称,降低温度并未改变核心定性模式:低β和单调趋势仍有较好表现,高β和无趋势环境仍表现较差。因此,主要结论不太可能完全由0.7温度下的随机采样造成。
不过,这项稳健性检验主要证明定性图形保持一致,所提供文本没有给出足够的完整统计检验、置信区间或效应量来判断低温下结论的精确稳定程度。
报告将自身置于三条研究脉络中:第一,关于ICL是贝叶斯推理、隐式梯度下降还是感应头模式匹配的机制研究;第二,关于level-k、认知层级和美女竞赛的递归信念推理研究;第三,关于全球博弈、REE和LLM博弈实验的交叉研究。
本文的增量不在于提出新的博弈均衡,而在于利用REE的历史独立性构造一个机制诊断实验:保持当前基本面不变,只改变历史序列结构,然后观察上下文收益是否随统计趋势存在而变化。
报告把接近REE作为递归推理的行为代理,但接近理论线也可能来自简单的价格映射、训练语料中的经济规律或提示词格式,而不一定说明模型真的递归计算了其他代理的信念。因此,REE是有用的诊断基准,但不是内部推理过程的直接观测。
作者声称只改变价格的时间排列,但智能体获得的历史不仅包含价格,也包含过去的总参与人数和个体收益。由于这些反馈由模型先前的行动产生,改变价格顺序可能同时改变后续的参与人数和收益历史,因而实验操纵的实际影响可能不只来自“价格趋势”,还包括内生生成的反馈路径。
不同β下使用了不同的原始价格集合,虽然归一化后可以画在同一尺度上,但同一归一化价格并不代表同一个实际公共成本。因此,直接比较两个β下的绝对ED可能混合了基本面尺度差异,作者也明确强调应重点关注组内序列效应和交互作用。
作者只测试了GPT-5和Qwen3-Plus两个模型家族,实验只使用较短的上下文窗口、一个公共品博弈结构和固定提示格式。因此,结论能否推广到其他模型规模、其他博弈类型、更长历史或不同语言框架,仍然不确定。
全文主要依赖群体行为、回归斜率、ED和(R^2)等外部行为指标,没有通过激活分析、注意力分析、隐藏状态探针或受控内部干预来证明模型内部究竟是否进行了递归信念更新。作者也承认,行为结果与内部机制之间仍存在距离。
这项研究构造了一个清晰的机制区分框架:用具有历史独立性的REE作为理论基准,用同一组价格的不同时间排列来操纵历史统计结构,再观察上下文长度、价格趋势和战略相互依赖之间的交互关系。
实验证据显示,ICL在单调价格历史下可以显著降低ED、收窄预测分布并使回归斜率接近理论值10;但在跳跃序列中,额外历史几乎不再改善表现,强β条件下甚至造成比无历史更严重的偏离。
图表共同呈现出三个稳定模式:第一,模型通常能识别“价格越高、参与人数越少”的方向,但其反应曲线往往比REE更平坦;第二,历史趋势能够改善模型的集体预测,但这种改善具有明显的趋势依赖性;第三,β不是唯一的偏差来源,却会把模型对错误历史模式的依赖放大成更大的战略偏差。
因此,作者的总体判断是:在本文设置的多智能体相互依赖环境中,LLM的上下文学习行为更接近统计趋势外推,而非稳定、历史无关的递归信念推理。 这一结论具有启发性,但应理解为针对特定模型、公共品博弈、短历史和固定提示格式的行为性结论,而不是对所有LLM推理能力的普遍否定。
2609.18591.pdf