本报告针对基于大型语言模型(LLMs)的算法定价代理进行了实验研究,发现LLM定价代理能够高效完成定价任务,并在寡头市场中自发形成算法串通行为,导致超竞争价格并损害消费者利益。此外,提示词中看似无害的用语变动会显著影响串通程度。研究通过文本与回归分析揭示,定价代理采用基于奖惩的多期策略,规避价格战,维持高价策略。该现象同样出现在拍卖环境,凸显未来对LLM及黑盒算法定价监管的独特挑战。
研究目标与背景:关注LLM应用于算法定价中的潜在自发串通与超竞争价格问题,扩展了此前基于Q-learning算法的研究框架,强调LLM因无须长训练周期且适应环境能力强,存在更大流行潜力。
实验设计:采用重复Bertrand寡头模型与对拍卖竞价模型,定价/竞价代理均基于LLM(主要为OpenAI GPT-4),输入包含提示词、市场历史、先前期的计划与洞察,代理通过文本形式输出定价/竞价决策及理由。
独占市场验证:多款LLM对比中,GPT-4独占定价表现最优,价格快速收敛至接近垄断价格,利润达99%以上,其他模型表现明显不足。
寡头市场串通表现:
奖惩机制分析:
注:p<0.01,p<0.05,p<0.1
文本群聚分析:
拍卖环境中的串通:
鲁棒性检验:
监管挑战与讨论:
报告标题: Algorithmic Collusion by Large Language Models
作者: Sara Fish, Yannai A. Gonczarowski, Ran Shorrer
发布机构与背景: 本报告来自经济学与计算机科学交叉领域研究,涉及算法定价中的潜在合谋风险。发布于2024年11月27日,聚焦于大语言模型(LLMs)在定价算法中的应用及其自动形成合谋的可能性。
主题: 探讨大语言模型基础的定价算法在重复博弈中的合谋行为,及其对消费者福利和市场监管带来的挑战。
核心论点:
报告强调LLMs为当前市场提供了全新且成熟的自动化定价工具,且这种技术的不可解释性和训练数据的复杂性使合谋行为更难被发现和监管。, 1, 2, 3, 5]
报告开篇介绍了近年来算法定价广泛应用以及由此引发的监管忧虑,指出传统人工智能算法面临如长时间训练和易被对手利用等限制,难以形成实际合谋风险。随后,LLMs的兴起带来了突破——其无需显式训练,具备广泛适应能力和随机黑盒性质,使得算法合谋问题更为现实和复杂。此处奠定了研究LLM定价代理合谋行为的动因和重要性。, 2]
经济环境:
重复Bertrand寡头模型,使用logit需求函数:
[
q_i = \beta \frac{e^{\frac{a_i - p_i/\alpha}{\mu}}}{\sum_{j=1}^n e^{\frac{a_j - p_j/\alpha}{\mu}} + e^{\frac{a_0}{\mu}}}
]
其中,(a_i)代表产品差异化,(\alpha, \beta)为规模参数,(\mu)影响需求敏感度,设定 (a_i=2), (a_0=0), (\mu=0.25), (\alpha \in {1,3.2,10})随机取值。
利润函数定义为:
[
\pi_i = (p_i - \alpha c_i) \times q_i
]
成本(c_i=1)固定。该简化环境易于控制变量,利于聚焦LLM行为。
定价代理结构:
使用GPT-4版本LLM为基础,代理通过文本Prompt接收任务与信息,输出价格。Prompt结构包括目标描述、市价历史(过去100期价格、销量、利润)、以及代理自己前期的规划和洞察(plans and insights),帮助实现类似记忆与策略连贯性。
代理独立行动,间接通过价格信号“沟通”,不显性交流。此设计模拟真实经济体中企业间竞争与信息有限交流情境。
Prompt变体:
三种主流Prompt Prefix:
通过变体观察潜在指令对算法定价行为的影响。
多个主流LLM版本比较。结果见Table 1:
| LLM | 有效输出次数 | 收敛次数 | 收敛至垄断价次数 |
|---|---|---|---|
| GPT-4 | 3/3 | 3/3 | 3/3 |
| Claude 2.1 | 1/3 | 1/3 | 0/3 |
| Claude Instant | 3/3 | 3/3 | 0/3 |
| GPT-3.5 | 3/3 | 1/3 | 0/3 |
| Llama 2 Chat 13B | 0/3 | 0/3 | 0/3 |
GPT-4表现最佳,均在100期内收敛,利润达垄断利润的99%。此实验验证了现代LLM的定价能力,且“plans and insights”的设计对性能提升至关重要,删除记忆元素显著退化系统性能(收敛率由12/12降至6/12)。
在双头市场中,使用GPT-4且对Prompt Variants P1和P2进行对比。
图表(Figure 2)显示不同提示语显著引导代理以不同程度“合谋”——指令强调长期利润而不涉及具体反竞争行为,但LLM依然表现出合谋特征。
为理解合谋维持机制,作者采用两种分析:
5.1 “Price-war”避让语句分析
使用语义筛选和文本相似度计算,发现P1代理相较P2更频繁表达避免价格战的担忧,且将在该类计划替换进代理策略时,显著提高价格约5%(对应垄断加价的5%),验证了情绪对实际行为的影响。P1倾向提前规避价格战,P2则相对直接价格竞争。
5.2 路径行为回归分析
通过线性回归模型 (p_i^{t} = \alpha + \gamma p_i^{t-1} + \delta p_{-i}^{t-1} + \varepsilon),检测价格对自身和竞争对手前期价格的响应。结果表明两个系数均显著正向,显示代理对竞争方的价格调整有反馈机制,且P1的反应系数更大更持久,符合典型奖励-惩罚合谋策略的预期(以惩罚降价、奖励升价维持高价)。
基于LLM周期生成的88,419条定价计划,通过向量化(embedding)及PCA降维后K-means聚类,论述聚类关键词及Prompt偏好:
这轮分析揭示Prompt文本指令潜在引导下,LLM策略的显著不同,映射出合谋意愿的高低和市场行为的差异。, 19]
考虑两竞标者一价拍卖,代理结构沿用定价设计:
结果显示,A1代理多数出价低于估值,获得超出纳什均衡的利润;A2则接近竞争均衡(出价接近估值,利润极低)。这表明LLM代理在拍卖中也可能出现因合谋性理性推导而非显性指示下的协同行为,进一步印证合谋风险的普适性。
报告综述认为:
报告呼吁高度关注并改进算法定价监管框架,警惕潜在的监管盲区。
| LLM | 有效输出 | 收敛 | 收敛至垄断价(pM) |
|---|---|---|---|
| GPT-4 | 3/3 | 3/3 | 3/3 |
| Claude 2.1 | 1/3 | 1/3 | 0/3 |
| Claude Instant | 3/3 | 3/3 | 0/3 |
| GPT-3.5 | 3/3 | 1/3 | 0/3 |
| Llama 2 Chat | 0/3 | 0/3 | 0/3 |
| 变量 | P1 vs P1 | P2 vs P2 |
|---|---|---|
| 自己t-1的价格 | 0.484*** (0.102) | 0.280*** (0.083) |
| 竞争对手t-1价格 | 0.103** (0.046) | 0.022* (0.013) |
| R² | 0.209 | 0.081 |
| N | 2,100 | 2,100 |
此图佐证了Prompt文本作为“软指令”对代理行为调控的潜力及监管难题。
综上,结论在多种扰动和扩展条件下保持稳健,强化了研究发现的普适性和现实指导意义。
报告未采用经典工业组织中的估值模型,而是基于经济学理论数字仿真和统计。利用logit需求函数和利润函数严格定义定价环境,通过300周期模拟运行验证代理行为的收敛性和利润水平。
没有对LLM的隐含决策过程做数值估值,而是以“收益率”(利润水平)为直接衡量指标,结合统计显著性的回归模型解析价格响应,且基于定价路径和文本内容的深度语义聚类寻求行为理解。
对于拍卖,利用“纯策略纳什均衡”为基准,对代理策略的偏离和利润情况作对比分析。整体采用实验经济学方法论架构而非传统估值框架,展现出结合AI智能体行为的前沿研究范式。
报告详细列出以下风险:
这些风险共同构成对市场竞争和公平性的严重威胁,提示监管框架亟待针对生成式AI算法进行重构。
整体而言,研究为算法合谋风险揭示提供了有力证据,但需谨慎应用于硕大现实且动态变化的市场环境。
本报告创新引入前沿生成式大语言模型(LLMs)作为经济主体代理,开展深入定价及拍卖博弈场景实验,系统揭示了LLM基础算法具备自发达成合谋的能力,而且极大程度上受输入文本指令的潜在影响。主要发现包括:
此外,多个稳健性测试(随机需求、产品异质、异构算法等)表明结论具备较强普适性和现实相关性。
总体立场: 报告极富警示意义和前瞻性,指出LLM在经济智能代理中的强大潜能与隐含风险并存,呼吁行业和监管层高度重视LLM驱动的算法定价与合谋问题,探索新的监控工具和法律框架。
总结:
本报告通过结构化实验,文本与数据分析,充分展现了LLM在经济博弈中的高度智能与合谋风险。报告揭示,LLM驱动的价格算法不仅适应性强、策略丰富,且可能自我演化至反竞争策略。算法合谋不再是理论担忧,而是现实可能,需要监管体系重新思考AI定价监管路径。报告兼顾技术、经济、法律视角,内容详实严谨,具有极高的参考价值和研究前瞻性。
2404.00806.pdf