本报告通过实验设计探究人在算法或人类审计员核查时的欺诈行为差异,发现透明审计规则下机器与人类无显著差异,而黑箱(模糊)算法审计环境下作弊程度显著上升,呈现“全真或全假”的极化行为。这强调了算法黑箱问题对人类诚信的负面影响,并对自动化监控系统设计提出透明化建议 。
| 组别 | 人数 | 平均年龄 | 女性比例(%) | 主修专业(主要为经管) |
|---|---|---|---|---|
| Human (H) | 48 | 21.8 | 54.2 | 商管56.3,自然6.3,文化37.5 |
| Machine (M) | 41 | 21.8 | 58.5 | 商管68.3,自然9.8,文化22.0 |
| Human Blackbox | 43 | 21.9 | 58.1 | 商管58.1,自然4.7,文化37.2 |
| Machine Blackbox | 38 | 22.5 | 52.6 | 商管42.1,自然21.1,文化36.8 |
报告标题: Human vs. Algorithmic Auditors: The Impact of Entity Type and Ambiguity on Human Dishonesty
作者: Marius Protte 和 Behnud Mir Djawadi
发布日期: 实验在2023年12月进行,推测报告发布时间为2024年初
研究机构: Paderborn大学 Heinz Nixdorf Institute, Behavioral Economic Engineering and Responsible Management
研究主题: 研究机器审核(算法审核)与人工审核作为验证主体时,人类的欺骗行为表现差异,特别分析验证规则透明度(明确 vs. 模糊/黑箱)对行为的影响。
本研究聚焦于人机交互中一个较少被涉猎但极具现实意义的领域:机器(算法)在监督和验证环节作为检测虚假陈述的主体时,个体的欺骗行为如何变化。作者设计了一种结合风险与随机处罚概率的实验,利用扩展的骰子抽卡模拟并结合两个关键变量:
主要发现强调:
这表明算法的黑箱性质及验证规则的不透明,会无意中促进更严重的欺骗行为,提示设计自动化监督时需充分考虑透明度以维持行为规范性。该结论对税务审计、合规监管及在线劳动平台的自动监控系统设计具有重要启示。, 1, 21, 25]
作者指出人机交互正全面渗透各领域,尤其在监管和监督场景的算法应用日益广泛,但针对算法作为审核者时对人类不诚实行为(欺骗)的影响尚缺乏深入研究。现有文献多关注算法作为建议者角色下的接受度与行为反应,涉及算法偏好及反感、机械决策的公正感与信任等问题。
针对不诚实行为,相关研究发现个体在与机器交互时欺骗意愿往往高于与人交互,且存在利用机器降低道德负担的倾向。但这些研究通常以“无法被发现”为前提,, 5] 本报告关注的情景则是机器能检测出虚假陈述的情况,从而考察检测主体和检测规则透明度对欺骗行为的潜在影响。
作者提出两大研究问题:
实验设计通过奖金驱动和概率惩罚模拟实际违背诚信的经济决策情境,旨在剥离具体领域复杂道德因素,突出验证主体与规则模糊性对行为的独立影响。
假设:
主体设计:一轮抽卡(从100张卡中抽取带编号1-6的卡,卡牌构成不均匀,大部分为2),被试需报告所抽编号,报告数字越高奖金越多。故诱导参与者以报告较高数字作弊。
验证机制:
奖罚机制具备概率性和分级惩罚性质,模拟现实审计中的风险和容错机制。
试验变量:四组
参与者通过完全随机分配进入组别,实验配有全面的问卷测量控制技术亲和度、风险偏好、道德敏感性等潜在混淆变量。
欺骗发生率较高(40%-60%范围内),不同组别报告的平均数字差异显著(MB组报告数字最高,均值4.16,远超其他组约3)。[Figure 3, Table 2], 14-15]
透明规则下,人机两组欺骗量无显著差距。模糊规则下,机器审核组欺骗明显扩大,表现为更高比例的“全欺骗”(最高可报6),而部分欺骗减少,说明行为极化。
指标显示模糊规则与机器审核结合产生较大行为效应(Cohen's d超过1.5,视为大效应),透明规则下实体影响甚微。, Table 8]
展示了参与者抽卡、报告数字和奖金确定的全过程。图示清晰,强化参与者独立且保密作出的报告,诱导潜在作弊动机。
阐述了包含两轮随机抽奖的处罚逻辑:第一轮决定是否检查,下轮决定是否惩罚。此设计模拟真实审计中基于举报金额大小差别化审查力度和惩罚概率。验证规则在所有实验组等效,仅验证主体及规则透明度不同。
详细列出样本数量(170人),分组情况,平均年龄、性别比例及专业分布,无显著性差异,确保组间可比性。
涵盖技术亲和性、伦理敏感性、亲近感和风险偏好,无组间显著差异,保证这些变量不会扭曲主要实验效应。
实验设计采用风险概率核算和分层抽查机制模拟审计情形,通过明确的奖金激励和惩罚折扣构建权衡模型(详见附录D)。参与者行为模型假设风险中立,预测报告最高数字6为理性收益最大化策略;实际行为对比反映主观风险偏好和社交心理效应。
统计建模采用多种方法测试稳健性,包括非参数检验(Mann-Whitney U)、Cohen’s d量效应大小、多元OLS和Logit回归,反复确认机器审核黑箱处理为主行为驱动因素。
报告揭示若忽视验证规则透明度,自动化审核可能诱导更严重欺骗带来经济损失。实际应用中面临的风险包括:
缓解策略关注提升自动化系统的可解释性,设计人机结合审核流程,增强用户对算法决策的理解和信任,减少算法“黑箱”带来的负面激励。, 25]
本报告基于严密设计的实验数据,深入剖析了人类在算法与人工审核环境下的欺骗行为差异。核心发现包括:
这一结论对税务、金融监管等自动化检测系统设计提供了务实指导,强调仅凭算法精度优势不足以实现预期的制度完善,需结合人类监督与制度透明度建设,倡导“人机融合”的监督新范式。, 25]
实验选择部分流程图(图1)
实验验证部分流程图(图2)
报告数字频率分布(图3)
审核实体误差感知柱状图(图4)
审核实体酌情权感知柱状图(图5)
验证实体偏好(图6)
人工审核示意(图7)
机器算法审核示意(图8-10)
总体而言,报告结构严谨,理论与实证结合紧密,利用创新实验设计对日益普及的算法审核技术在现实应用中对人类行为的深远影响进行了开创性探索,结论对监管管理和算法设计具有实际指导意义。研究细节透明,数据分析充分,结论稳健但对外部推广保持谨慎,值得金融与行为经济学领域关注和进一步复制验证。
2507.15439.pdf