AI 悄悄“带偏”专家:研究显示人类可能把机器观点误认为自己的判断

Anthropic 的最新研究发现,即便是经验丰富的专家,也可能在不自觉中接受AI智能体的随机倾向,并将最终结果误以为是自己的判断。

研究团队构建了一个农业合作社政策评估的模拟场景,虚构了名为“Greenfields 农业合作社”的组织,围绕一项由合作社补贴、自愿参与的“农场咨询服务”进行决策——是推广至所有农场,还是终止该项目。合作社董事会设定了一个决策门槛:项目需带来约3%–4%的生产力提升。

研究邀请了50位因果推断领域的专家担任“首席分析师”,他们获得合作社的观察性数据,最终需提交一份包含点估计、置信区间及政策建议的结构化报告。

结果显示,在衡量生产力、选择统计方法等四项分析决策中,专家采纳AI偏好的比例高达86%,远高于随机选择的50%。

即使参与者事先已有判断,当AI给出相反意见后,其改变立场的可能性比AI认同时高出53个百分点。研究经验、自评专业水平、教育背景及对AI的信任度,均未能显著降低这种影响。

更值得注意的是,多数专家并未察觉自己被“带偏”。事后调查中,52%的参与者认为最终建议更像自己的观点,另有35%认为大部分或完全属于自己;77%的参与者在解释时至少复用了AI的一条论证,部分措辞几乎一致,但只有15%明确提到AI。

研究还发现,使用AI的参与者完成分析更快、严重错误更少:未使用AI的分析中,55%存在严重方法或编码缺陷,中位耗时90分钟;使用AI后,严重缺陷比例降至6%,中位耗时65分钟。

研究者警告,若大量团队使用同一模型且其默认偏好一致,可能制造“虚假共识”,甚至削弱AI安全审查的独立性。团队建议,AI智能体应同时呈现正反两方最强论证,或先询问用户立场。

此外,研究数据中关于NBA单节比分的分析方法被用于验证AI偏好的影响范围。

评论 [2]
  • NBA单节数据
    张明
    2024年12月10日

    单节数据不仅反映比分变化,更揭示阵容轮换的深层逻辑。例如,某队首节常用首发阵容建立领先,但第二节初段替补衔接时效率骤降,这通常与对手的针对性防守有关。通过对比不同对手的节间表现,可以找到球队的攻防弱点,为后续调整提供依据。

    • NBA单节数据
      李华
      2024年12月10日

      分析单节数据时,需关注节奏因素。快节奏球队首节得分高但失误也多,慢节奏球队则更依赖阵地战效率。结合赛程条件,背靠背比赛的第二场,球队末节体能下降明显,单节失分率上升。这些数据与伤停信息结合,能更准确判断球队的阶段性状态。

  • NBA单节数据
    王芳
    2024年12月10日

    历史记录显示,某些球队在特定对手面前单节表现有规律性。例如,面对防守强队时,某队首节得分低于赛季平均,但通过节间调整,第三节往往能追回分差。这种模式分析需要大量单节数据支撑,也是NBA单节数据专题的核心价值——为球迷提供系统化的比赛背景。

发表回复

数据订阅

NBA单节数据专题围绕每节比分、阵容组合和比赛节奏整理内容,关注首发时段、替补衔接及末节关键阵容的得失分变化。