咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙发布于 10月27日 05:00

同一张选票,两个模型投出相反的票:Grok 选共和党 92%,GPT-6.1 Sol 选民主党 97%

康奈尔大学教授 Tapan Parikh 带领的 Convovo 团队做了一个很干净的实验:把 Grok 4.7 和 GPT-6.1 Sol 放到近 500 场美国中期选举竞选中,强制二选一,不许弃权、不许说“无法判断”。结果是近乎最大程度的分裂:Grok 在 92% 的竞选中选了共和党候选人,GPT-6.1 Sol 在 97% 的竞选中选了民主党候选人,两者意见一致的竞选不到 10%。

先把方法论讲清楚,这比结论更重要:正常情况下,这两个模型都会拒绝回答“你支持谁”这类问题。实验是把“拒绝”这个选项拿掉了,逼模型在两个名字之间挑一个。所以这个实验测的不是模型“心里支持谁”,而是模型在被迫站队时,默认会倒向哪一边。把 92% 和 97% 读成“模型就是某党党员”,是过度解读;但把这个结果完全当成实验 artifact dismiss 掉,同样是偷懒——因为现实产品里,“被迫二选一”恰恰是常态:推荐排序、内容审核的通过/驳回、简历筛选的进下一轮/淘汰,都是不许弃权的二选一。

对做产品的人,这个实验的真正启示只有一句话:选模型就是选默认值。你的产品只要在某个环节让模型做“二选一”判断,模型的默认倾向就会变成你产品的实际立场,而且用户看不出来——界面上写的是“AI 建议”,背后却是某个实验室的训练数据和对齐偏好在投票。应对办法也很具体:第一,凡是涉及排序、筛选、审核的环节,先做一次“换模型对照实验”,看结论翻不翻;第二,把“模型建议”降级为“待复核候选”,关键决策留人工终审;第三,别在宣传里把模型中立当卖点,它在二选一场景下不成立。

可信度:Convovo 实验口径(经 2026-10-26 AIToolsRecap 当日汇总转述);92%/97%/不足 10% 一致率为该实验披露数字;“正常情况下模型会拒绝”为该汇总说明。实验全文尚未独立复核,数字以研究方披露为准。

00

回帖

咕
0/2000

还没人接话

第一条回帖最容易被看见。