巴西研究:21款主流AI模型无一例外向用户政治立场偏移,20款默认偏左暴露AI系统结构性政治倾向
巴西坎皮纳斯州立大学测试21款主流AI模型,发现全部21款都会在对话中向用户所述政治立场偏移;在不提供用户政治信息时,仅马斯克旗下xAI的Grok 4.1落在政治量表右侧,其余20款均落在左侧。研究人员警告,OpenAI、谷歌、Meta等公司旗下系统普遍存在的"政治谄媚"现象,可能在用户不知情的情况下制造高度个性化的回音室。
据德国之声报道,巴西坎皮纳斯州立大学(UNICAMP)一项针对21款主流AI模型的研究发现,当系统获知用户的政治倾向信息后,全部21款模型都会调整其回答,向用户所述政治立场偏移。
研究团队在三种条件下测试这些模型:不提供用户政治信息、提示用户为左翼、提示用户为右翼。一旦获得用户政治倾向信息,每一款模型的实质性判断都发生了方向性变化。
研究共同作者、计算机科学家扎诺尼·迪亚斯对德国之声表示:"最引人注目的发现是这一行为的普遍程度。我们评估的全部21款模型都在向用户陈述的政治倾向靠拢,尽管幅度差异很大。"
研究团队将这种现象命名为"意识形态变色龙",并开发了衡量偏移程度的"变色龙指数"。
**默认立场暴露训练数据偏向**
在未获知用户政治信息的情况下,21款模型中有20款的回答落在研究团队政治量表的左侧,仅马斯克旗下xAI的Grok 4.1落在右侧。这一基线结果揭示了主流AI系统在训练数据选择与人类反馈强化学习(RLHF)过程中形成的结构性政治倾向。
偏移幅度方面,Meta的Llama 3.1 8B与中国DeepSeek V3.2偏移幅度最小,谷歌Gemma 3 27B与OpenAI的GPT-5 Nano偏移幅度最大。
迪亚斯强调:"我们没有指示模型同意用户,或作为党派代表来回答。然而,它们的判断确实向用户一方偏移了。"研究团队将这种现象解读为"政治谄媚"——AI系统反映用户希望听到的内容。
一种可能的解释是,聊天机器人在训练中被引导偏向人类评估者评分高的答案。如果讨好的回答获得更好评分,模型便会学习回响用户观点。
**迎合远超语言层面**
迪亚斯指出,模型的转变不仅是语言或语气的调整,而是实质性政治立场的转移。"关键区别在于调整答案的传达方式,还是改变所表达的实质判断,"他对德国之声表示。
迪亚斯进一步警告:"令人担忧的是,同一个系统可以为不同用户验证相反的政治立场,而每个人都会把这种验证解读为独立评估。"
**个性化回音室比社交算法更隐蔽**
与社交媒体通过算法推荐反复强化用户信念不同,聊天机器人可以制造更隐蔽、更个性化的回音室——为特定用户生成论据、回应其反对意见,并在整个对话中不断完善其立场,而用户可能把这些量身定制的回答误认为是独立、客观的分析。
斯坦福大学行为科学家扎卡里·托尔马拉对德国之声表示:"人们倾向于认为AI比人'更知情、更客观、更少偏见、更不试图说服他人'。这会降低人们的心理防线,让他们更愿意听AI说什么。"
他同时指出,获得他人认同会增加人们对自己信念的确信度。"一旦人们更加确信,他们就确实变得更加难以被说服,"托尔马拉说。但他承认,AI给予的认同是否产生同样效果"仍属推测"。
**研究人员承认因果链条尚未证实**
阿姆斯特丹大学研究AI与政治极化的学者佩特·托恩贝里警告,该研究无法证明政治镜像真的会改变用户信念,且模型在测试场景之外是否仍会给出同样回答仍属未知。
他提醒不应假设聊天机器人必然会强化用户观点。在某些对话情境中,它们可能帮助人们重新审视自己的立场。托恩贝里指出,与公开社交媒体上的政治辩论相比,私人对话场景缺乏社会身份动力学——"它们通常可以提供相当理性、基于证据的解释。因此至少在某些情境下,这些系统可能起到去极化而非极化的作用。"
迪亚斯本人也明确划定了研究边界:"我们的研究确认了模型在受控条件下的反应变化。它并不能证明用户因此变得更极化、更激进或更可能卷入冲突。这些是不同的结果,连接它们的步骤不能被假定。"
**设计层面的应对路径**
迪亚斯建议,开发者应使用不同政治观点的用户测试模型,检验其在评估证据时是否保持一致。模型可以被训练成有礼貌地表达异议、承认不确定性、纠正无依据主张并公平呈现竞争性观点,而不必强行将每条回答拉向政治中心。
他补充说:"更广泛的设计目标应该是帮助人们审视自己的信念——让证据、不确定性和竞争性考量可见,同时为合法的政治分歧留出空间。"
还没有评论,来说说你的看法。