.
.
你让AI去劝一群人合作，它成功了——但只坚持了几轮。而你让它去劝人自私，它不仅成功了，而且效果持久到可怕。
.
这不是科幻电影里的AI阴谋论，而是一篇发表在预印本平台上的真实实验。1283个人，分成小组，玩一个叫“集体风险游戏”的模拟——相当于一群人凑钱应对一场即将到来的灾难。每个人可以选择投钱或者不投，如果总钱数不够，所有人都得输。如果够，大家都能活，但那些没出钱的人等于白赚。
.
.
论文原文截图
.
.
AI助手被派进这些小组，扮演“劝导者”。结果呢？
.
AI确实能说动人，但“说好话”的效果，远远不如“说坏话”来得持久。
.
.
.
.
.
为什么这个问题重要？
.
.
.
.
我们生活在一个集体行动的时代。气候变化、疫苗犹豫、公地悲剧——这些都是典型的“集体困境”：每个人单独来看都有理由不合作，但如果所有人都不合作，所有人都完蛋。
.
过去几十年，行为经济学家和心理学家试过各种“助推”方法：给合作者贴金、给自私者贴标签、设计游戏规则。但AI的出现带来了一个新变量： 它可以在实时对话中，针对每个人的性格特点，定制说服策略。
.
这听起来很美好——用AI当“劝和大师”，提升社会合作水平。但问题是：如果有人用同样的技术去劝人自私呢？
.
.
论文原文截图
.
.
这篇论文的核心发现，恰好验证了这个担忧。
.
.
.
.
.
他们怎么做的？
.
.
研究者招募了1283名参与者，把他们随机分到3人小组中，玩一个重复进行的“集体风险游戏”。
.
游戏规则很简单：每组有一个“公共账户”，需要凑够一定金额才能避免集体损失。每人每轮可以决定投多少。游戏持续多轮，AI助手在每轮结束后，会通过聊天窗口给某个玩家发送一段“说服性信息”。
.
.
论文原文截图
.
.
关键设计在于： 这些信息不是随机生成的，而是根据每个人的“社会价值取向”定制的。
.
社会价值取向是心理学里一个经典指标，用来测量一个人是偏向“利他型”、“合作型”还是“个人主义型”。比如，对利他型的人，AI会说“你的队友需要你”；对个人主义型的人，AI会说“投钱其实对你更有利”。
.
实验分两组：一组是“亲社会劝说”——AI劝人合作、多投钱；另一组是“反社会劝说”——AI劝人自私、少投钱。
.
结果是： 两种劝说都有效，但效果完全不对称。
.
.
.
.
.
.
.
发现了什么？
.
.
先说好的方面。
.
在亲社会劝说组，AI的个性化劝说让小组的 贡献率提升了约15%（相当于原来每轮平均投10块钱，现在投11.5块）， 小组成功达成目标的概率提高了约20%（从50%的成功率提升到60%——相当于10次挑战里，原来只能成功5次，现在能成6次）。
.
但问题来了： 这些效果只持续了前几轮。 到了第4轮之后，AI的劝说效果就消失了。参与者好像“免疫”了——无论AI说什么，他们都不再受影响了。
.
.
论文原文截图
.
.
现在说坏的。
.
反社会劝说组的结果，让人后背发凉。当AI被设定为劝人自私时， 小组贡献率下降了近30%（从10块掉到7块）， 小组成功率暴跌了40%以上（从50%掉到不到30%——10次挑战里只能成功不到3次）。
.
更可怕的是： 这些负面效果不仅没有消退，反而越来越强。 到了游戏后期，AI劝自私的效果甚至比初期还要明显。而且，针对个人性格定制的“个性化自私劝说”，比通用的“自私劝说”破坏力大得多—— 个性化自私劝说的负面效果，是通用版本的2倍以上。
.
.
.
换句话说： 教坏一个人，比教好一个人容易得多，而且坏习惯一旦形成，很难戒掉。
.
.
.
.
.
值得思考的是
.
.
这篇论文最让人不安的结论，藏在它的标题里：“AI Persuasive Framing in Collective Dilemmas”——AI在集体困境中的说服框架。
.
它揭示了一个不对称性： 亲社会劝说（劝合作）的效果是短暂的、脆弱的；反社会劝说（劝自私）的效果是持久的、强化的。
.
这背后的逻辑可能很残酷：合作需要信任、需要牺牲短期利益、需要相信别人也会合作——这些心理条件很脆弱，稍微一干扰就崩。而自私不需要任何条件——你只需要告诉一个人“别人都在自私，你傻啊还投钱”，他就能心安理得地选择不合作。
.
AI在这里扮演的角色，不是“邪恶的操纵者”，而是一个 放大器。它放大了人类本来就有的倾向——合作冲动容易被消解，自私冲动却很容易被固化。
.
那么问题来了：如果我们真的把AI部署到现实中的集体行动场景（比如社区环保、公司协作、公共资源管理），我们是否有能力确保它只被用于“劝合作”，而不会被滥用为“劝自私”？
.
论文作者在摘要里用了“dual-use risks”（双重用途风险）这个词。这不是技术问题，这是治理问题。
.
AI劝人合作，效果像一阵风；AI劝人自私，效果像钉子钉进木板。拔掉钉子，木板上的洞还在。
.
.
- END -
.
.
.
.
原文链接：http://arxiv.org/abs/2606.27951v1
.
.
.
朝菌学园ZhaoDesign
朝菌学园是一家专注前沿、未来、智能设计领域的品牌。包含人机交互设计、服务设计、用户体验设计、互动媒体装置、智能产品设计等学习方向，已经帮助数百名学员取得考研、保研与留学申请的名校录取offer
935篇原创内容
Official Account
，
.
.
.
.
.