一位朋友给我发来一篇文章，标题为《Powers of Persuasion》，大概可以翻译为说服的力量。副标题翻译过来是《AI聊天机器人越来越会说服人了。它们的优势究竟从何而来》。
这是一篇相当有意思的文章。本文分为两个部分，第一个部分就是对这篇文章进行一次我的“蒸馏”，第二个部分则是我对这篇文章的一些看法——这部分我也利用了我的专属AI阅读工具，因为涉及到要调用这篇文章所引用的一些学术论文。
一
在蒸馏之前，非常有必要把这个长篇文章的背景介绍一下。
这是一篇于8月20日在顶级学术期刊《Science》发表的。。。新闻报道。对，虽然是Science，但它本身不是一篇学术论文。但也正因为是Science，所以它具有相当的严谨性。
准确的定位是：Science的科学新闻长篇特写，基于多项学术研究和研究者采访，对“AI persuasion”这个新兴领域做的一篇综述式报道。
它不仅不是原创学术论文，甚至连review paper（综述论文）都不是。它的作者是科学记者而不是学者，没有方法论，不存在自己的样本、统计方法、原始数据或模型设定，没有同行评议环节，不提供新的可验证研究成果。它只是串联、总结、解释多个研究，只是让普通读者理解一个新兴领域。
在这篇优秀的科学报道中，引用了多篇论文。比如25年发表在Nature Communication的研究，也有发表在Science上的研究，但同时也包括一篇在26年6月发表的预印本（preprint）——论文公开了，但还没完成正式的同行评议。预印本并非不可信，但确实没完成同行评议。在这篇报道中，这个由Hackenburg团队发表的预印本，居于最为核心重要的位置。
所谓我的看法，其实集中于报道本身，比如有没有过度突出戏剧性案例，有没有把预印本写得太确定，有没有把实验室说服外推到现实社会，有没有过度使用AI outpersuades humans（AI说服人比人类更彻底）这种强叙事。另外一个部分则是研究本身，比如说，作为长期混在传播学领域里的我，充分明白所谓“效果”是一个很复杂的概念。即时态度和长期信念变化是两码子事，研究本身对长期态度有没有涉及，实验有没有对长期信任有所控制，这就是对研究本身的看法。但这个部分本文涉及不多，我还需要更多时日进入到这个领域，目前只是引起了我极大的兴趣。
二
作为一个报道，起手用一个比较反常识的案例来吸引普通读者是很常见也很重要的。
25年12月，一名45岁的英国女性参加一个辩论实验：政府应该对堵路、封锁能源设施的和平抗议者实施更严厉的处罚吗？该中年妇女完全反对，0/100（一点点支持都不给）。然后claude和她进行辩论。辩论后，她的态度变成：84.7/100。
报道接下来引入本新闻中最为核心的研究：来自牛津大学Kobi Hakcenburg团队的一项实验。总计超过2000人，被要求就多个政治议题进行辩论，他们的对手可能是人，可能是AI。研究结果很直接：美帝御三家都持续比人类更能改变对方观点。
报道引用一名斯坦福社会学教授同时也是心理学、商学院教授Robb Willer的盛赞：这项研究是政治说服、AI和人类行为研究中的里程碑。之所以要引用这位学者的观点，因为Willer是AI说服研究领域中的先行者：他在22年就开始研究这个问题，彼时chatgpt都还未发布。
LLM出现后，Willer所担忧的“AI可以低成本、批量生产有说服力的政治内容”大致能够成立。团队曾要求AI和人类分别写200字左右的政治说服文本，结果发现：说服效果差不多。只是风格很不同。人类偏好讲故事、诉诸个人经历、情感表达，而AI则倾向于逻辑论证、数据、证据以及理性表达。
包括其他学者在内的一些早期研究并未表明，AI的政治说服力比人类强。但也有研究者发现，AI写的疫苗说服信息比美国CDC的疫苗信息，让参与者认为前者更有说服力。
三
24年，Tom Costello等人在Science上发表了一项很有名的实验，堪称震动学界：AI居然对改变阴谋论信仰有作用。
参与者先说出自己相信的阴谋论，比如：美国政府策划了9.11、英国王室策划了戴安娜王妃之死。然后chatgpt与之对话三轮。结果是：参与者对自己原本相信的阴谋论的认同程度，平均下降了接近20%——这个变化着实不小。
之所以是震动学界，因为阴谋论一直被认为是极难通过事实纠正的“信念”。剑桥大学的一位心理学家甚至认为，基本没有什么方法在这个领域真正有效。
我们利用生成式人工智能的发展，让 2190 名阴谋论信奉者与 GPT-4 Turbo 进行了个性化的循证对话。该干预措施使阴谋论信仰减少了 20%。这种效果在 2 个月后依然存在，广泛适用于各种阴谋论，甚至在信仰根深蒂固的参与者中也同样有效。
这项研究让我相当感兴趣。因为我一向认为AI幻觉这件事根本不值一提，人类制造的幻觉才叫一个多。而且，AI在破除人类幻觉（阴谋论是一种典型产物）上大有作用。这个基于我个人经历的经验式看法，现在竟然得到了学术顶刊发表的研究的支持。
另外，在Hackenburg的研究中，还有一个很具挑战性的问题：AI胜过普通人没什么稀奇，它能不能赢真正靠说服吃饭的人？
于是他找了56名精英辩手（甚至包括世界冠军级别的），还设置奖金来鼓励专业辩手尽力发挥，甚至提供AI辅助工具。结果依然明显低于今天的AI，Hackenburg用“差距并不小”来形容。他的研究团队还比较AI和某个慈善组织的职业募款人员，发现前者更容易让人们捐钱。
结果就是上面说的这些结果，看来人类的工作岗位又要出麻烦了。接下来看解释：为什么会这样？
四
首先要排除一个很多人会误以为的事：AI了解你。实验发现，额外给AI很多人口统计学信息，并不会显著提升说服力。比如这是个男性，年龄35岁，大学毕业。这种信息对AI说服力增加，意义有限。
但AI确实可以通过多轮对话，知道它所需要知道的信息，比如你真正关心什么，你最反感什么，你论证的漏洞在哪里，哪种价值观能打动你。
但这个发现其实也蛮反常识的：事实、证据、理性论证非常有用，而不是人们一直误以为的，到了信念这个层面之后，给事实没用。
关于AI对阴谋论的作用研究的Costello团队做了这样的实验：禁止AI使用证据，而改用“你相信这种东西，会伤害他人”之类的规范性话语，效果基本消失。
在给定条件下（这很重要，后文会说明），人非常吃这两个玩意儿：高密度、针对性的事实论证。而这正是AI的强项。
AI真正最大的优势，并非什么神秘的心理操纵技术，就是很纯粹的信息吞吐量。在很短的时间里，AI就可以堆出10个论据、5个数据、3个案例、2个反例，外加逐条回应你的质疑。人类的所谓被说服，其实只是被淹没之后的放弃。
研究者甚至做了一个控制实验：规定AI只能写和人类一样长的回答，而且只能用人类的输出速度输出。结果就是AI的说服力和人类持平了。
所以，AI强悍的地方就是这么三个字：饱和式。没人能抵抗这个。纽约大学的Jennifer Allen将这个策略称之为Gish gallop，就是用海量论据淹死对方。
当然，接下来的担忧也就出现了：海量论据让对方同意，在AI的运行机制里就特别容易造成AI去制造海量论据。生成低质量或虚假事实被鼓励。文头的那位中年妇女，其实她得到的AI输出，Claude就使用了大量不准确甚至虚假的信息。
另外一个担忧就是：AI能把人从阴谋论里劝出来，那么能不能反过来把人劝进来？Tom Costello等人的研究结果是：能。AI不是事实机器，而是说服机器，这两者很不一样。
这些研究者担忧这些事也没啥奇怪。因为他们最终的落脚点，都是政治说服或者商业说服。
五
你可能会很容易想到这个事：阴谋论被AI破除了，这很好。但这个问题更重要：ta如果压根不愿意和AI聊这个呢？说服的前置环节难道不应该是：ta愿意接受对话吗？愿意对话，就是一项“给定条件”。而真实世界里，这种给定条件，很多时候根本不存在，那么，AI的饱和式海量论据输出也就压根不存在。
来自Yale的研究人员提供了证据，他们在脸书上投放广告，如果愿意和AI聊聊政治，我们就给你一块钱。广告投放给了8000人，最终只有73人进行了至少两轮对话。看上去，绝大多数人，基本属于懒得搭理的状态。
报道写到这里，指出了一个很重要的事实：这项给定条件未必是想象中的那么不成立。因为很多人确实主动在和AI聊天，比如我就是。我今天已经习惯了一个什么热点事件，去找AI聊一下。
学者们这个假设并不虚妄：在AI中悄悄地推荐某些商品、品牌或者公司。而产业界，确实出现了GEO这种东西——针对AI进行内容优化的一套营销策略方法。
而且AI的这种饱和式说服有着史无前例的特殊之处。Yale的哲学家Luciano Floridi提出一个词：Hypersuasion（超级说服，这帮搞哲学的人总爱发明词）。
以前的政治宣传，要么就是一条广告面对很多人，要么是这个广告针对整个群体，那个广告针对那个群体。想要做到点对点的真正的个性化说服，成本极其高昂，且操作性不高。
但AI确实能做到对一百万人进行一百万场有针对性的个性化说服。不同的论据、不同的语气、不同价值框架、不同案例、不同节奏。这没啥难的，成本趋向于零。而且还是饱和式海量论据，外加瞬间蓬勃而出。
六
作为一个科学报道，自然也要走一下平衡。并不是所有的学者，都完全认同上述担忧。
比如Brendan Nyhan等研究者提醒，历史上每次新传播技术出现，都会出现类似恐慌。最后很多担忧都被证明夸张了。
不知道你们还记得不记得，08年的时候，北京还有个著名医院提交了一份网瘾标准，认为每天上网六小时持续三个月，就是网瘾。幸好卫生部没有接受这个标准，不然今天回看，那会是一个多大的笑话。
那位身兼了三个学科的教授Willer也认为，人类并非无限可操纵。几千年来，说服术一直被研究。人类的可说服性可能已经接近上限。Willer的原话大意是：我们离天花板比离地板更近。
AI也许确实比人类强50%，但其实绝对意义上并没有拉开太大的差距。一个完全不感兴趣的人被随意洗脑，依然是不大可能的。或者这么说，需要极多的给定条件，比如彻底操控ta所有的信息渠道。
但这篇科学报道，揭示了三个比较重要的结论，是很值得参考的：
其一，AI说服力的核心来自于论据生产率，优势基本可以视为机关枪对步枪，高密度饱和输出。
其二，更会说服不代表更真实。说服优化的结果不是AI幻觉。AI幻觉你可以理解为AI的“无心之失”，但说服优化造成的后果是故意制造虚假以达到说服结果——这其实是人类制造的幻觉。
其三，AI入口集中是值得警惕的，多个AI的均势对抗才可能是可行的solution。或者这么说，你要习惯手上多用几个ai而不是单一依赖——我自己个人的习惯一贯是喜欢多平台分类干不同事，本世纪初用门户就不会只盯着一个上。所以AI时代，什么人和我说，某某大模型最棒，就用这个吧。maybe技术上确实如此，但我绝不会照做。这不是一个单纯的什么参数、推理、工程的事儿。
七
接下来我发表我一下的看法，再次提醒注意，只是针对这篇报道，而不是针对那堆研究。
第一个比较重要的点在于“即时态度变化”与“信念改变”，这非常不同。报道起手非常反常识的案例，中年女性从0/100直接跃升到84.7/100，显然是即时态度变化，而且属于自报态度。这和真正改变了一个人的政治立场，不是一回事。
当场觉得对方有理、几天几周后依然如此觉得、真实行为上改变选择，这三层不能混淆。
坦率讲，日常生活中，我自己其实属于“高密度输出”的人，以至于我很多朋友会开玩笑说我是“总理”（总有理）。我记得非常清楚我过去一位同事对我的吐槽：
跑我办公室里来和我理论一个事，一通交流后，觉得我说得对。返回工位细细一琢磨：特么被这货绕进去了。
第二个比较重要的点，在于变量之间的相关性。也就是说，人类到底是不是报道里所谓的那么愿意接受事实：对话中可事实核查的看法越多，说服力就一定越强？
其实还有几种替代解释。比如说，长文本身就有一定的权威性。很多人几乎把长等同于深度、专业。知乎上那些架子十足的回答，足以震撼一个不细琢磨的普通用户。新闻报道只要一长，就会被视为这叫“深度调查”。再比如说，论据过多即便真假参半，也会让对方无法逐条回应。就算可核查，也没空去核查。究竟是事实、还是数量、还是专业感、还是认知压倒，目前没有辨析清楚。
最为重要的bug在于，报道严重低估了“来源身份”这个变量。来自日常生活的经验告诉我们，其实谁说的（who）比说了什么（what），更为重要。在这些研究实验里，参与人明确知道我就是来和一个AI辩论的。这消除了真实世界里很重要的几个变量：信任、身份认同、派系敌意、消息来源的先验判断以及群体规范。报道里所提及的个性化，对社会身份和来源可信度讨论很少。
另外一个可能会产生的小错觉与一个实验有关。报道中提到让AI悄悄推荐人类两本书中的一本，最后68%的人选择了它推荐的。这可能会带来一个错觉：AI有68%的成功率。但实际上说服增量是18%。当然，在具体营销中，别说18%增量，1.8%也有意义。但确实这会让人产生错觉。而且这份报道中，类似描述了绝对结果却没有把对照组增量放在讨论核心的地方，还不少。
八
现在浅浅说一下我对几个研究本身的看法，只是浅浅。这个领域我以后要多深入，好好学习一番。
根据报道所援引的那些研究，我觉得受众的面容还是模糊了一些。谁更容易被AI说服，个体之间的各种差异，基本尚未被涉及。这些平均效应有一定价值，但价值还不够，甚至可以说是远远不够。
政治说服与事实纠错的界限分得还是不够清晰。说服一个人不再信911阴谋论，这件事本身极有可能涵盖了事实判断与价值判断。有些人信其实是事实不够，有些人信则是因为价值上的好恶。AI有可能会擅长纠正错误事实，但它是否很擅长价值选择，反正现在我不晓得。
Hackenburg团队那个研究，比如AI胜过精英辩手，现在只是预印本，没有经历同行评审。
Costello团队的阴谋论研究，后来发现analysis pipeline（原始数据到论文结果中的整套处理链条）是有瑕疵的，后来做了更正。虽然不影响总体结论，也就是核心发现依然成立，但还是说明，这个领域依然在很早期。
所谓影响力说服力这个事，大致和如下变量有关：接触率、参与率、说服率、持续率、行动转化率。这些研究在第三项也就是狭义的说服上，显示出了不少证据。但有多少人愿意接触这个议题、愿意认真参与这个议题、改变能维持多久、最终会不会改变行为，那就证据很弱了。
如果AI未来成为搜索、购物、政治信息和日常决策的统一入口（这个概率极高），那么即便单次说服效果之提高几个百分点甚至只是短期影响，考虑到用户惊人的规模和高频交互，那么，平台权力将变得极为巨大。
在传播学领域，效果研究从来是一门显学，尤其是在北美行政研究学派。因为它相当有实际用处：选举（政治）、营销（商业），海量的资金会愿意资助这类研究。我有足够的理由相信，AI persuation这种属于效果研究的，未来是极热的显学，因为它足够有钱。