一个“小”问题:为什么是元宝+聊天,而不是聊天+元宝

腾讯大张旗鼓地推出了“元宝派”这项服务,在元宝这个ai聊天机器人产品中,用户可以创建“派”,邀请朋友加入一起聊天。而在这个聊天群里,元宝机器人也是一个聊天参与者,用户在at它之后,它会根据聊天的上下文做出相应的智能的反馈。

目前是测试阶段。

我浅浅尝试了一下,觉得至少于我而言,在当下,没啥需求——但这无关紧要,因为也许可能或者我会有的。

在我看来,此时此刻,这是一个很别扭的场景:当我点开一个聊天机器人里时,我的诉求大体上是寻求ai的帮助——比如信息搜索之类。和朋友聊天则有微信这个场景。现在我要努力把微信群聊这个场景往元宝这样的机器人里搬,好像有那么点重起炉灶的意思:我是不是该再建一个IM(即时聊天工具),就像当年从QQ到微信那样?

换而言之,我会不会迎来一个IM的变迁:从桌面时代的QQ到移动时代的微信再到AI时代的元宝派?腾讯的意图大约应该是这样的:你可能不需要每天和 AI 聊天,但你每天都需要和朋友聊天。 通过把 AI 塞进社交场景,建构一个叫Social AI的东西,从而提高用户在元宝的使用时长——然后,就是“入口”了嘛(很多人对入口的理解是狭隘的,我文末做个注展开一下)——当然,还可以挖一些深意,就不再展开了,也不是本文重点。

所以才会说,当下没啥需求的我,其实无关紧要。很多人在IM上的迁移,是被朋友们裹挟的。

保不齐腾讯下血本撒币十亿红包,就能撬动起来呢?——当我五六七八个长期高频联络人在元宝派上出没时,我也就有需求了嘛!

但问题来了:放着微信群这种现成的工具加个机器人就能建构Social AI,腾讯何苦绕个大弯子?

AI是需要数据来进行训练的,这在今天,已经成为大众的常识。但什么样的数据可以碰,什么样的不可以,这里涉及到隐私问题,而且,其实有讲究的——可能不是你想象的那样。

大致上,我们可以用红绿黄三个区,来做一个略显粗浅的比方,仅用于一般意义上的理解:红区,绝对禁止,毫无异议地不可训练。绿区,与之相反。所以红区绿区,有些人会用“私域公域”来形容。黄区,就是争议地带。这块比较复杂,不同企业的选择不一样,去碰的,也不是没有辩护理由,而且也可以脱敏化处理后再碰。

腾讯在大众眼里,可能是和隐私议题最近的一家互联网顶流大厂,毕竟微信在中国上至达官贵人下至普罗大众,几乎是人手一个,且高频使用——QQ都没到这个份上。各种各样的聊天,稍微有点脑子的人,都会觉得这事关本人隐私。腾讯如果在微信群聊里放个聊天机器人,是极其容易被大众和媒体舆论拷问的:你这个机器人是不是在收集我们聊天记录?

那么,元宝派为什么就可以在用户聊天时在一旁看着乃至插话?让它输出它还输出的恰到好处,好像很了解你们在聊些什么的样子。

因为微信聊天数据在红区;而元宝派,在绿区,或者黄区——其实,是有点复杂和迷糊的。

当你使用元宝派这项服务创建一个“派”时,实际上,是你和派里的群友签署了一份新的服务调用协议(请注意,我这里使用了“调用”,这个词比较关键,我后面再展开)。机器人为了实现类似总结群聊、气氛调节、提供背景信息等,AI就需要实时读取和分析群内的每一条信息。这就是这项调用协议里的数据权限。

“派”中的每个用户的每句话,都是AI的上下文,这是一个为了换取AI辅助增强体验而主动让渡隐私的产品。

我前面用了一个“碰”字来概括对数据的操作,其实很笼统。事实上,这个碰字,可能包括且不限于这四个操作:读取、分析、存储、训练。

元宝派这项服务,涉及到了两件事:服务的必要性,和数据的训练权。大致上,你可以把读取分析归为前者,存储训练归为后者。

在服务的必要性上,由于你主动在元宝这个产品里建立了“派”,主动索要ai的增强体验服务,所以,读取分析聊天记录,相当有正当性。

有没有用这些数据“训练”大模型的正当性呢?

我们需要回到25年2月底到3月初的一次元宝面临的舆论危机。这起危机由元宝当时的用户协议5.4款引发,中间经历了大约为期一周的媒体舆论的拷问,腾讯期间做了一次让步但并没有度过危机。最终的结果是,腾讯道歉,协议修改,比如用户输入的内容,知识产权归用户。

更重要的地方在于,规定了训练边界。本来的协议逻辑是默认同意,修改后新增了“体验优化计划”开关(这是一个物理开关,在设置-数据管理中),且默认为关闭。

这起危机不算特别大(和当年的3Q大战以及后来的央媒游戏拷问完全不能比),但在我看来,其实很重要。腾讯作为顶流大厂的态度,是有行业锚的作用的。默认关闭有行业标准之势。

(最新的元宝用户服务协议有如下陈述:)

根据现行元宝服务协议,逻辑上,元宝派可以被拆解成两层:

其一为推理层,也就是它能听见你的声音,大体上属于绿区性质(但有例外,且迷糊,后述)。

当你创建或加入一个有 AI在场的元宝派,你在群里at元宝,让它“总结一下刚才大家说了什么”时,你就必须把聊天记录“喂”给它。此时,数据必须流经腾讯的服务器进行实时处理。

这是服务的前置条件。如果你不让它收集聊天记录,它就成了聋子,无法完成你要求的任务。推理层完全没有任何问题。

所以,这里可以视为一种调用服务。

调用这个词很重要。比如在微信生态里,你和他人的聊天,是在生成内容,这不是调用服务。所以属于红区。但你使用微信搜一搜功能,这是在调用服务,所以搜索记录是绿区。

是的,google其实也是这么干的:gmail属于红区,用户的gmail内容不可用于大模型训练(倒是可以用于反垃圾训练),但用户的搜索记录,可以用于大模型训练。gemini很大一块训练素材,来自于全球海量用户的搜索行为。

其二为训练层。也就是根据你的声音来练。这需要额外授权。默认状态下,为红区。

所以,元宝派呈现出一个叠加态的味道:为了更好地服务,它得听你们在说些什么。但是,它承诺,不把听来的东西写到它的学习课本里。

是,是承诺,不是物理层面上的隔绝。

现在一个迷糊的黄区的地方在于:

张三是一个充分信赖腾讯的人,他去特地打开了那个默认关闭的开关,以寻求更好的体验,或者帮助腾讯成长。李四则没有。

那么,他们的派,该怎么处理?

依据短板原理(有人关闭就禁止)还是木桶原理(有人打开就允许)?

我就此问题提问元宝:“你推出了元宝派服务 如果张三特地去打开了体验优化开关 即允许元宝派使用派聊天数据进行模型优化 而李四默认还是关闭。这个派的数据怎么处理”

元宝的回答很长,大意就是:我们尊重用户的选择,张三这么选我们就这么处理张三的聊天,李四那么选我们就处理李四的聊天。并贴心制表:

—— 首发 扯氮集 ——

注:所谓入口,很多人第一反应就是流量分发中心、大节点。这个理解不算错,但有点狭隘。在今天中国互联网人口已经滞涨、周时长无法大幅提升的情况下,入口还代表了以下这个特点:中国互联网用户总时长在我这里每增加一个小时,就意味着友商将失去一个小时。而在我看来,后者在当下的竞争态势下,更重要。

再多啰嗦一句,区分“推理”和“训练”在法律合规上有效,但在绝对安全工程上无效。真正的隐私安全必须基于端侧模型,数据不出本地。

AI“入侵”课堂,我如何与学生周旋——一个大学老师的心路

国内ai领域的竞争,现在已经到了在用户端激烈厮杀的阶段——也就是各厂开始拼大面积规模化的应用阶段。

教育,显然就属于这个领域。中国家长们,下一代教育问题,始终是可以排入前三的重大议程。所以,阿里千问发了点力,比如你现在就可以用这个产品获得基础教育各科目的真题了——我那位生于非典考于新冠的儿子读中学的时候,确实想要真题,不是点两下就能唾手可得的。

21日,我参加了一场阿里千问组织的主题围绕在学生能不能用ai的讨论会,聆听学习了到场嘉宾们的看法——有些还属于姿态客气委婉但观点实则完全针锋相对的发言。毕竟,ai潮才来几年光景,有时候我甚至都会感慨,幸好我的儿子已经在读研究生了,我可以经常啰嗦让他去用ai。如果他是一个小学生,其实我也挺迷糊的。

作为一个今年从教二十年稍许有点资历的大学人文社科教师,自身的经历,也让我对这个话题颇感兴趣,且有一些事关成年人大学生的教育体验。与读者诸君分享——仅限人文社科,理工医科之类没有发言权。

我任教的上海交通大学,25年3月就向全体教职员工和学生下发过一个名为《上海交通大学关于在教育教学中使用AI的规范(试行版)》的文件,这在我看来,属于学校对于ai和教育的核心规范性文件。

立场并非一边倒,即既非禁止也非完全放开,而是区分了不同场景,进行四级管理:禁止使用、有限使用、鼓励使用和开放使用。比如用ai生成课程作业属于禁止;ai辅助批改客观题、生成课件初稿,则归为有限使用,需要审核备案,且向学生说明;鼓励使用的场景有类似ai模拟实验、个性化学习路径推荐;开放使用则有公开资料整理、创意教学工具开发等。

就我个人所知,与上海西南技校类似,上海东北角的东北职校,也有类似的并非立场一边倒的规范性文件。

25年的毕业论文答辩环节,更是严格要求检查“ai使用率”这一指标,作为参与过论文指导、答辩环节的我,是深刻感受到学校对论文环节使用ai的重视的——虽然我个人依然保有我个人的看法。

总体来说,高校应该是充分意识到,ai进入教育领域,一是无可阻挡的趋势,二是至少在具体操作上,对教学两头都有一定的益处。实话实说,这和多年前对上网这个事的负面看法,已经大有进步了。

以下,我用一个极其微观的例子,来说明作为一名大学教师,我对ai的具体操作层面上的看法。

我有一门开了十多年的课,面向交大媒体与传播学院三年级本科生。之所以是三年级学生,因为这门课与实务关联极强,且需要前面有一门前置课程。

这门课的名字叫《互联网与新媒体发展案例研究》,整个课程,除第一次课进行案例研究方法介绍、整个课程的规划、考核考评要求,余下十五周,就是十五个案例研讨。

我当然要选取最能代表中国这三十年互联网发展史的案例——是的,我其实不止聚焦于互联网作为一种新媒体。我基本形成了一个30个不到的案例库,每学年可能会有些替换。

ai能帮我做些什么?

第一件事,就是选取案例。坦率讲,99年年末就投身互联网大潮的我,一直很自负于选取案例的目光——既要有一定的知名度,又要有代表性,有一定的长期的深远的影响,还要有可研究性,也就是资料比较容易收集。

曾经有同行旁听过我一次课,课后想问我要全部案例名单。我当然不失礼貌地但也很坚定地婉言谢绝。为什么是这些案例,已经是我konw how的一部分了。

第二件事,一个案例应该研究哪些问题。比如说,互联网史上相当有名的对撕战3Q大战,如果仅仅研究各自的公关得失,就把这个案例做小了。我们还要研究腾讯因为3Q大战之后的变化,以及因为它的变化所导致的行业变化。列研究问题list,也是我作为教师的工作,同样是我know how的一部分。

这两件事,就是我以前文章提到过的,让ai帮忙去做议程设置中的两个点:what to think,how to think。

我尝试让千问做一下两件事:选取案例,制定案例研究纲要。

我得承认,我受到了蛮大的冲击。我问千问要20个能代表中国三十年互联网发展的案例,有部分案例和我重叠(甚至包括古老的瀛海威,新浪上市与vie结构),有部分案例我觉得没到可以代表的高度(比如余额宝),还有些,则真是提醒了我:你为什么十几年来都忽略了它呢?比如ofo破产与共享经济的式微。

案例研究纲要,我虽然并不认同可以完全全盘接受,但确实有很强的辅助性作用了。

我和朋友开玩笑说,以后学生干嘛还要上个课,直接打开千问自学得了,最后甚至都可以让ai直出作业交差。

当然,这是玩笑话,因为我这门课没那么简单。而我认为最精华的部分,至少小几年内,ai替代不了我。

在第一周,我不仅要花一节课的时间讲述整门课的一些总体事务,还要在第二节课,布置下一周案例研究的题目和研究纲要,以及指定参与的同学(通常2-3人,视课程学生规模)。

第二周,这一组同学将进行汇报,也就是所谓presentation,然后接受我的盘问——我也鼓励其他同学提问。根据互动结果去修正他们的研究报告。然后余下的时间,布置再下一周,周而复始。

在第一周和第二周中,我接受作业同学和我约时间开个小会,汇报他们的想法,或者在收集资料研究资料的时候的困惑,以便于更好的完成presentation。这一部分是可选项,学生不开这个小会,我也没意见。

而我评分的标准,最大比例的一块,就是当场的pre。

换而言之,就算学生利用ai直出他们的ppt和paper,当场pre的互动,那还得把ai直出的东西给好好读一读背一背。

在千问这场学生该不该用ai这场讨论会上,就学生可能会有的偷懒用ai直出话题,复旦大学社会学副教授沈奕斐的有段话,其实我是很赞同的:小时候有不少学生也会抄学霸的作业,如果去抄,至少说明ta还在想法子完成这项作业。话虽然听着有点别扭,但理真是那个理。我小时候不是学霸,属于那种间或会抄学霸作业的学渣,好像对我成年后,也没啥太坏的影响。

更何况,我还有拷问环节,你直出后反复看反复背,虽说不算特别优秀地应对了,但其实合格线——讲个实话,是到了的。

这就是我为什么对毕业论文去查ai含量不大以为然的原因,因为所有的毕业论文,都有答辩环节。交大甚至有三场答辩:开题答辩、中期答辩、最终答辩。这都是拷问环节,完全不想出力就想靠一篇几万字的ai直出paper,是糊弄不过去的。

对于高等教育,我一贯的认知就是:最重要的是师生互动。

作为一个男老师,本学院又女生居多,我确实不大会主动去找学生互动,但我对学生找上门来,自问是尽心尽力的。而且学院是媒体学院,自然讲课以媒体为主,但你要来问问我关于电商,关于互联网金融之类的话题,我也不会拒绝。我自命还是有点实务认知的。

在学生pre中,我是能感觉出,哪些学生,至少在这个案例上,是亲自动了脑子而不是仅仅收集材料照本宣科一遍的。这点本事没有,做什么老师。我甚至可以从学生的思考方式和行文方式上,对其人基本素养,有一些主观判断。我自己对年轻但已成年的学生有一把内心的尺子,称之为三有:有常识有逻辑有温度。

在我提出我的拷问之前,我会看看现场其他同学有无问题。有时候有些问题提的极其到位,我心中会落下四个字:孺子可教。

当我有一些主观判断后,确实,我的拷问环节会有所不同。我认定的素养较好的学生,拷问会更严厉一些,要求会更高一些。毕竟,我也是因材施教的高度认同者。

但我第一节课就说过,如果你发现教师有些问题很刁钻以至于根本回答不出来的时候,不用太担心你的成绩。你直说这个问题我没想到,现在无法回答,没事的。

倒是临场发挥张口胡来,那可是要失分的。

略微长期一点的本号读者,都应该知道,我对所谓的ai幻觉不是很当回事。

过去的搜索引擎,也会反馈出一些不怎么靠谱的链接。人类在信息生产上,所谓的幻觉,多了去。仔细辨别材料,在自己很重视很当回事的议题上不要轻信任何所得的材料,是一个人应有的素养:大胆假设小心求证嘛!

更重要的一点是,今天的ai,是能结合上下文的。你应该懂得,反复向ai追问。换而言之,正如会场嘉宾沈奕斐老师讲的,你要学会提问。以及另外一个嘉宾王昱珩甚至以后的考试也可能不再是学生回答问题,而是反过来,看看谁能够给出一个更好的提问。

这就是为什么我以前写过一篇文章,毕业的学子去做记者也没什么不好。因为记者的核心技能就两个字:提问。

我特别欣赏喜欢向我提问的学生——当然不是那种套近乎的提问,问题质量如何我还是能评判的。我从来不会厌倦你这个学生咋是个问题宝宝。有时候有些学生因为向我提问提多了,非常熟了,我都会直接告诉ta,这么没皮没脸地逮着就问,非常好。

当一个老师,在自己的专业领域,看到自己的学生,能提出到位的问题后,应该老怀大畅了。

不是能出什么答案(我知道了什么),而是能出什么问题(我想知道什么),这才是高等教育作为技能素养培养维度上最重要的结果。

今天的ai,当然能帮助这一点,毕竟如千问这种产品,也会在反馈结果处,附上几个相关问题。但依然无法完全取代真正有经验的老师。

这就意味着,在成年人大学生高等教育上,其实可以对ai的使用再乐观一点,再拥抱一些。

反正在我接下来的案例教学中,我将更深入地使用ai,同时也会更鼓励学生去用ai。

工具从来在升级换代,不要忘记早年认定每天上网六小时连续上网三个月即网瘾的荒唐标准,重要的,还是教师作为一个人,要深深卷入互动之中。

—— 首发 扯氮集 ——