杨立昆离职META 吃瓜有感

图灵奖得主,被视为深度学习三巨头之一的LeCun(杨立昆)被爆将从META(其实我更喜欢叫facebook ,fb)离职。

这个消息很劲爆,直接导致fb股价重挫:市值在盘前交易中蒸发了1.5%,逾200亿美金。

中文世界反应也很快,我一大早起来,已经阅读到好几篇相关报道。

但有句讲句,这些文章的调性和立场,我个人是不大以为然的。

杨立昆在深度学习中地位显赫,这一点都不假。

他还有一个著名的标签:LLM唱衰者。他对大语言模型的大大的不以为然是重要的人设标签。主张的路线是世界模型。

我不是AI行业的专家,我以我浅薄的理解来表述一下我对这两条路线分歧的简单认知。如有不靠谱处,请留言指正。

大语言模型的核心是预测概率,而世界模型的核心是因果推理。前者依靠大量的文本分析(所以叫大语言)进行统计相关性学习,后者则依靠学习物理规律和因果关系。

举个例子。

当你和一个大语言模型说:我把鸡蛋扔到地上,会怎么样。它会从大量的文本数据中发现,鸡蛋会碎。因为全世界的文本都大概率会得出这个结果。这是文本统计的结果,不是它知道重力之类的物理学规律。

但当你和一个世界模型提出同样的问题,它也会得出鸡蛋会碎、会飞溅的结论。但它是通过模拟鸡蛋的轨迹速度、模拟鸡蛋撞击时蛋壳的应力变化、模拟流体力学的效果出蛋液飞溅等一系列的物理规律和因果关系来得出。

看上去,世界模型确实更高级一点,更ai一点。

LeCun在今年9月时还公开表示:“我们永远无法仅通过文本训练达到人类水平的AI,尽管某些硅谷CEO说得天花乱坠,但那根本不会发生。”

但问题来了,为什么当下的ai圈主流是大语言模型,而不是世界模型?

其实道理很简单:世界模型的理想很美好,现实却很骨感。

比如说,世界模型是怎么进行物理规律、因果关系的学习的?答案是海量的高质量视频。是高质量,不是随随便便的视频。这里的高质量并非指传统意义上的高清画质,而是具备丰富物理规律信息、多维度标注、时空一致性的结构化视频数据。这样的数据,并不是说很少,但相较于大语言模型所依赖的文本学习的数据量,那可就少太多了。

再比如说,计算资源需求巨大。计算复杂度远超大语言模型。训练一个世界模型可能需要比训练GPT-4多几个数量级的计算资源。

所以LeCun自己也承认,这个事很长期,还要十年——说这话的时候,是2022年。

于是,接下来一个问题就显得很顺理成章:META,或者说,扎克伯格是不是有所谓的足够的长期主义来慢慢熬出世界模型?

一些立论,无论是媒体的,还是社交网络上网友的态度,都认为小扎没有长期主义精神。

事情,怕真不是这样的。

邓公有名言:科技是第一生产力。

这话当然是对的,但这话太含混,于是很多人其实是被误导的。学术点讲,科技是自变量,生产力是因变量,但中间还有个中间变量。这个中间变量很重要:科学技术是要进行转化的,没有转化,就是纸面上的专利之类的东西。

怎么转化?

研发,research and development。太多企业都有研发部,有研发预算。很多高科技赛道的企业,还要比拼研发投入。投入少的愧对高科技企业的招牌。

但不知道各位有木有注意到,企业配置科研部的,就相对少很多。科研部门、科研单位,更多的常见于高校这种非盈利机构。

因为研发和科研,虽然都有个研字,但其实是相当不同的。

研发的要义,是整合一切可以整合到的最好的资源,产生一种可以满足某种需求的解决方案(比如产品),并换取收入/利润——所谓的development,首先就是企业自身的发展。所以,研发有个很重要的前提:得有需求,不能伪需求。高级点的,也会说我们会创造需求。

研发有很明显的木桶效应,也就是这个解决方案,可能会受限于最短的那块木板。研发是真实世界里发生的事,必须考虑到实际情况。

但科研完全不同。科研是不用太讲需求的,它的要义是在已知世界中找到一个突破口,向前迈出一步即可,也就是扩大已知世界。科研不一定需要在真实世界中完成,不一定需要考虑实际情况。理论上如何如何,科研也是可以接受的。更重要的事是:科研,不用考虑换取收入/利润。

科研比较强调长板效应,我有一个点向前突破了,别人从来没做到过,我就是winner。至于配套条件不成熟,那不关我事。

一个企业如果要搞科研,它得有个前提:处在一个超级垄断的地位,躺着赚钱。LeCun服务过的贝尔实验室,一度就是这个地位。古早的贝尔实验室,搞了很多乱七八糟的发明,实在是彼时的贝尔实验室太有钱了,多到不知道该怎么花了。

但超级垄断者,也是有很多批评的。贝尔实验室后来就被拆解了。LeCun加入贝尔的时间点(88-96)是在贝尔实验室第一次拆解后(84)和第二次拆解前(96)。贝尔实验室第二次拆解是最彻底的拆解,即朗讯诞生,无论如何是供养不起LeCun这样的顶级科研人才了。

在互联网公司最鼎盛时期,无论是美国,还是中国,都有招揽顶级科学家——通常是高校教授——进入团队的行为。我当时一般视为一种公关动作,提升品牌形象和摆出求贤若渴的姿态。实际上,科研人才进入企业去帮助企业发展,是需要转变身份的。越顶级的科研人才转变越难:我是为人类向前突破一步而生,怎么能是蝇营狗苟天天算钱的人呢?

当这些企业从最鼎盛时滑落后,要降本增效后,结果会如何,显而易见。

因为科研和研发,完全是两码事。

LeCun于2013年12月加入Meta(当时还叫Facebook),并担任基础人工智能研究实验室(FAIR)的创始主任。这个时间点,是FB风光无限的时刻。

老实讲,我觉得小扎已经孵化了十余年,不能算没有耐心。当然,更为重要的事是,作为顶流科技企业,亦步亦趋别人的路径(也就是大语言模型),总有些面子上下不来。

前途可能更属于世界模型,但当下很显然大语言模型还是更为成熟的。一个纯科研机构的FAIR最高峰达到400人之巨的规模,小扎还是属于愿意撒银子的。

25年,fb对AI部门进行重组,成立了超级智能实验室(MSL)——看看,基础、研究这种字样都没了——FAIR被并入其中,且遭遇了重大裁员。

小扎这个行为不能说高明,但确实也无可厚非,只是手法上确实有失体面。即便未来可能会证明小扎是错的,但我想,大多数商业领袖,都会做出同样的可能会略微体面一点的选择。

韩信背水一战置之死地而后生是被后人无数次赞叹的军事案例,但这类案例,恐怕更多也是幸存者偏差。置之死地而后死的案例怕是百倍千倍的存在。

据说,LeCun打算去创业。

我一个八世同堂群的群友骆轶航说,我不觉得 Lecun 能创好业,他最适合的就是科学家。

我深以为然。让科研的归科研,研发的就去归研发。

顺便说一句,深度学习三巨头中,辛顿开过公司,几个月后就被谷歌收购由此加入谷歌,这很难说是完整的一段创业。另外一位本吉奥参与创业过Element AI,有联创头衔,但主要承担的是技术顾问和学术资源整合的角色。

—— 首发 扯氮集 ——

偏执的雷军

《只有偏执狂才能生存》

这是我在看雷军在9.25晚7点直播时,脑海里不断冒出来的书名。

一个小时的演讲,大概可以分为三段:造芯片时的偏执、造车时的偏执、他的偏执唤醒了三十年老友陈年的偏执。

无论是芯片,还是造车,这方面的技术问题我几乎一无所知,因此确实也没这个能力去评价这两项小米核心业务的技术细节。我只是想聊一聊雷军到底是一个什么样的企业家。

先摆结论:在做企业这个维度上,雷军是一个偏执狂。

而这,是一种企业家精神。

《只有偏执狂才能生存》,作者安迪格鲁夫,英特尔的创始人之一。业内有一个著名的安迪比尔定律,安迪指的就是他(比尔指的是微软的比尔盖茨)。

这本书的英文原名是《Only the Paranoid Survive》。而paranoid这个词,翻译过来其实是“受迫害妄想症”,也可以翻译为偏执狂症。按照这本书内容的意思,大致就是在说,一个企业家要时时刻刻觉得自己会被颠覆——也就是所谓受迫害。所以,要密切留意各种新技术新可能。一个看上去的庞然大物,被貌似是路边的一个小发明给颠覆掉,也没什么不可能的。

但如果只是这点“居安思危”的常识,这本写于1996年的书,不大可能被奉为经管书籍中的经典。格鲁夫提出了企业家要密切留意的企业六个维度上的“十倍速变化”(10× Change),这一方法论也被我曾服务过的天奇创投基金定为指导思想之一。

格鲁夫在《只有偏执狂才能生存》回顾了当初英特尔看似平稳实则危机已现,全力转型的历史,小米其实在经营上同样有过一段“貌似平稳”但其实已显颓势的阶段。

雷军在演讲中提到,2021年决定再做芯片且重注,起点在于2020年的一场十周年反思。

2020年发生了什么呢?从业务上看,小米自从上市后,发展得并不高歌猛进,虽然自2010年创建,18年上市市值3800亿,从零到近4000亿,不过八年的时间,已经可以算高歌猛进了。

资本市场是清醒的。小米上市后,股价最低探到过8.28港币(19年9月),上市时发行价17港币,雷军曾表示过我至少不会让购买小米股票的人亏钱,看来成了一句“大话”。资本市场对小米的定位相当简单:拒绝承认它是互联网公司而是市盈率本身就相对不高的硬件制造公司,甚至是中低端制造公司——毕竟小米一贯走性价比道路,以至于外界认为小米属于得屌丝者得天下的代表。

业务上小米其实也已经显示出了疲态。根据IDC数据,2018年至2020年,小米国内出货量连续下滑,2019年同比减少21%,2020年份额进一步降至个位数。高端市场表现也不尽如人意:2020年6月中国5G手机销量前十榜单中,小米无一机型上榜。

至于国际市场,小米海外销量主力的印度市场,20年出货暴跌近五成,来自OV两家的竞争压力巨大。

就是这么个还算正常但疲态已现的背景下,小米展开了十周年反思。大约从年初启动,持续约半年。其中有15次会议为通宵。

当年8月11日,雷军在北京小米科技园进行了长达三小时的演讲,公布了反思的核心结论:向“硬核科技公司”转型。

对于小米表示想要想高端、硬核转变,资本市场给予了好评。当年7月,股价重回发行价,雷军总算是兑现了承诺。到了12月,市值首次进入千亿美元俱乐部。

在此基础上,21年的雷军,决心再次杀入芯片市场,并与之前的定位中低端的澎湃芯片所不同的是,雷军决定要么不玩,要玩就玩把大的:定位高端芯片。

老实讲,搞硬核没问题,但这么搞是有些偏执的。因为这种投入是一个天文数字,考虑到后来oppo在芯片自研上的撤退,甚至有点逆势而动的味道。更重要的是,这是一种长期投入,刚刚缓过来的股价,怕是又要出麻烦。

雷军在25日演讲中对小米当时内部争议的描述时:吵完可以拉黑24小时。可见争吵之激烈。最后他用一种“现在不干若干年后会不会后悔”这样的修辞手法,算是一锤定音。

雷军重注高端芯片能何时带来真正意义上的回报,是短期无法确定的事。在这个烧钱的操作被实施后,雷军又启动了一项更为烧钱的操作:造车。

作为一个投资者,确实犹豫了。这就是小米股价21-23年整整三年的纠结。

因为这已经不是偏执了,而是进入到“偏执狂”的境界了。

坦率讲,雷军不是一个特别敏感的人,或者也有可能不是一个特别冲动的人。因为无论是手机还是电动车,他入局的时间点都有一丢丢滞后。十倍速可能是真没吃到,但他肯定是一个特别坚持的人,十倍速吃不到,坚持下去,七八倍也不错了。

坚持这两个字,到底好不好,其实只能用结果倒推:好结果就是不到长城非好汉,坏结果就是不见棺材不落泪。但坚持的前提一定是偏执,执拗,不管不顾,不被劝服反倒有本事去劝服别人。

这样好吗?

不好讲。多少人在批评某些企业家“信息茧房”啦、“刚愎自用”啦、“不尊重专业”啦,我实话实说:都是结果倒推。看似在分析为什么没做好的原因,其实全是倒果为因。

反正,雷军这种本来的外行,跨行去造了车,结果市场给了这样一份相当喜人的答卷,无论是业务市场,还是资本市场。

你只能把这种偏执狂,归入“不到长城非好汉”了。

而正如格鲁夫那个书的书名,他从未说过只有偏执狂才能成功——并非成功归因,而是说,只有偏执狂才能生存。

个中逻辑,充分、必要、因果、各位自己品吧。

讲到陈年那一part,作为正在看直播的我,是有些小惊讶的。因为我总以为雷军大概最后会讲到,陈年和小米发生了什么关系。

没想到,就是一个偏执的老男人很煽情地讲了另外一个被他的偏执所打动决定也偏执起来的老男人的故事。雷姓老男人一句五十岁正是闯的年龄,把正在做直播的这个陈姓老男人弄得潸然泪下。

在老男人到底是个什么物种上,我还是很有些欣赏雷军的:这哥们几乎算是一个代言人。

因为,我从来认为,这个世界,就是掌握在当时的中老年人手中的。我甚至发明出了“媚青”这种词来表示对某种潮流的大大的不以为然。

偏执的雷军,还是很扬眉吐气的。

—— 首发 扯氮集 ——