百度在开源当天下午开了一个紧急技术会。会议的核心议题是——文心要不要跟进开源。讨论了两个小时,最终没有结论。李彦宏在会议最后说了一句:“先看清楚深空的意图再说。”
阿里那边,达摩院的一位副院长在内部邮件里写了一段话:“dpx开源蒸馏版,表面上是让利,实际上是占坑。他们用开源换生态,用生态换标准。如果我们跟着开源,等于承认他们的路线是主流。如果我们不开源,我们的模型又打不过他们。这是个两难。”
腾讯的反应相对平静。腾讯在AI上的布局一直偏应用层,大模型不是他们的主攻方向。一位腾讯AI Lab的负责人在内部会上说了一句实在话:“这个东西对我们的冲击没有百度和阿里那么大。我们本来就不是做底层模型的,dpx开源对我们来说反而多了一个可用的工具。”
字节跳动的反应最微妙。张一鸣在开源当天给李东阳发了一条消息,只有两句话:“开源这步棋走得漂亮。抖音那边的内容审核系统可以用蒸馏版做本地部署,成本能降一大截。”
李东阳回了三个字:“你安排。”
外网的反应比国内更激烈。
Github上,dpx开源仓库在当天冲上了trending榜第一位。
hacker News上相关讨论的帖子在几个小时内冲到了首页第一。Reddit的r/machineLearning板块上,有人发了一个帖子,标题是《dpx just open-sourced their distilled models. this changes everything》。
帖子内容不长:“我下载了d1版本,在一台单卡V100上跑了测试。代码生成准确率在humanEval上大概在45%左右,比Gpt-3的48.1%略低,但考虑到这是蒸馏版而不是完整版,这个差距几乎可以忽略。关键是——这个模型可以在本地跑,不需要联网,不需要ApI。对很多团队来说,这比什么都重要。”
这条帖子下面的评论区在半天之内突破了两千条。有人感谢深空“做了正确的事”,有人分析“中国AI的开源策略”,也有人质疑“是不是在钓开源社区的鱼”。
微软的反应最快。开源发布后不到六个小时,微软研究院的一位负责人在twitter上发了一条简短的推文:“dpx开源蒸馏版已经下载测试。性能确实不错。更值得注意的是他们的开源许可证选得很聪明——Apache 2.0,商用友好。这意味着很多企业可以直接拿去用。”
英伟达的反应更直接。
当天下午,英伟达的开发者关系团队在官方博客上发了一篇技术分析文章,详细拆解了dpx蒸馏版的模型结构和推理效率。文章的核心结论是:“dpx蒸馏版在GpU上的推理效率比同等规模的transformer模型高出约百分之二十五。这种优化如果在完整版上同样存在,那么NVIdIA的软件栈需要认真考虑如何适配这种新的计算模式。”
谷歌deepmind的一位研究员在twitter上发了一条:“dpx开源了蒸馏版。我的判断是——他们在用开源换标准。如果开发者社区开始基于dpx的架构做二次开发,那么未来的模型设计会越来越向他们的方向靠拢。这对整个行业来说是好事,但对那些想自己做底层架构的公司来说,是压力。”
openAI那边一直沉默。直到开源发布后第三天,Greg brockman才在twitter上发了一条很短的推文:“我们注意到了dpx的开源动作。openAI相信开放研究对行业有益。我们会在合适的时候分享我们的进展。”
这句话被很多人解读为“他们急了”。
8月底,dpx1.5的日活稳定在一百八十万左右。
开源蒸馏版的下载量突破了五十万次,Github star数超过了十万。
鸿蒙智能科技的官网每天新增注册用户超过十万,企业级ApI的调用量在一个月内翻了六倍。徐若辰在8月底给李东阳发了一份总结报告,报告最后写了一段话:“全量开放加开源蒸馏版的效果超出预期。用户规模、品牌认知、开发者生态三个维度的增长都比我们之前做的任何一次决策都要显着。唯一的压力是服务器成本和运维人力,但仍在可控范围内。”
李东阳看完报告,在末尾批了一行字:“dpx2.0版本要加速迭代,他们已经看到我们的背影了,我们要做的就是让他们永远跟着我们的足迹。目标,在年底之前完成内测,明年一季度上线。”
他把报告合上,靠在椅背上闭了一会儿眼。
窗外八月底的东海,天还热着,他起身走到茶水间,从冰箱里拿了一瓶冰可乐,拧开盖子灌了两口,气泡从喉咙一路炸到胃里,整个人都清爽了不少。
手机在桌面上震了一下。他拿起来看,是松本发来的微信。
松本是七月中旬离开大陆去日本的。
临走那天,她在李东阳办公室里待了一整个下午,说是交接,其实东西早就在之前几周陆陆续续交完了。
那天下午她坐在沙发上,把石映亚洲的筹备方案翻来覆去地讲,讲到后来自己都觉得在重复,就把本子合上,说“算了不讲了,反正你比我还熟”。
然后她站起来,走到李东阳办公桌旁边的空地上,掏出手机放了一首歌。
李东阳当时不知道她要干什么,坐在椅子上看着她。
她放的是《九九女儿红》。
前奏响起来的时候,李东阳愣了一下。
这首歌他熟,前世就熟,但他没想到松本会选这首。
他看着她,她站在办公室中间,就着那首歌的调子,一个人跳了一小段。动作不大,幅度很轻,像是在跟什么东西告别。跳到副歌的时候她停下来,把手放在自己的小腹上,摸了两下,然后抬头看着李东阳,笑了一下。
“我有预感,”她说,“那是一个十八年的梦。”
李东阳当时没接话。
他坐在椅子上看着她,脑子里转了好几圈,最后只是点了点头。松本走的时候没有回头,高跟鞋在走廊里敲出一串渐远的声响,然后电梯门关上,声音就断了。
现在他看着手机上松本发来的消息,脑子里又响起那首歌的调子。
如果真有个女儿,叫松本晴子也挺好。