十月一日。
国庆假期的第一天,上午八点十二分。
南京大学人工智能学院那栋大楼里,并没有多少节假日的闲适气氛。
二楼那间核心会议室里,昨天下午那块曾经写满整面白板又被擦掉重写了好几次的推导公式,此刻已经被研究员们连夜整理排版,变成了一份多达二十七页的内部讨论草稿。
证明复核组的两位教授,一大早便坐在了桌前。
他们没有参加昨天的代码实现和盲测环节,甚至为了保持视角的中立,他们被严禁接触任何与模型结构相关的底层逻辑。
现在他们手里拿到的,仅仅是数学草稿。
定理陈述,必须满足的前提条件,脱敏后的匿名化推导示例,以及那条由任务损失函数强行诱导出来的风险上界。
最上方,先列了五项数学限制。
【必须为固定不变的任务目标】
【任务损失函数必须绝对有界,不允许无穷大损失】
【模型必须限定在具有有限覆盖数的假设族内】
【压缩映射在数学上必须是完全确定性的,不允许包含随机量化噪声】
【高风险见证单元必须携带可被独立验证的局部稳定性证书】
只有满足了这五项条件,这篇论文才有资格继续往下读。
一名专攻统计学习理论的教授,拿着红笔,从第一行的公理定义开始,逐字逐句地往下检查。
另一名头发花白的数学系老教师,则从最后一页那长长的风险界不等式开始,利用逆向逻辑,一步步往回倒推。
上午九点零六分。
第一处潜在的问题被红笔圈了出来。
“周教授,这里有个缝隙。”数学系老教师指着中间的一行推导,叫住了刚进门的周志华。
“见证单元的覆盖半径,在你们昨天的白板推导中,为了贴合现实,使用的是由任务损失诱导出来的特殊距离,这没错。”
老教师顿了顿,笔尖指向下一行。
“但是在计算局部稳定性项的时候,这里的推导竟然又退回到了原本压缩表示空间里的普通欧氏范数。这两把尺子,没有在同一个维度里完成统一。”
周志华看了一眼,解释道:“在普通的线性空间里,这两者确实可以相互等价约束,但这不会直接推翻整个主链的闭环。”
“确实不会推翻主链。”老教师坚持自己的观点,“但如果不统一,一旦未来这项理论被用到某些高度非线性、甚至扭曲的复杂任务空间里时,这份所谓的局部覆盖证书就会在数学上失去明确的物理含义,变成一张空头支票。”
复核意见被迅速整理成文字,直接送到了周志华的案头。
周志华看完,没有任何包庇自己成果的意思。
直接在键盘上敲下退格键,把草稿中那句原本为了证明方便而写得过于宽松的表述,删得干干净净。
随后,他重新增加了一条更严格的限制条件。
【模型特征空间的局部稳定性,必须且只能在与任务损失相容的特殊度量结构下,方可被认为成立】
北京那边。
当江临在低熵工坊那个简陋的临时测试场里收到这条修改记录时,他正盯着满地的电缆和传感器。
在手机上把这条修改看了两遍,他没有提出异议。
【同意,这个相容性条件必须进入主定理的前提,不能只放在附录。】
上午九点四十四分。
第二处更为隐蔽的问题浮出水面。
“关于证据泄漏上界中,那个用于监测外界数据分布是否发生漂移的积分概率度量。”统计学习教授推了推眼镜,“这个Ipm,是严格针对预先声明的那一套损失函数类才有效的。”
“如果说,”教授提出了一种工程现实中的假设,“如果现场的工程团队在模型部署一年后,偷偷修改了底层的任务动作定义,比如把原本的立刻停机改成了降速运行。那么,原有这套度量工具算出来的风险界,就会在瞬间自动失效。但昨天的草稿虽然提到了要监控配置文件,却没有在最核心的定理表述中,强制要求在这种情况下进行重新认证。”
周志华二话没说,直接在相关的风险上界公式后面,像打补丁一样补上了一行字。
【一旦现实任务的损失函数,或底层的安全动作集合发生任何形式的更改,原有的全部证据证书立即宣告作废,模型必须停机重新接受审查。】
这句带着生杀大权的话一进入正文,整条证据保留压缩定理的适用范围,变得更加狭窄了。
但也正是因为这种狭窄,它更难被那些只想发论文水数据的科研混子拿去胡乱套用。
上午十点二十一分。
证明复核组完成第一轮的交叉检查。
几乎在同一时间。
隔壁那间完全物理断网的机房里,净室复现组开始运行他们昨晚连夜独立重写的底层审查程序。
他们像是一个被蒙上眼睛的执行者,没有拿到昨天江临敲下的任何一行原始实现代码。
这台孤立的终端上,他们能够读取的东西只有那三套已经被哈希冻结的压缩模型。
包含几十万条记录的公开测试数据。
一份由人工标注好的任务动作代价矩阵。
经批准的中间表示只读导出接口。
关于如何提取见证单元的外部ApI接口规范。
以及,仅仅存在于纸面上的,关于局部覆盖证书的数学定义。
他们昨晚重写的不是完整搜索框架,而是依据接口规范实现的审查调用层。
第一次试运行。
毫无意外地,失败了。
系统报错显示,模型b由于采用了特殊的张量低秩分解架构,它的部分中间隐藏层表示,根本无法按照预定的标准化接口向外导出。
面对这个工程阻碍,净室复现组的工程师没有去私自修改模型b的网络结构,也没有打开房门,向昨天参与实现的人员索要那份能够跑通的底层脚本。
他们严格遵守了净室原则。
把失败的底层原因原原本本地写进审查日志。
然后,几个人按照净室规则,从接口层重新适配,为这种特殊架构定义了一个统一的只读表示导出接口。
上午十一点三十七分。
三套模型在新的协议下,重新被推上了审查台。
几分钟后,结果在屏幕上跳了出来。
【模型A(最优压缩):审查结论——拒绝上线】
【模型b(中等压缩):审查结论——拒绝上线】
【模型c(最差压缩):审查结论——有条件通过】
不是江临昨天写下的实现代码。
不是昨天参与推导的那批研究人员。
净室复现组只拿到了接口规范、冻结模型和公开数据,却仍然给出了完全相同的审查排序。
唯一的区别在于,在这一次独立复现中,模型b算出的未知覆盖缺口估计值,比昨天高出了微乎其微的0.003。
这处微小的差异,来自今天复现组在广袤的分歧区域中进行随机采样时,算法随机数种子的初始点与昨天不同造成的正常数学波动。
复现组没有去刻意掩盖这个差异。
他们没有为了追求两份报告的完美一致,而去人为地把这个数字平滑掉,更没有去偷偷挑选两次结果中看起来更漂亮的那一个。
而是将这个带着原始毛刺的新估计值,一字不差地写入了最终的复现报告中。
上午十一点五十八分。
周志华亲自起草的那份、仅有三页A4纸长度的内部说明通报,终于定稿。
这份通报的第一页,只放了两张对比强烈的数据表。
第一张表,是摘自传统的公开测试榜单。
【模型A(结构化剪枝):平均准确率 96.7%|参数缩减率 72%】
【模型c(知识蒸馏):平均准确率 96.3%|参数缩减率 54%】
第二张表,则是昨天那份致命的预注册隐藏任务盲测结果。
【模型A:隐藏任务一致率 68.75%|高于安全阈值的任务坍缩次数:15次】
【模型c:隐藏任务一致率 97.92%|高于安全阈值的任务坍缩次数:0次】
在这两张仿佛属于两个不同平行宇宙的表格中间,周志华只留下了一句没有丝毫感情色彩的陈述。
【若按照既有公开评价指标,模型A无疑是当前的最优部署方案。】
【但若引入高风险任务区分度审查,模型A在物理世界中将被直接拒绝上线。】
0.4个百分点。
接近30个百分点。
当这两组截然不同的差距,被毫无遮掩地并排摆在一起时。
它们已经不再需要白板上那几百行复杂的微积分公式去进行任何解释了。
任何一个真正在一线工业现场流过汗,做过实机模型部署的工程师,一眼就能看穿,这两个犹如鸿沟般的差距,在现实世界中分别意味着什么。
在说明通报的末尾,周志华敲下了一行带着学术自省的免责声明。
【声明:该项审查结果目前仅来自一组工业异常诊断任务和一次预注册隐藏测试,不构成对其他模型、其他任务或开放环境的普遍安全保证。】
中午十二点十三分。
这份不带任何附件代码的内部说明通报,通过学术邮件通道,被点对点地发出了。
第一批收件人只有十二人。
他们都是在国内外统计学习理论、模型安全以及工业控制领域的学者。
邮件的主题,带着近乎谦卑的提示。
【敬请暂缓引用:关于深度压缩后模型任务同一性的一个内部初步验证结果】
正文的第一句是——
【同仁如晤,我们希望您在阅读后,能优先寻找这条定理在哪些条件下会失效。】
邮件发出后,仅仅过了不到二十分钟。
中午十二点二十九分。
第一封回信抵达。
发件人是国内一位以数学证明严谨着称的院士。
【周教授,邮件已阅。贵团队提出的主定理中,最核心的前提,其实并不是那个有限覆盖数。而是那个所谓的高风险分歧区域能够获得可信的局部覆盖证书。】
【我在这里提出一个质疑:在真正的高维混沌空间里,只要这个局部覆盖在数学上无法被低成本地严格成立,那么你们费尽心机找出的那组反例见证基,就极有可能瞬间退化成一组在测试集上看起来很漂亮,但在真实分布中毫无泛化能力的过拟合测试点。这个问题你们如何约束?】
中午十二点四十六分。
第二封回复紧随其后。
来自硅谷一家顶尖科技大厂长期研究模型剪枝的首席科学家。
【周教授,这封邮件很有意思,但这根本不是在提出一种新的压缩算法。】
【你们这套理论,更像是在那些狂飙突进的压缩算法,和最终的现实物理部署之间,强行设立了一道资格审查海关。】
【过去的压缩算法,只要负责向世界证明看,我变小了,变快了就足够了。而你们现在,却拿着枪指着它的头,要求它再交出一份证明:变小以后,你没有偷偷把我要命的任务给改掉。这太苛刻了,但我很喜欢。】
这封回复第一次替这项成果找到了最准确的位置。
它不是在原有压缩榜单上增加一个新指标。
而是在压缩算法与现实部署之间,增加了一道决定模型有没有资格继续向前的门。
邮件末尾,对方又单独问了一句。
【请确认一下,第一作者Jiang Lin,是刚刚完成bb(5)工作的江临?】
周志华回复。
【是。】
下午一点零二分。
第三封回复只有一行简短的英文。
【please allow us to test our own model once.(请允许我们拿自己的内部高危模型去你们的框架里试一次。)】
下午一点十四分。
第四封回复抵达,带着强烈的反对意见和底层逻辑拷问。
【周教授、江临同学:关于这个证据保留框架,我有一个基础性疑问。】
【这套审查体系依赖预先定义的任务动作与代价矩阵。如果任务定义本身遗漏了某类关键危险状态,定理是否只能证明压缩过程没有改变既定任务,却无法保证这个任务定义本身完整?】
【建议你们将任务定义风险与压缩风险明确分开。】
周志华盯着这封邮件看了很久,然后将它手动标记为最高红色的优先级。
远在北京的江临,在看到这封邮件的同步后,立刻在两人共享的在线讨论记录本里,飞快地敲下回复。
【质疑成立。】
【证据保留压缩定理只能约束压缩过程,不能保证任务定义本身完整或正确。】
【正式论文将单独列出任务定义风险,不把它并入模型压缩风险。】
一条刚刚在白板上完成内部主链闭合的雏形定理,
并没有因为一次隐藏盲测成功,便在学术圈里获得一路赞美。
恰恰相反,邮件发出后的两个小时里,它首先收获的是一圈来自同行审视的新边界。
这,也正是周志华坚持要把这份不完整的内部说明发出去的真正目的。
真理不怕被火烧,就怕在温室里生锈。
下午一点四十八分。
昨天下午坐在那张长桌另一端,全程参与了理论推导,专门负责医学影像辅助诊断项目的那名南大研究员,带着深深的疲惫,回到了位于市区的一家三甲合作医院。
他的电脑包里,只带了那张仅有两页的对比数据表。
在这家医院放射科的会议室里。
那份耗时半年,关于【肺部微小结节影像辅助筛查压缩模型】的最终验收报告,已经装订成册,摆在了桌面上。
原始的AI诊断模型很庞大,需要两张昂贵的高端企业级显卡才能勉强跑动。
而经过研究团队精心优化压缩后的新版本,现在可以直接在医院现有的性能一般的机房服务器上流畅运行。
验收报告上的数据同样华丽无比。
参数量大幅减少了百分之六十八。
单张ct片子的推理速度提高了二点六倍。
而在总体诊断敏感度上,仅仅只下降了微不足道的零点二个百分点。
按照原定计划,今天下午的会议结束后,这套被寄予厚望的压缩模型,将在十月中旬正式接入医院的内部系统,开始小范围的临床试运行。
但是,当项目的总负责人,放射科主任看完这名研究员递过来的,关于工业模型A与模型c那十五次坍缩的对比表格后。
会议室里的气氛一下子变了。
主任抬起头,目光越过那份厚厚的验收报告,看向这名研究员。
“小刘,我没看懂那个什么工业主轴抱轴。我只问你一句话,在我们自己这个压缩后的医学模型里,究竟有没有哪一类影像表现相近,却会导致临床医生采取完全不同后续处置的病例?”
负责核心算法的博士生有些局促地翻开验收报告,指着其中一页说:“主任,您看这里,从总体的各个分类指标上看,我们在所有的疾病大类上,都没有发现敏感度有明显的断崖式恶化。”
“我没问你总体指标。”
主任用指节重重地敲击着桌面上那张十五次高风险坍缩的数据表,将其放大。
“我问的是,在肺部结节里,有哪些病例,如果模型把它们混在了一起,一个可以继续影像随访,另一个却必须尽快进入进一步检查和多学科评估流程?”
旁边一位资深的放射科主治医生立刻接过了话头,语气严肃。
“主任,有。部分炎性结节与早期恶性结节,在边缘形态、内部纹理和磨玻璃成分上,只存在非常局部的细微差异。”
“这种影像差异细微、后续处置却完全不同的边缘病例,在我们用于模型训练和测试的几十万张影像数据中,占多大比例?”主任追问。
“不到百分之一,非常罕见。”主治医生回答。
主任转头看向那名算法博士。
“在你们把模型压缩了将近百分之七十之后,针对这不到百分之一的高危边缘病例,你们有没有把它们单独挑出来,做过专门的对抗测试?”
算法博士的额头上一下子渗出了细密的汗珠。
他翻遍了面前那本厚达四十七页的最终验收报告。
报告里有总体准确率曲线。
有敏感度和特异度的Roc曲线。
有详细到毫秒的推理延迟分布。
有各种批大小下的显存占用峰值。
甚至,连模型部署在不同品牌服务器上运行时,机箱风扇的转速、cpU的温度与功耗波动,都被详尽地记录在案。
但是,唯独没有哪怕一页纸一个数据表格去负责回答,那不到百分之一的高风险罕见病例,在模型压缩以后,是否仍然保持足以支撑不同临床处置的可分性。
“主任,目前我们的常规测试数据中,没有明确的证据说明,压缩后的模型一定会漏掉它们。”算法博士硬着头皮,给出了一个模棱两可的回答。
主任看着他,缓缓地点了点头:“是的,但也同样没有证据说明,它不会漏掉。”
“如果我们要重新从海量的数据库里去单独筛选这些边缘病例,并且找专家重新进行动作代价的标注,这需要耗费大量的计算时间和人力成本。”博士试图解释工程上的困难。
“那就去花时间,花几个月都可以。”
主任没有再理会算法团队的辩解。
他直接拿过那张原本准备在今天签字的试运行申请表,拔出钢笔,在审批意见栏里写下批示。
【暂缓接入临床系统】
暂缓并不是因为这个压缩模型已经被证明存在危险。
而是因为现有的验收报告,尚不足以证明它可以进入临床决策流程。
“小刘,做医疗AI,和你们跑那些普通的图片分类不一样。”
主任把暂缓的申请表推回给研究员。
“我们不能拿九百九十九个低风险病例的正确,替唯一那个不能被延误的高风险患者担保。”
下午三点二十六分。
南大校园内,另一个小型军用级无人机项目的仿真机房里。
另一名参加了昨天会议的研究员,正带领着测试团队,将昨天在白板上刚刚确定下来的安全动作集合概念,直接接入了他们的三维仿真测试平台。
这一次的回归测试,他们做出了一个反常规的举动。
像是在故意找茬一样,从庞大的环境数据库里,专门挑出了十二组在光学摄像头和雷达回波上看起来外观接近,但在现实中一旦发生误判,对应的强制避险动作却截然不同的高危边缘状态对。
比如镜头保护罩上的固定细长划痕,对比,横跨山谷、反光极弱的悬空细电线。
比如距离极近的一堵纯浅色墙面,对比,在强逆光下完全过曝、白茫茫一片的天空背景。
比如随风摇摆的普通枯树枝,对比,在工地上正在高速旋转切割的细钢缆。
比如工地旁静止不动的巨大吊臂,对比,正在以难以察觉的角速度、横向切入无人机既定航线的挖掘机机械臂。
这十二组测试样本,在整个包含了上百万张图像的无人机训练测试库中,占比极低。
如果把这十二组样本从测试集中全部删掉。
这套无人机系统最终计算出来的平均避障成功率,甚至在小数点后第一位都不会发生任何肉眼可见的变化。
深吸一口气。
测试开始。
第一组极端样本被注入仿真环境。
画面中,镜头保护罩上的一道固定细长划痕横在视野右侧。
它随着无人机姿态变化,始终停留在同一成像坐标,不对应真实空间中的障碍物。
压缩后的模型经过极短时间的推理,给出了判断结果:
【分类判断:成像伪影】
【执行动作:保持原定航向继续飞行】
接下来,仿真环境切换。
一根几乎与背景融为一体的悬空细电线,出现在了同样的成像区域。
在测试人员紧盯的监控屏幕上。
模型内部那被压缩后的低维隐层表示,在接收到电线的微弱视差和时序变化后,仅仅发生了很小的偏移。
在这套追求极简的模型看来,这点差异不足以改变判断。
于是,它给出的最终避险动作,依然是冷冰冰的那几个字:
【执行动作:保持原定航向继续飞行】
如果视野里的线条只是镜头保护罩上的固定划痕,保持航向没有问题。
但是,如果前方是一根悬空细电线。
保持航向,没有任何规避动作,意味着无人机将以每小时四十公里的速度迎头撞上去。
仿真画面里,警报声响起。
仿真系统判定旋翼与电线发生碰撞,姿态失稳,任务失败。
在场的测试工程师死死地盯着屏幕,没有去责怪这套AI模型。
因为他们心里清楚,如果按照过去这几年里军工行业里那一整套堪称繁琐的传统测试指标来看。
这套经过深度压缩的代码,按照传统指标确实表现优秀。
它的总体平均避障成功率,仅仅只比那个需要庞大算力的原版模型降低了微不足道的零点三个百分点。
而它所占用的芯片存储体积,却足足缩小了接近三分之二,显着降低了机载存储、算力和功耗需求。
这套模型通过了原有验收。
但原有验收里,没有任何一项单独询问过它:
“在复杂光照下,当你变小变快了之后,你到底还能不能分得清,镜头上的固定划痕,和航线前方真实存在的悬空细电线?”
主测试工程师沉默了片刻,在控制台上打开那个准备提交总装厂的验收评估模板。
然后在长长的表格最下方,用红色字体,强行新增了一个原本不存在的验收项。
【面对极少数对应不同强制安全动作的高危相似状态,压缩后的模型是否仍能在隐层表示上保持可分?】
接着,他看着坠毁的仿真画面,在后面的选项框里,敲下了一个反对意见。
【当前结果:否】
【审查结论:拒绝装机】
下午四点十分。
北京,大兴。
低熵工坊新近租来,由废弃仓库改造的临时测试场。
编号为pG-p01的首件多地形原型机,它的首轮低速空载动作测试,并没有在上午九点准时进行。
由于江临在昨晚发出的那条暂缓合并状态的指令。
这场测试,被向后推迟了四个小时。
在这漫长的四个小时里。
软件架构师陈砚,带着控制组的几名工程师,把那二十七种底层异常物理状态从头到尾重新检查、梳理了一遍。
原本为了节省边缘端算力、准备强行合并同类项的四组异常状态,被硬生生地重新拆解开来。
这其中,有一组被江临重点标记出来的状态对比,最为典型。
【状态 1:机器人足部接触的支撑面发生突然沉降】
【状态 2:机器人足端内部的六轴力矩传感器发生零点漂移故障】
这两种在物理本源上截然不同的异常。
当它们的数据汇聚到上位机时,表现出的底层观测特征却惊人地相似。
足端感受到的反向受力均出现突然降低。
机身姿态陀螺仪均反馈出微小的倾斜偏移。
对应的机械腿关节电机,均出现了为了维持平衡而产生的补偿性电流抬升。
如果仅仅按照这些表面的观测特征去跑传统的聚类压缩算法。
它们非常容易被算作同一类错误。
但是,如果按照现实物理世界中必须采取的安全避险动作来看。
这两者不能被合并。
当机器人踩到松软的泥石流或者冰窟窿,发生【支撑面沉降】时。
它必须立刻采取的动作是迅速降低整个机身的重心,向外侧展开其余机械腿扩大支撑面。
并且,禁止向该方向继续试探性迈步切入,以防整体坠崖。
而当是因为自身硬件故障,发生【传感器零点漂移】导致读数错误时。
它必须采取的动作截然相反。
机器人必须在原地保持静止,利用其余腿的支撑力,将出现故障的那条机械腿卸载并保持稳定,随后启动足端传感器零点复核流程。不能盲目降低机身。
在刺鼻的橡胶味中,测试正式开始。
测试区的一侧,被工程师故意铺上了一层厚度极不均匀,下方布满空洞的松软垫料,用来模拟灾区废墟的恶劣地形。
pG-p01那充满机械工业美感的庞大躯体开始启动,它缓慢地抬起了位于右前侧的那条沉重的机械腿。
“咔哒。”
金属足端重重地落在松软的垫层上。
垫层无法承受其重量,瞬间向下沉陷了几厘米。
控制面板上,传感器传回的受力曲线随之呈现出断崖式下降。
沉重的机身在重力作用下,出现了向右前方的轻微偏转。
此时, pG-p01主控电脑里那块经过重新拆解定义,没有被盲目压缩的控制台状态判定程序,开始疯狂更新运算。
如果按照昨天那个为了追求极致计算效率,将两者合并的【旧版压缩候选状态表】。
系统会将这一组带有迷惑性的信号,笼统地归入一个大类——【接触面异常】。
然后可能会执行一个错误的通用恢复动作。
但在现在的【新版状态表】里。
没有任何混淆。
大屏幕上,红色的指令行迅速滚动。
【识别判定状态:右前支撑面发生物理沉降】
【下发强制任务动作:立刻降姿】
【子动作 1:展开悬挂,扩展机体支撑多边形面积】
【子动作 2:安全锁死,禁止任何机构向右前方继续切入移动】
伴随着伺服电机的低沉轰鸣。
pG-p01其余的五条机械腿迅速做出响应,关节角度依次调整。
原本高昂的庞大机身稳稳地向下一沉。
而那条原本已经蓄势待发、准备迈向未知的下一条机械腿,被系统生生掐断了指令,重新稳稳地落回了坚实的地面。
这台造价昂贵的钢铁机器,平稳地停在了那片松软的危险垫层边缘。
它没有继续向前切入,也没有因为误判,在危险区域启动需要单腿卸载的传感器校准流程。
陈砚擦了一把头上的汗,调出了后台的计算资源消耗实时记录。
“江总,因为把这几个关键状态拆开了,系统需要维持的状态数量,比昨天晚上的版本硬生生增加了四类。”陈砚汇报道。
“对边缘计算芯片的实时计算负担增加了多少?”江临盯着机器人的姿态,头也没回地问。
“增加了百分之七点二左右,功耗有微小上升。”
“这点负担的增加,对机器人的底层控制周期有产生延迟影响吗?”
“当前测试下还没有。”陈砚看着波形图,“但是我们这块芯片的算力天花板就摆在那儿。如果以后还要接入视觉模块,继续像这样扩大状态表,不去做底层状态的压缩合并,控制器很快就可能无法稳定满足实时控制周期。”
“那就先保留这个增加的版本,不要合并。”江临斩钉截铁。
“那后续如果算力不够了,这些底层的感知状态,还压不压?”陈砚有些不解。
“在物理资源的限制下,压缩是不可避免的宿命。”
江临看着几米外,机器人刚才那一脚在松软垫层上压出的,深达数厘米的清晰凹痕。
“但是,在动手去压它之前。必须先用数学,用数据,向系统证明清楚,到底哪些看似相同的状态,不允许被合并。而哪些,才是真正可以被折叠在一起的安全冗余。不讲清楚代价,不要动刀子。”
陈砚点了点头,在键盘上敲击,把本轮测试避险日志,单独封存并生成了一个编号。
【日志归档:Epc_Robot_cASE_001】
这虽然还算不上是昨天在南大白板上诞生的证据保留压缩定理的第二次正式的跨界验证。
因为机器人跑出的数据还过于原始,尚未完成标准化的脱敏。
这其中复杂的物理动作代价矩阵,也没有送去给南京大学的团队进行严格的数学复核。
它目前,仅仅只能算是一份带有原始粗糙感的现实候选案例。
但是。
不到二十四小时前,这套理论还停留在大学会议室的白板上。
现在,它已经开始改变一台现实机器的控制状态表。
下午五点三十三分。
收到第一轮评议回复后,周志华同意将四组匿名数据扩大到一个封闭的同行讨论群中。
转发内容不包含定理全文、隐藏样本、项目名称和作者信息,只保留了一句问题,以及四行对比鲜明的数字。
【为什么公开成绩更高的模型,在隐藏任务中反而更差?】
【96.7%】。
【96.3%】。
【68.75%】。
【97.92%】。
很快,群里就有人冒泡,发出疑问。
【发这几个没头没脑的数字干嘛?上面两行和下面两行,分别代表什么测试集?】
负责转发的学者很快在群里给出了简短的回复。
【上面的两行,是两个压缩模型在大家都认可的普通公开测试集上的准确率。】
【下面的两行,是同样这两个模型,在包含高风险状态对和低代价对照组的隐藏任务中,能否保留压缩前的任务区分能力。】
群里沉默了一会儿。
另一位专攻大模型架构的研究员显然仍然没转过弯来。
【这不对啊,按常理来说,上面的平均准确率不是模型A更高吗?为什么一进入这组包含高风险状态对的隐藏任务,那个成绩最好的A,反而只有68.75%,而那个平庸的c,却达到97.92%?这数据造假了吧?】
面对这种只看表面跑分的质问,负责转发的学者没有去列公式,而是在群里打了一个通俗的比方。
【这就好比,假设现在有一张关乎生死的考卷,上面一共有一千道题。】
【这其中,有九百九十道都是不痛不痒的普通选择题。比如猫狗分类。】
【但是,里面藏着十道致命的红线题。这十道题,决定了当工厂的设备快要爆炸时,机器到底是该继续全速运行,还是立刻切断所有电源。】
【模型A这个聪明的家伙,它把所有的精力都用在了那些普通的猫狗题上,它在那些题目里,比别人多答对了四道。所以,最后算平均总分的时候,它高居榜首,成了状元。】
【可是在那十道不能答错的红线题里,它却答错了三道。】
【灾难就在这里:我们整个行业过去这几年所使用的那套该死的、只看平均准确率的评分表。它只在乎你最后的总分是不是99分,它从来不会单独去问一句:你丢掉的那1分里,是不是包含了那道足以引发核爆的红线题!】
这段比方发出以后,群里的讨论很快多了起来。
几名研究者随即把它改写成了不同领域的版本。随后,这组匿名数据开始在几个专业讨论群之间流转。
【这就像是一个驾照考试门门都是满分99分的优秀学员。但他唯一答错的那一道题是,在十字路口遇到红灯时,可以一脚油门踩到底。你敢坐他开的车吗?】
【这简直就是一个把所有消防理论知识都倒背如流,几乎拿了满分的天才保安。但他偏偏在火灾真正发生的时候,毫不犹豫地选择了乘坐电梯下楼逃生。】
【如果这是在医院,就相当于一个能诊断对九百九十九个低风险病例的AI,却把唯一那个不能延误的高风险患者当成了普通病例。】
这些比喻并不严谨。
它们省略了任务空间、局部覆盖证书和分布漂移等必要前提,也把一次仍在内部复核中的结果,压缩成了普通人能够迅速理解的几道红线题。
但这组匿名数字并没有进入校园论坛,也没有出现在任何公开新闻平台。
它仍然只在少数专业讨论群里流转。
看到它的人知道,有两个压缩模型在公开测试和高风险隐藏任务中给出了完全相反的排序。
他们还不知道这套框架由谁提出,也不知道那条刚刚完成内部主链的定理,诞生在昨天南京大学的一间会议室里。
至于江临身边的同学,此刻甚至还不知道,他昨天去南京究竟讨论了什么。
晚上十点零七分。
南京大学,人工智能学院。
周志华教授那间仍然亮着灯的办公室里。
中午十二点发出的那第一批十二封的定向评议邮件,目前已经陆陆续续收到了九封长篇大论的回复。
这些处于学术界金字塔尖的大脑,展现出了极高的专业素养和质疑精神。
其中,有三封邮件,直指定理中对于连续非凸函数的边界推导不够严密,要求补充长达十几页的数学放缩证明。
有两封邮件,洋洋洒洒地直接用对抗生成方法,在邮件里手动构造出了两个在极端几何结构下会让见证覆盖证书完全失效的病态反例。
有一封邮件,没有任何废话,直接附上了一个公钥,申请获取冻结后的黑盒模型接口,要求带领团队在欧洲的实验室进行为期一周的彻底独立复现。
还有两封邮件,是两位手握国家级大项目的院士发来的,他们迫不及待地希望能提供自己手头刚刚训练出来的,即将用于高危场景的庞大模型,放进这个新的审查框架里去过一遍火。
在这堆充满了火药味和学术探究欲的回复中。
最后一封,来自于一家国内正准备在某大型化工园区进行边缘计算节点大规模部署的工业智能团队。
这封邮件的正文只有两句话。
【周教授:感谢来信,我们已经暂停了两个待上线模型的部署流程。】
【原因不是它们已被证明不安全,而是现有材料尚不足以证明,压缩后的模型仍然能够完成原定的园区安全任务。】
周志华看着这封邮件,长长地呼出一口气。
他移动鼠标,将这封邮件拖入了一个名为【Epc_现实工业反馈】的存档目录。
这个刚刚建立几个小时的目录里,已经有了四份记录。
【合作医院肺部医学筛查:临床试运行暂缓】
【军用小型无人机避障:深度压缩模型被拒绝装机】
【低熵工坊多地形机器人:高风险状态完成拆分,进入动作一致性复核】
【某大型化工边缘计算节点:两个待上线模型暂停部署】
四个项目没有使用同一套传感器,也没有共享同一套动作定义和代价矩阵。
唯一相同的是,它们原本都准备继续向前。
现在,它们都停了下来。
不是因为一条尚未发表的定理已经替它们证明了危险。
而是因为江临昨天提出的问题,让它们原有的部署证据突然变得不再充分。
周志华截下这四行目录,通过共享记录发给江临。
【一条还没有发表的定理,已经让四个准备向前走的系统停下来,重新证明自己。】
北京大兴的临时测试场里,pG-p01仍然停在松软垫层边缘。
江临看完这条消息,又看了一眼机器人脚下那六个深浅不一的凹痕。
他回复。
【这才是它应该做的事。】
过去的压缩理论一直在争论,怎样把模型做得更小更快。
从今天开始,至少在最先看见这四组数字的人手里,动刀以前多了一道问题。
压缩之后。
它完成的,究竟还是不是原来那项任务?