李彦宏复盘百度AI踩过的坑:从SFT到做更少的事

11月12日百度世界大会上,李彦宏提出行业下一幕是智能组织,并复盘百度踩过的坑:早期用开源模型做SFT,模型一升级成果就落后;智能体热潮下各业务线一哄而上,资源分散、成功率反降。两次纠偏指向同一件事——把努力从多变少。

这不是一场产品发布,而是一份少见的组织复盘。过去两年谈AI多谈参数、算力与评测榜单,李彦宏把话题挪到另一头:谁来训练模型、谁决定做什么、怎么让组织收敛注意力。现场速记不足三百字,三个坑连起来却是一条完整的方法论曲线。

第一个坑:把应用建在会变的地基上

大模型刚出现时,百度工程师热衷拿开源模型做SFT(监督微调),业务应用效果一度不错。问题出在基座一升级,原有成果很快落后。这不是调参没调好,而是资产本身建在了别人的地基上。

SFT是在某一版基座权重上做增量适配,适配层与基座版本强绑定。基座换代,权重分布变了,微调出来的能力与评测结论都要重做;业务线各自微调,还会产生一堆互不兼容的模型分支。短期看每个团队都拿到了指标,长期看是把算力反复投在会贬值的资产上。

这也是近两年行业口味变化的原因:能用提示词、检索增强、工具调用解决的,就不再动权重,把定制层放在模型之外,基座升级时应用自动继承新能力。开源模型迭代越快,这条原则越成立(参见:开源大模型支出89%流向中国厂商,GPT-6.2双档将发)。

第二个坑:热点一多,注意力就稀释

百度的第一次纠偏是收口:业务部门不许自行训练模型,统一交给专门的模型部门,李彦宏用了“熵增”这个词。借物理学概念说组织,指的是分布式训练带来的混乱度——版本碎片化、算力重复投入、评测口径不一,团队越多越难收敛。

收口的实质是把模型能力做成共享基础设施:一个部门负责底座,业务层只调用、不拥有。这与前些年流行的中台思路同源,差别在于底座从数据换成了模型。

智能体等新热点出现后,业务部门又纷纷跟进,资源重新摊薄,成功率反而降低。这次纠偏不是技术动作,而是节奏管理——每月开会要求聚焦,把努力从多变少,让大家做更少的事。行业转向智能体的速度本就快(参见:大模型转向智能体:DeepSeek开源新架构,万亿开源模型降价),跟得越紧越容易什么都做一点。

阶段 常见做法 暴露的问题 百度的纠偏
大模型初期 业务线各自用开源模型做SFT 基座升级后成果失效、重复投入 训练收口到专门模型部门
智能体热潮 各业务线同时跟进新热点 资源分散、成功率下降 每月开会聚焦,从多变少
下一幕:智能组织 以组织形态承接AI能力 瓶颈从模型能力转向协同与决策 底层平台化+注意力收敛

瓶颈从模型能力挪到组织形态

把三个坑串起来看,“智能组织”这个判断才说得通。第一次纠偏解决的是谁训练模型,第二次解决的是谁决定做什么,而每月聚焦会解决的是怎么让组织持续收敛。三件事都不是模型能力问题,是协同与决策问题。

这也解释了为什么低价模型、长上下文和智能体基建在同期一起变热(参见:Anthropic上市前夜发布Claude 5.2,Meta低价模型瞄准智能体经济)。当底座能力趋向同质、调用成本持续下降,公司之间拉开差距的不再是能不能用上模型,而是组织能不能少做几件事、把资源压到同一方向。

需要留意的是其中的张力。训练收口压住了熵增,也可能压掉一线业务快速试错的空间;做更少的事在路线清晰的成熟期是效率,在技术路线未定的探索期则可能错失窗口。集中与敏捷怎么配,取决于公司处在哪个阶段,没有通用解。

常见问题

为什么用开源模型做SFT容易白做?

SFT的适配层与特定版本的基座权重绑定。基座一代代升级,微调成果与评测结论都要重做;各业务线分头微调还会产生互不兼容的分支。把定制放在模型之外(提示词、检索、工具调用),才能随基座升级自动继承新能力。

李彦宏说的“熵增”是什么意思?

是借用物理学术语描述组织混乱度,不是严格的热力学概念。指多个业务团队各自训练、各自维护模型版本,带来版本碎片、算力重复投入与评测口径不一,团队越多越难收敛,因此需要统一收口。

这套做法适合所有公司吗?

不一定。模型训练集中化、主动削减项目数量,更适合底座能力稳定、方向明确的阶段。若技术路线仍在快速变化,保留一定分散试错可能比过早聚焦更有价值。李彦宏讲的是百度在特定阶段的取舍,不是通用公式。

信息来源:11月12日百度世界大会现场,第一财经记者刘佳报道,新浪财经、东方财富转载。文中关于SFT版本绑定、平台化收口与组织阶段差异的分析为编辑增量,非现场原话。

我还没有学会写个人说明!
上一篇

黄仁勋再曝下属关系,酒店录像与保密协议引争议

下一篇

铁塔筑基 绿绘征途——中国铁塔以绿色低碳实践迎接第四届“新绿杯”全国总决赛

你也可能喜欢

评论已经被关闭。

插入图片
微信 微信
微信
返回顶部

微信扫一扫

微信扫一扫