传媒分类太慢？性能工程师力推深度学习提速

　　一三年那会儿，传媒分类？压根儿不叫“分类”，叫“贴标签”。我在西二旗那间朝北的屋子里蹲着，风扇嗡嗡响，老李在窗边抽烟，烟灰缸堆得快溢出来。桌上那台显示器，牌子我到现在也记不清了——就记得蓝屏闪三下才肯亮。我们跑的是论坛聚合站，爬虫抓外链，人肉看标题，再往Excel里填“时政”“娱乐”“八卦”“小道”……四个字段来回拖拽。谁敢说慢？慢就对了，慢才显得稳。那天运营拍桌子：“今天头条挂了俩小时！”我回他：“你等它缓过劲儿来，比人工标得还准。”他翻白眼走了。我原以为只要线程数调够、MySQL索引建全、半夜不发版本，这事就能扛十年。

　　一七年改版，云上去了，备案严了，我们砍掉一半采集源，转做原创分发。分类逻辑也从“贴标签”升级成“打分制”：每篇文章扔进规则引擎，关键词匹配、作者权重、转载路径、发布时间衰减系数……一套下来，37条if-else，11个阈值参数。运维小陈每天早上八点准时重启服务，说是“清缓存防漂移”。可越调越歪——上周一篇乡村振兴稿子被塞进“理财”栏目，理由是正文里出现了“收益”“分红”“年化”。我盯着日志看了两小时，最后改了第29条规则里的“分红”权重，把它从0.85压到0.3。但第二天又飘了，飘进“教育”栏，因为作者单位写了“农科院培训中心”。我原以为把规则写密，机器就能学人；结果它只学到了我的疲惫，和我删错行时手抖的习惯。

　　去年九月份，就是上个月，测试环境崩了三次。不是超时，不是OOM，是分类延迟从200ms飙到1.8秒，波动像心电图。我们拉群、截链路、查trace、翻Prometheus图表……折腾三天，发现瓶颈卡在NLP服务那层词向量加载。这时候王蕾来了——她早就不干后端了，去年从某大厂AI平台跳过来，带着一个轻量BERT蒸馏模型。我第一反应是拦：“又来搞黑盒？”她说：“不是黑盒，是你早该卸载的旧壳。”

　　我原以为还能靠加机器扛住。真加了，四台GPU卡，钱花了，延迟只降了80ms。可她拿三个月历史错分样本喂进去，调参、剪枝、量化，最后上线一个87MB的onnx模型。分类耗时稳定在43±5ms。最绝的是，它居然把“元宇宙”相关稿子自动拆出三类：技术解读归“互联网”，炒币新闻归“金融”，文旅园区VR展厅归“地产”——我们当年用62条规则都拧不干净的事，它一次forward就分清了。优胜劣汰？真不是口号。是它自己淘汰了我写的第三层if-else分支，淘汰了小陈每天手动调整的阈值表，淘汰了老李当年手抄的《敏感词修订版V4.2》。

　　不过……我承认走错了一步。一七年那会儿，王蕾还在隔壁组，她递过一份模型选型对比，附带本地推理POC。我扫了一眼，“Python太重”“GPU成本太高”“业务不等你训一个月”，当场驳回。现在想起来，不是嫌重，是怕看不懂。怕它输出一个概率92.3%的“娱乐”，而我讲不出这0.3%是怎么漏的——不像改SQL里一个where条件，改完立刻见效，错了也马上能回滚。那0.3%，我当时连日志都捞不到。

　　前两天路过茶水间，听见新来的实习生聊“LoRA微调”。我愣了一下。没插嘴。其实我想说，一三年我用正则替换掉“央视”“人民日报”的“央”字，好让它们进同一个渠道池；一七年我给“新华社”加了7种变体写法；现在呢？模型根本不在乎你叫“新华社”还是“Xinhua News Agency”，它认的是句子骨架。但这句话我没说出口。我端着杯子走了，水没喝完，凉了。

文章配图，仅供参考

　　现在这套我也拿不准还能干几年。GPU显存越来越贵，LLM上下文越拉越长，而我们后台还在用K8s v1.22。王蕾昨天提了个需求：想试用Qwen-VL多模态模型，处理图文混合稿。我打开部署文档看了三页，合上了。风扇还在响，朝北的窗户漏风，桌上那台显示器——算了，牌子真不重要了。

（编辑：均轻资讯网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!