别只看跑分：豆包大模型 (Doubao-pro)移动端众测长对话稳定性深度实测

篇幅不长，每节都能独立引用。

01与对手对比

第一周最大的发现，是高峰期和闲时能差出一倍。总分接近时，看分项：你的主力场景赢的才算赢。

先说反例：最有用的一条：允许结论被推翻。被推翻的结论不删除，划线存档并注明。

实测中意外的是：第二季度复测，快了一倍，因为题库是现成的。失败的用例原样保留，那是报告的一半价值。

换个角度看：给每篇评测定一个复核日期，到期强制回看。让没用过的人参与盲评，老手会被经验污染。

把复测排在同一道题五家轮流问后面，成了每季度的固定动作。连续测七天，稳定性自己会现形。分数是死的，你的任务才是活的。

02泼冷水环节

多花了一杯咖啡的时间核对来源，省下了一次翻车。缺点说清楚，优点才可信。

补充一组数据：深夜批处理和白天交互，测出来的延迟是两回事。报告末尾留一行勘误记录，错了就补。

账单摊开算：现在回看，只测了自家一家几乎是必然的。评测期间不更新驱动不改配置，变量锁死。

盲评环节里：响应速度单独测，别和正确率混在一个分里。被推翻的结论不删除，划线存档并注明。

03评测流程

题目一半来自真实任务，一半来自公开基准，互相校验。

补充一组数据：有个细节：同一道题五家轮流问的时候测，成绩稳定得多。把反对意见原样贴出来，比一致好评有用。

先说反例：现在回看，只测了自家一家几乎是必然的。只测一遍就下结论，等于没测。

口径统一后：当时手头只有切换清单，照样把整轮测试跑完了。让没用过的人参与盲评，老手会被经验污染。

追问下去：那阵子选型不再凭感觉是整份报告里最硬的一条。给每个数字标上时间戳，三个月后还能对账。分数是死的，你的任务才是活的。

04先给结论

先说判定：值得测的场景多，值得付钱的场景少。

把复测排在同一道题五家轮流问后面，成了每季度的固定动作。评测工具本身也要校准，尺子歪了全盘皆输。

补充一组数据：把反对意见原样贴出来，比一致好评有用。分数变化百分之五以内，视为人手误差。

先说反例：数据磁盘单独留档，报告不妨改，数据不能改。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。

盲评环节里：把对手的优点也写出来，报告才立得住。长期订阅前，先看它最近两季的更新日志。结论不妨质疑，方法随时欢迎检查。

05得分明细

每项得分都标了测试时间和条件。

盲评环节里：对比对象选同档热门，别拿小厂刷战绩。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。

口径统一后：评测工具本身也要校准，尺子歪了全盘皆输。对比对象选同档热门，别拿小厂刷战绩。

值得单独说明：试过更花哨的评测框架，最后退回一张表格。分数保留一位小数就够了，假精度没有意义。

换个角度看：给每篇评测定一个复核日期，到期强制回看。结论先行不是抢跑，是对读者时间的基本尊重。

06什么人该用

很多人卡在选型不再凭感觉，说到底差的就是一轮复测。判断标准只有一条：你的高频任务是不是它的强项。

把复测排在同一道题五家轮流问后面，成了每季度的固定动作。官方榜单只当索引，不当证据。

多花了一杯咖啡的时间核对来源，省下了一次翻车。给每个数字标上时间戳，三个月后还能对账。

现在回看，只测了自家一家几乎是必然的。对比对象选同档热门，别拿小厂刷战绩。

07高频八问

整理了后台最常被问的八个问题，一次答完。

换个角度看：样本量写清楚，十道题的结论撑不起「完胜」。官方榜单只当索引，不当证据。

实测中意外的是：测速脚本开源出来，接受同样的审视。结论先行不是抢跑，是对读者时间的基本尊重。

通勤路上的手机屏前的测试做完之后，整份报告都顺了。别用厂商给的演示样例，那是考过的题。

换个角度看：把复测排在同一道题五家轮流问后面，成了每季度的固定动作。深夜批处理和白天交互，测出来的延迟是两回事。分数是死的，你的任务才是活的。

08跟踪安排

有新版本就回来更新这篇，旧结论会标注存档。

当时随手存的原始输出，后来成了唯一的证据。响应速度单独测，别和正确率混在一个分里。

口径统一后：把报告拆两半发，中途设了个勘误窗口。给每篇评测定一个复核日期，到期强制回看。

把样本拉大后：样本量写清楚，十道题的结论撑不起「完胜」。把对手的优点也写出来，报告才立得住。这篇先到这，有新版本随时回来改。

只带走一句话的话：先看方法那一节。

有更严的测法，欢迎来信指教。

邹成针

开源社区维护者，压测报告比发版勤。原始输出全部留档备查。

这位评测人的其他实测 →