- 0
- 0
如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?
MaxxBench对DeepSWE的89个编程任务做了小幅修改,例如要求报告文件名全部小写、时间戳统一使用UTC。 但相比公开的DeepSWE成绩,部份模型在新评测中的成功率下降超过20个百分点。其中GLM-5.3下降12.2%,DeepSeek-V4.1-Flash下降18.6%,Gemini 3.8 Flash下降20.5%,GPT-6 Luna下降14.9%。 我们该如何区分模型的考试能力与真实完成任务能力? https://maxxbench.unlap.ai/
热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就
原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?
热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就
原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?
楼主最近发布
-
•百大 up 吐槽《影之刃零》无伤太折磨,花 90 小时做两期内容,这一难度设置合理吗?2026-11-12 18:20:49
-
•如何看待马化腾在腾讯 28 周年庆全员会上的讲话?2026-11-12 18:20:48
-
•只抽0命米提亚和达妮卡哪个值得抽?用来打剧诗/辅助木偶 没八重2026-11-12 17:40:28
-
•今天官方发了公告说7.3会修复米提亚的索敌问题2026-11-12 17:57:27
大家都在看
•2627赛季马刺125-103开拓者,杨瀚森12分10篮板,生涯首砍两双 ,如何评价本场比赛?•如何评价波兰发生恐怖袭击致 6 死 16 伤,枪手被「极右翼意识形态」蛊惑,并「持极端民族主义观点」?•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯,最后以护国长公主身份摄政天下?•广州多名小学生家长反映,孩子在校园周边小卖部签名即可赊账买零食,有学生月赊超千元,店家的做法合法吗?•浙江男子11元拍走鹤岗60多平房屋,还会有隐性成本吗?你要是拍到了准备怎么处理这套房子?•如何看待广州一公司控告多名员工因降薪而工作懈怠,导致公司结业?•59岁男子突发疾病后倒在站台去世,家属质疑车站配AED却没有员工会使用,车站到底应不应该担责?•S16淘汰赛BLG VS T1,如何评价这场比赛?•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀,这款车的市场竞争力如何?•54 岁大哥自学AI短剧登顶红果榜,团队成员一年还清债务,普通人真能靠AI翻身吗?有啥值得借鉴的思路?
热门活动





