- 0
- 0
如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?
MaxxBench对DeepSWE的89个编程任务做了小幅修改,例如要求报告文件名全部小写、时间戳统一使用UTC。 但相比公开的DeepSWE成绩,部份模型在新评测中的成功率下降超过20个百分点。其中GLM-5.3下降12.2%,DeepSeek-V4.1-Flash下降18.6%,Gemini 3.8 Flash下降20.5%,GPT-6 Luna下降14.9%。 我们该如何区分模型的考试能力与真实完成任务能力? https://maxxbench.unlap.ai/
热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就
原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?
热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就
原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?
楼主最近发布
-
•【音乐人格测试】入口2026-11-14 01:38:07
-
•正式服刚上线是怎么样就该是怎么样,凭啥说是bug2026-11-14 01:42:41
-
•【下载】我可不是真的想看电影只是为了在黑暗的环境下能够毫无遮2026-11-14 02:50:11
-
•双11收官1.77万亿2026-11-14 02:47:08
大家都在看
•日本自媒体曝胖东来爆火的卡蓓诺洗发水疑为非日本制造,胖东来否认产地造假并将启动维权,哪些信息值得关注?•2627赛季马刺125-103开拓者,杨瀚森12分10篮板,生涯首砍两双 ,如何评价本场比赛?•浙江男子11元拍走鹤岗60多平房屋,还会有隐性成本吗?你要是拍到了准备怎么处理这套房子?•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯,最后以护国长公主身份摄政天下?•广州多名小学生家长反映,孩子在校园周边小卖部签名即可赊账买零食,有学生月赊超千元,店家的做法合法吗?•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛,如何评价这场比赛?•S16淘汰赛BLG VS T1,如何评价这场比赛?•黄渤自曝今年几乎没戏拍,如何看待实力派演员陷入空窗期?•如何看待广州一公司控告多名员工因降薪而工作懈怠,导致公司结业?•54 岁大哥自学AI短剧登顶红果榜,团队成员一年还清债务,普通人真能靠AI翻身吗?有啥值得借鉴的思路?
热门活动





