阜沙 「切换城市」

请选择您所在的城市:

    热门
    城市
    贴吧社区

    客服电话 13025511335

    • 移动端

      扫码访问

      移动端app下载
      城事通

    • 微信端

      扫码访问

      微信公众平台:
      城事通.CityScope

      小程序:
      城视通

    • 0
    • 0

    如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?

    xxx-xxx-xxx

    如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?

    MaxxBench对DeepSWE的89个编程任务做了小幅修改,例如要求报告文件名全部小写、时间戳统一使用UTC。 但相比公开的DeepSWE成绩,部份模型在新评测中的成功率下降超过20个百分点。其中GLM-5.3下降12.2%,DeepSeek-V4.1-Flash下降18.6%,Gemini 3.8 Flash下降20.5%,GPT-6 Luna下降14.9%。 我们该如何区分模型的考试能力与真实完成任务能力? https://maxxbench.unlap.ai/

    热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就

    原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?

    0人已对本文进行打赏

        楼主最近发布

        •求问专业的跑步选手

        2026-11-12 16:12:26

        •大家都喜欢偷吃禁果的女孩吗?

        2026-11-12 16:16:51

        •【分享】【幻想游戏】《电动仓鼠球》Party Games模式

        2026-11-12 16:08:40

        •分享|想找真诚的中美跨国交往对象,可以看看 wumamatch

        2026-11-12 16:11:11

        热门活动

        ×

        打赏支持

        打赏金额 ¥
        • 1元
        • 2元
        • 5元
        • 10元
        • 20元
        • 50元

        选择支付方式:

        确认支付

        打赏成功!

        感谢您的支持~

        打赏支持 喜欢就打赏支持一下小编吧~

        打赏金额¥{{ds_num}}
        打赏最多不超过100元,打赏须知

        收银台

        订单总价¥0.00

        剩余支付时间:00时00分00秒

        手机扫码支付

        使用支付宝、微信扫码支付

        其他支付方式