阜沙 「切换城市」

请选择您所在的城市:

    热门
    城市
    贴吧社区

    客服电话 13025511335

    • 移动端

      扫码访问

      移动端app下载
      城事通

    • 微信端

      扫码访问

      微信公众平台:
      城事通.CityScope

      小程序:
      城视通

    • 0
    • 0

    如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?

    xxx-xxx-xxx

    如何评价MaxxBench稍微调整任务,就让大量模型DeepSWE评分降低20分以上?

    MaxxBench对DeepSWE的89个编程任务做了小幅修改,例如要求报告文件名全部小写、时间戳统一使用UTC。 但相比公开的DeepSWE成绩,部份模型在新评测中的成功率下降超过20个百分点。其中GLM-5.3下降12.2%,DeepSeek-V4.1-Flash下降18.6%,Gemini 3.8 Flash下降20.5%,GPT-6 Luna下降14.9%。 我们该如何区分模型的考试能力与真实完成任务能力? https://maxxbench.unlap.ai/

    热评:DeepSWE现在基本上没有什么区分度,排行榜前面的模型全都在75%左右。但最近有人搞了一套叫MaxxBench的Benchmark:MaxxBench它从DeepSWE中选了89个任务,然后做了一些非常简单的调整。例如要求保存的文件名全部用小写字母,保存的时间全部用UTC时间戳,完成任务后重跑一个测试文件并记录耗时等。所有调整后的任务都公开在了Github上:unlap-labs/maxxbench比如下图这个示例,左边是原版的DeepSWE、文件名大小写字母都能用,右边是MaxxBench、只允许使用小写字母。按理来说都是简单到不行的改动,每个任务的参考实现代码增量平均仅20行左右。但是就

    原话题:https://www.zhihu.com/question/2102885124782158717 大家怎么看?

    0人已对本文进行打赏

        楼主最近发布

        •百大 up 吐槽《影之刃零》无伤太折磨,花 90 小时做两期内容,这一难度设置合理吗?

        2026-11-12 18:20:49

        •如何看待马化腾在腾讯 28 周年庆全员会上的讲话?

        2026-11-12 18:20:48

        •只抽0命米提亚和达妮卡哪个值得抽?用来打剧诗/辅助木偶 没八重

        2026-11-12 17:40:28

        •今天官方发了公告说7.3会修复米提亚的索敌问题

        2026-11-12 17:57:27

        热门活动

        ×

        打赏支持

        打赏金额 ¥
        • 1元
        • 2元
        • 5元
        • 10元
        • 20元
        • 50元

        选择支付方式:

        确认支付

        打赏成功!

        感谢您的支持~

        打赏支持 喜欢就打赏支持一下小编吧~

        打赏金额¥{{ds_num}}
        打赏最多不超过100元,打赏须知

        收银台

        订单总价¥0.00

        剩余支付时间:00时00分00秒

        手机扫码支付

        使用支付宝、微信扫码支付

        其他支付方式