移动端
微信公众号
- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评：1. 数据放置很重要，他们的KV Cache分两种了，一种是要全部读一遍，因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍，需要gather的方式读，但是容量需求爆大，因此要另外一种内存介质上，处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的，所以硬件千万别整什么排序加速器。老老实实把histogram，cumsum，prefix sum这样的算子做好。对应的基础能力就是原子操作，load atomic带返回值, stor
原话题：https://www.zhihu.com/question/1994518544646423103 大家怎么看？
楼主最近发布
-
•【今日热议】[24小时]不夜之城 APEC即将启幕 全球目光聚焦深圳 跟着科技导游赴一场APEC隐藏路线之旅2026-11-14 01:20:20
-
•如何评价崩坏：星穹铁道5.5版本 | 故事之外，有谁还在 版本预告？2026-11-14 01:15:27
-
•有大佬知道这是什么游戏吗2026-11-14 01:10:52
-
•半夜想吃口热的，你第一个想到哪家🔥2026-11-14 01:13:25
大家都在看
•日本自媒体曝胖东来爆火的卡蓓诺洗发水疑为非日本制造，胖东来否认产地造假并将启动维权，哪些信息值得关注？•2627赛季马刺125-103开拓者，杨瀚森12分10篮板，生涯首砍两双 ，如何评价本场比赛？•浙江男子11元拍走鹤岗60多平房屋，还会有隐性成本吗？你要是拍到了准备怎么处理这套房子？•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯，最后以护国长公主身份摄政天下？•广州多名小学生家长反映，孩子在校园周边小卖部签名即可赊账买零食，有学生月赊超千元，店家的做法合法吗？•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛，如何评价这场比赛？•S16淘汰赛BLG VS T1，如何评价这场比赛？•如何看待广州一公司控告多名员工因降薪而工作懈怠，导致公司结业？•54 岁大哥自学AI短剧登顶红果榜，团队成员一年还清债务，普通人真能靠AI翻身吗？有啥值得借鉴的思路？•59岁男子突发疾病后倒在站台去世，家属质疑车站配AED却没有员工会使用，车站到底应不应该担责？
