移动端
微信公众号
- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评：1. 数据放置很重要，他们的KV Cache分两种了，一种是要全部读一遍，因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍，需要gather的方式读，但是容量需求爆大，因此要另外一种内存介质上，处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的，所以硬件千万别整什么排序加速器。老老实实把histogram，cumsum，prefix sum这样的算子做好。对应的基础能力就是原子操作，load atomic带返回值, stor
原话题：https://www.zhihu.com/question/1994518544646423103 大家怎么看？
楼主最近发布
-
•年轻要存钱还是及时行乐？2026-11-09 11:57:36
-
•【游戏下载推荐】171_巴西版GTA5 v202510122026-11-09 11:49:31
-
•【游戏下载推荐】100%鲜橙汁_百分百鲜橙汁_100% Or2026-11-09 11:50:46
-
•中招了吗这是？2026-11-05 10:14:07
大家都在看
•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛，如何评价这场比赛？•59岁男子突发疾病后倒在站台去世，家属质疑车站配AED却没有员工会使用，车站到底应不应该担责？•如何评价波兰发生恐怖袭击致 6 死 16 伤，枪手被「极右翼意识形态」蛊惑，并「持极端民族主义观点」？•中国不申办2036年奥运会，德印韩等7国入围，举办奥运还「香」吗?奥运会的吸引力发生了什么变化？•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯，最后以护国长公主身份摄政天下？•中超第 30 轮，大连英博 3-1 天津津门虎，完成史诗大逆转夺冠，如何评价本场比赛？•国乒法兰克福冠军赛全军覆没，暴露出哪些问题？•据传 ChatGPT 开始大规模封号，是真的吗？原因可能是什么？•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀，这款车的市场竞争力如何？•如何看待广州一公司控告多名员工因降薪而工作懈怠，导致公司结业？
热门活动
