移动端
微信公众号
- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评：1. 数据放置很重要，他们的KV Cache分两种了，一种是要全部读一遍，因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍，需要gather的方式读，但是容量需求爆大，因此要另外一种内存介质上，处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的，所以硬件千万别整什么排序加速器。老老实实把histogram，cumsum，prefix sum这样的算子做好。对应的基础能力就是原子操作，load atomic带返回值, stor
原话题：https://www.zhihu.com/question/1994518544646423103 大家怎么看？
楼主最近发布
-
•38岁库里2027赛季场均31.3分是什么水平？2026-11-09 09:43:27
-
•S16 半决赛 BLG 3:1 淘汰卫冕冠军 T1，终结 T1 四连冠可能性，如何评价这场比赛？2026-11-09 09:43:26
-
•关于至冬，我有几个疑问🤔2026-11-09 09:33:28
-
•求佬指点宿舍大一零基础2026-11-09 09:35:53
大家都在看
•如何评价波兰发生恐怖袭击致 6 死 16 伤，枪手被「极右翼意识形态」蛊惑，并「持极端民族主义观点」？•中国不申办2036年奥运会，德印韩等7国入围，举办奥运还「香」吗?奥运会的吸引力发生了什么变化？•中超第 30 轮，大连英博 3-1 天津津门虎，完成史诗大逆转夺冠，如何评价本场比赛？•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯，最后以护国长公主身份摄政天下？•广州多名小学生家长反映，孩子在校园周边小卖部签名即可赊账买零食，有学生月赊超千元，店家的做法合法吗？•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛，如何评价这场比赛？•据传 ChatGPT 开始大规模封号，是真的吗？原因可能是什么？•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀，这款车的市场竞争力如何？•如何看待广州一公司控告多名员工因降薪而工作懈怠，导致公司结业？•女子和已婚男子交往被原配发现后坠楼身亡，一审已婚男子被判赔 8 万元，如何从法律角度解读这一案件？
