- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评:1. 数据放置很重要,他们的KV Cache分两种了,一种是要全部读一遍,因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍,需要gather的方式读,但是容量需求爆大,因此要另外一种内存介质上,处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的,所以硬件千万别整什么排序加速器。老老实实把histogram,cumsum,prefix sum这样的算子做好。对应的基础能力就是原子操作,load atomic带返回值, stor
原话题:https://www.zhihu.com/question/1994518544646423103 大家怎么看?
楼主最近发布
-
•不得不承认,木偶的确是版本主推2026-11-09 12:11:33
-
•冰神确定火神剧本了,同款的v2削弱2026-11-09 19:36:58
-
•怎么堆肉量啊佬们,健身半年了2026-11-09 19:49:12
-
•大一男生怎么找对象啊2026-11-09 19:47:31
大家都在看
•浙江男子11元拍走鹤岗60多平房屋,还会有隐性成本吗?你要是拍到了准备怎么处理这套房子?•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀,这款车的市场竞争力如何?•如何评价波兰发生恐怖袭击致 6 死 16 伤,枪手被「极右翼意识形态」蛊惑,并「持极端民族主义观点」?•广州多名小学生家长反映,孩子在校园周边小卖部签名即可赊账买零食,有学生月赊超千元,店家的做法合法吗?•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛,如何评价这场比赛?•中国不申办2036年奥运会,德印韩等7国入围,举办奥运还「香」吗?奥运会的吸引力发生了什么变化?•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯,最后以护国长公主身份摄政天下?•54 岁大哥自学AI短剧登顶红果榜,团队成员一年还清债务,普通人真能靠AI翻身吗?有啥值得借鉴的思路?•国乒法兰克福冠军赛全军覆没,暴露出哪些问题?•全国首个冷门绝学学院成立,研究方向覆盖甲骨学、简帛学、西夏文、突厥文等,如何评价其研究方向和培养模式?
热门活动





