移动端
微信公众号
- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评：1. 数据放置很重要，他们的KV Cache分两种了，一种是要全部读一遍，因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍，需要gather的方式读，但是容量需求爆大，因此要另外一种内存介质上，处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的，所以硬件千万别整什么排序加速器。老老实实把histogram，cumsum，prefix sum这样的算子做好。对应的基础能力就是原子操作，load atomic带返回值, stor
原话题：https://www.zhihu.com/question/1994518544646423103 大家怎么看？
楼主最近发布
-
•蜀汉政权为什么没有产生篡国的权臣？是刘禅大智若愚吗？2026-11-14 08:21:07
-
•【下载】【祈愿诗篇U-ROOM最新神作/PC+安卓】洗脑学园2026-11-14 08:11:02
-
•想收一台小米15u，价格多少合适？2026-11-14 08:12:09
-
•简述合肥市瑶海区荷塘家园回迁房诈骗案始末2026-11-14 08:16:23
大家都在看
•日本自媒体曝胖东来爆火的卡蓓诺洗发水疑为非日本制造，胖东来否认产地造假并将启动维权，哪些信息值得关注？•2627赛季马刺125-103开拓者，杨瀚森12分10篮板，生涯首砍两双 ，如何评价本场比赛？•浙江男子11元拍走鹤岗60多平房屋，还会有隐性成本吗？你要是拍到了准备怎么处理这套房子？•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀，这款车的市场竞争力如何？•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯，最后以护国长公主身份摄政天下？•广州多名小学生家长反映，孩子在校园周边小卖部签名即可赊账买零食，有学生月赊超千元，店家的做法合法吗？•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛，如何评价这场比赛？•S16淘汰赛BLG VS T1，如何评价这场比赛？•黄渤自曝今年几乎没戏拍，如何看待实力派演员陷入空窗期？•如何看待广州一公司控告多名员工因降薪而工作懈怠，导致公司结业？
热门活动
