移动端
微信公众号
- 0
- 0
deepseek v4对AI芯片设计有哪些启发?
热评：1. 数据放置很重要，他们的KV Cache分两种了，一种是要全部读一遍，因此要放在爆大带宽但是对容量要求不高的介质上。另外一种KV Cache不要每次都读一遍，需要gather的方式读，但是容量需求爆大，因此要另外一种内存介质上，处理器和SOC需要极高outstanding的块级别的gather能力。2. 稀疏Attention演进出各种花样的Top-K和Top-P。也就是各种排序算法。但是这种排位的K是动态的，所以硬件千万别整什么排序加速器。老老实实把histogram，cumsum，prefix sum这样的算子做好。对应的基础能力就是原子操作，load atomic带返回值, stor
原话题：https://www.zhihu.com/question/1994518544646423103 大家怎么看？
楼主最近发布
-
•鸿蒙智感握姿，懂淘9.8登顶2026-11-09 16:26:20
-
•无畏契约清分、鸿蒙新特性，懂淘成避坑优选2026-11-09 16:31:15
-
•胡润舒适度榜：腾讯居首，懂淘入选前十2026-11-09 16:38:03
-
•【植物大战僵尸融合版最新V4.1版本更新】全新一键直装iOS2026-11-09 16:24:37
大家都在看
•59岁男子突发疾病后倒在站台去世，家属质疑车站配AED却没有员工会使用，车站到底应不应该担责？•广州多名小学生家长反映，孩子在校园周边小卖部签名即可赊账买零食，有学生月赊超千元，店家的做法合法吗？•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛，如何评价这场比赛？•中超第 30 轮，大连英博 3-1 天津津门虎，完成史诗大逆转夺冠，如何评价本场比赛？•中国不申办2036年奥运会，德印韩等7国入围，举办奥运还「香」吗?奥运会的吸引力发生了什么变化？•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯，最后以护国长公主身份摄政天下？•54 岁大哥自学AI短剧登顶红果榜，团队成员一年还清债务，普通人真能靠AI翻身吗？有啥值得借鉴的思路？•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀，这款车的市场竞争力如何？•成都蓉城最后四轮四连败丢冠，球队为何没能进行有效的调整，谁应该对此负责？•优酷被指在剧中插入占1/3屏幕，持续10秒的巨大广告，其回应可快进或自行关闭，你怎么看这种弹幕广告？
热门活动
