- 0
- 0
vLLM 和 SGLang 的真正区别是什么?
网上看了很多帖子,说的最多的就是sglang使用前缀树做kv cache管理,而vllm只有page attention,每次都要重新计算。所以sglang更适合多轮对话,等等。 但是我最近研究了nanovllm和minisglang的源码,发现并不是这样的。nanovllm是使用链式hash来索引cache的,minisglang是使用前缀树。nanovllm这种方式也是可以支持分叉的,minisglang的树节点也是使用一个page的token id做索引的,所以两者的粒度并没有谁更好。要真比较我反倒觉着nanovllm的实现更加清爽,计算hash的开销感觉也没有多大。所以网上那些帖子我不知道是过时了还是ai写的。。。 如果两者在这方面没有太大的话,那saglang的优势是什么?有人能帮忙解答一下嘛
热评:这两个框架在技术层面已经趋同了。这是2026年的观察:在agent编码加持下,两边互相吸收对方的长板,功能清单和大盘性能已经大差不差。那还有区别的地方是什么?人:用户 + 开发者。区别点1:生态用户群体的差异这里讲两个点:对稳定系统的修改成本,远大于换一个零件;生态圈讲究的是先入为主。举几个例子:飞机物料管理:优秀部件开发完成后,到完成替换,过程极其漫长。银行系统:上个世纪的老核心还在跑,不是因为写不出更好的,而是切过去的风险和联调成本扛不住。再看小天才手表一类儿童生态[1]:性价比是不是最高,和它能不能继续吃这波红利,并不是一回事;没有外部强力干预时,先占住入口的人往往继续获得收益。回到主题
原话题:https://www.zhihu.com/question/2045055313053843631 大家怎么看?
热评:这两个框架在技术层面已经趋同了。这是2026年的观察:在agent编码加持下,两边互相吸收对方的长板,功能清单和大盘性能已经大差不差。那还有区别的地方是什么?人:用户 + 开发者。区别点1:生态用户群体的差异这里讲两个点:对稳定系统的修改成本,远大于换一个零件;生态圈讲究的是先入为主。举几个例子:飞机物料管理:优秀部件开发完成后,到完成替换,过程极其漫长。银行系统:上个世纪的老核心还在跑,不是因为写不出更好的,而是切过去的风险和联调成本扛不住。再看小天才手表一类儿童生态[1]:性价比是不是最高,和它能不能继续吃这波红利,并不是一回事;没有外部强力干预时,先占住入口的人往往继续获得收益。回到主题
原话题:https://www.zhihu.com/question/2045055313053843631 大家怎么看?
楼主最近发布
-
•我去iQOO15u,16+512,4579,还有300晒单红包2026-11-09 21:52:34
-
•如果魂大人穿越到老头环里的交界地,能否横扫拉达冈、暴揍米凯拉,无伤过玛莲妮亚?2026-11-10 04:51:31
-
•为什么有些人表面有挣钱的欲望,实际做事的时候却看不到执行力?2026-11-10 04:41:02
-
•请问运存该怎么选2026-11-09 23:59:12
大家都在看
•S16 半决赛 GEN 3:0 淘汰 iG 晋级决赛,如何评价这场比赛?•如何评价《嫁金钗》大结局女主软禁太后杀死亲王摆下鸿门宴携胚胎以令诸侯,最后以护国长公主身份摄政天下?•广州多名小学生家长反映,孩子在校园周边小卖部签名即可赊账买零食,有学生月赊超千元,店家的做法合法吗?•比亚迪超豪华行政旗舰仰望「鼎曜」全球首秀,这款车的市场竞争力如何?•59岁男子突发疾病后倒在站台去世,家属质疑车站配AED却没有员工会使用,车站到底应不应该担责?•浙江男子11元拍走鹤岗60多平房屋,还会有隐性成本吗?你要是拍到了准备怎么处理这套房子?•如何看待英伟达 CEO 黄仁勋在致员工内部信中承认婚外情?•国乒法兰克福冠军赛全军覆没,暴露出哪些问题?•54 岁大哥自学AI短剧登顶红果榜,团队成员一年还清债务,普通人真能靠AI翻身吗?有啥值得借鉴的思路?•中国不申办2036年奥运会,德印韩等7国入围,举办奥运还「香」吗?奥运会的吸引力发生了什么变化?





