DSpine 达成并行推测解码 SOTA,将因果依赖嵌入草稿网络深度,在 SGLang 中最高实现 4 倍吞吐加速,方案已开源

腾讯优图、上海交大、厦大团队联合推出 DSpine 并行推测解码方案,核心思路是把相邻 token 的因果依赖逐层注入草稿网络主干,不再放到