vllm-project/vllm-ascend

[Contribution] 任务 #14:投机解码

Open

#10,661 opened on Jun 18, 2026

 (3 comments) (0 reactions) (0 assignees)C++ (1,318 forks)github user discovery
help wanted

Repository metrics

Stars
 (2,180 stars)
PR merge metrics
 (Avg merge 4d 5h) (559 merged PRs in 30d)

Description

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

📚 任务问题描述

任务描述

该任务拆分自 #9079,任务 ID:#14。

目前vllm-ascend单独实现了投机解码的所有实现,与vllm社区有相对差异,需要系统梳理当前vllm-ascend和vllm社区关于投机解码的差异,取长补短:将vllm-ascend的长处贡献给社区,将vllm的优势反合到vllm-ascend,减少后续投机解码的维护成本。

验收标准

  1. vllm和vllm-ascend关于投机解码的代码基本统一。

对接人

@jyoung6652

认领状态

待认领(任务池表格未标注;#9079 评论中已有 @Gin-Only 表达认领意向,状态以维护者确认为准)

建议的替代/修复方案

请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。

欢迎加入社区,感谢您对社区的贡献 🎉!

Contributor guide