help wanted
Repository metrics
- Stars
- (2,180 stars)
- PR merge metrics
- (Avg merge 4d 5h) (559 merged PRs in 30d)
Description
在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。
📚 任务问题描述
任务描述
该任务拆分自 #9079,任务 ID:#14。
目前vllm-ascend单独实现了投机解码的所有实现,与vllm社区有相对差异,需要系统梳理当前vllm-ascend和vllm社区关于投机解码的差异,取长补短:将vllm-ascend的长处贡献给社区,将vllm的优势反合到vllm-ascend,减少后续投机解码的维护成本。
验收标准
- vllm和vllm-ascend关于投机解码的代码基本统一。
对接人
@jyoung6652
认领状态
待认领(任务池表格未标注;#9079 评论中已有 @Gin-Only 表达认领意向,状态以维护者确认为准)
建议的替代/修复方案
请根据任务描述提交实现、测试或文档 PR,并在 PR 中关联本 issue 与 #9079;如实现过程中发现任务边界、使用指导或现有行为存在不合理之处,请同步补充说明和最小复现。
欢迎加入社区,感谢您对社区的贡献 🎉!