Memos WorldMemos World
返回 AI Time

基于AMD GPU的vLLM中的推测性解码

模型发布次要
vLLM 在 AMD GPU 上实现了推测性解码,以提升推理性能。

相关事件

相关主体