一键安装此插件:
42plugin install hsliuustc0106/vllm-omni-skills/vllm-omni-add-diffusion-model
为 vLLM-Omni 集成新的扩散模型,支持 Cache-DiT 加速及 TP、SP 等多 GPU 并行策略。
从属套包
hsliuustc0106/kit/vllm-omni-skills