一键安装此套包中的所有插件:
42plugin install hsliuustc0106/kit/vllm-omni-skillshsliuustc0106
针对 vLLM-Omni 扩散模型(如 Wan/Qwen/Helios)进行基准测试、性能剖析与调优,支持 GPU/NPU 环境下的延迟测量、瓶颈诊断及前后性能对比。
hsliuustc0106
扫描 vLLM 和 vLLM-Omni 仓库的特定类型 PR,提取代码审查模式与建议,生成专用自动化审查技能。
hsliuustc0106
在集群环境中执行 vLLM-Omni 夜间测试任务,同步日志至本地并生成 HTML 格式的测试报告。
hsliuustc0106
基于 vLLM-Omni 和 Wan2.2 等模型生成视频。支持文生视频、图生视频及参数配置,适用于视频生成工作流。
hsliuustc0106
为 vLLM-Omni 模型部署配置 CI/CD 流水线,涵盖 Docker 构建、自动化测试、滚动更新及部署验证。适用于创建部署管道、自动化模型服务更新或配置 GitHub Actions。
hsliuustc0106
启动并配置 vLLM-Omni API 服务器以进行生产环境模型服务。适用于模型服务器启动、流水线阶段配置、GPU 内存设置、优化启用及负载均衡器后的模型部署。
hsliuustc0106
协助 vLLM-Omni 项目开发,支持新模型集成、Bug修复及功能优化。适用于搭建开发环境、编写测试用例或提交 Pull Request。
hsliuustc0106
在提交 PR 到 vllm-omni 前,自动检查分支规范、清理死代码并验证性能声明,确保合并就绪。
hsliuustc0106
用于为 vllm-project/vllm-omni 起草或编辑发布说明,协助总结标签间的变更、整理亮点并保持与近期 vLLM-Omni 版本风格一致。
hsliuustc0106
基于 vLLM-Omni 和 Qwen3-TTS、Fish Speech S2 Pro 等模型,实现文本转语音、音频特效及音乐生成。
hsliuustc0106
生成 vLLM-Omni 的发布与夜间构建测试报告,默认输出 HTML,支持 Buildkite 指标分析与 GitHub 问题追踪。
hsliuustc0106
安装并配置 vLLM-Omni 以支持全模态模型推理。适用于环境设置、依赖安装、GPU驱动问题解决及模型服务准备。
hsliuustc0106
利用 Qwen2.5-Omni 等模型实现语音转录、图像生成及视频分析,支持文本、音频、图像和视频的跨模态转换与综合处理。
hsliuustc0106
为 vLLM-Omni 配置 NVIDIA CUDA、AMD ROCm、华为 NPU 及 Intel XPU 等硬件后端,支持设备选择、故障排查与性能优化。
hsliuustc0106
用于 vLLM-Omni 模型的量化工作,支持 AWQ、GPTQ、FP8 等方法,协助添加量化模型支持及调试内存与性能问题。
hsliuustc0106
利用张量并行、流水线并行及Ray等技术,实现vLLM-Omni在多GPU和节点间的横向扩展与解耦部署。
hsliuustc0106
通过基准测试、TeaCache、量化及并行调优等手段,提升 vLLM-Omni 推理速度并降低延迟与内存占用。
hsliuustc0106
通过 OpenAI 兼容 API 集成 vLLM-Omni,支持文本、图像、视频和音频生成。适用于构建客户端应用或调用 API 服务器端点。
hsliuustc0106
自动路由至领域技能,审查 vllm-project/vllm-omni 的 PR 与分支,聚焦阻塞性问题并验证测试、基准及破坏性变更。
hsliuustc0106
用于向 vLLM recipes 仓库添加全模态模型(如文生图、文生视频等)的部署配方,或记录 vLLM-Omni 的部署文档。
hsliuustc0106
为 vLLM-Omni 集成新的扩散模型,支持 Cache-DiT 加速及 TP、SP 等多 GPU 并行策略。
hsliuustc0106
基于 vLLM-Omni 引擎,支持 FLUX、Stable Diffusion 3 等模型进行文生图及图像编辑。
hsliuustc0106
将HuggingFace参考实现中的新文本转语音模型集成到vLLM-Omni,支持流式传输和CUDA图加速的生产级服务。
hsliuustc0106
指导 vLLM-Omni 扩散模型实现最佳推理性能,涵盖并行、量化等无损及有损优化方法,提供现成配置方案。