WeVisOne-VL Gradio Demo完整教程：本地启动、vLLM加速与3个进阶参数

【免费下载链接】WeVisOne-VLWeVisOne-VL is a powerful VLM by the WeChat Vision Team at Tencent, unifying object-level and pixel-level perception from points and boxes to masks and alpha mattes.项目地址https://gitcode.com/gh_mirrors/we/WeVisOne-VL点击查看免费下载WeVisOne-VL 是腾讯 WeChat Vision 团队开源的统一视觉感知大模型VLM一个模型同时支持目标检测、指代定位、计数、指点、OCR、分割与抠图Alpha Matting等 8 类视觉任务。本文带你用 3 步在本地启动它的 Gradio Web Demo讲解如何切换到 vLLM 后端加速推理并详解--device、--mock、--share这 3 个最实用的进阶参数让你在没有 GPU、多人共享或指定设备运行时都能顺利跑通。一、快速上手3 步在本地启动 Gradio DemoDemo 入口是 demo/app.py官方文档见 demo/README.md。整个过程只需 3 步。第 1 步克隆仓库git clone https://gitcode.com/gh_mirrors/we/WeVisOne-VL.git cd WeVisOne-VL第 2 步创建环境并安装依赖建议 Python 3.10依赖清单见 requirements.txttorch、transformers、gradio、vllm 等均已锁定版本conda create -n wevisone-vl python3.10 -y conda activate wevisone-vl pip install -r requirements.txt pip install -v -e .第 3 步一条命令启动CUDA_VISIBLE_DEVICES0 python demo/app.py --model tencent/WeVisOne-VL-4B启动成功后浏览器打开http://localhost:8080即可使用。显存紧张可换成更轻量的 2B 版本CUDA_VISIBLE_DEVICES0 python demo/app.py --model tencent/WeVisOne-VL-2B 也可以直接执行封装好的启动脚本 demo/run_demo.sh它会自动设置PYTHONPATH并透传参数模型路径还可以通过环境变量WEVISONE_MODEL指定命令行--model优先。完整的命令行选项如下摘自 demo/README.md参数默认值说明--modeltencent/WeVisOne-VL-4BHugging Face 模型 ID 或本地权重目录--backendtransformers推理后端transformers或vllm--deviceauto运行设备auto/cuda:0/npu:0/cpu--server-name0.0.0.0服务绑定地址--server-port8080服务端口--share关生成 Gradio 公网分享链接--mock关跳过模型加载返回模拟结果预览 UI二、界面速览8 种任务 示例图库开箱即玩Demo 界面遵循「选任务 → 传图/填 query → Run」三步操作Choose a task顶部 8 个任务按钮分为对象级Grounding / Dense Detection / Counting / Pointing / OCR / Caption和像素级Segmentation / Matting两组切换任务会自动带出对应的示例 queryImage query上传图片、输入查询语句还可以展开 Prompt sent to the model 手改最终 promptResult右侧展示可视化结果、实例统计与耗时Model Output 里能看到模型原始输出。底部 Examples 图库内置 8 个一键示例图片位于 demo/examples/images/点击即可自动填入图片、任务和 query。比如 Dense Detection 任务会一次定位客厅里的沙发、抱枕、茶几、台灯等Pointing 任务则用点位逐一标出图中的狗像素级任务是 WeVisOne-VL 的招牌能力。Matting 任务内置 4 种显示模式Green Screen / Overlay / Alpha Matte / Cutout输入一张海边人像即可输出连续 Alpha Matte无需 SAM直接得到发丝级边缘而 Referring Segmentation 能根据自然语言描述精确分割目标官方对比案例见 assets/case_study/refseg.jpg三、vLLM 加速一键切换高吞吐推理后端默认transformers后端适合单用户试用多人共用或批量跑图时切换到 vLLM 后端吞吐更高只需加一个参数CUDA_VISIBLE_DEVICES0 python demo/app.py \ --model tencent/WeVisOne-VL-4B \ --backend vllm \ --server-name 0.0.0.0 \ --server-port 8080vLLM 引擎的初始化逻辑在 wevisone_vl/engine.py默认gpu_memory_utilization0.45会与同卡其他进程共享显存vllm已包含在 requirements.txt 中无需额外安装。两种后端任务能力完全一致切换不影响 8 类任务的输出。⚠️ 建议只有一张卡且单人使用就保持transformers默认值需要对外提供在线服务或同时处理多图时选vllm。四、3 个进阶参数详解以下 3 个参数定义见 demo/app.py覆盖最常见的特殊场景1.--device指定运行设备默认auto会自动选择 GPU。多卡机器想固定用某张卡时写cuda:0、cuda:1华为昇腾 NPU 环境可用npu:0纯 CPU 调试写cpu速度较慢仅验证流程用python demo/app.py --device cuda:12.--mock无 GPU 也能预览界面加上--mock会跳过模型加载用一个内置的 MockEnginedemo/app.py返回模拟的框和遮罩CPU 上秒开界面适合没有 GPU 时先熟悉交互、或在 CI 里做 UI 冒烟测试python demo/app.py --mock3.--share生成公网临时链接Demo 默认监听0.0.0.0:8080局域网同事可直接访问http://你的IP:8080如果机器在云端或内网隔离加--share可让 Gradio 生成一个公网临时分享链接直接发给别人试用python demo/app.py --model tencent/WeVisOne-VL-2B --backend vllm --share五、进阶玩法与参考资料生成参数面板界面 Generation Parameters 折叠区暴露了temperature默认 0.0、top_p0.95、top_k50、max_new_tokens4096、repetition_penalty1.05等滑杆调参结果无需重跑模型即可实时重绘见 demo/app.py可视化微调Font Size、Line Width、框颜色、Mask 叠加透明度、分割阈值均可在线调整纯 CPU 重绘不消耗 GPU官方 Cookbooks三个 Notebook 手把手讲各任务用法——对象级流水线、OCR 流水线、分割与抠图流水线代码级示例不想用网页也可以直接跑 demo/examples/detection_example.py里面演示了model.predict()的标准调用方式评测流程想复现官方 benchmark 结果参考 evaluation/README.md。装好环境、敲下启动命令几分钟内你就能在自己的机器上体验 WeVisOne-VL 从「点框」到「像素」的完整视觉感知能力了 赞分享【免费下载链接】WeVisOne-VLWeVisOne-VL is a powerful VLM by the WeChat Vision Team at Tencent, unifying object-level and pixel-level perception from points and boxes to masks and alpha mattes.项目地址https://gitcode.com/gh_mirrors/we/WeVisOne-VL点击查看免费下载相关推荐文本驱动分割WeVisOne-VL指代图像分割RIS完整图文教程文本驱动分割WeVisOne VL指代图像分割RIS完整图文教程 WeVisOne VL 2B 是腾讯微信视觉团队WeChat Vision开源人工智能多模态计算机视觉深度学习OCR图像处理WeVisOne-VL API参数手册predict()接口、任务类型与返回值完整参考WeVisOne VL API参数手册predict 接口、任务类型与返回值完整参考 WeVisOne VL 2B 是腾讯微信视觉团队推出的统一视觉感知大模型人工智能多模态计算机视觉深度学习OCR图像处理本地跑视觉语言模型candle-vllm 图文对话 Qwen3-VL、Gemma3-VL 完整教程本地跑视觉语言模型candle vllm 图文对话 Qwen3 VL、Gemma3 VL 完整教程 想 在本地免费跑视觉语言模型 吗candle vllm上一篇Centrifugo 自动化测试实战指南实时消息服务器怎么测才放心下一篇libTidy 消息系统扩展指南为 HTML Tidy 5.8.0 新增警告/错误报告消息的完整三步流程创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考