DeepSeek-OCR-2环境搭建教程：如何三步用Conda + CUDA 11.8 + vLLM 0.8.5跑通GPU文档OCR

DeepSeek-OCR-2环境搭建教程如何三步用Conda CUDA 11.8 vLLM 0.8.5跑通GPU文档OCR【免费下载链接】DeepSeek-OCR-2Visual Causal Flow项目地址: https://gitcode.com/gh_mirrors/de/DeepSeek-OCR-2DeepSeek-OCR-2 是 DeepSeek 团队推出的新一代视觉文档 OCR光学字符识别模型基于 Visual Causal Flow视觉因果流思路能把扫描版文档、PDF 页面一键转换为 Markdown 或纯文本。本教程带你用Conda CUDA 11.8 vLLM 0.8.5三步搭好 GPU 环境并快速跑通第一次文档 OCR。DeepSeek-OCR-2 是什么为什么值得折腾环境相比第一代方案只靠 CLIP 这类非因果视觉编码器DeepSeek-OCR-2 的DeepEncoder V2直接用 Qwen2500M语言模型当视觉编码器并引入可学习 query 建立新阅读顺序让模型像人一样按因果顺序读文档版面更乱也稳。官方技术细节见 DeepSeek_OCR2_paper.pdf。上手收益图片 OCR流式输出识别结果run_dpsk_ocr2_image.pyPDF OCR高并发批处理速度与第一代 DeepSeek-OCR 持平run_dpsk_ocr2_pdf.py基准评测支持 OmniDocBench 批量评测脚本一键安装前的软硬件清单动手前先对照这张清单避免装到一半才发现缺东西项目版本 / 要求GPUNVIDIA 显卡驱动兼容CUDA 11.8Python3.12.9Conda 环境PyTorch2.6.0cu118 版本vLLM0.8.5cu118 whl 包flash-attn2.7.3其他依赖见 requirements.txttransformers 4.46.3、PyMuPDF 等 显存建议推理脚本默认gpu_memory_utilization在 0.75 ~ 0.9 之间显存偏紧的卡可以适当调低并发数。环境搭建教程三步跑通 GPU OCR第一步获取项目代码git clone https://gitcode.com/gh_mirrors/de/DeepSeek-OCR-2 cd DeepSeek-OCR-2第二步创建并激活 Conda 虚拟环境conda create -n deepseek-ocr2 python3.12.9 -y conda activate deepseek-ocr2固定 Python 3.12.9 很重要——它是官方验证过的组合能最大程度减少兼容性问题。第三步安装 PyTorch、vLLM 0.8.5 与依赖包# 1) CUDA 11.8 版 PyTorch pip install torch2.6.0 torchvision0.21.0 torchaudio2.6.0 --index-url https://download.pytorch.org/whl/cu118 # 2) vLLM 0.8.5 的 cu118 whl 包从 vLLM 官方 Releases 下载 v0.8.5 对应 whl 后安装 pip install vllm-0.8.5cu118-cp38-abi3-manylinux1_x86_64.whl # 3) 项目依赖 pip install -r requirements.txt # 4) FlashAttention pip install flash-attn2.7.3 --no-build-isolation⚠️ 如果看到类似vllm 0.8.5cu118 requires transformers4.51.1的版本冲突报错不用管官方已确认该环境下 vLLM 与 transformers 代码可共存。最快验证方法跑通第一次文档 OCR环境装好后进入 vLLM 推理目录cd DeepSeek-OCR2-master/DeepSeek-OCR2-vllm打开 config.py把INPUT_PATH/OUTPUT_PATH改成你自己的路径然后按场景选择脚本图片流式输出python run_dpsk_ocr2_image.pyPDF并发批处理python run_dpsk_ocr2_pdf.py基准批量评测python run_dpsk_ocr2_eval_batch.py如果你更习惯 HuggingFace Transformers 方式也可以直接运行 run_dpsk_ocr2.py。模型加载与自定义核心实现在 deepseek_ocr2.py图片预处理逻辑在 image_process.py。两种常用 Prompt 怎么选Prompt效果image\n\|grounding\|Convert the document to markdown.文档转 Markdown带版式还原image\nFree OCR.自由 OCR只提取文字内容常见问题 FAQQ1安装 vLLM 时提示 transformers 版本冲突忽略即可官方环境即如此transformers 4.46.3 vLLM 0.8.5 混用无碍。Q2PDF 批量处理时显存不足OOM调低 config.py 中的MAX_CONCURRENCY默认 100它直接决定并发请求数同时可下调各脚本里的gpu_memory_utilization。Q3识别结果有重复短语项目内置了NoRepeatNGramLogitsProcessor见 ngram_norepeat.py做去重采样保持SKIP_REPEAT True即可。Q4动态分辨率是什么模型默认按 (0~6)×768×768 1×1024×1024 的切片方式编码图像对应 (0~6)×144 256 个视觉 tokenBASE_SIZE/IMAGE_SIZE/CROP_MODE等参数同样在 config.py 中可调。到这里Conda CUDA 11.8 vLLM 0.8.5 的 DeepSeek-OCR-2 GPU 环境就算彻底跑通了——接下来把你的 PDF 丢进INPUT_PATH享受文档进、Markdown 出的流畅体验吧 【免费下载链接】DeepSeek-OCR-2Visual Causal Flow项目地址: https://gitcode.com/gh_mirrors/de/DeepSeek-OCR-2创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考