DeepSeek-R1 本地部署

I. 前提条件 1.1 版本选择 特性 蒸馏版 完整版 参数量 参数量较少(如 1.5B、7B),性能接近完整版但略有下降 参数量较大(如 32B、70B),性能最强 硬件要求 显存和内存需求较低,适合低配硬件 显存和内存需求较高,需高端硬件支持 适用场景 适合轻量级任务和资源有限的设备 适合高精度任务和专业场景 1.2 环境要求 模型名称 参数量 大小 VRAM Mac 推荐配置 Windows/Linux 推荐配置 deepseek-r1:1.5b 1.5B 1.1 GB ~2 GB M2/M3 MacBook Air (8GB RAM+) NVIDIA GTX 1650 4GB / AMD RX 5500 4GB (16GB RAM+) II. 本地部署 2.1 安装 Ollama 根据自己的系统版本下载安装 Ollama(官网:https://ollama.com/ ) ...

2025-02-07 · 4 分钟 · 1906 字 · Mortal