本地部署 DeepSeek-R1 大模型!免费开源,媲美OpenAI-o1能力

最近,一家名叫DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型,“DeepSeek-V3”。由于这款大模型太过好用,DeepSeek R1 更是直接免费开源,在AI发烧友圈子传播后,传到了海外社交平台、技术论坛,引发了海外网友的连连称赞。

0ca1c0838c20250125140830

各项性能指标更是和OpenAI-o1 模型不相上下,甚至做到了小部分的超越,关键是开源的,我们可以本地部署使用

d41da917e620250125141204

1、本地部署,我们可以通过Ollama来进行安装

Ollama 官方版:点击前往

Web UI 控制端【点击安装

安装命令

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

2. 更多模型下载

DeepSeek-R1

模型 #总参数 #已激活参数 上下文长度 下载
DeepSeek-R1-Zero 671B 37B 128千 🤗 HuggingFace
DeepSeek-R1 671B 37B 128千 🤗 HuggingFace

DeepSeek-R1-Zero 和 DeepSeek-R1 基于 DeepSeek-V3-Base 进行训练。有关模型架构的更多详细信息,请参阅DeepSeek-V3存储库。

DeepSeek-R1-Distill 模型

模型 基础模型 下载
DeepSeek-R1-Distill-Qwen-1.5B Qwen2.5-Math-1.5B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-7B Qwen2.5-Math-7B 🤗 HuggingFace
DeepSeek-R1-Distill-Llama-8B Llama-3.1-8B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-14B Qwen2.5-14B 🤗 HuggingFace
DeepSeek-R1-Distill-Qwen-32B Qwen2.5-32B 🤗 HuggingFace
DeepSeek-R1-Distill-Llama-70B Llama-3.3-70B-Instruct 🤗 HuggingFace

DeepSeek-R1-Distill 模型基于开源模型进行了微调,使用了 DeepSeek-R1 生成的样本。我们对其配置和分词器进行了轻微更改。请使用我们的设置来运行这些模型。

4.评估结果

DeepSeek-R1-评估

对于我们所有的模型,最大生成长度设置为 32,768 个 token。对于需要采样的基准,我们使用的温度为0.6,top-p 值为0.95,并为每个查询生成 64 个响应来估计 pass@1。

类别 基准(公制) 克劳德-3.5-十四行诗-1022 GPT-4o 0513 DeepSeek V3 OpenAI o1-mini OpenAI o1-1217 DeepSeek R1
建筑学 教育部 教育部
# 激活参数 37B 37B
# 总参数 671B 671B
英语 MMLU(通过@1) 88.3 87.2 88.5 85.2 91.8 90.8
MMLU-Redux(EM) 88.9 88.0 89.1 86.7 92.9
MMLU-Pro(EM) 78.0 72.6 75.9 80.3 84.0
掉落 (3 发 F1) 88.3 83.7 91.6 83.9 90.2 92.2
IF-Eval(提示严格) 86.5 84.3 86.1 84.8 83.3
GPQA-钻石级 (Pass@1) 65.0 49.9 59.1 60.0 75.7 71.5
SimpleQA(正确) 28.4 38.2 24.9 7.0 47.0 30.1
框架(配件) 72.5 80.5 73.3 76.9 82.5
AlpacaEval2.0 (LC-胜率) 52.0 51.1 70.0 57.8 87.6
ArenaHard(GPT-4-1106) 85.2 80.4 85.5 92.0 92.3
代码 LiveCodeBench (Pass@1-COT) 33.8 34.2 53.8 63.4 65.9
Codeforces(百分位数) 20.3 23.6 58.7 93.4 96.6 96.3
Codeforces(评级) 717 759 1134 1820 2061 2029
SWE 已验证(已解决) 50.8 38.8 42.0 41.6 48.9 49.2
Aider-Polyglot (Acc.) 45.3 16.0 49.6 32.9 61.7 53.3
数学 AIME 2024(通行证@1) 16.0 9.3 39.2 63.6 79.2 79.8
数学-500 (通过@1) 78.3 74.6 90.2 90.0 96.4 97.3
CNMO 2024 (通行证@1) 13.1 10.8 43.2 67.6 78.8
中文 CLUEWSC(EM) 85.4 87.9 90.9 89.9 92.8
C-评估(EM) 76.7 76.0 86.5 68.9 91.8
C-SimpleQA(正确) 55.4 58.7 68.0 40.3 63.7

蒸馏模型评估

模型 AIME 2024 通行证@1 AIME 2024 缺点@64 MATH-500 通过@1 GPQA 钻石通行证@1 LiveCodeBench 通行证@1 CodeForces 评级
GPT-4o-0513 9.3 13.4 74.6 49.9 32.9 759
克劳德-3.5-十四行诗-1022 16.0 26.7 78.3 65.0 38.9 717
o1-迷你 63.6 80.0 90.0 60.0 53.8 1820
QwQ-32B-预览 44.0 60.0 90.6 54.5 41.9 1316
DeepSeek-R1-Distill-Qwen-1.5B 28.9 52.7 83.9 33.8 16.9 954
DeepSeek-R1-Distill-Qwen-7B 55.5 83.3 92.8 49.1 37.6 1189
DeepSeek-R1-Distill-Qwen-14B 69.7 80.0 93.9 59.1 53.1 1481
DeepSeek-R1-Distill-Qwen-32B 72.6 83.3 94.3 62.1 57.2 1691
DeepSeek-R1-Distill-Llama-8B 50.4 80.0 89.1 49.0 39.6 1205
DeepSeek-R1-Distill-Llama-70B 70.0 86.7 94.5 65.2 57.5 1633
THE END
喜欢就支持一下吧
点赞2838 分享
你的 Gmail 帐户有无限的地址! 别不信-零度博客

你的 Gmail 帐户有无限的地址! 别不信

在我们的意识里,一个 Gmail,一个地址。这似乎是天经地义的。毕竟,您有一个电话号码和一个家庭住址。您的电子邮件地址也应如此,包括 Gmail。不过,碰巧的是,您的 Gmail 帐户拥有无限数量的...
admin的头像-零度博客admin
1.7W+1091
如何免费获取Office软件?你要的都在这里了!!-零度博客

如何免费获取Office软件?你要的都在这里了!!

  1.office 软件部署工具:https://www.microsoft.com/en-us/download/details.aspx?id=49117 2.office 版本自定义工具:https://config.office.com/deploymentsettings 3.基于KMS的 GVLK...
admin的头像-零度博客admin
3.5W+1108
让 Windows 11 变成 macOS ,只需要这几步  | 零度解说-零度博客

让 Windows 11 变成 macOS ,只需要这几步 | 零度解说

https://youtu.be/XS53v6re0Us     所需的工具下载:https://www.freedidi.com/2573.html
送福利!免费获取AWS云服务器!优质网络,速度超快!搭建网站、代理IP,直连电信、联通,线路超级良心!! | 零度解说-零度博客

送福利!免费获取AWS云服务器!优质网络,速度超快!搭建网站、代理IP,直连电信、联通,线路超级良心!! | 零度解说

https://youtu.be/delrbXy6pBY ------------------------------------- 🔔 1.亚马逊云服务器免费注册:https://mic.anruicloud.com/url/ldjs 2.Amazon云服务器搭建网站:https://www.freedidi.c...
admin的头像-零度博客admin
1.4W+1528
Notion 一款非常优秀的记笔记软件,值得推荐!-零度博客

Notion 一款非常优秀的记笔记软件,值得推荐!

Notion是一款集成了笔记、知识库、数据表格、看板、日历等多种能力于一体的应用程序,它既可供个人使用,也可以与他人进行跨平台协作。之前这款软件迟迟不推出中文版,无论是中文简体、繁体都没...
admin的头像-零度博客admin
2.2W+2708
手机与电脑之间传输数据最快的方式是什么?| 苹果手机和电脑相互传输视频,照片,文档等-零度博客

手机与电脑之间传输数据最快的方式是什么?| 苹果手机和电脑相互传输视频,照片,文档等

手机与电脑之间传输数据最快的方式是什么? 本期视频我主要介绍苹果手机与各种电脑之间在短距离传输数据:视频,照片, 文档等该如何选择最快最便捷的方式。 列举:苹果手机与Mac电脑,苹果手机...
警告!Win7/10/11 爆高危漏洞:文件查看即中招,账号易被盗,补丁已出 !-零度博客

警告!Win7/10/11 爆高危漏洞:文件查看即中招,账号易被盗,补丁已出 !

12 月 7 日消息,0patch 团队于 12 月 5 日发布公告,发现 Windows 系统存在一个高危零日漏洞,并推出了非官方修复补丁。漏洞概述该漏洞利用了 NTLM(NT LAN Manager)身份验证协议的缺陷。NTLM...
admin的头像-零度博客admin
1.2W+4374
波士顿机器人拿枪射击是真是假?视频是如何拍摄制作的?过程都在这-零度博客

波士顿机器人拿枪射击是真是假?视频是如何拍摄制作的?过程都在这

https://www.youtube.com/watch?v=y3RIHnK0_NE&t=102s   其实是有真人录制,然后通过后期特效制作而成,完整拍摄制作过程如下: https://www.youtube.com/watch?v=zIdqiwHsuI8&t=2s
admin的头像-零度博客admin
1.7W+1682
7款非常值得推荐的免费应用程序!-零度博客

7款非常值得推荐的免费应用程序!

  1.微软电脑管家海外版:【前往下载】 2.Duplicates Cleaner 去重:【点击下载】 3.Adob​​e Photoshop Express:【点击下载】 4.Braver、火狐浏览器:【Brave】、【火狐】 5.SomaFM 无...
admin的头像-零度博客admin
1.4W+1529