本地部署 Llama3.1 最强开源大模型!支持 Windows、MacOS

图片[1]-本地部署 Llama3.1 最强开源大模型!支持 Windows、MacOS-零度博客

1.本地电脑安装的硬件要求:​

​Windows:3060以上显卡+8G以上显存+16G内存,硬盘空间至少20G

Mac:M1或M2芯片 16G内存,20G以上硬盘空间

在开始之前,首先我们需要安装Ollama客户端,来进行本地部署Llama3.1大模型

官方下载:点击前往

安装命令:

安装llama3.1-8b,至少需要8G的显存,安装命令就是

ollama run llama3.1:8b

安装llama3.1-70b,至少需要大约 70-75 GB 显存,适合企业用户,安装命令就是

ollama run llama3.1:78b

安装llama3.1-405b,这是一个极其庞大的模型,安装和运行它在本地需要非常高的显存和硬件资源,至少需要大约 400-450 GB 显存,适合顶级大企业用户,安装命令就是

ollama run llama3.1:405b

 

2.如何卸载删除?

直接在你的安装目录下,删除ollama文件夹即可!所有下载的数据和大模型文件都在里面,默认的安装目录是:C:\Users\你自己的用户名\.ollama

3.如果你没有可运行的显卡,那么可以在Huggingface平台上使用,因为huggingFace 上已经托管了Llama3.1大模型,现在完全免费使用!

链接直达

 

图片[2]-本地部署 Llama3.1 最强开源大模型!支持 Windows、MacOS-零度博客

THE END
喜欢就支持一下吧
点赞2178 分享
老司机必备的2个U盘,以免为时已晚!它们堪称电脑修复的瑞士军刀!! | 零度解说-零度博客

老司机必备的2个U盘,以免为时已晚!它们堪称电脑修复的瑞士军刀!! | 零度解说

https://youtu.be/MS4FpJA6RBI =============== 本期视频所需的工具载:https://www.freedidi.com/10441.html
admin的头像-零度博客admin
1.7W+1682
2020最值得观看的五部Netflix电视剧 | 零度解说-零度博客

2020最值得观看的五部Netflix电视剧 | 零度解说

https://youtu.be/v2zUeNiB5KQ 更多资源】▶https://www.youtube.com/channel/UCvijahEyGtvMpmMHBu4FS2w?sub_confirmation=1 ------------------------------------------------
VMware Workstation Pro 17.6 现已发布,支持 Windows 11 23H2、2025 等-零度博客

VMware Workstation Pro 17.6 现已发布,支持 Windows 11 23H2、2025 等

VMware Workstation Pro 是一款流行的 Windows 和 Linux 虚拟化服务,最近已免费提供给个人使用,刚刚更新至 17.6 版。最新版本引入了一个新的命令行工具,可通过命令提示符或终端与虚拟机管理...
admin的头像-零度博客admin
2.9W+6251
轻松去除Excel密码,工作表、工作簿也可以-零度博客

轻松去除Excel密码,工作表、工作簿也可以

1.去除Excl整个工作簿密码的命令: Sub 工作簿密码破解() ActiveWorkbook.Sheets.Copy For Each sh In ActiveWorkbook.Sheets sh.Visible=True Next End Sub 2.去除Excel工作表密码的命令: &nb...
admin的头像-零度博客admin
1.7W+2251
AMD 使 Ryzen 7000 正式发布:9 月 27 日发布,起价 299 美元-零度博客

AMD 使 Ryzen 7000 正式发布:9 月 27 日发布,起价 299 美元

AMD公司承诺 Ryzen 5000 的单核 CPU 性能将大幅提升 29%。 在发布其首款 Ryzen 5000 台式机处理器近两年后,AMD 终于准备好跟进它们。今天,该公司宣布了基于 Zen 4 架构的第一波锐龙 7000 CPU ...
admin的头像-零度博客admin
1.6W+2250
美女博士 AI 项目刷爆全网!Pika 视频生成工具,出道即顶流!!附最新注册使用教程 | 零度解说-零度博客

美女博士 AI 项目刷爆全网!Pika 视频生成工具,出道即顶流!!附最新注册使用教程 | 零度解说

https://youtu.be/uSVlBs8LB00?si=C68Y5vRt4eSacatX ======= 注册链接:https://www.freedidi.com/11022.html
admin的头像-零度博客admin
1.7W+1682
Windows 10为高级用户打造的五款免费神器!不愧是微软的亲儿子 | 零度解说-零度博客
5款免费精品软件推荐!好用到爆,良心开源秒杀付费,不看会后悔!| 零度解说-零度博客

5款免费精品软件推荐!好用到爆,良心开源秒杀付费,不看会后悔!| 零度解说

https://youtu.be/DOI2yxphaLM 1、 IDM下载器的最强免费替代:https://www.freedidi.com/17185.html 2、 跨平台文件传输工具 LANDrop:https://www.freedidi.com/17254.html 3、硬盘诊断和修复...
Qwen2.5-VL 本地部署!最强视觉 AI 大模型,免费开源,离线可用,实测效果惊艳?| 零度解说-零度博客

Qwen2.5-VL 本地部署!最强视觉 AI 大模型,免费开源,离线可用,实测效果惊艳?| 零度解说

https://www.youtube.com/watch?v=x5XS0mNT_FE   Qwen2.5-VL 最强的开源视觉大模型下载:https://www.freedidi.com/18497.html  
admin的头像-零度博客admin
1.4W+1915