本地部署安装 Llama 3.2 大模型,支持1B、3B、11B、90B 模型

图片[1]-本地部署安装 Llama 3.2 大模型,支持1B、3B、11B、90B 模型-零度博客

安装步骤:

 

1、通过Ollama进行部署 ,支持多平台!Windows / Mac /Linux 都可以运行 【点击下载

并在 Windows 上打开 WSL  功能:

图片[2]-本地部署安装 Llama 3.2 大模型,支持1B、3B、11B、90B 模型-零度博客

2、安装Docker Desktop :【点击前往

然后本地安装webUI

(1)在CPU下运行:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

 

(2)支持GPU运行:

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

 

安装完成通过本地地址:http://127.0.0.1:3000 进行访问,然后在里面下载安装Llama 3.2 模型

图片[3]-本地部署安装 Llama 3.2 大模型,支持1B、3B、11B、90B 模型-零度博客

Llama 3.2 11B 本地部署教程:【点击前往】 注意:11B模型 需要22G以上的显存才能运行

当然如果你不想本地部署安装,或者显卡不支持,也可以直接在线体验 !

Llama 3.2 11B在线使用:【点击前往】 支持图片识别功能

THE END
喜欢就支持一下吧
点赞3258 分享
相关推荐
SpaceX 巨型火箭“星舰”4 号发射!完整视频,人类迈向星际移民又近了一步! | 零度解说-零度博客
世界排名前5的比特币钱包,完全去中心化才是真正的安全 | 零度解说-零度博客
bt种子下载神器,不限速,这几款都是真正好用的BT下载工具 | 零度解说-零度博客

bt种子下载神器,不限速,这几款都是真正好用的BT下载工具 | 零度解说

更多资源▶https://www.youtube.com/channel/UCvijahEyGtvMpmMHBu4FS2w?sub_confirmation=1 其它频道▶https://www.youtube.com/channel/UClwagXSElvewq1IPXXSFSug 今天给大家介绍的这5款BT下载...
DeepSeek V3.1 正式发布! 最强的开源、AI 编程模型?对比Claude Opus 4.1 和 GPT-5 如何?实测告诉你答案!| 零度解说-零度博客
【干货】 给大家带来多快超实用的电脑软件!-零度博客

【干货】 给大家带来多快超实用的电脑软件!

  1.Dropit 【点击下载】 2.DNS 服务器切换器【点击下载】 3.手心输入法【点击下载】 4.CCleaner【点击下载】 5.Honeyview【点击下载】 6.更多软件 【点击下载】
admin的头像-零度博客admin
1.9W+2250
Windows11 安卓子系统 最新安装教程!-零度博客

Windows11 安卓子系统 最新安装教程!

Amazon应用商店地址:http://aka.ms/AmazonAppstore 使用方法: 电脑需要安装在 Windows 11(Build 22000.xxx series builds)上,并满足硬件要求; 用户需要为电脑的 BIOS/UEFI 启用虚拟化; ...
5款【神级软件】推荐! 绝对让你相见恨晚,免费开源,吊打付费!提高效率、瞬间起飞!!  | 零度解说-零度博客
Linux Mint 22:非常适合 Windows 用户的优秀发行版!免费开源-零度博客

Linux Mint 22:非常适合 Windows 用户的优秀发行版!免费开源

    Linux Mint 是一款适用于台式机和笔记本电脑的操作系统。它设计为“开箱即用”,并配备了大多数人需要的应用程序。对电脑的硬件要求非常低,即使是10年前的老旧电脑都能流畅运行...
admin的头像-零度博客admin
2.6W+2176
Phoenix Code - 高效的全能文本、代码编辑器!免费开源,支持多平台!-零度博客

Phoenix Code – 高效的全能文本、代码编辑器!免费开源,支持多平台!

Phoenix Code 是一款集成化的现代开发工具,旨在为程序员提供高效、流畅的编码体验。它支持多种编程语言,如 Python、JavaScript、Go、Rust 等,内置智能代码补全、错误提示和实时调试功能,极...
admin的头像-零度博客admin
1.6W+1202