NVIDIA Chat with RTX 部署您的个性化本地人工智能聊天机器人

图片[1]-NVIDIA Chat with RTX  部署您的个性化本地人工智能聊天机器人-零度博客

NVIDIA 最近发布了一款利用RTX AI 加速技术打造的聊天机器人——「Chat with RTX」早期演示程序。只要你拥有配备8GB显存的NVIDIA RTX 30或40系列显卡,就能体验到这一新技术。其亮点在于,用户可以向大型语言模型提供txt、doc、pdf文件或视频链接,从而定制模型以提供个性化的回答。索引工作在本机上进行,因此无需担心隐私问题。

系统要求

平台 Windows
图形处理器 NVIDIA GeForce™ RTX 30 或 40 系列 GPU 或 NVIDIA RTX™ Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
内存 16GB 或更大
操作系统 Windows 11
驱动 535.11 或更高版本

 

官方下载:【点击前往

 

Chat with RTX 支持各种文件格式,包括文本、pdf、doc/docx 和 xml。只需将应用程序指向包含文件的文件夹,它就会在几秒钟内将它们加载到库中。此外,您可以提供 YouTube 播放列表的网址,应用程序将加载播放列表中视频的转录,使您能够查询它们涵盖的内容。

Chat with RTX 技术演示是根据GitHub上提供的 TensorRT-LLM RAG 开发人员参考项目构建的。开发人员可以使用该参考来开发和部署自己的基于 RAG 的 RTX 应用程序,并由 TensorRT-LLM 加速。

THE END
喜欢就支持一下吧
点赞1527 分享
相关推荐
最强的油管下载神器!这3款强烈推荐,速度真的非常快!! 2022 | 零度解说-零度博客
Windows 10/11 激活密钥查找大全 - 轻松找回KMS、OEM和数字许可证-零度博客

Windows 10/11 激活密钥查找大全 – 轻松找回KMS、OEM和数字许可证

https://youtu.be/_OGLuTTWQHw     查找密钥的CMD命令:https://www.freedidi.com/13758.html
HARDiNFO 8 Professional – 免费获取专业系统信息查看工具 [Windows][$39.5→免费]-零度博客

HARDiNFO 8 Professional – 免费获取专业系统信息查看工具 [Windows][$39.5→免费]

HARDiNFO Professional 是一款功能强大的系统信息查看工具,可详细展示当前电脑中各硬件的具体信息,以及系统、网络等参数。此外,它还内置了实用的跑分功能,让您轻松评估设备性能。   &n...
admin的头像-零度博客admin
2.9W+2816
为什么你应该切换到 Android 安卓手机!-零度博客

为什么你应该切换到 Android 安卓手机!

苹果擅长他们的工作。他们制造的产品易于设置和使用,但在不知不觉中,您会觉得自己完全被困在了他们的生态系统中。现在,对我们中的许多人来说,这还不错。生态系统有很多好处,这里的生活似乎...
admin的头像-零度博客admin
1.6W+2252
Stability AI 偷偷发布黑科技,秒杀Suno AI 的音乐生成!-零度博客

Stability AI 偷偷发布黑科技,秒杀Suno AI 的音乐生成!

AI 圈又有大新闻啦!Stability AI 又悄悄放出一个大招,这次不再是画图,而是音乐生成!而且还是开源的! 这个新工具叫 Stable Audio Open,简单来说,用文字就能生成各种音频——无论是鼓点、...
admin的头像-零度博客admin
2.3W+2176
庞大的新数据集突破了神经科学的极限!-零度博客

庞大的新数据集突破了神经科学的极限!

如何处理来自高达 300,000 个小鼠神经元的记录? 几乎所有介绍性神经科学课程中都会播放一段视频。它看起来并不多——一条光条在黑色屏幕上移动和旋转,而背景音频像远处烟花表演的声音一样弹出...
admin的头像-零度博客admin
1.6W+2250
如何免费获取美国实体手机号?并进行永久免费保号 Talkatone-零度博客

如何免费获取美国实体手机号?并进行永久免费保号 Talkatone

Talkatone 是一款免费的美国实体手机号码应用程序,支持iOS和安卓手机,注册即可获取免费的美国实体号码!这款通话应用可让您选择自己的免费美国电话号码。您可以免费拨打和接收短信以及拨打大...
admin的头像-零度博客admin
11.3W+3895
DeepSeek 本地部署最佳实践!免费开源,无痛运行高级 AI 大模型,秒建本地知识库! | 零度解说-零度博客

DeepSeek 本地部署最佳实践!免费开源,无痛运行高级 AI 大模型,秒建本地知识库! | 零度解说

https://www.youtube.com/watch?v=tWJvSy7dL1wDeepSeek-R1 本地部署知识库工具下载:https://www.freedidi.com/18410.html注意:本地部署也是支持开启联网搜索模式的只需在AnythingLLM的设置界...
最火的AI绘画教程!免费开源,包教会-零度博客

最火的AI绘画教程!免费开源,包教会

  1.Git: 【官网】 2.Python:【官网】 3.安装命令: git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git 4.Model下载:【点击前往】 最新版的stable-diffusion-v1....
admin的头像-零度博客admin
1.8W+2250