NVIDIA Chat with RTX 部署您的个性化本地人工智能聊天机器人

图片[1]-NVIDIA Chat with RTX  部署您的个性化本地人工智能聊天机器人-零度博客

NVIDIA 最近发布了一款利用RTX AI 加速技术打造的聊天机器人——「Chat with RTX」早期演示程序。只要你拥有配备8GB显存的NVIDIA RTX 30或40系列显卡,就能体验到这一新技术。其亮点在于,用户可以向大型语言模型提供txt、doc、pdf文件或视频链接,从而定制模型以提供个性化的回答。索引工作在本机上进行,因此无需担心隐私问题。

系统要求

平台 Windows
图形处理器 NVIDIA GeForce™ RTX 30 或 40 系列 GPU 或 NVIDIA RTX™ Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
内存 16GB 或更大
操作系统 Windows 11
驱动 535.11 或更高版本

 

官方下载:【点击前往

 

Chat with RTX 支持各种文件格式,包括文本、pdf、doc/docx 和 xml。只需将应用程序指向包含文件的文件夹,它就会在几秒钟内将它们加载到库中。此外,您可以提供 YouTube 播放列表的网址,应用程序将加载播放列表中视频的转录,使您能够查询它们涵盖的内容。

Chat with RTX 技术演示是根据GitHub上提供的 TensorRT-LLM RAG 开发人员参考项目构建的。开发人员可以使用该参考来开发和部署自己的基于 RAG 的 RTX 应用程序,并由 TensorRT-LLM 加速。

THE END
喜欢就支持一下吧
点赞1527 分享
爆!网络安全公司的 Chrome 扩展程序被劫持、植入后门以窃取用户数据!-零度博客

爆!网络安全公司的 Chrome 扩展程序被劫持、植入后门以窃取用户数据!

目前至少有五个 Chrome 扩展程序在一次协同攻击中遭到入侵,威胁行为者注入了窃取用户敏感信息的代码。 数据丢失防护公司 Cyber​​haven 披露了一次攻击,该公司在 12 月 24 日成功对 Google C...
admin的头像-零度博客admin
68141534
这款下载工具强烈推荐! 完全免费开源、支持多种协议、支持批量下载(2024)-零度博客
obs.ninja + OBS 打造一个完全免费的手机摄像头调用-零度博客

obs.ninja + OBS 打造一个完全免费的手机摄像头调用

1.obs.ninja网站:【点击进入】 2.OBS最新款:【点击下载】    
Win 10 / Win 11 免费安装 HEVC 视频扩展!轻松解决4K视频和照片的无法打开的问题-零度博客
john the ripper 下载 + 使用教程-零度博客

john the ripper 下载 + 使用教程

1.john the ripper :https://www.openwall.com 网盘下载:【点击下载】 只需用到1个命令: python office2john.py  文件名.xlsx  -–获取hash值 2.hashcat :https://hashcat.net
admin的头像-零度博客admin
1.8W+2251
IP雷达 5.0 网络流量和对外连接检测工具-零度博客

IP雷达 5.0 网络流量和对外连接检测工具

  IP雷达: 【点击下载】
admin的头像-零度博客admin
1.8W+2251
5款非常良心又实用的免费开源软件!-零度博客

5款非常良心又实用的免费开源软件!

  1. Localsend 电脑、手机文件高速互传,免费开源 【官网】【最新开源版】 注意:务必按教程中的设置步骤!     2.WindTerm ,目前功能最全又最良心的SSH远程终端连接器 【开源...
admin的头像-零度博客admin
1.9W+6541
PhotoShow(浮图秀)  图片放大预览插件-零度博客

PhotoShow(浮图秀) 图片放大预览插件

这是一个图片放大预览插件。在浏览网页时,有些缩略图可能不够清晰,安装这个插件后,只需将鼠标移动到页面上的图片上方,不管图片多小、多模糊,都能实现放大预览,查看高分辨率的图片。它在工...
admin的头像-零度博客admin
2.4W+2177
Windows 11 上安装黑苹果 macOS系统!是怎样的一种体验?虚拟机安装macOS 最简单易懂的教程 | 零度解说-零度博客