Chat with RTX

Chat with RTX 是什么

Chat with RTX 是 NVIDIA 的本地生成式 AI 演示应用。它用 RAG 在本地文件（txt、PDF、Word、XML）与 YouTube 视频上构建个人聊天机器人，依靠 TensorRT-LLM 与 RTX 加速完全在设备上运行，数据不离开本机。

你可以用它做什么

• 查询本地文档
• 不上传云端就构建私有助手
• 在本地测试 RAG 表现
• 离线处理敏感文件

适合谁使用

• 拥有 RTX 30/40 GPU 的用户
• 注重隐私的用户
• 探索本地 RAG 的开发者

需要留意什么

• 硬件要求严格：RTX 30/40 系列、至少 8GB 显存、Windows 11、约 35GB 安装空间
• 它是 demo 级产品，粗糙之处与有限的更新都要预期
• 本地检索质量取决于你的文档集
• 导入 YouTube 内容只应覆盖你有权处理的部分