如何在 Windows 上下載並使用 NVIDIA Chat with RTX

人工智慧幾乎無所不在；借助ChatGPT等平台，現在甚至可以在您的智慧型手機上使用。然而，缺點是你的所有資料都會上傳到別人的伺服器。如果您有一個本地人工智慧來滿足您的需求，那不是很好嗎？進入 Nvidia 與 RTX 的聊天。您觸手可及的個人人工智慧助理，隨時準備回答您的問題、總結文件並進行隨意對話。

Chat with RTX 是 NVIDIA 的技術演示，由 RTX 顯示卡的魔力提供支持，將生成式 AI 的力量直接帶到您的指尖。在本指南中，我們將引導您了解有關 Chat with RTX 所需了解的所有信息，包括它是什麼、如何在 Windows PC 上下載和安裝它以及如何充分利用它的潛力。那麼，讓我們開始吧。

什麼是 RTX 聊天

Chat with RTX 是您的本地聊天機器人，其處理能力駐留在您的設備本地。這可確保隱私、快速回應以及與您的工作流程的無縫整合。它由檢索增強生成 (RAG)、TensorRT-LLM 和 RTX 加速技術提供支持，可以理解您的查詢並提供上下文相關的回應。

資料來源：英偉達

您可以為其提供相關資料集，無論是文件、影片還是筆記。然後，您可以對該工具進行測驗，以根據其中包含的資訊提供答案。或者，您可以共享 YouTube 視頻鏈接，Chat with RTX 可以根據該鏈接回答您的疑問。不同之處在於處理發生在您的系統上，確保更快的回應並保護您的隱私。

使用 RTX 聊天的系統需求

既然您清楚地了解了 Chat with RTX Voice 是什麼，您一定會很想把它拿出來試試，對吧？但在進入 AI 遊樂場之前，請確保您的系統符合以下要求：

• 作業系統：  Windows 11
• 顯示卡：  NVIDIA GeForce RTX 30 或 40 系列 GPU，或具有至少 8GB VRAM 的 NVIDIA RTX Ampere/Ada Generation GPU
• 記憶體：  16GB 或更大
• NVIDIA 驅動程式： 版本 535.11 或更高版本

值得注意的是，雖然官方要求提到了 Windows 11，但 Chat with RTX 也適用於 Windows 10 系統。但是，請確保您執行的是 GPU 的最新驅動程式。如果沒有，請從下面的鏈接下載最新的驅動程式包。

下載 NVIDIA GPU 驅動程式

如何在 PC 上下載並安裝 Chat with RTX

現在您的系統已準備就緒，請在 Windows 系統上安裝 Chat with RTX。以下是如何做到這一點。

步驟 1：從下面的連結將 Chat with RTX 安裝程式檔案下載到您的系統。請注意，包檔案大小超過 35GB。因此，請保持耐心和穩定的網路連線。

下載 NVIDIA RTX 聊天

此外，您可以使用下載管理器來提高下載速度。檔案下載後，將 ZIP 檔案解壓縮到您選擇的資料夾中。

步驟 2：解壓縮後，導航至該資料夾。雙擊安裝檔以啟動它。

步驟 3：現在，像系統上的任何常規軟體一樣安裝 Chat with RTX 應用程式。

注意：NVIDIA 提到，如果安裝在不同的目錄中，工具可能會出現問題。因此，僅使用預設安裝位置。

步驟 4：安裝後，使用新增至開始功能表和桌面螢幕的 Chat With RTX 應用程式捷徑啟動它。在裡面，您將看到命令提示字元視窗。該應用程式會自動偵測您的 RTX GPU 並分配 VRAM 以獲得最佳效能。

步驟 5：完成後，按 ctrl + 左鍵點選命令提示字元視窗內的連結以開啟主介面。

完成後，您可以選擇所需的 AI 資料模型，即 Llama 或 Mistral。根據您的查詢，答案會因型號而異。

如何在 PC 上使用 RTX 聊天

現在您已經在 Windows PC 上成功安裝了 Chat with RTX，是時候拿出來試用了。以下是您可以使用 Chat with RTX 執行的一些操作範例。

1. 與智慧AI聊天

與大多數 AI 工具一樣，您可以使用 Chat with RTX 與本地 AI 聊天機器人聊天。選擇您選擇的 AI 模型並將資料集設定為“AI 模型預設值”。

現在，輸入您的查詢，NVIDIA 的 AI 聊天機器人將盡力回應。

然而，值得注意的是，由於 Chat with RTX 在本地工作，它無法像Gemini或ChatGPT那樣提供可以上網的智慧答案。

2. 分析你的筆記

對於大多數人來說，使用 Chat with RTX 的最佳方法是分析他們的文件。基於伺服器的人工智慧工具的一個大問題是你必須將機密資料上傳到他們的伺服器。另一方面，對於 Chat with RTX，您可以將其精確定位到您的資料集，然後它將回答您的所有相關查詢。以下是如何做到這一點。

步驟 1：前往資料集部分並將來源設定為「資料夾路徑」。然後，瀏覽包含您希望 AI 工具分析的所有檔案的資料夾路徑。

注意：Chat with RTX 支援多種格式，包括文字、PDF、DOC/DOCX 和 XML。

第 2 步：載入資料集後，在聊天視窗中輸入您的查詢。根據提供的數據，人工智慧工具將為您提供答案。

3. 提供 YouTube 影片

使用 Chat with RTX 的另一種方法是分析 YouTube 影片。如果您快速需要視訊檔案中的某些內容，則無需透過時間軸來搜尋查詢的答案。相反，使用 Chat with RTX 也能達到相同的效果。

第 1 步：在「資料集」部分下，選擇「YouTube URL」作為來源。然後，貼上您要在其中搜尋的 YouTube 影片 URL。最後，點擊旁邊的「下載成績單」按鈕。

步驟 2： 載入資料集後，在聊天視窗中輸入您的查詢或提示，然後按 Enter 鍵。

就是這樣。 AI 將根據您共享的 YouTube 影片連結做出回應。也就是說，值得注意的是，Chat with RTX 本質上使用隱藏式字幕 (CC) 檔案。因此，您的問題的答案很大程度上取決於該影片是否有合適的 CC 文件，或者 YouTube 是否自行產生了該文件。

享受您的裝置上人工智慧

現在，在您的 Windows PC 上安裝並執行 Chat with RTX 後，您就可以探索裝置上 AI 可以提供的巨大可能性。無論是為了提高工作效率、學習或休閒交談，Chat with RTX 都能滿足您的需求。您可以使用它來總結冗長的文件、集思廣益創意、即時翻譯語言或進行發人深省的對話。

因此，請繼續嘗試吧，在不犧牲您的隱私的情況下享受人工智慧的優勢。