Windows で NVIDIA Chat with RTX をダウンロードして使用する方法

AI はほぼどこにでも存在します。ChatGPTなどのプラットフォームを使用すると、スマートフォンでも利用できるようになりました。ただし、欠点は、すべてのデータが他の人のサーバーにアップロードされることです。自分のニーズに合わせてローカル AI があれば素晴らしいと思いませんか? Nvidia の RTX とのチャットを入力してください。手の届くところにあるパーソナル AI アシスタントが、質問に答えたり、文書を要約したり、カジュアルな会話をしたりすることができます。

Chat with RTX は、RTX グラフィックス カードの魔法を利用して、生成 AI のパワーを指先で直接利用できる NVIDIA の技術デモです。このガイドでは、Chat with RTX とは何か、Windows PC にダウンロードしてインストールする方法、その可能性を最大限に活用する方法など、Chat with RTX について知っておくべきすべてのことを説明します。それでは、本題に入りましょう。

RTX でのチャットとは

Chat with RTX はローカル チャットボットであり、処理能力はデバイス上にローカルに存在します。これにより、プライバシー、超高速の応答、ワークフローとのシームレスな統合が保証されます。検索拡張生成 (RAG)、TensorRT-LLM、および RTX アクセラレーション テクノロジを活用して、クエリを理解し、コンテキストに関連した応答を提供します。

出典:エヌビディア

ドキュメント、ビデオ、メモなど、関連するデータセットをフィードできます。次に、ツールにクイズを出し、その中に含まれる情報に基づいて回答を提供することができます。あるいは、YouTube ビデオ リンクを共有し、それに基づいて Chat with RTX がクエリに答えることもできます。違いは、処理がシステム上で行われるため、より迅速な応答が保証され、プライバシーが保護されることです。

RTX とのチャットのシステム要件

Chat with RTX Voice が何であるかを明確に理解できたので、ぜひ試してみたいと思いますよね?ただし、AI プレイグラウンドに飛び込む前に、システムが次の要件を満たしていることを確認してください。

• オペレーティングシステム:  Windows 11
• グラフィックス カード:  NVIDIA GeForce RTX 30 または 40 シリーズ GPU、または少なくとも 8GB の VRAM を搭載した NVIDIA RTX Ampere/Ada Generation GPU
• RAM:  16GB以上
• NVIDIA ドライバー: バージョン 535.11 以降

公式要件では Windows 11 について言及していますが、RTX とのチャットは Windows 10 システムでも動作することは注目に値します。ただし、GPU の最新ドライバーを実行していることを確認してください。そうでない場合は、以下のリンクから最新のドライバー パッケージをダウンロードしてください。

NVIDIA GPU ドライバーをダウンロードする

Chat with RTX を PC にダウンロードしてインストールする方法

システムの準備ができたので、Windows システムに Chat with RTX をインストールします。その方法は次のとおりです。

ステップ 1 : 以下のリンクから Chat with RTX インストーラー ファイルをシステムにダウンロードします。パッケージ ファイルのサイズは 35 GB を超えることに注意してください。したがって、忍耐力と安定したインターネット接続を備えてください。

RTX で NVIDIA チャットをダウンロード

さらに、ダウンロード マネージャーを使用して、ダウンロード速度を向上させることもできます。ファイルをダウンロードしたら、ZIP ファイルを選択したフォルダーに解凍します。

ステップ 2 : 解凍したら、フォルダーに移動します。セットアップ ファイルをダブルクリックして起動します。

ステップ 3 : 次に、通常のソフトウェアと同様に、Chat with RTX アプリケーションをシステムにインストールします。

注: NVIDIA は、このツールを別のディレクトリにインストールすると問題が発生する可能性があると述べています。したがって、デフォルトのインストール場所のみを使用してください。

ステップ 4 : インストールしたら、スタート メニューとデスクトップ画面に追加された Chat With RTX アプリのショートカットを使用して起動します。中に入ると、コマンド プロンプト ウィンドウが表示されます。アプリは RTX GPU を自動的に検出し、最適なパフォーマンスを実現するために VRAM を割り当てます。

ステップ 5 : 完了したら、Ctrl キーを押しながらコマンド プロンプト ウィンドウ内のリンクを左クリックして、メイン インターフェイスを開きます。

完了したら、好みの AI データ モデル (Llama または Mistral) を選択できます。質問に応じて、答えはモデルごとに異なります。

PC で RTX とチャットを使用する方法

Chat with RTX を Windows PC に正常にインストールしたので、今度はそれを取り出して試してみましょう。 RTX でのチャットを使用して実行できることの例をいくつか示します。

1. スマートAIとチャット

ほとんどの AI ツールと同様に、Chat with RTX を使用してローカル AI チャットボットとチャットできます。選択した AI モデルを選択し、データセットを「AI モデルのデフォルト」に設定します。

ここで、クエリを入力すると、NVIDIA の AI チャットボットが最大限の能力を発揮して応答します。

ただし、Chat with RTX はローカルで動作するため、インターネットにアクセスできるGeminiやChatGPTのようなスマートな回答を提供できないことに注意してください。

2. メモを分析する

ほとんどの人にとって、RTX で Chat を使用する最良の方法は、ドキュメントを分析することです。サーバーベースの AI ツールの 1 つの大きな問題は、機密データをサーバーにアップロードする必要があることです。逆に、Chat with RTX の場合は、データセットを正確に指定すると、関連するすべてのクエリに回答します。その方法は次のとおりです。

ステップ 1 : [データセット] セクションに移動し、ソースを「フォルダー パス」として設定します。次に、AI ツールで分析したいすべてのファイルが含まれるフォルダー パスを参照します。

注: RTX とのチャットは、テキスト、PDF、DOC/DOCX、XML などのさまざまな形式をサポートしています。

ステップ 2 : データセットがロードされたら、チャット ウィンドウにクエリを入力します。提供されたデータに基づいて、AI ツールが回答を提供します。

3. YouTubeビデオをフィードする

Chat with RTX を使用するもう 1 つの方法は、YouTube ビデオを分析することです。ビデオ ファイルから何かがすぐに必要な場合は、タイムラインをたどってクエリに対する答えを探す必要はありません。代わりに、RTX でチャットを使用してください。

ステップ 1 : [データセット] セクションで、ソースを「YouTube URL」として選択します。次に、検索したい YouTube 動画の URL を貼り付けます。最後に、その横にある「トランスクリプトをダウンロード」ボタンをクリックします。

ステップ 2 : データセットがロードされたら、チャット ウィンドウにクエリまたはプロンプトを入力し、Enter キーを押します。

以上です。 AI は、共有した YouTube ビデオのリンクに基づいて応答します。そうは言っても、Chat with RTX は基本的にクローズド キャプション (CC) ファイルを使用することに注意する価値があります。そのため、クエリに対する答えは、動画に適切な CC ファイルがあるかどうか、または YouTube が独自に CC ファイルを生成したかどうかに大きく依存します。

オンデバイス AI を楽しむ

Chat with RTX を Windows PC にインストールして実行すると、オンデバイス AI が提供できる広大な可能性を探索する準備が整います。生産性向上、学習、カジュアルな会話など、Chat with RTX はニーズに応えます。これを使用して、長い文書を要約したり、創造的なアイデアをブレインストーミングしたり、言語をその場で翻訳したり、示唆に富む会話をしたりできます。

ぜひ、試してみて、プライバシーを犠牲にすることなく AI の利点を享受してください。