Windows에서 RTX와 함께 NVIDIA Chat을 다운로드하고 사용하는 방법

AI는 거의 모든 곳에 있습니다. ChatGPT 와 같은 플랫폼을 사용하면 이제 스마트폰에서도 사용할 수 있습니다 . 그러나 단점은 모든 데이터가 다른 사람의 서버에 업로드된다는 것입니다. 귀하의 요구에 맞는 로컬 AI가 있다면 좋지 않을까요? RTX를 사용하여 Nvidia의 채팅에 입장하세요. 귀하의 질문에 답변하고, 문서를 요약하고, 일상적인 대화에 참여할 준비가 되어 있는 개인 AI 비서가 가까이에 있습니다.

Chat with RTX는 RTX 그래픽 카드의 마법을 활용하여 생성 AI의 성능을 손끝으로 직접 전달하는 NVIDIA의 기술 데모입니다. 이 가이드에서는 Chat with RTX가 무엇인지, Windows PC에 다운로드하고 설치하는 방법, 최대한 활용하는 방법 등 Chat with RTX에 대해 알아야 할 모든 것을 안내해 드립니다. 그럼 시작해 보겠습니다.

RTX와의 채팅이란 무엇입니까?

Chat with RTX는 처리 능력이 귀하의 장치에 로컬로 존재하는 로컬 챗봇입니다. 이를 통해 개인 정보 보호, 매우 빠른 응답 및 작업 흐름과의 원활한 통합이 보장됩니다. 검색 증강 생성(RAG), TensorRT-LLM 및 RTX 가속 기술을 기반으로 쿼리를 이해하고 상황에 맞는 응답을 제공합니다.

출처: 엔비디아

문서, 비디오, 메모 등 관련 데이터세트를 제공할 수 있습니다. 그런 다음, 도구에 포함된 정보를 기반으로 답변을 제공하는 퀴즈를 풀 수 있습니다. 또는 YouTube 비디오 링크를 공유할 수 있으며, Chat with RTX는 이를 기반으로 귀하의 질문에 답변할 수 있습니다. 차이점은 처리가 시스템에서 이루어지므로 더 빠른 응답을 보장하고 개인 정보를 보호한다는 것입니다.

RTX 채팅을 위한 시스템 요구 사항

이제 RTX Voice 채팅이 무엇인지 확실히 이해하셨으니 한 번 시도해 보시는 게 어떨까요? 그러나 AI 놀이터에 뛰어들기 전에 시스템이 다음 요구 사항을 충족하는지 확인하십시오.

• 운영 체제:  윈도우 11
• 그래픽 카드:  NVIDIA GeForce RTX 30 또는 40 시리즈 GPU 또는 최소 8GB VRAM을 갖춘 NVIDIA RTX Ampere/Ada Generation GPU
• RAM:  16GB 이상
• NVIDIA 드라이버:  버전 535.11 이상

공식 요구 사항에는 Windows 11이 언급되어 있지만 Chat with RTX는 Windows 10 시스템에서도 작동한다는 점은 주목할 가치가 있습니다. 그러나 GPU용 최신 드라이버를 실행하고 있는지 확인하세요. 그렇지 않은 경우 아래 링크에서 최신 드라이버 패키지를 다운로드하세요.

NVIDIA GPU 드라이버 다운로드

PC에 Chat with RTX를 다운로드하고 설치하는 방법

이제 시스템이 준비되었으므로 Windows 시스템에 Chat with RTX를 설치하세요. 이를 수행하는 방법은 다음과 같습니다.

1단계 : 시스템의 아래 링크에서 Chat with RTX 설치 프로그램 파일을 다운로드합니다. 패키지 파일 크기가 35GB를 넘는다는 점에 유의하세요. 따라서 인내심과 안정적인 인터넷 연결로 무장하세요.

RTX로 NVIDIA Chat 다운로드

또한 다운로드 관리자를 사용하여 다운로드 속도를 높일 수 있습니다. 파일이 다운로드되면 원하는 폴더에 ZIP 파일을 추출합니다 .

2단계 : 추출이 완료되면 폴더로 이동합니다. 설치 파일을 두 번 클릭하여 실행합니다.

3단계 : 이제 시스템에 일반 소프트웨어처럼 Chat with RTX 애플리케이션을 설치합니다.

참고 : NVIDIA는 도구가 다른 디렉터리에 설치되면 문제가 발생할 수 있다고 언급했습니다. 따라서 기본 설치 위치만 사용하십시오.

4단계 : 설치가 완료되면 시작 메뉴와 데스크탑 화면에 추가된 Chat With RTX 앱 바로가기를 사용하여 실행하세요. 내부에는 명령 프롬프트 창이 나타납니다. 앱은 자동으로 RTX GPU를 감지하고 최적의 성능을 위해 VRAM을 할당합니다.

5단계 : 완료되면 명령 프롬프트 창 내부의 링크를 Ctrl + 마우스 왼쪽 버튼으로 클릭하여 기본 인터페이스를 엽니다.

완료되면 Llama 또는 Mistral 등 원하는 AI 데이터 모델을 선택할 수 있습니다. 귀하의 질문에 따라 답변은 모델마다 다를 수 있습니다.

PC에서 RTX로 채팅을 사용하는 방법

이제 Windows PC에 Chat with RTX를 성공적으로 설치했으므로 직접 사용해 볼 차례입니다. 다음은 Chat with RTX를 사용하여 수행할 수 있는 작업의 몇 가지 예입니다.

1. 스마트 AI와 채팅

대부분의 AI 도구와 마찬가지로 Chat with RTX를 사용하여 로컬 AI 챗봇과 채팅할 수 있습니다. 원하는 AI 모델을 선택하고 데이터세트를 'AI 모델 기본값'으로 설정하세요.

이제 쿼리를 입력하면 NVIDIA의 AI 챗봇이 최선을 다해 응답할 것입니다.

하지만 Chat with RTX는 로컬에서 작동하기 때문에 인터넷 접속이 가능한 Gemini 나 ChatGPT 와 같은 스마트한 답변을 제공할 수 없다는 점은 주목할 가치가 있습니다 .

2. 메모 분석

대부분의 사람들에게 Chat with RTX를 사용하는 가장 좋은 방법은 문서를 분석하는 것입니다. 서버 기반 AI 도구의 한 가지 큰 문제는 기밀 데이터를 서버에 업로드해야 한다는 것입니다. 반면 Chat with RTX의 경우 데이터세트를 정확하게 찾아낼 수 있으며 그러면 모든 관련 질문에 답변해 줍니다. 이를 수행하는 방법은 다음과 같습니다.

1단계 : 데이터 세트 섹션으로 이동하여 소스를 '폴더 경로'로 설정합니다. 그런 다음 AI 도구로 분석하려는 모든 파일이 포함된 폴더 경로를 찾아보세요.

참고 : RTX를 사용한 채팅은 텍스트, PDF, DOC/DOCX, XML을 포함한 다양한 형식을 지원합니다.

2단계 : 데이터 세트가 로드되면 채팅 창에 쿼리를 입력합니다. 제공된 데이터를 바탕으로 AI 도구가 답변을 제공합니다.

3. YouTube 동영상 피드

Chat with RTX를 사용하는 또 다른 방법은 YouTube 동영상을 분석하는 것입니다. 비디오 파일에서 필요한 내용이 급히 필요한 경우 쿼리에 대한 답변을 검색하기 위해 타임라인을 탐색할 필요가 없습니다. 대신 Chat with RTX를 사용하세요.

1단계 : 데이터 세트 섹션에서 소스를 'YouTube URL'로 선택합니다. 그런 다음 검색하려는 YouTube 동영상 URL을 붙여���으세요. 마지막으로 옆에 있는 '트랜스크립트 다운로드' 버튼을 클릭하세요.

2단계 : 데이터 세트가 로드된 상태에서 채팅 창에 쿼리나 프롬프트를 입력하고 Enter를 누릅니다.

그리고 그게 다야. AI는 공유한 YouTube 동영상 링크를 기반으로 응답합니다. 즉, Chat with RTX는 기본적으로 CC(Closed Captions) 파일을 사용한다는 점은 주목할 가치가 있습니다. 따라서 문의사항에 대한 답변은 동영상에 적합한 CC 파일이 있는지 또는 YouTube에서 자체적으로 CC 파일을 생성했는지에 따라 크게 달라집니다.

온디바이스 AI를 즐겨보세요

이제 Chat with RTX를 Windows PC에 설치하여 실행하면 온디바이스 AI가 제공할 수 있는 광대한 가능성을 탐색할 수 있습니다. 생산성, 학습, 일상적인 대화 등 무엇을 위한 것이든 Chat with RTX는 귀하의 필요에 맞춰 준비되어 있습니다. 이를 사용하여 긴 문서를 요약하고, 창의적인 아이디어를 브레인스토밍하고, 즉석에서 언어를 번역하거나, 생각을 자극하는 대화를 나눌 수 있습니다.

그러니 한 번 시도해 보시고 개인 정보를 침해하지 않고 AI의 장점을 즐겨보세요.