[📪정보] Nvidia ChatWithRTX

[익명(125.128)]

엔비디아에서 내놓은 로컷 챗봇

최소사양 윈11 + RTX 30시리즈 + 브램 8기가 이상

llama13B 4비트 양자화모델임

(수정: TensorRT-LLM 기반이고 mistral7B + llama 2 13B 4bit q 인 듯)

[DeepL 번역]

-노트, 문서, 동영상으로 채팅
ChatWithRTX는 텍스트, pdf, doc/docx, xml 등 다양한 파일 형식을 지원합니다. 애플리케이션에서 파일이 들어 있는 폴더를 가리키기만 하면 몇 초 안에 라이브러리에 파일이 로드됩니다. 또한 YouTube 재생 목록의 URL을 제공하면 앱이 재생 목록에 있는 동영상의 트랜스크립션을 로드하여 해당 콘텐츠를 쿼리할 수 있습니다.

-개발자용 채팅

Chat with RTX 기술 데모는 GitHub에서 제공되는 TensorRT-LLM RAG 개발자 레퍼런스 프로젝트를 기반으로 제작되었습니다. 개발자는 이 레퍼런스를 사용하여 TensorRT-LLM으로 가속화된 RTX용 RAG 기반 애플리케이션을 직접 개발 및 배포할 수 있습니다.

+추가: 설치 화면

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(125.128)]

모델 포함 35기가 ㅋㅋ

[호르륵(hoolooh1)]

llama면 좀 구식인듯

[익명(110.145)]

미스트랄7b도 드가 있다던데

[익명(125.128)]

추가완

[천사다천사(jjtheman999)]

윈11로 업뎃 가야되나 ㅋㅋ - dc App

[익명(125.185)]

오

[익명(211.206)]

야설쓸쑤잇음?

[네덕근첩(naverduck1234)]

규데기

[디시콘발사대(fcbjsjmu1t9f)]

[질문봇(ace8052)]

한국어 가능함?

[김규진(erd7nf4lpe3)]

꺄악 ㅋㅋ 좋아 - dc App

[내복맨(godqhr9778)]

한국어 되냐?