[📪정보] NVIDIA NIM을 통한 생성형 AI의 즉각적인 배포

https://www.nvidia.com/ko-kr/ai/

어디서나 실행할 수 있고 프로덕션에 즉시 사용 가능한 APINVIDIA NIM으로 AI 배포를 가속하세요.www.nvidia.com

NVIDIA에서 최적화 및 가속화한 API를 통해 커뮤니티에서 구축한 최신 AI 모델을 살펴보고 NVIDIA NIM 추론 마이크로 서비스를 통해 어디에나 배포하세요.

통합

API 호출만으로 사용 가능한 가속 AI

익숙한 API로 빠르게 시작하고 실행하세요.

Seamless Compatibility With Popular Libraries

자주 사용되는 라이브러리와의 원활한 호환성

단 3줄의 코드로 기존 도구 및 애플리케이션에서 NVIDIA API를 사용하세요.

선호하는 도구로 구축

Langchain 및 LlamaIndex 등 선호하는 LLM 프로그래밍 프레임워크로 작업하고 애플리케이션을 쉽게 배포할 수 있습니다.

선호하는 도구로 구축

어디에서나 실행

NVIDIA NIM으로 AI 배포 가속화

NVIDIA AI Enterprise의 일부인 NVIDIA NIM은 모든 클라우드 또는 데이터센터에서 기반 모델의 배포를 가속화하고 데이터를 안전하게 유지하는 데 도움이 되는 사용이 간편한 마이크로 서비스 세트입니다.

Accelerate Your AI Deployment With NVIDIA NIM

Learn More About NVIDIA NIM

NIM 배포

단일 명령으로 모델에 맞는 NIM을 배포하세요. 또한 파인 튜닝된 모델로 NIM을 쉽게 실행할 수 있습니다.

추론 실행

NVIDIA 가속 인프라를 기반으로 최적의 런타임 엔진을 사용하여 NIM을 가동하고 실행하세요.

구축

개발자는 단 몇 줄의 코드로 자체 호스팅 NIM 엔드포인트를 통합할 수 있습니다.

Deploy Run Build

curl -X 'POST' \

'http://0.0.0.0:8000/v1/completions' \

-H 'accept: application/json' \

-H 'Content-Type: application/json' \

-d '{

"model" : "model_name",

"prompt" : "Once upon a time",

"max_tokens" : 64

Kubernetes를 사용하여 로컬에서 실행 또는 확장

NVIDIA NIM을 통해 컨테이너화된 마이크로 서비스를 사용하여 단일 명령어로 로컬 개발 환경에 AI 모델을 배포할 수 있습니다. 또한 Helm 차트를 가져와 Kubernetes로 오케스트레이션하고 자동 확장할 수도 있습니다.

지속적인 비용 절감 및 탄소 발자국 감소

NVIDIA 가속 인프라에서 짧은 레이턴시와 높은 처리량을 위해 지속적으로 최적화되는 AI 런타임으로 프로덕션 단계에서 모델을 실행하는 운영 비용을 절감할 수 있습니다.

안심하고 보안 유지 및 배포

지속적인 보안 업데이트를 포함하여 프로덕션급 런타임을 활용하고 NVIDIA NIM을 사용하여 엔터프라이즈급 지원을 기반으로 하는 안정적인 API로 비즈니스 애플리케이션을 실행할 수 있습니다.

구입 방법

시작하기

무료로 프로토타입 제작하기

사용하기 간편한 NVIDIA 관리형 서버리스 API로 시작하세요.

완전히 가속화된 AI 인프라에 액세스하세요.

데이터는 모델 훈련에 사용되지 않도록 확인하시기 바랍니다.

1,000개의 추론 크레딧을 사용하여 무료로 시작하세요.

자사 인프라에서 확장

NVIDIA NIM을 사용하여 원하는 클라우드 또는 데이터센터에서 AI 모델을 자체 호스팅하세요.

데이터가 보안 엔클레이브를 벗어나지 않도록 확인하시기 바랍니다.

코드 변경 없이 클라우드 엔드포인트에서 자체 호스팅 API로 원활하게 전환하세요.

프로덕션 배포를 위한 NVIDIA AI Enterprise 라이선스를 구매하세요.

[📪정보] NVIDIA NIM을 통한 생성형 AI의 즉각적인 배포

댓글 2

다른 게시글