[📪정보] [레딧] Gemini 1.5은 GPT4보다 약 20배 저렴할 것

[초존도초(htr3c654r6ft)]

https://www.reddit.com/r/singularity/comments/1avzrp7/gemini_15_will_be_20x_cheaper_than_gpt4_this_is/

Reddit - Dive into anything

Gemini 1.5은 GPT4보다 약 20배 저렴할 것으로 추정됩니다. 이는 OpenAI의 입장에서 보면 상당한 부담이 될 수 있습니다.

현재까지 확인된 성능으로 판단하면, Gemini 1.5 Pro는 벤치마크 테스트에서 GPT4와 어깨를 겨룰 수 있을 정도로 경쟁력이 높습니다. 게다가, 100만 단어 길이의 문맥을 이해하고, 이를 바탕으로 학습하는 능력은 경이롭기까지 합니다.

Gemini 1.5의 가격에 대해서는 아직 상세한 논의가 이루어지지 않았습니다. Google은 구체적인 가격을 공개하지 않았지만, 관련 논문과 1.0 Pro의 가격 정책을 고려하여 합리적인 추정이 가능합니다.

Google은 논문에서 1.5를 계산 효율성이 뛰어난 모델로 설명합니다. 이는 부분적으로 소프트 MoE (Mixture of Experts) 아키텍처로 전환한 덕분입니다. 즉, 모델을 구성하는 전문가 중에서도 특정 상황에 따라 소수만이 추론에 참여하면 되는 구조라는 의미입니다. 이는 1.0이 사용하는 dense model과 비교했을 때 효율성 측면에서 큰 개선점입니다.

논문 자체는 주의 집중 메커니즘의 구체적인 설계 방식을 다루고 있지는 않습니다. 하지만, Gemini의 100만~1000만 토큰 수준의 긴 문맥 처리 능력을 설명하면서 심층적 준-2차 주의 집중 메커니즘 (예: Ring Attention) 에 대한 관련 연구를 언급합니다. 이를 통해 우리는 긴 문맥을 다루는 데 드는 추론 비용이 비교적 저렴하다는 것을 짐작할 수 있습니다. 약 100만 단어 길이의 프롬프트 처리 시간이 1분 정도라는 점은 이러한 추측을 뒷받침합니다. 물론 Google이 추론에 TPU pod 전체를 투입했다는 전제 하에서도 비용 효율성은 놀라운 수준입니다.

이러한 점들을 종합하면 1.5 Pro에 대한 가격 책정이 1.0 Pro와 유사한 수준이라는 것이 합리적인 추정입니다. 1.0 Pro의 가격은 1K자당 0.000125달러입니다.

이를 GPT4-Turbo의 1K 토큰당 0.01달러와 비교해 보세요. 일반적으로 1토큰이 약 4자라고 했을 때, 1.5 Pro는 1K자당 0.0005달러인 반면 GPT-4는 1K자당 0.01달러이므로 Gemini가 20배 더 저렴합니다.

결론적으로 Google은 GPT4를 능가하는 모델을 GPT-3.5와 유사한 가격에 제공할 것으로 보입니다. OpenAI가 이에 대응할 수 있는 보다 우수하거나 효율적인 모델을 조만간 내놓지 않는다면, Google이 API 시장을 장악하게 될 가능성이 높습니다. 이는 OpenAI의 주요 수익원이기도 합니다.

https://ai.google.dev/pricing

Gemini API Pricing | Google AI for Developers

https://openai.com/pricing

Pricing

metalman123:

제 생각에도 OpenAI가 3월쯤 중요한 발표를 할 가능성이 높다고 봅니다.

구글은 정통으로 승부를 걸고 있네요....

만약 발표가 없다면, 올 봄/여름은 OpenAI 입장에서 아주 힘들어질 겁니다. 대중적인 이미지도 나빠지고요.

sdmat:

저도 같은 생각입니다. 비록 새로운 모델을 출시하지 않더라도, 매력적인 로드맵이 있어야 해요. 그렇지 않으면 구글이 API 시장 점유율을 완전히 장악해버릴 테니까요.

[MoonChild(aowlr2001)]

[익명(39.125)]

파이만큼 확실한 발사대는 없다

[익명(gjtthf)]

제미나이 1.5 프로가 gpt5 발사대 역할을 제대로 하는구나

[조바이든(hnn12)]

[익명(112.186)]

[응아(122.153)]

빨리 출시하라고 압박 굳ㅋ

[루미코드(giraffe8027)]

[익명(112.148)]

지능과 환각문제 해결안되면 1.5조차 발사대를 못할수도있음 일단 출시된 1.5 후기를봐야함

[초존도초(htr3c654r6ft)]

적어도 확인된 바에 따르면 컨텍스트 윈도우 내에서는 지능과 환각 다 예상이상인 거 같던데.. 그리고 지금 대부분 챗봇용으로 GPT3.5 API이용하는 기업들이 백퍼 이주할 건 분명할 듯

[익명(211.214)]

3.5보다 훨씬 낫고 토큰도 훨씬 많이 쓸 수 있으면 싹 다 넘어가지 4에 살짝 못미치는 걸 20배싼 가격으로 쓸 수 있는 데ㅋㅋ 비상은 맞음

[은바다(nmra3fmzhxmg)]

경쟁좀 하자 가쥬아

[익명(112.185)]

[익명(222.101)]

[디시콘발사대(fcbjsjmu1t9f)]

[Tnk(a1778untethered)]

Oai 범부 ㅋ

[월코존버(samaltman)]

홍채 팔아서 대응해라 한달 6개 받을 수 있는데 지금 개당 만원근처임 ㅋㅋㅋㅋ

[초존도초(htr3c654r6ft)]

앞으로 홍채 정보 중요해질 거 같은데.. 지금 보면 월.코 대량으로 매수한 애들은 홍채 인식 안하고 거래소에서 산 애들이고 인식한 애들은 대부분 아프리카나 동남아 못사는 애들인 듯 - dc App

[익명(59.9)]

[익명(49.142)]

비상이다

[익명(112.171)]

그래 경쟁하란말이야

[222(221.152)]

돈이 깡패인 세상에서 가격 경쟁은 당연하지 ㅋㅋ 이래서 독점은 절대 안되는거임

[TheOneFreeman(wmf776759)]

무한경쟁 ㄱㄱㄱ

[익명(221.164)]

구글 재평가 : 하사비스 공동갤주에서 레커 바로 다음으로 상향조정

[익명(211.250)]

알트만 꼬우면 gpt5 내놓으라고 ㅋㅋㅋ