[일반] 학원출신 맞긴한데 정말 llm이 영어에 최적화된게 맞음?

[익명(kimania7)]

아니...

한국어로 챗 써도

그걸 영어로 1차로 번역하는데 정말 작은 컴퓨팅 파워만 소요되잖아.

예를들어 빅리틀처럼

한국어 챗이 쓰이면

4o mini 수준으로 영어 프롬프트로 1차 전환하고

그 영어프롬프트로 o1 대답 내놓는게 진짜 전혀 어려운 기술이 아닐꺼 같은데

나보고 api 이용해서 코드 짜라고 해도 가능할거 같아

천하의 구글이나 oai가 그런 쉬운것도 구현 안해뒀다는건 솔직히 이상하긴 해

[dowoo417(free0946)]

한국어를 제대로 이해못해서 4o mini 수준으로 영어 프롬프트로 1차 전환하고 <- 이과정이 제대로 이루어지지 않는걸로 아는데

[익명(cable5393)]

대다수의 데이터가 영어라서 한국어->영어로 변환하는 과정에서 손실이 생긴대

[익명(59.15)]

1번만 번역하는게 아니라 입력때 번역하고 출력할때 또 번역해서 2번 번역 과정 걸쳐서 내용 이상해질수밖에 없음 - dc App

[익명(124.57)]

토큰 두배정도 더 나가고 영문으로 하는게 더 똑똑하고 어휘 범위도 높아.. 그나마 oai가 한국어 최근에 토큰 절약해서 좀 낫지만 그래도 llm은 외국 모델이니깜..

[익명(124.57)]

물론 한국어도 그렇고 어떤 언어 출력을 하던 다 본인 맘이지만 정확도를 올리고 싶으면 영어를 쓰라는걸 권장하는 거지 솔직히 한국어도 낫밷여

[익명(124.57)]

영어권의 방대한 지식량은 이길 수 없어 llm 데이터셋은 아직까지 영어야 한국 자체 데이터 다 뽑아내서 자체적으로 우리가 만들지 않는이상은 딱 이정도로 만족해야댈듯

[콜라조무사(tkatjdrhdghkrnr123)]

번역기랑 작동구조가 아예 다르지 않나요

[익명(175.206)]

일단, 영어 번역을 하든, 철학자의 사상을 뽑든 컴퓨팅 파워 차이는 그렇게 크지 않을 걸. 더 큰 영향을 주는 건 토큰 수임. 그래서, 기존 번역기를 써서 번역하고 그걸 LLM에 입력하는 게 아니라 4o mini 같은 LLM을 써서 번역하고 그걸 입력하면 컴퓨팅 파워 소모량은 어쨌든 너무 많게 됨. 그리고, 번역이라는 게 은근 어려운 건, 문맥적 의미 때문임. 써보면 알겠지만, 알아서 잘 알아듣는 게 상당히 어렵고, 우리들도 질문을 너무 대충함. 그러다보니 큰 모델이어야 그나마 문맥을 잘 이해해서 번역을 할거고, 작은 모델이면 번역 과정에서 품질이 떨어짐. 당연히 번역 하면서 정보 손실도 있을거고. 그나마 원래 언어 그대로 하는 게 나음. 정보 손실 측면에선.

[익명(175.206)]

하지만, LLM들이 대부분 압도적인 영어데이터로 학습을 했기 때문에, 영어로 질문하는 게 제일 낫긴 한거고.... 그래도, 예전엔 한국어는 토큰 사용량도 2배였나 그렇고 품질도 떨어졌었는데, 많이 개선 됐다고 들음. 그래서 그냥 한국어로 물어도 왠만하면 비슷함. 물론, 뭐 수능 문제라든지 아주 까다롭고 어려운 문제에 대한 답을 얻을거면 영어로 물어야겠지만.

[탈조선(reuse2097)]

인풋커지면 그 차이가 적다고 절대말할수없을텐데