* 개발 동기
1. 외국 프로그래밍 서적은 1년만 지나도 전자책으로 공개하는 경우가 많음.
2. 하지만 원서는 한글에 비해 독해 속도가 많이 떨어짐
3. LLM 파인튜닝을 위해 대량의 영어 <=> 한글 번역이 필요함
* 현재 대안
1. 구글 번역은 퀄이 많이 떨어지고 전자책 번역이 안댐
2. DeepL 번역은 한번에 번역 가능한 양이 적고 마찬가지로 전자책 번역이 안댐
3. 구글링으로 나온 epub번역 사이트에서 번역하고 결과보면 실제로는 번역 하나도 안되고 서식도 엉망이 되어 있음
* 결론
- 도다리를 이용해 내 pc에서 직접 번역하면 댐. 2020년 lg그램에서도 돌아감. 단 1권 번역하는데 4시간 넘게 걸림.
https://github.com/vEduardovich/dodari
GitHub - vEduardovich/dodari: AI 영한-한영 번역기, 도다리 en-ko/ ko-en AI translatorAI 영한-한영 번역기, 도다리 en-ko/ ko-en AI translator. Contribute to vEduardovich/dodari development by creating an account on GitHub.github.com* 추가 발표
1. 현재 도다리에서 사용중인 AI 모델 NHNDQ 보다 높은 품질을 원한다는 요구가 있음
2. 그래서 현존 한국어 0티어 모델인 yanolja-eeve 모델과 추론을 가속화 시키는 vllm을 적용한 '도다리 고급번역'모델을 개발함. 체감상 딥엘에 거의 근접함.
3. 그런데 이건 최소 vram24에(즉, 3090이나 4090)에 리눅스 os가 필요함
4. 현재 고민중인데 이건 직접 서비스하는게 어떨까 싶음
원서를 직접 읽어보고 싶다 하는 사람에게 추천. 내가 그러려고 만든거니까
선생님 혹시 일본어 번역도 지원 가능하실까요?
질문을 명확히좀 영-일을 원하는거임 일-한을 원하는거임? 양쪽 다 양질의 데이터가 어느정도 필요함. 다언어간 번역모델은 아직 쓸 수준이 아님
당연합니다! 일본어 번역이 가능한 것도 이미 만들었습니다.
https://github.com/vEduardovich/dodari_nllb
그런데
윗분이 말씀하신 것처럼, 쓸만한 수준인지는 잘 모르겠습니다. AI모델 자체에 대한 평가가 엇갈리고 있거든요
4090 글카 부럽다
AI에 관심이 있으시다면 조금 무리하더라도 4090 질러보시는걸 추천드립니다. 게임경험과 AI 두 영역에서 한단계 up 할수 있습니다.
3060ti에다가 번역 그지같아서 원문 읽었던 원서 하나 pdf에서 epub 변환해서 넣어봤어요 대학원생 vs AI의 대결... 기대가 됩니다
만약 AI번역 퀄 부족하다싶으면
https://moonlit.himion.com/info/contactUs
여기로
보내줘요. 제가 yanolja-eeve 로 번역해서 보내줄께요.
체감상은 딥엘의 80~90%는 따라오는거 같아요
해봤는데 번역 퀄이 문제가 아니라 pdf -> epub 변환하는 과정에서 뭐가 다 깨져버렸어요 다른 거 찾아서 다시 해보는 걸로... 또륵
근데 여긴 지금 갈드컵중이니 반응이 시큰둥하면 챈에서 더 놀다가 오셈. 맨날 싸우는데라 타이밍이 안나오는건 비슷하긴함
아하!
오 긱뉴스에서 봤던거 같은데
와! 맞아요. 그 동안 아카이브 언어채널에서만 활동했는데 스타가 14개였어요. 아쉬운 마음에 긱뉴스에 올렸더니 오늘 60개를 넘겼네요 정말 감사합니다
내가 하고 싶었던 건데 ㅇㅇ
제가 한발 앞섰네요. 얼릉 들어오세요
멋지네요. 야놀자 모델은 써봤는데 생각보다 품질이 좋지는 않더라고요. GPT3.5이상의 거대 모델에 익숙해져서인지;;
아..역시 파인튜닝은 하셨구나
아.. 그런가요. ㅠㅠ
저는 소형자체모델의 한계가 있어서 드랍했었는데(품질, 성능, 관리 등) 이 프로젝트랑은 아주 잘 맞다고 생각해요. 멋집니다 화이팅!!
이렇게 응원을 받는 프로젝트는 처음이라 감동입니다 ㅠㅠ 사실 야놀자 모델이 챗은 그저그래도 번역은 꽤 잘하는 거 같으니 끝까지 한번 만들어볼께요
네네 저는 일반적인 한국어 채팅이 목적이여서 드랍했던거였어요. 잠시 써보니까 파인튜닝이 잘되었는지 품질이 괜찮은것 같네요.
SaaS로 내셈
정말 고민중이에요..
saas는 저작권 문제 될 가능성 높긴 해서
알리발 rx580 쓰는데 불가능 하겠지..?
검색해보니 vram이 무려 8g네요. 충분히 돌아가죠
와 진짜 ㄳㄳ
원서 내용 빨리 파악해야할때 한번 써보세요
써봤는데 글자수제한 넘는경우 어떻게 되는거임? 그냥 스킵인가 To create a public link, set `share=True` in `launch()`. Token indices sequence length is longer than the specified maximum sequence length for this model (3321 > 1024). Running this sequence through the model will result in indexing errors Your input_length: 3321 is bigger than 0.9 * max_length: 512. You might consider increasing your max_length manually, e.g. t
translator('...', max_length=400 이거 말고도 여러번 나타났음 책은 learning python 5th ed 돌려봄 맥에서 6시간걸리네
여기 최상위 모델들을 써먹기에 그런가요? 야놀자나 LDCC가 고득점 잘 먹는 것 같긴 하지만요.
https://huggingface.co/spaces/upstage/open-ko-llm-leaderboard