[일반] 메타 라마3가 GPT4급오픈소스에 검열거의없다네
익명(112.162)
2024-03-21 00:03
추천 2
댓글 9
다른 게시글
-
지금 공식적으로 나온게 [8][일반] 익명(14.53) | 24.03.21추천 1
-
근데 왜케 찌라시만 많아진거같냐 [3][일반] 익명(39.7) | 24.03.21추천 0
-
Gpt5 무리해서 내다가 성능 안좋아서 인식 또 나락갈듯[일반] 익명(112.161) | 24.03.20추천 3
-
마소 oai GPT5근시일내에안내면 손절치려고 벌써들어갔네 [9][일반] 익명(61.74) | 24.03.20추천 2
-
최근에 oai찌라시 맞은적이없지않냐 [2][일반] 익명(14.53) | 24.03.20추천 0
-
클로드3에 쳐발리고 gpt5안내니 마소ceo바로 손절각잡노 ㅋㅋ [2][일반] 익명(211.186) | 24.03.20추천 0
-
오픈Ai는 왤케 구글처럼 PC에물들여있냐 [1][일반] 익명(58.141) | 24.03.20추천 0
-
오픈AI도 구글PC주의와 별반다르지않은거같다 [3][일반] 익명(58.141) | 24.03.20추천 0
-
근데 잉여인간되면 어떡하냐? [8][일반] 익명(211.204) | 24.03.20추천 0
-
다른 기업에 투자함>내부 agi가 있어서 [3][일반] 익명(116.120) | 24.03.20추천 3
이거 7월출시였나
GPT4가 A100 2만개로훈련됐다는데 그A100하나보다 성능이훨씬좋은게 H100인데 그런 H100몇만대이상을 엄청난 컴퓨팅파워로 훈련시키면 GPT4급나올거같은데 벌써클로드3도만들었고
이번엔 작정하고만들느낌임 데이터셋도 기존 라마1 마라2까지야 다국어지원도 거의안되고 사실상 영어정도였는데 라마3는 지금 어마어마한학습데이터 준비하고 훈련시킬준비하는듯 적어도 학습데이터에한해서는 GPT시리즈에 크게꿀리지않을정도로
정말로 Gpt4급 mmlu 86넘은게 오픈소스로풀리면 대혁신이지 검열거의없는 인공지능을 글카만있으면 돌리게되는거니까 api쓰더라도 검열부분은 어찌할수없는문제인데 오픈소스는 그걸해결하니까
기대되긴함
모델크기는 나눠서나올거임 라마2처럼 가장무거운모델이 GPT4급일거고 더낮은모델은 GPT3.5 GPT3.75급 다양할듯 무엇보다 학습데이터차이가 어마어마해서
과학적연구에는 사용되지않을거임 애초에 라마3가 나올쯤이면 훨씬좋은 gpt5도나와있을테니까 단검열의차이때문에 소설창작이나 번역이나 rpg게임이나 이런거에 접목되서 빛을발할듯
이번에 메타가 제대로 보여주길 - dc App
ㄹㅇ gpt4급이 오픈소스로풀린다면 토큰도 100k정도로 risu ai에연결해서 검열거의없는 인공맛볼수있어