[📪정보] 마크 주커버그 : "라마3 마지막 업데이트, 다음은 라마4"

[익명(121.178)]

"안녕하세요. 

Meta의 올해 마지막 주요 AI 업데이트를 공유해드리겠습니다. 

Meta의 목표는 범용 인공지능을 개발하고 이를 오픈소스로 공개하여 모든 사람이 혜택을 받을 수 있도록 하는 것입니다. 

Meta AI는 현재 월간 활성 사용자가 거의 6억 명에 달하며, 약속드린 대로 올해 말까지 세계에서 가장 많이 사용되는 AI 어시스턴트가 될 예정입니다. 

아직 음성 모드를 사용해보지 않으셨다면 한번 시도해보세요. 

정말 멋집니다. 

2024년을 시작할 때 저는 우리가 많은 H100을 보유하고 있으며, 

올해가 오픈소스 AI의 큰 해가 될 것이라고 말씀드렸습니다. 

그리고 실제로 그렇게 되었습니다. 

LLAMA는 6억 5천만 건 이상의 다운로드를 기록하며 빠르게 가장 널리 채택된 모델이 되었고, 

업계 표준이 되어가고 있습니다. 

올해 마지막으로 한 가지 더 출시할 것이 있습니다. 

LLAMA 3.3은 새로운 700억 파라미터 텍스트 모델로, 

4,050억 파라미터 모델과 비슷한 성능을 보이지만 더욱 쉽고 효율적으로 실행할 수 있습니다. 

이것이 LLAMA 3의 마지막 릴리스가 될 것입니다. 

다음은 LLAMA 4입니다. 

올해 초에 LLAMA 학습을 위한 우리 클러스터의 규모에 대해 이야기했던 것처럼, 

올해를 마무리하면서 같은 이야기를 하고 싶습니다.

우리는 방금 루이지애나 주에 2기가와트 이상의 데이터센터를 건설할 계획을 발표했습니다. 

이 데이터센터는 LLAMA의 미래 버전을 학습하는 데 사용될 것입니다. 

우리는 장기적인 관점에서 이 일을 진행하고 있으며, 

세계에서 가장 진보된 AI를 구축하는 데 전념하고 있습니다. 

좋은 한 해를 보내주셔서 감사합니다. 

곧 더 많은 소식을 나눌 수 있기를 기대합니다."

마크 주커버그

[ㅁㄱㅌㅊ(39.122)]

데이터센터가 좆같이 커지는 걸 보니 모델 크기도 좆같이 커지겠구나....

[익명(121.178)]

2기가 와트 ㅎㄷㄷ하긴해

[난모르것다(farewell1592)]

고맙다 오픈소스 만들어주는 놈들은 다 응원한다

[abc(220.126)]

라마4 성능 어느정도일거같음? o1 프로보다 좋을까? - dc App

[익명(121.178)]

메타도 추론 모델 열심히 개발 중이라고 기사들 뜨긴 했슴... o1 베이스 모델이 4o 라고 치면 라마4가 베이스 모델 성능은 더 좋을 가능성이 높아보이는데 o1 알고리즘을 얼마나 잘 만들어낼지가 중요할듯

[abc(220.126)]

라마4 베이스모델이 되는 3.1 405b가 4o보다 성능이 떨어지지않았나? 내가 잘 몰라서 - dc App

[익명(121.178)]

라마4는 아직 베이스모델이 없지 공개가 안됐는디 3.1은 라마3 시리즈고. 라마4는 당연히 라마3 시리즈들 보다는 좋을테니, 4o 보다도 좋을거라는 말이었슴

[abc(220.126)]

어디서 라마4가 3.1을 기반으로 학습중이라는 해외기사를 본것같은데 잘못알고있는건가 내가? - dc App

[익명(121.178)]

ㅇㅇ... 아예 다른 시리즈인데 처음부터 새로 학습하는거지. 라마 3에서 나온 합성데이터를 일부 사용하고 할 수는 있겠다만

[abc(220.126)]

그렇구나 그럼 말그대로 나와봐야알겠네 오픈소스의 희망인 만큼 진짜 기똥차게 나오면 좋겠다 - dc App

[람냥(qorwhddlrz)]

라마 3.3 405B는 안내고?

[익명(182.230)]

[시나루마(t2ruq8wzb8qf)]

요즘은 좀 인간같더니 또 왜 다시 렙틸리언 느낌 나고있냐? 산란기인가

[익명(apart4367)]

인류를 구할 방법을 생각하느라 잠을 설쳐서 그럼

[rtOS(azl27t4zdge5)]

메타AI 한국에선 못쓰게 막아놓은게 짜침

[익명(211.202)]

한번도 안써봤는데 왜 막은거임? 아예 한글지원을 안한다던지 그런건가

[익명(1vumc1mzh9r7)]

희귀종 벌 때문에 건설 못한다고 한거같은데 해결됐나보네