[📪정보] 클로드 3.5 소넷 이기는 오픈소스 모델 Reflection 70B 공개

[익명(wanted7407)]

https://x.com/mattshumer_/status/1831767014341538166?s=46&t=wb8N3QmbKOwoEwsZ5Tg61g

I'm excited to announce Reflection 70B, the world’s top open-source model.

Trained using Reflection-Tuning, a technique developed to enable LLMs to fix their own mistakes.

405B coming next week - we expect it to be the best model in the world.

Built w/ @GlaiveAI.

Read on ⬇️: pic.twitter.com/kZPW1plJuo

— Matt Shumer (@mattshumer_) September 5, 2024

MMLU 89.9% 달성

답을 내기전 수정을 하는 게 특징

[익명(wanted7407)]

https://reflection-playground-production.up.railway.app/

[익명(wanted7407)]

데모

[익명(wanted7407)]

라마3 70b모델에 Glaive라는 회사가 만든 합성데이터를 사용

[익명(182.230)]

[익명(villager0555)]

걍 추론하고 임베딩으로 데이터 다시 넣어서 2차 추론 하는거 아닌가 그래도 70b로 저 점수는 미쳤긴하네 기존 모델에도 적용할 수 있다는게 크고

[익명(14.6)]

슬슬 기존벤치마크들 의미없어지네

[익명(14.6)]

405b는 담주에 출시 ㄷㄷ기대되네

[이세이미야케(jkwarawara)]

와 점수 개미쳤네

[익명(175.204)]

누가 한글 파인튜닝도좀 '해줘'

[디시콘발사대(fcbjsjmu1t9f)]

하는김에 답을 내기 전 검열을 위한 수정까지도 할듯한 예감이 드는구나

[천사다천사(jjtheman999)]

[MoonChild(aowlr2001)]

[익명(115.139)]

이거 과적합 막는 신형 벤치마크들에도 통하는건지

[ㄱㄴㄷㄹ(211.104)]

오빠 내가 왜 화난지 몰라 ?

[엉터리만화가(manga321)]

말하기전에 한번더 생각한다 사람도 그러지 - dc App