https://ai.meta.com/blog/meta-llama-3-update/
ErrorErrorai.meta.com4/18์ผ Llama 3 ๋ชจ๋ธ ๊ณต๊ฐ ์ดํ ๊ฐ๋ฐ์ ์ปค๋ฎค๋ํฐ์ ๋ฐ์์ด ์์ฒญ๋ฌ์
- ๋ชจ๋ธ์ด 120๋งํ ์ด์ ๋ค์ด๋ก๋๋์๊ณ , Hugging Face์์ ๊ฐ๋ฐ์๋ค์ด 600๊ฐ ์ด์์ ํ์ ๋ชจ๋ธ์ ๊ณต์ ํ์
- Llama 3 GitHub ๋ ํฌ์งํ ๋ฆฌ๊ฐ 17,000๊ฐ ์ด์์ ๋ณ์ ๋ฐ์์
- LMSYS Chatbot Arena ๋ฆฌ๋๋ณด๋์์ Llama 3 70B Instruct ๋ชจ๋ธ์ด ์์ด ์ ์ฉ ํ๊ฐ์์ 1์๋ฅผ ์ฐจ์งํ๊ณ , ์ ์ฒด์ ์ผ๋ก๋ 6์๋ฅผ ๊ธฐ๋กํด ๊ณต๊ฐ๋ ๋ชจ๋ธ ์ค ๊ฐ์ฅ ๋์ ์์๋ฅผ ์ฐจ์งํ์ (ํ์์ ์ธ ๋ ์ ๋ชจ๋ธ์ ์ด์ด)
Llama 3์ ์ด๊ธฐ ์ ์ฉ ์ฌ๋ก
- ์ค๋ฆฌ์ฝ, ํ๋์จ์ด, ํด๋ผ์ฐ๋ ์ ๊ณต์ ์ฒด ํํธ๋๋ค์ด Llama 3๋ฅผ ์ฌ์ฉ์์๊ฒ ๋ฐฐํฌํ๊ธฐ ์์ํ์
- ์์ผ๋ํ๊ต ์๊ณผ๋ํ์์๋ EPFL ์ปดํจํฐ ๋ฐ ํต์ ๊ณผํ ํ๊ต์ ํจ๊ป Llama 3 ์ถ์ 24์๊ฐ ๋ง์ Llama 3๋ฅผ ํ์ธํ๋ํด ์ํ ๋ถ์ผ ์ต์ด์ Llama 3 8B ๋ชจ๋ธ์ธ Llama-3[8B]-MeditronV1.0์ ์๊ฐํ์
ย ใดย ์ด ์๋ก์ด ๋ชจ๋ธ์ MedQA, MedMCQA ๋ฑ์ ํ์ค ๋ฒค์น๋งํฌ์์ ๋์ผํ ํ๋ผ๋ฏธํฐ ๋ฑ๊ธ์ ๋ชจ๋ ์ต์ ์คํ ๋ชจ๋ธ์ ๋ฅ๊ฐํ์
ย ใด ์์ผ๋ํ๊ต์ EPFL์ด Llama 2๋ฅผ ๊ธฐ๋ฐ์ผ๋ก Meditron์ ์ฒซ ๋ฒ์งธ ๋ฒ์ ์ ๊ตฌ์ถํ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ํด๋น ๋งํฌ์์ ํ์ธํ ์ ์์
Llama 3์ ํฅํ ๊ณํ
- ํฅํ ๋ช ๋ฌ ๋์ ๋ฉํฐ๋ชจ๋ฌ, ๋ค๊ตญ์ด ๋ํ, ๋ ๊ธด ์ปจํ ์คํธ ์ฐฝ, ์ ๋ฐ์ ์ธ ๊ธฐ๋ฅ ํฅ์ ๋ฑ ์๋ก์ด ๊ธฐ๋ฅ์ ๊ฐ์ถ ๋ชจ๋ธ์ ๊ณต๊ฐํ ์์ ์
-ย ๊ณง ๋ ๋ง์ ๋ด์ฉ์ ๊ณต์ ํ๊ณ ์ปค๋ฎค๋ํฐ ์ฃผ๋์ ํ์ ์ ๋ค์ ๋ฌผ๊ฒฐ์ ๋ณผ ์ ์๊ธฐ๋ฅผ ๊ธฐ๋ํจ
์ด๊ฒ์ด ์คํ์์ค์ ์์