[📰논문] 딥마인드의 친질라

[익명(211.36)]

https://arxiv.org/pdf/2203.15556v1.pdf
딥마인드가 새로 만든 대형언어모델.친질라
gpt3을 하게된 원인인 scaleing law를 개선하여 더 적은 계산량과 더 적은 파라미터로 더 나은 성능을 달성
근데 딥마인드 이ㅅㄲ들 저번에 gopher로 지덨니 이번에는 친질라노 이것들 네이밍 다 설치류로 짓네

[익명(211.36)]

참고로 이번에 친질라 파라미터 갯수 700억개임

[익명(211.36)]

이 논문에서 강조하는 내용중 하나는 모델이 2배 커지면 학습하는 데이터양(영어 토큰 수) 또한 2배 커져야한다는거임.

[지잡컴공(wlwkqzjarhd)]

딥마인드 연구가 대단하긴 한데 이름이 좀... ㅋㅋ

[xX0.0Xx(bluesky0301)]

아ㅋㅋ 이름 들어봄ㅋㅋ 내가볼때 이거 카피한거 같은데

[유일한구원조선인의안락사(qwerasdf9999)]

찢칠라 ㅋㅋ