ㄷㄷㄷ
[일반] 비트넷이뭔데 ㄷㄷㄷ 3줄요약좀
익명(1.225)
2024-03-09 23:07
추천 1
댓글 6
다른 게시글
-
비트넷이 구라가 아닌 이유 [8][일반] 익명(121.151) | 24.03.09추천 1
-
파라미터 1000조개 스케일 인공궁금하다 [2][일반] 익명(27.119) | 24.03.09추천 0
-
그럼 Gpt5가 아니라 Bgpt1으로 나오려나[일반] 익명(shore1232) | 24.03.09추천 0
-
아라키스가 100배 효율적인 모델이라는 찌라시 보면 [4][일반] 익명(39.117) | 24.03.09추천 0
-
비트넷이면 지금하드웨어로파라미터 1000조개가능?[일반] 익명(27.119) | 24.03.09추천 0
-
비트넷 확정난거야 뭐야 [4][일반] 익명(112.168) | 24.03.09추천 0
-
클로드 방금 결제해서 써봣는데 [1][일반] 익명(social9967) | 24.03.09추천 2
-
그럼이제 컴퓨팅비용&하드웨어한계가 몇단계 더극복된거지? [1][일반] 익명(121.168) | 24.03.09추천 0
-
가만보니 사람들 신났을때 일침놓기 좋아하는 놈들이 있네 [3][일반] 익명(121.159) | 24.03.09추천 3
-
GPT 이새끼 돈 받아 쳐먹으면서 왜 안돼냐 요즘 [2][일반] 익명(114.203) | 24.03.09추천 0
1. 비 2. 트 3. 넷
안될공학 비트넷 봐바라 아니면 개념글 찾아보던지
비 트 넷
기존에는 파라미터에 해당하는 가중치와 편향을 0.94343과 같은 실수로 갱신했는데, 이걸 +1, 0, -1 셋 중 한 값만으로 파라미터 값을 업데이트 해도 잘 작동하더라, 는게 주요 골자임
계산과정 단순화로 효율성 대폭 상승 정도로 이해해도 되는거냐?
마즘. 논문에서 말하길 '기존 방식은 곱셈이 주로 사용 되었다면, 비트넷은 덧셈, 뺄셈이 주로 사용되기에 더 효율적이다'라고 말함. 동시에 이에 특화된 새로운 하드웨어의 필요성도 주장함. 나아가 비트넷은 +1, 0, -1인 정수만 사용하기 때문에 동일한 메모리에서 기존 방식의 모델보다 더 큰 모델을 운용할 수 있다고 함.