[일반] 념글 토크나이저 논문 적용하면 1000만컨텍도 그냥되겠네

[203847년..(awful6856)]

원래는 100만토큰으로 처리할껄 10만토큰으로 처리하게 되는거니까..

지금 100만토큰까지 되는데

저거 적용하고 잘된다고 하면 1000만컨텍넘게 되겠네 ㄷㄷ

제발 그냥 흔히 지나가는 이론만 혁신논문이 아니고 잘 적용되길 제발

[ㅇㅇ 1(121.132)]

그러고보니 비트넷은 어떻게 됐지 그 돌 엔딩인가

[203847년걸리겠죠(awful6856)]

저번에 마이크로소프트에서 비트넷으로 cpu로 돌아가는 모델 만들엇다고 하던데 어케됫는지는 몰루

[익명(compact5711)]

꾸준히 만들더라

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[203847년걸리겠죠(awful6856)]

저게 실제로 쓰일까..? 흔한 근들갑일까 아님 추론급 혁신일까

[203847년걸리겠죠(awful6856)]

궁금한게 기존모델보다 스케일링 잘된다는데 추론먹여도 지금모델만큼 성능이 올라갈까? 추론이 잘 먹히는지가 중요한거같은데

[ㅇㅇ 2(203.246)]

아틀라스와 합치면 이거 못막거든요

[203847년걸리겠죠(awful6856)]

"1억컨텍"