제가 듣기론 다음에 나올 단어를 예측해서 말을 이어간다고 알고있는데 그럼 스마트폰의 자동완성 기능이랑 비슷한건가요?? 그런데 어떻게 맥락이 자연스럽게 이어지는건가요ㅡㅡ? - dc official App
건실하게 직접 공부해라 쉽게 지식 얻으려 하지말고
럭키 딥러닝
출력층이 좆나게 많아서 자동완성 기능이 1000만개 쯤있는게 거기서 제일 그럴싸 한거 가져오는거
3b1b ai시각화 강의 영상보고와라
https://youtube.com/playlist?list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi
내부적으로 어떻게 돌아가는지 전문가도 자세히 모른다. 단순 다음 단어 예측하는 모델을, 스케일을 존나 키웠더니, 맥락을 이해하고, 자연스럽게 말하고, 어느정도 추론능력이 생긴거지.