알고리즘을 진짜 언어적 관점으로 다음 단어 예측하는 식으로 풀어낸 게 알파코드임 님드라 여기에 수학이 어딨음 변수(토큰)와 변수(토큰)와의 관계만 있을뿐 예전 알파코드는 수학을 오히려 못했음 이게 시사하는 바는 사실상 다음 단어를 예측하는 실력이 코테라는 거임 언어적 관점이라는 거지
댓글 4
LLM도 같은거임? 단어 앞뒤로 가장 적절한말 찾아서 매칭하는건가
뉴진파(newjeanpa)2024-02-18 22:41
답글
LLM도 Word2Vec 기반임
나트륨찡(natriummi)2024-02-18 22:42
해당 댓글은 삭제되었습니다.
해당 댓글은 삭제되었습니다.2026-08-05 22:06
답글
이게 맞다 지금 GPT-4나 바드나 제미나이도 GPT-3보다 나은 점이 없다는 얘기가 많이 들림... 스케일만 업되었을 뿐 성능향상은 미미하고 근본적으로 최신 LLM들인 제미나이도 할루시네이션 해결 못했다고 한다
LLM도 같은거임? 단어 앞뒤로 가장 적절한말 찾아서 매칭하는건가
LLM도 Word2Vec 기반임
해당 댓글은 삭제되었습니다.
이게 맞다 지금 GPT-4나 바드나 제미나이도 GPT-3보다 나은 점이 없다는 얘기가 많이 들림... 스케일만 업되었을 뿐 성능향상은 미미하고 근본적으로 최신 LLM들인 제미나이도 할루시네이션 해결 못했다고 한다