물론 LLM를 비릇해서 생성형 AI가 대세고 뛰어난건 맞지만 그것만으로 AGI가 될지는 모르겠음 수학에서 보았듯이 그 다음 내용을 제대로 못 하는 것도 그렇고
말이야 스케일 크기가 커지면 어느 순간 한 번의 큰 도약이 다시 일어날까? 아직은 유효하지만 언제까지 키울 수 있읕지도 모르잖어
물론 2024 AGI는 온다
말이야 스케일 크기가 커지면 어느 순간 한 번의 큰 도약이 다시 일어날까? 아직은 유효하지만 언제까지 키울 수 있읕지도 모르잖어
물론 2024 AGI는 온다
LLM의 한계를 아직 우리도 모르는 상황이라... 모르겠다... 아래 내가 질문글 올린거보면 10월 초에 시작된거라 이 언어체계의 한계를 모르겠음 어쩌면 한두번 더 도약할수도 있겠고 뭐 어찌 될진 모르겠지만 갓 10월 초에 들어온거니까... 일단은 더 기다려보면 알거같음
수학도 사실 스케일로 크게 도약하고 있음 이미. 구글이 저번달인가 내놓은 Large language models as optimizers 라는 논문에서 보면 외판원 문제라는 최적화 문제를 LLM으로 풀게하는데 GPT 3.5, PaLM2에 비해 GPT 4가 압도적으로 문제를 잘 풀었음. OpenAI가 강조하고 또 강조하듯이 결국 스케일임.
크기가 답인가..
아모데이가 말한게 있음 llm의 한계는 없고 agi가능하다고 - dc App
결국 AGI가 되냐 안 되냐 얘기 나올 때도 결국 인간 같은 추론이 불가능할 거라고 예상해서 그런 거 아닐까. 근데 LLM에서 흉내든 뭐든 능력이 갑자기 출현했고, 아직 스케일의 법칙은 유지되고 있고, 더 큰 모델을 쓰면 어떻게 될 지 모르는데 일단 수학은 못 하는 것 같아도 생각체인이든 플래닝이든 1,2년 안 된 여러 기법들이 일단 성능을 높히고 있다는 거 확인되고 있으니까. 이런 기법들을 더 모으고, 스케일을 더 키운다면? 아무도 모르는 미래지만, 굳이 '안 될 것 같은데' 에 베팅할 사람은 그냥 원래 역배 성향일 듯. 아니면 기대했다가 아니면 실망할까봐 일부로 신포도라고 하는걸지도.