너네들은 agi 도달시기 언제로 보냐
내가 생각하는 agi의 개념은 거의 모든 지적활동 영역에서 최상위 인간 수준의 퍼포먼스가 나오면 그것이 진정한 agi라고 봄
그리고 그렇게 보는게 우리의 기대를 충족시켜주는 진정한 agi라고 보는게 타당하다고 생각함
그런 의미에서 현재 LLM은 훈련되지 않은 영역과 훈련된 영역에서의 편차가 너무 너무 극명하게 큰 걸 보면 어쩌면 LLM이 다이렉트 Agi로 가는 직선회로는 아닐 가능성도 있다고 보여짐
물론 고지능 인간도 마찬가지로 본인이 학습한 영역과 그렇지 못한 영역에서 퍼포먼스 차이가 있지만 LLM만큼 큰 수준이 아님
단편적인 예시긴하지만 수학 올림피아드 상위권 성적내는 지능을 가진 인간이
몇분 갖고 놀면 잼민이들도 바로 적응하는 포켓몬 게임 노인내마냥 버벅대고 못한다? 말이 안되지
인간이 실제 llm 수준의 언어적, 수학적 추론 지능을 가지고 있었다면 포켓몬 게임과 그 밖에 다른 문제점을 보였던 지적 활동 같은건 아무렇지 않게 수행했을거임
그런 의미에서 우리가 가야할 목표인 agi라는 길목에서 현재 벤치마크 기준들이 정말 ai 지능수준을 잘 평가하고 나타내는 기준들이냐 하는데에 일부분 의문이 있음
고난이도 수학문제에서 고득점을 냈다고 해서 , 코딩에서 슈퍼 개발자급 퍼포먼스가 나왔다고해서
그게 과연 월드클래스 레벨의 수학 천재, 개발자 수준의 지능체 수준에 도달했다고 할 수 있냐 이거임
결국 LLM은 범용 인공 지능, 인공 일반 지능이라기보단 그저 특정 분야에 한정해서 특화되어 있는 아주 좁은 범위의 지능체일수도 있다고 봄
물론 이 정도 수준만 해도 인류 문명 발전에 엄청난 도움을 줄거라 믿어 의심치 않지만
이제 학습데이터 고갈 문제에 부딪힌(물론 여러 해결책들이 있지만) 상황에서 학습데이터랑 컴퓨팅파워 막 더 쏟아붓는다고 갑자기 agi가 등장할지 의문이 생기긴함
얀르쿤과 같은 학계의 지적처럼 아키텍쳐 극복이 필요하다는 통찰이 무시할만한 주장이 아니라고 본다
그래도 모인 데이터로 이것저것 테스트해봐서 리얼월드모델 만들겠지
2027년, 지금 LLM은 파츠 1이고 파츠 2 붙여줘야 AGI로 간다고 생각함 학습 데이터도 충분하고 컴퓨팅 파워도 충분한데 AGI가 아직인 까닭은 LLM의 구조적 결함인 연속성과 장기기억 문제가 해결이 안된 상태라고 봄
그런데 이 문제는 LLM이 단편적으로 진행되는 결과물으로 연구원과 함께 재귀 개선이 진행될수록 단편적이던 결과물들이 점차 병합되면서 장편적으로 변하게 되어있음 이게 일정 수준이 넘어가면 AGI에 도달하는거고 그 일정 수준에 도달하면 LLM 모델이라고 안 부르고 다른 명칭으로 부르겠지
얀르쿤말 일리있음 아주빠르면 2030이라고 봄 내가 정의하는 agi 는 아주 정교하고 정확한 3d 모델링 전문가 대체 수준임
포켓몬은 클로드 입장에서 억울한만한데
얀르쿤 말 부정하는 사람은 애초에 없음. 근데 얀르쿤 방식은 아직 뚜렷한 성과가 없는 게 문제라는 거임. 말은 좋지. 어마어마한 학습 데이터 필요 없이, 거대한 데이터센터 필요 없이, 전기 덜 먹는 방식. 근데 아직 뭣도 없으니까. 얀르쿤의 통찰이 역시 맞았어. 가 아니라니까. 그런 희망은 모두 하긴 함.
llm으로는 부족한게 확실하고 개선된거 나올듯
gpt 4.5 나오는거 보면 앞으로의 흐름이 보일듯