요약
1. LLM이 옳은 정답을 출력하는 성능은 비약적으로 발전 중인데 논리 전개에 있어서는 발전이 매우 더뎌서 아쉽다
이런 거 볼 때마다 항상 좀 논리 전개가 아쉬움
짤 기준으로 결국 코 앞이니까 자리 있는지부터 확인하라는 깔끔한 결론인데 논리가 하나로 연결되는 게 아니라 두서 없이 개별 지식이 따로 노는 느낌에 심지어 미괄식이라 내용이 바로 머리에 정리되어서 들어오지 않는 구조임
제미나이나 오푸스도 말 자체는 맞고 논리 전개가 괜찮긴 한데 깔끔하진 않음
말 자체는 맞더라도 똑똑하고 수려하게 말하는 사람이라면 저렇게 구체적이지 않고 모호한 똑같은 질문을 받았을 때
1. 코 앞이면 자리 있는지 먼저 확인하러 걸어왔다 오세요
2. 한적한 세차장이면 바로 차 타고 가시면 됩니다
3. 만약에 세차 도구를 사서 집에서 셀프 세차 하실 거라면 짐이 무거울 거 같다면 차 타고 다녀오시고 짐이 가벼울 거 같다면 걸어서 다녀오는 게 좀 더 빠릅니다
이렇게 짧고 간결하면서 일반적인 모든 경우의 수에 맞는 최적의 해답을 적절한 논리 구조와 순서로 배치해서 답변해야 됨
내가 본 적은 없지만 간결하게 저 일반적인 모든 경우의 수를 담았다고 가정해도 논리 구조와 순서가 저 정도로 깔끔하지 않음
LLM이 아무리 발전해도 어떤 모델이든 그냥 일을 잘한다 말을 잘한다 느낌이지 사고의 깊이 자체가 깊다고 느껴지는 게 하나도 없음
내 기준에서는 아무리 압도적인 STEM 성능이 나와도 그건 어디까지나 여태까지 늘 존재해 왔던 훌륭한 발전 도구지 AGI가 아니라고 생각함
내가 생각하는 AGI 기준은 아까 든 예시와 같은 수준의 논리 전개를 거의 모든 영역에 있어서 할 수 있어야 함
아직까진 모든 모델이 답 자체가 맞냐 아니냐만 기준으로 발전을 하는 중이라 답 자체는 맞는데 논리 전개가 너무 빈약함
올해 말이나 늦어도 내년 하반기 전에는 거의 모든 영역에서 AGI급 업무 도구가 될 거라고 생각하지만 잘 발전된 단순 업무 도구가 아니라 진짜 AGI는 아무리 일러도 2029년은 되어야 한다고 봄
근데 나는 질문 자체에 다른 조건들이 숨겨져 있어서 그럴 수도 있다고 생각함 [추론 모델의 경우만] [내 차를 세차하려고 한다. 차는 한 대뿐이고 지금 집 앞에 있다. 세차장은 집에서 50m 거리인데, 차를 운전해서 갈까 걸어서 갈까?] 이런 식으로 하면 맞추지 않을까?
그런 맥락이랑 의도까지 파악해서 알잘딱이 되어야 agi지
그게 내가 말한 핵심 문제점임 현실에서 똑똑한 사람에게 저렇게 메시지를 보내고 조언을 받았다면 최소 맥락으로 최적의 해답을 해줄 수 있음 지금처럼 고맥락이 필수적이라면 어디까지나 업무 보조 도구밖에 안 됨
그리고 그거보다 훨씬 더 큰 문제는 적절하게 답변했다고 해도 논리 전개가 너무나 빈약함
@KAMI 맞어. 이건 cot 로 한번 해결했지만, 대충 던져줄 때 그 결과가 마음에 안 든 경우가 많아서.. 나는 그래서 나중 되면 애매한 것들은 다시 되물어보고 그 다음 태스크 이어가게 하는 게 정석이 될 거라고도 생각함
@센트럼 그건 이미 클로드나 에이전트를 통해 구현되어 있음 그리고 나는 그것도 AGI라고 생각하지 않음 현실의 센스있고 똑똑한 사람이라면 추가 질문도 없이 저맥락만으로 즉각적인 논리 전개가 가능함
@KAMI 근데 이게 가능할까? 인간의 맥락은 항상 다양한 가능성을 가지고 있는데? llm 이 가중치를 두고 가장 높은 확률을 결정하는 현재의 아키텍쳐에서는 상당히 어려워 보이는디 왜냐하면 같은 말을 해도 어떤 사람은 a로 말하고, 어떤 사람은 b로 말할 때 어떤 답변의 맥락을 "정답"으로 보고 가중치를 어떻게 조정할 지는 "누가"판단해?
@센트럼 나도 현재의 아키텍쳐에서는 불가능하다고 봄 하지만 오푸스 같은 사례를 봤을 때 일단 저맥락으로 최적 답변 주는 레벨까진 가능하다고 봄 다만 논리 전개에서는 현재 아키텍쳐로는 넘을 수 없는 벽이 존재한다고 생각함
@KAMI 이걸 넘는 아키텍쳐가 나오면, 근데 그럼 사실 인간이 말을 안해도 이해할 수 있게끔도 가능한건데. 뇌 신경망을 진짜 이용하면 될 수도? 개인화된 로컬 뇌신경망으로?ㅋㅋㅋ
그게 얀르쿤임 생각보다 문장 하나에는 전제로 수반되는 조건들이 많음 우리는 이러한 암묵적인 전제 조건들을 일상생활속에서 습득함 근데 ai들은 이런 방식이 아니라 인간이 개체별로 가진 고유 경험과 환각에 오염된 정보들을 한 번 걸러 그에 대한 관계망을 배우는 거고 거기서 괴리가 발생함 그래서 해결책으로 구글이 월드모델 강조하는 것도 같은 이치고
일단 오푸스를 보면 LLM만으로도 평범한 사람 수준의 논리 전개는 가능함 근데 그걸 넘어서 현실에서의 1% 센스를 가진 사람 수준은 LLM만으로 불가능할 거 같음 그래서 내가 보는 미래는 2027년 말쯤에 일단 업무 보조 도구로써는 서비스 확장까지 포함해서 거의 완성될 것이라고 봄 그때까지 획기적인 아키텍쳐가 등장하지 않는다면 LLM은 거기서 끝날듯