별건 아니고 오랜만에 저녁에 시간이 된다고 해서 집가기 전에 잠깐 맥주 먹었음.
관련없는 이야기를 빼고 정리하면...
인간의 추론은 기본적으로 AI와 다르다.
AI가 CoT같은 기술로 추론을 모방을 할 수 있을지는 회의적이다.
인간의 지능은 추론, 기억, 학습 능력 등이 분리된 개념으로 존재하지 않는다.
이들은 복잡하게 얽혀있어서 추론만 따로 때어낼수는 없다.
설령 CoT를 활용한 추론을 잘 모방하는 것 처럼 보여도 이는 인간의 추론과 다르다.
결론적으로, AI의 [추론, 기억, 학습] 등의 능력을 분리해서 구현된 기능은 우리가 생각하는 인간의 능력과는 다른 개념일 수 밖에 없고 따라서 한계가 있다는 의견으로 모여짐.
다만, 따로 구현한 이 시도가 충분한 성능으로 이어지는지는 의견이 갈림.
니들은 어떻게 생각하냐?
난 특슬람이라서 당연히 언젠가는 해결될거라고 믿는데
그것과는 별개로, 너희들은 현재 AI의 수준이 어떻게 체감하는지 궁금함.
- dc official App
ㅇㅇ.아직 존나 부족하다고 봄
인간의 추론을 정확히 정의할 수 없고 메커니즘도 모르는데 무조건 다르다고 단정할 수는 없음 해봐야 아는거지
안그래도 그런 얘기를 했음. 오늘 얘기에서는 추론이란 부분은 추상적으론 정의할 수 있다고 봤음. "규칙에 기반한 논리적 전개"라고. CoT는 규칙에 기반해서 정확히 사고하는게 보장되지 않는다, 인간은 논리적 전개에 기억능력과 학습능력이 실시간으로 영향을 준다 등 얘기를 함. - dc App
규칙에 기반한 논리적 전개라고 정의할 수는 있지만 인간의 추론은 규칙에 기반한 논리적 전개라고 명확하게 정의할 수 있을까? 인간의 추론은 논리,근거,사실에 기반하기도 하지만 자신만의 경험을 축적된 데이터를 통해서 자신도 알 수 없지만 직관적인 결과나 생각을 나타내는 경우가 더 많다고 생각함
그러한 것은 추론의 개념을 지나치게 확장한거 같은데? 직관, 영감 등을 축적된 데이터에 기반한 그러한 상호작용이 생각의 결과에 영향을 미치겠지. 하지만 추론은 생각의 부분 중 하나이고, 그게 추론이 무엇인지에 대해 명확성이 희미해질 정도로 분리되지 않는 개념이라고 생각하진 않음. 인간이 생각하는 방식이 추론만 있는 것은 아니다 로 설명하는게 더 적합하다고 봄. 반박환영 - dc App
맥주 쳐먹었다고 글이 ㅂㅅ같긴 한데. 요지는 너가 제시한 부분이 추론과 분리되는 개념으로 볼 수 있고, 추론의 정의를 애매하게 만들지는 않는다고 생각함. 추론을 생각의 방식 중 하나로 보고, 너가 말한 점도 생각의 한 방식이라고 보는게 맞다는 말이였음. - dc App
인간의 두뇌활동을 규칙에 기반한 논리적 전개라고 정의할 수 있다는 것에 좀 회의적임 이세돌은 자신이 바둑을 두는 것은 복잡한 사고과정을 거치는 것이 아니라 그냥 둔다고 표현한 적 있음 우리가 추론이라고 느끼는 것도 사실 타인에게 공유할 수 없는 개인적인 경험에 불과하지 그걸 일반화 시킬 수 있는 개념일까?
내가 제대로 이해한게 맞는지 모르겠네. 난 본글에서 추론을 그렇게 일반화된 개념으로 사용한게 아님. 그니까 사고 과정에 논리적 전개 부분이 없는게 아니잖아? 그 논리적 전개를 추론이라고 부르고 이야기한거임. 애초에 추론의 사전적 정의가 그렇기도 하고. 그리고 너가 말한 사고과정의 전체를 볼 때 추론으로 정의할 수 없다는건 동의함. 본글에서도 말하고자 하는 요지 중 하나가 그거였음. 인간의 사고는 기본적으로 복잡하고, 추론만 따로 놓고 분리할 수 있는 개념이 아니다. - dc App
그래서 내 말은 결국 모른다임 인간의 복잡한 사고가 ai가 추출 할 수 없는 복잡하고 혼란스러운 과정이기 때문에 지능에 도달할 수 없을지 아니면 힌튼의 의견처럼 오히려 인간의 노이즈가 제거된 순도 높은 사고과정이 될 지 모르겠음
일리는 있지만 완전히 동의하기는 힘듬. 분명히 현재 예측하기는 힘들고 인간의 사고를 엄밀하게 정의하긴 애매한 점에 대해 동의함. 하지만 너가 그 모른다는 정도가 얼마나 모른다는 건지 명확하게 설명을 안한거 같음. 나도 뇌과학은 학부생 수준이지만 그래도 추상적으로 어떤 시스템인지 대강은 안다고 말할 수준의 학문적 성취는 이루어냈다고 봄. 결론은 너가 모른다고 한 부분은 동의하는데 그 정도가 어느정도인지 모르겠음. - dc App
근데 켬퓨터 과학 전공이라 개소리일수도 있음. - dc App
지능이라는 것 자체가 본질적으로 비효율적이고 랜덤한 스파게티 코드라서, 인공진화방식이 가장 가능성 있을거 같음 - dc App
인공진화방식이 어떤걸 말하는지 애매한데 유전 알고리즘의 응용 사례들을 말하고 싶은거라면 그 부분은 회의적임. 왜냐하면 컴퓨터 위에서 돌아가는게 그러한 랜덤 방식으로 가면 너무 비효율적이라고 생각함. 인간의 지능은 하드웨어적으론 엄청난 효율을 가진다고 보고, 따라서 인공지능은 소프트웨어적으로 효율을 가져야한다고 생각함. - dc App
해당 댓글은 삭제되었습니다.
자고로 미래 예측은 성장률을 봐야함. - dc App
나는 현대 인공신경망이 뇌보다 더 나은거같은데
어떤점에서? 자세히 말해줄래? - dc App
https://analyticsindiamag.com/ai-news-updates/geoffrey-hinton-says-ai-is-very-close-to-being-as-good-as-human-brains/
이거본듯
일단 인간이랑 구조가 다르다고하네 같은 필요는 없는데 좀 빨리 좋아질수있는방법었냐고
이미 지수적으로 가고 있다고 본다. 신앙심을 가져라. - dc App
아직 얘기노
제목에 써놓은거 안봤누? - dc App
개좆소리 지능을 가지기 위해서 꼭 인간과 같을필요없음 날기위해서 꼭 새처럼 되야되는게 아닌것과 같음
저딴소리하는게 현k개발자 수준이라니 가망없네
술자리에서 가볍게 얘기한걸로 풀발하지 마라. 그래도 일리있고, 나왔던 얘기임. 결론에서 간접적으로 언급하기는 했는데 너가 말한대로 의견이 갈렸음. 반론은, 인간과 같을 필요는 없지만 그렇다고 다른 방식으로 지능을 구현한다는게 기술적으로 제시된게 있는지 였는가? 넌 어떻게 생각하냐. 인간과 다른 방식의 지능이란걸 기술적으로 제시된 사례를 알고 있음? - dc App
그니까 그렇게 묻는거 자체가 이상하다니까? 목적이뭔데? 어찌됫건 최종목적은 문제해결능력을 원하는거아님? 우리가 바라는 지능이란것의 궁극적 목표가 문제해결능력이니까 문제해결능력을 가지기위해서 꼭 인간과 같을필요가없음. 지능말고 다른사례(비행기와 새)에서 충분히 가능하고 증명된 사례라고 생각
잘 이해가 안되는게 추론은 이미 있는 지식을 기반으로 새로운 결과를 창조하는 거 아님? 추론에 왜 기억과 학습이 복잡하게 얽혀있다는거야? 내가 생각했을 땐 기억과 학습이 추론과 같은 시점에서 이뤄지진 않는거같은데
기억은 단순히 지식을 저장하는 것이 아니고 저장된 지식을 떠올리는 것을 포함하는 시스템이기 때문임. 어떤 것을 저장하고, 어떤 순간에 필요한 것을 떠올리고, 시간이 지나면 어떤 것은 잊어버리는 시스템을 기억이라 함. 학습도 마찬가지로 새로 얻은 지식을 습득하고 익히는 것인데, 이는 단순한 저장이 아닌 활용할 수 있는 수준으로 지식을 해석이나 가공한다고 볼 수 있음. 이렇게 보았을 때 기억과 학습은 추론 과정에서 필요한 구성 요소임. 지식을 기반으로 사고를 해야할 때는 기억이, 사고 과정에서 최종 결론에 도달하는 과정에서 얻은 중간 결론들을 활용하는 부분에서는 학습이 영향을 미치겠지. - dc App
다만, 이것은 인간의 입장에서 분석한 "일반적으로 일컬어지는 추론이란 개념은 기억 등과 분리되지 않는 개념"이라는 것일 뿐임. AI로 보면, 현재 많이 쓰이는 트랜스포머 알고리즘은 다음에 올 문장을 예측하는데 이것은 지능으로 치환될 수 있다는 관점이 있음. 인상 깊었던 예시를 말해보면 추리 소설을 주고 마지막에 범인을 말할 때, 이 다음 문장을 예측하라고 하면? 이걸 정확하게 해낸다면 이는 지능으로 치환되는 지점을 보여주는게 아닌가? 라는 관점임. - dc App
본글에서 말하는건 이러한 모방은 훌륭하긴 하지만 한계가 있다는 거임. 결론에서, 이걸로도 충분히 agi에 도달할 수 있다는 의견도 나오면서 많이 갈렸고... - dc App