그냥 내 망상이긴 한데,
내 생각엔 이거만 현 딥러닝에 추가되면 진짜 agi가 나올거라고 봄.
https://gall.dcinside.com/board/view/?id=dcbest&no=39509&page=1
여기 보면 나오는데 생체 인공뇌에는 있고 현 딥러닝에 없는거...
그거슨...
호.기.심.
이걸 딥러닝에 어떻게 실제로 구현해서 넣을건가가 사실 진짜 핵심이긴한데
더쓰면 망상 길어질거 같아서 여기서 그만쓸거임.
망상은 일기장에 라는 댓글 달릴것도 같은데 여튼 그렇다거임 걍.
그걸 따라해보려고 하는게 강화학습임.
수단은 강화학습이 맞는데 보상을 언제 어떻게 뭘로 할건가가 사실 핵심임. 근데 내가 아는한 내가 생각하는 그런 보상을 주는건 본적이 없음.
그거 이미 개발됨 자료는 몰?루
사실 좀 비슷하게 하는건 있는거 같던데 내 생각이랑 정확히 같은건 못 봄.
그래서 너는 agi 몇년으로 보는데?
난 정배충이라..2025년. 양자컴 개발되면 2024년. 내가 생각하는 여기서 말하는 agi라는 건, 대부분의 일반 사람들이 자기들 기준의 agi가 이미 나왔다고 생각하거나 또는 근미래에 나올거라고 확신하는 상황이 될정도의 성능의 agi. 말이 어려운데 결국 agi 라는게 사람들마다 인식하는게 다 다름. 진짜 인간이 하는걸 모두다 할 수 있고 밀레니엄 수학 난제들도 다 풀고 급속도로 자기 자신의 개선을 하고 이런 사실상의 asi 단계는 2029년은 가야 할수도 있음. 난 이때를 특이점이라고 봄. 이후로는 역노화 같은 지금 우리가 원하는 거의 모든게 거의 몇년안에 다 나오는 단계.
망상은 일기장에 라는 댓글 달아드렸습니다 - dc App
AI가 발달할수록 '더 지능적인' 지향점과 '더 인간적인' 지향점 사이의 간극이 문제가 될거라고 생각함. 내 개인적으로는 호불호, 쾌락-고통, 호기심 등은 인간-생물 지성의 특성이지, 더 지능적인 기계가 지향해야할 시스템 특성인지는 모르겠음. 인간 뇌는 불필요한 에너지소모를 줄이려는게 기본 특성이지만 기계는 더 많은 일을 더 빠르게 잘 해내는게 기본특성이 되도록 발전하므로 호기심이나 기호도는 오히려 불필요한 편향성을 만들지 않을까 생각함.
자원이 무한은 아님. 그리고 할 수 있는데 굳이 안 할 이유는 없고.
필요한 분야에 집중하는 능력은 굳이 호기심이 아니라고 구현할 수 있음. 호기심이라는 건 그 우선순위나 집중에 대한 결정이 지능적, 확률적 선정이 아니라 기호도에 의한 선정이라는 것인데, 생물의 뇌는 존재의 보존이 1순위이고, 그것에 도움이 되는 활동이나 활용이 부차적인 지향점인 반면 AI는 일을 하기 위해 만들어진 기계인 만큼 활동이나 활용이 1순위이고 존재의 보존은 후순위이거나 경우에 따라 추구하지 않아야할때도 있음. 효율성이라는 건 절대값이 아니라 목적에 따라 상대적인 것임. 공장형 축산은 축산업자에게는 효율적이지만 가축 자신들에게는 가혹하게 비효율적임. 호기심은 AI가 스스로를 위한 효율성을 우선시 할 때 필요한 것이지 인간을 위한 효율성을 발휘하는데는 불필요하다고 생각함.
내가 생각하는 건 그거 아님. 물론 니 생각이 맞는지 틀린지는 모르겠고.
ㅇㅇ 애초에 뭐가 맞고 틀리냐 논쟁하는게 목적은 아니었음
걍 내가 생각할때의 호기심의 정의와 그게 더 나은 AI를 구현하는데 필수적이지 않다(혹은 오히려 불필요하고 위험하다)고 생각하는 이유를 말한거임
안쓸려다가 댓글 길게 써준 너의 노력이 가상해서 추가로 좀 쓰자면 니가 생각하는 호기심 정의랑 내가 생각하는 정의랑 다른 듯. 내가 생각하는 정의는 새로운 걸 알려고 하는게 아니라 모르는 걸 알려고 한다는 그런 의미임.
호기심 딥마인트가 아타리 게임 학습할 때 이미 써먹지 않았냐