아까 삭제된 글을 보고 궁금해진건데
스스로 사고하며 자각하는 기술이 없다면 그게 지금 있는 슈퍼컴퓨터랑 다를게없지않아??
그니까 gpt10이 정말 전인류를 합친거보다 똑똑하다고 해도 결국 스스로 사고하지못하면 스스로를 자각하지못하는 거라면 그냥 인간이 부리는 기계잖아
아무리 똑똑해도 지금 존재하는 슈퍼컴퓨터 버전10<<아니야?? 내가볼때 agi와 다른 인공지능에 가장큰 차이가 저 자각하는능력같은데
근데 왜 사람들은 자각능력이나 사고능력은 얘기하지않는거야?
자각이 왜 일어나는건지도 몰라서 구현할 생각도 못함
아....그렇네 우리 스스로도 자아라는게 어디서 존재하는지를 모르는데 그걸 기계한테 구현하는건 정말 힘든 기술이겠네..
어떤 천재가 나와주길
뇌 과학자들에 의하면 자아를 담당하는 기관은 없어.. 그러니까 너가 너라고 지금 생각하고 있는 생각이 가짜라는거야.. 어제 잠들기전에 나와 지금의 너가 같은거라는 그 느낌이 가짜라는거지... 이게 뇌과학자들이 내린 결론임.. 자아라는건 환상이다. 종교에서도 마찬가지 얘기를 함.. 특히 불교에서는 이 자아라는게 왜 생기는지 까지 말해주는데 우리의 오감(시각 촉각 미각 후각 청각)이 뇌에서 합쳐지고 해석되면서 생기는 일종의 부산물 내지는 오류가 '자아'라는 거지.. 그래서 불교에서도 자아는 환상임.. 과학과 종교가 여기서 만날줄이야.. 암튼.. 자아가 존재하지 않기때문에 자각도 왜일어나는건지 모름
스스로 사고한다는 개념 자체가 어떠한 이론적 근간도 없기 때문임.
와 니 댓글이랑 윗댓글 보니까 내가 생각한거 이상으로 어렵고 구현하기 힘든 기술이라고 실감되네 그래서 많은 ai전문가들이 저 자각하는 능력이 가장 마지막 단계라고 말하는거구나 ㄷㄷ
당연히 어려울 수 밖에 없는게 지금 인공지능이 인간의 뇌를 모방하는 방식으로 진행되고 있는데 인간 어느 누구도 뇌에 대해서 알지 못함 베끼려는 대상에 대해서 아는게 아예 없는데 베낄 수 있다는게 더 이상하겠지?
의식이 필수불가결한 요소는 아니라고봐 아니 우리가 의식을 흉내내라고 요청해서 완벽히 의식을 흉내내고 어떠한 인간도 그걸 구분해낼수 없다면 그건 의식이 있는걸까 없는걸까? 인간이 할 수 있는 모든걸 추가적인 명령없이 대체해서 하고 다재다능하다면 의식의 유무가 중요할까?
자기가 직접 자각하며 사고할수없다면 그게 강인공지능은 아니지않아?? 그리고 의식하며 사고하는게 무엇인지 인간도 모르는데 그걸 흉내내는 기술 자체도 어려울거같은데 애초에
그리고 강인공지능이 특이점을 가져와줄거라고 사람들이 기대하는건 인간이 못하는걸 agi 너가해줘<<이걸 바라고있는건데 스스로 사고하며 자각하지 못하면 그건 엄청 똑똑한 슈퍼컴퓨터일뿐아니야? 스스로 사고할수있어야 인간이 못하는 여러 과학적 발전들을 이뤄주지
살짝 정정하자면 강인공지능이 아니라 초인공지능을 기대하는거지, 그리고 의식이 없다고 해도 인간이 흔히 말하는 "사고"는 충분히 할수 있어 지금도 하고 있잖아. 슈퍼컴퓨터는 그냥 하드웨어니까 여기서는 관련이 없고 그냥 이런 상상을해봐, 인공자궁으로 만든 인공인간이 있다고 상상해봐, 이 인간은 유전적으로 100%인간인데, 세뇌등을 통해 모든 욕구를 거세했어 그리고 자기라는 정체성조차 없지, 하지만 지능은 인간과 똑같아서 인간이 하는 모든 역할을 똑똑이 수행해, 기억도하고 창조적인 활동마저 문제 없이말이야. 의식의 정의라는게 모호해서 이런 예를 들었지만 사고 자각과 수행과 창조성 사이에 절대 끊을수 없는 상관관계가 있다는건 섣부른 결론이라는거야
너는 초인공지능이 니가 예로 든 모든 욕구를 거세해서 자신의 정체성도 없이 인간을 위해 이로운 일을 해주는 존재로 나오길 바라겠지만 정말 인간을 아득히 초월한 초인공지능이라고 불릴만한 존재가 나온다면 인간이 하는 세뇌나 그어떤 통제도 통하지않을 가능성이 가장 크다는게 첫번쨰고 또 내가 자각하는 능력이 agi에 필수조건이라고 생각하는 이유는 스스로를 자각하지못하고 스스로 사고하지못하면 그건 그냥 인간이 부리는 기계 전기밥솥이랑 하나도 다를게없기 때문이야 아무리 지능이 높더라도 결국 인간이 부리는 컴퓨터라고 하지만 스스로 자신을 자각하는 능력이있다면 그 엄청난 지능으로 과학적 특이점을 달성할수있는거고 넌 너무 니가 믿고싶은데로 좋은것만 골라먹으면서 예상하는느낌이야
반박하기에는 같은 말의 반복이네.. 우선 난 인공의식 탄생의 유무를 말한게 아니야, 단지 인공의식이 AGI에 필수불가결한 요소가 아니라는거지, AI의 발전과정에서 의식이 필연적으로 탄생해버릴수도 있어. 세뇌는 초인공지능을 인간이 컨트롤 가능하냐고 묻는거 같은데 난 굉장히 어려울거라고보고 마지막 전기밥솥은 결국 내가 한말들을 재반복이네.. 그리고 큰 착각을 하나 정정하자면 난 아무것도 내가 원하는데로 골라먹지 않았어 내가 굉장한 낙관론자도 아니고 내가 한 말들에서 너가 그렇게 답해야할 무언가를 적은적이 없는데 왜 그렇게 말하는지 모르겠네
인간이 벌레한테 조종당할 수 있다고 봄? 아니잖아 그래서 머스크도 ai가 인간에게 우호적이길 바랄 수밖에 없다고 말하면서 bci니 지랄이나 하는 거잖아
AI는 한 개체에 묶여있는게 아니니까 자각은 별 의미없음 자아타령은 인간중심적 의미부여일 뿐임