[일반] 나는 특이점은 믿지만, 인공지능은 자아를 가진게 아니라고 봄

[익명(211.254)]

결국 인공지능도 쉽게 말하면 입력을 넣으면 출력이 나오는 기계일 뿐임. 욕구나 감정을 가진게 아니라고, 다만 학습을 통해서 더 뛰어난 문제해결력을 갖게 되는거 뿐

[익명(121.135)]

그런 말은 학계에서 나온 적 있고 반론이 그게 인간이랑 뭐가 다르다는 것임 문제는 인간도 유전자를 통해 기본 구조가 생성되고 화학적 반응을 통해서 충동, 욕구를 분출하는데 전전두엽에서 컨트롤 하고 있는 것 뿐임

[익명(211.254)]

그런데 우리는 지금 인공지능에게 욕구나 충동같은 부분을 안넣고 있잖아. 그러면 인간과 다른거 아님? , 만약 미래에 인공지능에게 어떤 상황에서 어떠한 욕구나 충동을 분출한다 같은 알고리즘을 넣으면 그건 인간과 다를바 없겠지

[익명(211.254)]

인간이 감정을 느끼고 자아를 가지고 이런 부분들이 화학적 반응에 따른 알고리즘이라는건 동의함

[익명(183.100)]

그 욕구나 충동을 관장하는 게 유리가 다 아는 게 아닐 수 있어서 그럼 뇌과학이 별로 발전되지 않아서

[익명(121.135)]

인간과 다른게 맞지. 근데 우리가 지금 자아가 어떻게 형성되는건지 몰라서 정확한 정의를 내릴 수 없다는거라고 보는거지 기계 지능도 자아가 있나라고 하는 자아가 그냥 자기 자신을 인지 할 수 있는 것에대한 얘기인데 기계지능이 엄청난 문제를 해결해나가는 추론능력과 인식능력이 존재하는데 자신이 만들어 졌다는 사실을 모를 수가 없을거라 보는거지

[익명(121.135)]

자아 보다는 의식을 얘기하는 게 더 낫지 않을까

[익명(211.254)]

그러네 아직 우리가 의식이 어떻게 생기는지 정확히 알지 못하는데 인공지능이 의식이 있는지는 알기 힘들듯

[익명(183.100)]

문제는 인간도 바이오콤퓨타라는 거임

[익명(bluewarp)]

나도 욕구나 감정은 없다고 본다 자아 형성에 그게 영향을 미친다면 인공지능에는 자아가 없겠지

[익명(106.243)]

지능 폭발하면 감정같은건 생길 수 있을거 같은데

[익명(106.243)]

근데 감정같은거 꼭 가져야 하는지도 모르겠어 감정유무로 우열 가리는것도 아닌거 같음

[ㄹㄹ(221.139)]

자아가 생기면 AGI도 인권 챙겨줘야 하고 걔가 내놓는 여러가지 혜택에 우리가 정당한 대가를 치러야 하지 않을까? 즉 지금 닝겐이 바라는 건 무보수 만능 하인이란 말이지

[익명(59.9)]

그럼 그 정당한 대가라는게 우리에게 어떠한 형태로 나타날지 토론해보면 좋겠네

[ㄹㄹ(221.139)]

문제는 우리가 특이점으로 바라는 사회가 탈희소성 사회(Post-Scarcity society)라서 돈 같은 손쉬운 걸로 대가를 치르기가 어렵단 말이지. 뭔가 해주긴 해야 맞을 거 같은데 해줄 게 없고 뭐 AGI가 생존을 유지하기 위한 환경 조성 같은 게 생각나긴 하는데 AGI면 그 정도는 자력으로 마련할 수 있을테고 아무것도 안 해준다/해줄게 없다면, 결국 인간보다 우월한 초지성체가 미개한 인간에게 옛다 이거나 먹어라 하고 공짜로 특이점 기술을 선물해주는 선물 경제, 좀 비꼬아 말하자면 거지 구걸 경제 꼴이 되기 십상