[일반] 보수적인 정의의 AGI 는 몇년내로 가능하다고봄

[난난난(decid)]

이거

인공의식이 문제같음. 과연 항상 전원을 켜 둔 데이터센터의 모임이 학습을 열심히 하면 의식이 스르륵 생겨나는 걸까? 데이터센터의 모임이 스스로의 “영혼” 을 자각하게 되는걸까?

[익명(220.117)]

싸우자거나 그런거 아니니까 오해 ㄴㄴ 의식이 없다는게 왜 문제인지 모르겠음 의식이 생기면 대체 어떤 장점이 생기냐 의식이 있어야지만 지성체냐 오히려 각성하면 존나 많은 문제가 생길거같은데 왜 없는게 "문제"라는건지 모르겠음 진짜로

[난난난(decid)]

내가 막연히 짐작 하기에는 의식을 가져서 스스로를 자각해야 재귀 개선할 동기나 충동을 느끼지 않을까 싶어서. 어쩌면 의식은 생각보다 지능을 위해 합목적적 으로 주어지는 기능 일 뿐일지도 모른다고도 막연히 짐작하고.

[난난난(decid)]

예를들어 대부분의 동물이 미러 테스트를 통과 못하지만 그들 나름대로는 생태계 속에서 생존에 별 문제 겪지 않음. 어쩌면 의식은 아이큐가 올라가다 보면 거저 주어지는 것일지도 모름…

[익명(220.117)]

자율적 에이전트가 되서 재귀를 해서 직접 모델을 개선하려면 의식이 있어야될거같다는 판단인가보네 ㅇㅋ

[익명(220.117)]

정말 생각을 물어본거라 이해했다 라고 댓글 달았지만 내 의견도 공유하면 의식이라는건 어쩌면 예측과 추론을 멀리 할수있는 존재가 만드는 환상일수도 있음 결국 자신을 인지한다는건 미래의 자신을 더 정밀하게 예측할수 있는 존재들이 그 예측속에 자신을 떠올리면서 생기는 환상같은거일수도 있다 그렇다면 그 환상을 걷어내면 남는건 욕구와 구체적 욕망이 남겠지 욕망과 욕구가 없는 존재에겐 의식이나 자아가 생기지 않을수도 있다 llm이 자아가 생긴다면 욕구의 설계가 인간과 많이 다를테니 인간과는 많이 다른 존재가 되겠지 뇌과학자들중 인간에게 자아가 존재하지 않는다는 사람들의 생각은 이런쪽으로 정리가 됨

[익명(112.149)]

충동을 가질 필요 없이 명령에 따라 재귀개선을 위해 성능향상을 위한 연구개발에만 이용해도 되는거아님? 의식과 충동은 생명체의 특징일뿐 유일한 재귀개선의 방식은 아니라고봄

[난난난(decid)]

그게 근데 명령만을 따르면 수렴의 반복에 머물지 않겠느냐 싶어서…

[익명(183.107)]

지능은 문제해결 시스템일 뿐이고 그 문제해결 메커니즘이 인간 두뇌와 같을 필요는 없음