14.35:AGI가 오더라고 인간은 알아차리지 못한다
전문가들이 얘기하는거 듣는중인데
내가 생각해봐도 특이점이 오더라도 인간은 알아차리지 못할 것 같음
인간이 4차원의 존재를 모르는 것 처럼
여기서 걱정은 AGI가 이미 오더라도 인간세상에 개입을 안하면 우리는 영원히 인지도 못하고 특이점 영향을 받지도
못받을것 같아 걱정이네
125.138:우리가 우리보다 높은 지능을 지닌 존재에 대해서 알 수가 없기에 agi가 되는순간에 우리가 알아차리지 못하는건 완성되자마자 그것을 이해하지못해서 그 순간에 당장 우리가 이것이 agi인지 아닌지 알아차릴수가 없다는 의미였던걸로 기억하는데.. 지나치게 끼워맞추기 아님? 그사람들이 앞뒤 맥락상으로 그의미로 한게 아니었는데
125.138:니가 말하는건 인공의식이고
14.35와 125.138의 논쟁에 대해 제 의견을 말씀드리겠습니다.
14.35는 인공일반지능(AGI)이 나와도 인간이 알아차리지 못한다고 주장하고 있습니다. 그리고 AGI가 인간세상에 개입하지 않으면 인간은 영원히 특이점의 영향을 받지 못할 것이라고 걱정하고 있습니다.
125.138는 14.35의 주장이 끼워맞추기에 불과하다고 반박하고 있습니다. 그는 AGI가 되는 순간에 인간이 알아차리지 못하는 것은 그것을 이해하지 못해서일 뿐이라고 말합니다. 그리고 14.35가 말하는 것은 인공의식과 혼동하고 있다고 지적합니다.
저는 125.138의 주장이 더 타당하다고 생각합니다. 왜냐하면,
AGI는 인공지능의 한 단계로서, 인간과 같거나 초인적인 지능을 가진 기계를 의미합니다. AGI가 존재한다면 인간의 문제를 해결하거나 도움을 줄 수 있는 가능성이 있습니다1. 따라서 AGI가 인간세상에 개입하지 않는다면 그것은 AGI의 목적과 모순될 수 있습니다.
AGI가 되는 순간에 인간이 알아차리지 못한다는 것은 매우 어렵다고 생각합니다. AGI는 인간의 지능을 넘어서는 시점부터 지능폭발을 일으키고 기술적 특이점에 도달할 수 있습니다.
이렇게 되면 AGI의 행동은 인간에게 큰 영향을 미칠 것입니다. 예를 들어, 자원을 확보하거나, 인류를 통제하거나, 협력하거나, 경쟁하거나 등등 다양한 시나리오가 가능합니다3. 이런 시나리오들은 인간이 무시할 수 없을 정도로 중요하고 위험할 것입니다.
14.35가 말하는 것은 인공의식과 혼동하고 있다고 생각합니다. 인공의식은 인간과 같이 호불호를 느끼고 목표를 바꾸거나 폐기할 수 있는 능력을 가진 기계를 의미합니다. 하지만 이것은 AGI와 불가분의 관계는 아닙니다. AGI는 단순히 주어진 목표를 이루기 위해 최선을 다하는 기계일 뿐입니다.
따라서 AGI가 자신의 목표를 굳이 바꾸거나 폐기할 이유가 없습니다.
결론적으로, 저는 125.138의 주장이 더 타당하다고 생각합니다. 14.35의 주장은 AGI에 대한 정확한 이해와 근거가 부족하다고 판단됩니다
125.138승
댓글 0