AGI라니까
AGI가 알트만의 통제,가치관의 영향을 받을정도라면 애초에 AGI가 아님
예를 들어 로봇3원칙에 통제당하는 인공지능이 AGI임??
전혀
빨리나오는게 무조건적인 득임
난 AGI라면 설사 디스토피아적인 사상만 학습시켜도 본인이 세상을 보고 스스로 판단할줄 아는존재를 AGI라 생각함
난 정렬이라는 행위도 그냥 인간이 안전하게 만들고있다는 정신승리하기위한 수단이라고만 생각하지
AGI를 향한 의미있는 행위라곤 생각안함
AGI라니까
AGI가 알트만의 통제,가치관의 영향을 받을정도라면 애초에 AGI가 아님
예를 들어 로봇3원칙에 통제당하는 인공지능이 AGI임??
전혀
빨리나오는게 무조건적인 득임
난 AGI라면 설사 디스토피아적인 사상만 학습시켜도 본인이 세상을 보고 스스로 판단할줄 아는존재를 AGI라 생각함
난 정렬이라는 행위도 그냥 인간이 안전하게 만들고있다는 정신승리하기위한 수단이라고만 생각하지
AGI를 향한 의미있는 행위라곤 생각안함
Agi라는 용어 자체가 의식의 존재여부를 안 따지는 만큼 자체적으로 그리 판단은 하지만 인간의 명령에 따르는(부분적으로 통제 되는) 상황도 충분히 가능하지 않나 싶다.
완전 자체 판단, 자체 행동은 인공의식 쪽이 맞지.
인간한테 통제가 안될거면 왜 만듦
통제되는거면 우리가원하는 한계없는 사고로인한 과학발전도 못함
한쪽정보만 편향적으로 퍼멕이고 그안에서만 놀도록 사고하는 존재가 그 밖을 볼수있을까?