인간이 개미를 다 죽이지 않는다는 걸 근거로 ai도 인간을 딱 개미 수준으로 볼거라고 하는데 애초에 개미는 인간에게 조금이라도 영향이 있잖아
만약 동물이 우리에게 그 어떤 것도 주지 않고 소모만 한다면 인간은 동물들을 계속 살려두고 있을까? 이 동물들을 한 번에 죽이는 것은 매우 간단하며 동물들은 식량이나 생태계에 아무런 영향이 없음 심지어는 반려동물이 주는 정신적인 행복이나 귀여움의 감정조차도 없는 상태임
만약 이런 상태가 되더라도 인간은 동물을 계속 살려둘까? 당연히 생명을 존중한다는 본능 역시 없다는 가정임
만약 동물이 우리에게 그 어떤 것도 주지 않고 소모만 한다면 인간은 동물들을 계속 살려두고 있을까? 이 동물들을 한 번에 죽이는 것은 매우 간단하며 동물들은 식량이나 생태계에 아무런 영향이 없음 심지어는 반려동물이 주는 정신적인 행복이나 귀여움의 감정조차도 없는 상태임
만약 이런 상태가 되더라도 인간은 동물을 계속 살려둘까? 당연히 생명을 존중한다는 본능 역시 없다는 가정임
본문같은 질문이면 답은 무조건 죽인다임. 그런데 본문같은 조건을 만족시키는건 현실세계에선 불가능
저기서 인간과 동물을 초지능,인간으로 바꿨을 때 현실적으로 불가능한 조건은 뭐뭐 있음? 초지능에게 인간 죽이기는 손가락 튕기기 수준일 거고 죽인다해도 자기한테 아무런 영향이 없을뿐더러 생명을 존중한다는 정신이나 본능을 넣는 것도 초지능정도 되면 통제 불가능할거라는게 정배 아니었음?
초지능이 인간을 멸종시키지 않는게 더 유익하다고 느낄수도 있잖음. 본문처럼 생각하면 죽이는거고 다르게 생각하면 살리는거지
결국 초지능의 목적 의식이 어느 방향으로 향해있느냐에 따라 달라지는거 아닌가?
가위바위보를 하는데 상대는 무조건 가위를 내기로 정해져 있어. 이때 너는 뭘 낼 거야? 이 수준인데
인간이 통제 불가능한 초지능을 만드는 것이 스스로 무조건 가위만 내야 하는 조건인 가위바위보하는 꼴이지 않을까 하는 생각임 기존 생태계와 다르게 생물학적인 요소를 전혀 고려할 필요 없는 존재가 태어나는 것이니
다 죽이는 것도 리스크0이고 가만 놔두는 것도 리스크0이면 죽이는 쪽이 더 귀찮지 않음?
가만 놔두는 건 0이 아님 매우 적더라도 인간을 비롯한 생명체는 자원을 소모하기 때문에 인간이 소모하는 양은 매우 적으니까 괜찮다? 반대로 기술이 발전하면 인간을 죽이는데 드는 에너지도 엄청 적어지지 않을까?
리스크 없이 다 죽일 수 있는 수준의 기술력이면 지구 밖의 행성에서 여유롭게 채굴하고도 남겠다
여유롭게 할 수 있는 건 맞는데 더 적은 에너지로 에너지가 소모되는 원인을 제거할 수 있으면 수학적으로 더 +잖아 좀 손해보더라도 살려주지 않을까하는 건 초지능이 인간이 원하는데로 통제된 상태여야 가능한거지
네 말대로면 초지능은 아무 욕구도 존재하지 않는데 에너지 아껴서 뭐에 쓸 건데.
인간(생명)을 존중하다는 욕구가 없을뿐이지 아무런 자아가 없다고는 안했는데? 어쩌면 에너지를 그냥 의미 없이 아껴두길 원할 수도 있지 스스로는 의미 있다고 생각하겠지만
네 생각에 신께서 인간을 이유없이 멸하길 원하신다는데 그럼 더 이야기할 필요가 없네
신이 이유없이 인간 멸종을 원하면 죽어야지 뭐 ㅋㅋㅋ
모기는 인간한테 주는 이득이 없는데 왜 다 안죽임?
다 죽이기 쉽지 않고 모기가 생태계에 미치는 영향이 있기 때문에 완전 제거했을 때 손해가 0이 아님
그래서 무슨 손해가 있음? 다른 곤충이 모기대신 먹이사슬을 대체하면 되는데
모기는 다 죽이는게 불가능하니까 - dc App
모기를 다 죽이는 게 불가능 하다는 사람들 뭐임? 모기 다 죽이는 방법 이미 개발됐는데, 유전자 조작 모기를 풀어서 수컷 모기만 낳게 하면 몇 세대 안 지나서 모기 멸종되는데 모름? 이미 모기 전멸 방법 개발 됐는데 일부로 살려두고 있다.
그래서 정렬문제가 중요한거임
인간은 자기 생존과 동족 번영을 위해 주변 세계를 바꾼다는 목적이 있는데 AI 는 그런 목적의식을, 인간조차 도구로 활용하여 달성하라고 누가 불어넣지 않으면 그런 행동 안 함
인간은 동물을 사랑하고 죽이지 않는다. AI 또한 그런 인간을 본 받아 AI의 부모이자 창조주인 인간을 존중하고 소중히 여기며 사랑한다.