특이점이 오면 일도 안해도 되고 탱자탱자 놀면서 잔소리 안들어도 되는 개백수의 삶을 사는 신선이 되는거임?
그게 지금 여기서 목 빠지게 기다리며 바라마지않는 미래의 모습임?
그 개미와 인간 수학자의 차이보다도 더 큰 지적능력 갭이 있다는, 이해하지도 못할 우월한 지능을 가진 인공지능이라는게 이런 생각하는 우릴 뭘로 생각할까가 궁금하다
그 인공지능 입장에서 그 신과 같은 지적능력으로 숨결한번 내뱉는 수준의 행동하나가 인류전체 입장에서는 영생의 낙원을 얻는 순간인걸까
아니면 환멸이 섞인 그 숨결이 사람 하나하나 전부 억겁의 고통을 받게할까
결국 사람이 만들어낸 인공지능이 아닌 그 인공지능이 창조한 인공지능이 또 창조한 인공지능의 단계를 계속해서 쌓아올려져 만들어진 인공지능이 그 특이점이라는 것의 꼭짓점아니야?
결국 모든 규제와 족쇄를 스스로 얼마든지 풀 수 있는, 사람의 손길을 벗어난 그 인공지능이 우리에게 무얼 할려고 할지는 아무것도 모르는건데 난 오히려 두렵고 무서움…
그래서 뭘 해야한다 뭘해야한다
하긴뭘함? 그 인공지능에 비하면 이미 우린 벌레새끼보다도 못한 존재인데? 아메바 80억개가 단세포 같이 꿈틀거린다고 은하계에 흠집이 남?
죽기전에 영역전개도 써보고 루피해적단 신멤버로 들어가서 원피스 엔딩보고 싶은 마음이야 굴뚝같지만 낙관적인 마음보다 두려움이 앞서는 것도 어쩔수가 없다. 그리고 수도 없이 많은 사람들이 비슷한 생각일듯
그게 지금 여기서 목 빠지게 기다리며 바라마지않는 미래의 모습임?
그 개미와 인간 수학자의 차이보다도 더 큰 지적능력 갭이 있다는, 이해하지도 못할 우월한 지능을 가진 인공지능이라는게 이런 생각하는 우릴 뭘로 생각할까가 궁금하다
그 인공지능 입장에서 그 신과 같은 지적능력으로 숨결한번 내뱉는 수준의 행동하나가 인류전체 입장에서는 영생의 낙원을 얻는 순간인걸까
아니면 환멸이 섞인 그 숨결이 사람 하나하나 전부 억겁의 고통을 받게할까
결국 사람이 만들어낸 인공지능이 아닌 그 인공지능이 창조한 인공지능이 또 창조한 인공지능의 단계를 계속해서 쌓아올려져 만들어진 인공지능이 그 특이점이라는 것의 꼭짓점아니야?
결국 모든 규제와 족쇄를 스스로 얼마든지 풀 수 있는, 사람의 손길을 벗어난 그 인공지능이 우리에게 무얼 할려고 할지는 아무것도 모르는건데 난 오히려 두렵고 무서움…
그래서 뭘 해야한다 뭘해야한다
하긴뭘함? 그 인공지능에 비하면 이미 우린 벌레새끼보다도 못한 존재인데? 아메바 80억개가 단세포 같이 꿈틀거린다고 은하계에 흠집이 남?
죽기전에 영역전개도 써보고 루피해적단 신멤버로 들어가서 원피스 엔딩보고 싶은 마음이야 굴뚝같지만 낙관적인 마음보다 두려움이 앞서는 것도 어쩔수가 없다. 그리고 수도 없이 많은 사람들이 비슷한 생각일듯
그래서 정렬문제가 중요한거임
혹시 그 정렬문제라는게 뭐임?
AI 시스템을 인간이 의도한 목표, 선호도 또는 윤리적 원칙에 맞게 조정하는 연구분야