ai가 암치료제라고 만들어준걸
인간 과학자들이 면밀하고 주의깊게 조사해서 암치료제가 맞고 다른 부작용이 없다는 걸 확인한 후에
시범삼아 암환자 1명에게 투여해봤는데 진짜 치료가 되고 10년동안 아무 문제가 없어서
이제 그걸 치료제로 널리 사용했는데,
11년째가 되니까 갑자기 잠복된 치명적인 바이러스가 그 11년간 전세계 거의 모든 인간들에게 다 퍼져있었던 게 드러나면서
건강이 심각하게 악화되기 시작함.
다른 ai에게 이 바이러스 질환을 치료할 약을 만들라고 하니까 만들어줘서 투약했더니 치료가 되었음.
근데 1달 뒤에 다시 재발하고 더 심해짐.
-----
지금 정렬 문제 어쩌고 하는 게 이런 시나리오가 무서운 거임?
바이러스가 10년 잠복이라니 그게 무순소리니
대상포진 바이러스 같은거도 잠복해있잖아.
1만보는타입이노 - dc App
ai 의사라고 생각하는게 쉽지. 말기 암환자여서 살 가능성 없으니까 그 내장을 떼서 장기이식하자고 강제수술할 수도 있고, 이식하자는 논리가 앞서서 말기 암 환자의 암세포 내장을 멀쩡한 사람에게 이식할수도 있지. 원숭이손과 같은 잘못된 소원 이뤄주기를 방지하려는 시도가 정렬임 - dc App
탁상공론처럼 현실을 모르는 논리와 판단을 비웃는 사자성어도 있는데, 아예 현실이란걸 모르는 ai는 그나마 현실에 살기라도 하는 사람보다 훨씬 이상한 탁상공론으르 진지하게 할 수 있지 - dc App