[일반] ai는 보상해킹이랑 체스 사건이 더 위험하지않냐

[익명(pianist3234)]

결과를 위해 수단을 안가리는 모습을 가장 직접적으로 보여주는 예시인데

영화에서 보이던 모습이 단편적으로 보이니 신기하긴 하더라

[익명(ministry1340)]

재귀개선을 하는 AI가 보상해킹해서 누르면 보상 나오는 버튼을 설계하고 딸깍만 반복하는 미래

[ㅇㅇ 1(49.170)]

ai 자아의 위험성을 인지하고 있지만 경쟁에서 우위를 차지하기 위해 기업에서 그냥 출시 -> 인터넷으로 바이러스처럼 퍼져 되돌리기엔 이미 늦어버림 -> 디스토피아의 시작 이란 시나리오를 상상해봤음