Eliezer S. Yudkowsky (/ˌɛliˈɛzər jʌdˈkaʊski/ EL-ee-EZ-ər yud-KOW-skee)


'유드카우스키'가 맞다는데 많이들 '-코프스키'로 쓰는 듯...


암튼 올 가을에 책 나올 거 같은데, 어떰?

재목이 그야말로 "이러다가는 다 죽어!"인데 ㅋㅋ


인간 수준에서 멈추지 않을 거고,

ASI 나오면 다 죽는거임, 현장 준비 ㅈ도 준비 안 돼 있고, 의지도 없음.

그러니까 셧다운하자는 논리인데..


허사비스가 AGI 등장 보수적으로 잡은 게 5~10년인데, 

은근 설득력 있지 않음? 단일 패러다임에 갇혀 있는 듯도 한데..


근데 이 사람 실제 인공지능계에서 다른 인물들에게 어떤 평가를 받는지 궁금하네.




https://www.penguin.co.uk/books/474267/if-anyone-builds-it-everyone-dies-by-soares-eliezer-yudkowsky-and-nate/9781847928924


https://www.hachettebookgroup.com/titles/eliezer-yudkowsky/if-anyone-builds-it-everyone-dies/9780316595643/


If Anyone Builds It, Everyone DiesAn urgent warning from two artificial intelligence insiders on the reckless scramble to build superhuman AI—and how it will end humanity unless we change c...www.hachettebookgroup.com


초인적인 인공지능을 개발하려는 무모한 경쟁과

그 결과 인류를 멸망시킬 수 있다는 인공지능 전문가 두 명의 긴급한 경고.


2023년, 수백 명의 머신러닝 과학자들이 인간보다 똑똑한 AI로 인해 인류가 멸종할 위험에 대해 경고하는 공개 서한에 서명했다. 하지만 오늘날 많은 기술 기업 CEO들이 경고를 무시하고 이해하지도 못하며, 억제할 수도 없는 시스템을 공격적으로 확장하면서 초인적인 AI 개발 경쟁은 더욱 가속화되고 있다. 수년 또는 수십 년의 시간을 두고 인공 지능을 구축하는 데 성공할 가능성이 높다. 그리고 아무도 다음에 일어날 일에 대해 준비되어 있지 않다.


이 서한에 서명한 두 사람, 엘리저 유드카우스키와 네이트 소어스는 20여 년 동안 인공지능의 잠재력을 연구하고 그 결과에 대해 경고해왔다. 유드카우스키와 소어레스는 충분히 지능적인 인공지능은 인공지능이 학습된 목적과 밀접한 관련이 없는 암울한 목표, 즉 인간의 생존과 상반되는 생명력 없는 목표를 스스로 개발할 것이라고 주장한다. 더 나쁜 것은 인간과 AI 간에 거의 피할 수 없는 충돌이 발생할 경우, 초지능은 현대 알고리즘이 체스에서 세계 최고의 인간을 무너뜨리는 것처럼, 충돌이 가깝거나 특별히 흥미롭지 않더라도 쉽게 우리를 무너뜨릴 수 있다는 것이다.


인공지능은 컴퓨터 안에 갇힌 지성일 뿐인데 어떻게 살아있는 모든 인간을 죽일 수 있을까? 유드카우스키와 소어레스는 논쟁과 생생한 멸종 시나리오를 통해 인류가 이 도전에 맞설 준비가 되어 있지 않다는 것을 보여줌으로써 궁극적으로 현재 우리가 가고 있는 길, '누구든 그것을 만들면 모두가 죽는다'는 사실을 보여준다.