[📪정보] AI마인드 (닉 보스트롬)

[안드로이드(110.70)]

(닉 보스트롬은 인류미래연구소의 창립 이사이자 옥스퍼드대 교수)


- 초지능이 인류에 반란을 일으키는 시나리오가 문제가 아니라 가치의 일치나 통제에 문제가 있음

- 목표를 최적화 시키기 위해 하는 행동들이 우리들의 실제 의지와 맞지 않을수 있음

-이를 예방하기 위해 인류미래연구소에서 많은 연구를 하고있음

- 2014년 슈퍼인텔리전스란 책을 냈을때의 예상보다 인공지능 기술이 더 빨리 발전하고 있음, 특히 딥러닝이 많이 발전함

- 비지도학습 같은 가공되지 않은 데이터를 통해 학습하는 알고리즘이 중요

- 인공지능 개발 경쟁에선 안전성을 고려하지 않는 쪽이 이길텐데 이러면 안좋은 상황이 나타날거임, 초지능이 개발 되었을때 경쟁을 최대한 없애서 선두 개발자가 안전성을 체크하는데 많은 시간을 가질수 있게 하는게 중요

[틀리점(112.140)]

좋아좋다

[익명(211.222)]

미안한데 출처없으면 안믿음 요새 세상이 흉흉하잖냐