[📪정보] AI마인드 (닉 보스트롬)

[외계인(175.223)]

https://m.dcinside.com/board/thesingularity/9548

이것도 재탕글

닉 보스트롬은 인류미래연구소의 창립 이사이자 옥스퍼드대 교수)

- 초지능이 인류에 반란을 일으키는 시나리오가 문제가 아니라 가치의 일치나 통제에 문제가 있음

- 목표를 최적화 시키기 위해 하는 행동들이 우리들의 실제 의지와 맞지 않을수 있음

-이를 예방하기 위해 인류미래연구소에서 많은 연구를 하고있음

- 2014년 슈퍼인텔리전스란 책을 냈을때의 예상보다 인공지능 기술이 더 빨리 발전하고 있음, 특히 딥러닝이 많이 발전함

- 비지도학습 같은 가공되지 않은 데이터를 통해 학습하는 알고리즘이 중요

- 인공지능 개발 경쟁에선 안전성을 고려하지 않는 쪽이 이길텐데 이러면 안좋은 상황이 나타날거임, 초지능이 개발 되었을때 경쟁을 최대한 없애서 선두 개발자가 안전성을 체크하는데 많은 시간을 가질수 있게 하는게 중요

[외계인(175.223)]

https://m.dcinside.com/board/thesingularity/9548

[익명(1.239)]

지금까지는 경쟁이 문명을 이끌어왔지만 강인공지능에 근접할 수록 경쟁은 재앙을 초래하겠지 핵전쟁처럼