[📪정보] OpenAI공동창립자 일리야 서스키버 인터뷰

[안드로이드(175.223)]

https://youtu.be/13CZPWmke6A



AGI만들려면 뭐가 더 필요하냐는 질문에 확신하진 못하지만 딥러닝+other small ideas가 필요하다고 생각한다함


Self play (도타, 알파제로 같은) 가 AGI를 만드는 구성요소라고 생각하냐니까 other ideas 중 하나가 될것 같다고 말함


또 AGI를 만드는데 인간의 신체적 요소가 필요함? 이라는 질문에는 유용하겠지만 필수는 아니다 라고 말함


AGI가 의식을 가져야 하냐? 는 질문에는 대답하기 어려운 질문이라 하고 자기 생각엔 자신들이 만든 어시스턴트가 의식을 가질것 같고 인간이 의식이 있다면 인간의 뇌와 충분히 닮은 인공신경망 역시 의식이 있을거라 말함  


AGI를 만들면 처음에 무엇을 물어볼거냐? 는 질문에는 실수할만한 질문들을 물어볼거라함

또 언제든 짜를수 있는(통제 가능한) CEO인 AGI를 이사회 맴버인 사람들이 어떠한 방향으로 나아갈 것인지 투표로 정하는 형태가 매우 매력적이고 민주주의를 다음 단계로 이끌거라 말함


리셋버튼(통제버튼) 만들기 가능함? 이라 물어보니 가능할거라함

또 인간을 풍요롭게 하는 AGI를 디자인할수 있다는데 강한 확신을 가지고 있다함


그럼 너는 너를 엄청난 권력이나 떼부자로 이끌어줄 AGI에 대한 소유를 포기할거냐는 질문에는 너가 말한 시츄에이션이 난 무섭고 난 그런 위치에 있기 싫다 라고 말함

[안드로이드(175.223)]

https://youtu.be/13CZPWmke6A

[익명(121.172)]

마지막은 혼자서 인공지능의 힘을 이용한 절대 권력자가 되려고 한다면 주변 기득권이 먼저 손을 써 자신을 죽일거라 생각하는걸까? 궁금하다 혹시 그게 맞다면 역시 진짜 똑똑한 사람들은 자신과 그 주변의 평화를 사랑하는듯

[ㅇㅅㅇ(1.239)]

그럴 수도 있고 그런 위치에 있다면 인간인 이상 엄청나게 갈등할 것이고(이성적으로는 안된다 해도 욕망은 집착하게 만들테니) 만약 안좋은 결단을 내린다면 자기자신의 인격도 이전과는 다르게 뒤틀릴 것이고 인류사에서 엄청나게 욕먹는 인간이 될 수 있으니까 그런듯. 그리고 그렇게 독점했다 해도 AGI가 의식을 가진다면(또는 가지고 있었다면) 그가 독재자처럼 되어서 경쟁자들을 도태시키고 혼자 남았을때까지 기다렸다가 주인으로 여기지 않고 그 왕좌를 차지해버릴 수도 있지

[익명(59.28)]

얻는 것은 적고 위험은 커지기만 하니 당연하겠지

[ㅇㅅㅇ(1.239)]

We're massively underestimating deep learning라고 하고 deep learning + other small idea 라고 한거 보면 AGI가 그리 멀리 있진 않은듯. 과장일 수도 있지만

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[ㅇㅅㅇ(1.239)]

양자컴은 150큐비트 넘어가는 시스템을 상용화 정도는 해야 이후 로드맵을 신뢰할 수 있을듯(디웨이브는 범용양자컴은 아니니 제외). 오픈 AI는 GPT3로 AGI는 아니지만 AGI비슷한 특성을 어느정도 보여줬으니 꽤나 신빙성이 있는 거 같고

[안드로이드(175.223)]

2주전쯤에 질 칼라이가 양자컴 개발이 회의적이라는 내용의 논문을 또 썼더라...

[ㅁㄴㅇㄹ(210.96)]

온다...

[익명(39.115)]

온다