[📪정보] 딥러닝 아버지 제프리 힌튼 최신 인터뷰 요약

[나일론마스크(flx1012)]

https://www.youtube.com/watch?v=qpoRO378qRY

Full interview: "Godfather of artificial intelligence" talks impact and potential of AI

요약:

- 챗지피티 자체는 놀랍지 않았다. GPT-2 처음 나왔을때랑 구글 람다가 처음 사람 농담 이해했을 때 놀랐음.

- 나는 인공지능 자체를 만드는 것보다 뇌의 작동방식을 이해하는 것에 훨씬 더 관심이 있었다.

- 1980년에 내가 back-propagation 인공지능에 사용하기 시작했고 지금 주류가 되었는데 사실 뇌는 이렇게 작동 안한다.

- 챗지피티는 평범한 사람보다 훨씬 더 많은 것을 알지만 추론력은 아직도 ㅂㅅ이다.

- 뇌는 훨씬 적은 데이터로 부터 지식을 도출해 내는데 이게 바로 추론이다.

- 내 제자 일리야는 처음 딥러닝 모먼트와 chatGPT 둘 다 관여되어있다ㅎㅎ

- 개발자들이 대체될 수도 있지만 더 생산력 좋은 개발자들이 많아질 수도 있음. 아직은 두고 봐야 함.

- 뇌는 고작 30와트의 전력으로 돌아감. 앞으로는 대규모언어모델을 소규모 컴퓨터에서도 돌아갈 수 있게 될 것.

- ChatGPT는 쉽게 말하자면 수많은 데이터의 종합으로 다음 단어를 예측한다. 여러 의견들이 동시에 반영됨. 하지만 사람은 보통 어느정도 일관적인 의견과 가치관이 있음.

- 마소보다는 구글이 좀 더 조심스럽게 사실에 기반한 인공지능을 만들고 있다고 생각함. 최소한 우리는 리퍼런스를 보여주려고 함.

- 무엇이 사실인가를 결정하는것은 어려운 것임. 최소한 대규모 언어모델들이 여러가지 다른 가치관들을 분별하고 이해할 수 있어야 함.

- 그전엔 AGI 달성하려면 20~50년 걸릴 거로 생각했는데 지금은 그것보다 더 빨리 올것 같음 ( 20년 이하 )

- 몇년 전에는 AGI가 5년안에 온다고 하면 개소리 하지 말라고 했겠지만 지금은 불가능하다고 못하겠음.

- AGI는 사람을 돕도록 설계되어야 함. 근데예를 들어 푸틴이 AGI를 홍익인간적으로 이용할 것 같지 않음..

- 인공지능 무기에 대한 금지 조항도 만들어야 함.

- AI로 인해 인류가 ㅈ될 가능성도 충분히 있음. 하지만 우리가 ㅂㅅ이 아니라면 최대한 그러지 않도록 준비를 할거라 믿음.

- 구글은 인공지능 선두주자였지만 요즘 압박 느끼고 있음. 하지만 마소보다는 훨씬 조심스럽게 제품들을 내놓을 것임.

- 미국은 군인을 인공지능 로봇으로 대체하려 하고 있다. 미국 국방부 메일링 리스트에 있어서 무슨 일이 일어나고 있는지 어느정도 알고있다.

- 미국 국방부의 계획 중에는 역겨운것들도 있다. ( 도덕적으로 용납 불가능한 것이라고 의역 가능할 듯 )

- 미국 국방부 계획 중에 자가치료 지뢰밭 프로젝트가 있었다.
만약 어떤 지뢰가 터져서 시민이 죽어도 다른 지뢰들이랑 소통해서 알아서 그 빈자리를 메꾸는 걸 힐링이라고 표현하는것 보고 ㅈㄴ 역겨웠음.
아이들의 다리를 날려버릴 수도 있는 이 지뢰밭에 "치료"라는 단어가 어울린다고 생각되지 않는다.

- 대규모 언어모델이 그냥 자동완성기능이라고 조롱하는 사람들이 있다. 그게 틀린게 아니긴 하지만 잘 생각해보면 다음 단어 예측하려면 그 전 문장들을 제대로 이해할 수 있어야 함.

- 이미 인공지능쪽에서 엄청 많은 아이디어들이 나왔지만 컴퓨터 성능의 한계로 제대로 시도 못해본 것들 많을 수 있음.

- 인공지능의 재귀발전으로 인한 특이점 올 수 있음. 그걸 어떻게 통제할 수 있을지 고민해야 함.

- 미리 과도기를 대비하고 대처법을 생각해야 함.

- 인공지능이 직업을 대체하기 보다는 다르게 만들 것임. ( 물론 대체도 하겠지만 ). 예를 들어 옛날에 ATM 나왔을때 은행 텔러들 따였다고 했는데 이제는 더 복잡한 일을 할 뿐임.

- 프로그래밍처럼 더 복잡해 질수 있는 가능성이 있는 직업들은 대체되기 보다는 더 고도화 될거임.

- 인공지능 혁명은 산업/전기 혁명에 비교될 정도로 엄청나게 큰 역사적 사건임.

- 제품에 기반한 연구가 아닌 호기심에 기반한 연구들도 펀딩을 해줘야 함.

- 자의식이 뭔지도 확실히 모르면서 특정 인공지능이 자의식이 있다고 말할 수 없음

[익명(210.178)]

- 그전엔 AGI 달성하려면 20~50년 걸릴 거로 생각했는데 지금은 그것보다 더 빨리 올것 같음 ( 20년 이하 ) - 몇년 전에는 AGI가 5년안에 온다고 하면 개소리 하지 말라고 했겠지만 지금은 불가능하다고 못하겠음. - 이미 인공지능쪽에서 엄청 많은 아이디어들이 나왔지만 컴퓨터 성능의 한계로 제대로 시도 못해본 것들 많을 수 있음. - 인공지능의 재귀발전으로 인한 특이점 올 수 있음. 그걸 어떻게 통제할 수 있을지 고민해야 함. 찢었다 ㄷㄷ

[익명(210.178)]

- 내 제자 일리야는 처음 딥러닝 모먼트와 chatGPT 둘 다 관여되어있다ㅎㅎ 그와중에 비틱질 ㅋㅋ 커엽노

[나일론마스크(flx1012)]

원래 얼마 전까지만 해도 약간 선형충적인 모습 많이 보여줬었는데 최근에 많이 바뀐듯.

[익명(210.178)]

나 방금전까지 유튜브에서 샘 알트만 렉스 프리드먼 인터뷰 음성자막 자동번역으로 꾸역꾸역 보다 오는 길인데 특갤 켜자마자 인터뷰 있는거 보고 행복하더라 ㅋㅋ 좋은 글 고맙다

[익명(211.116)]

힌튼교수님이 보수적인데 이정도로 말할정도면.. 나무서워

[익명(222.238)]

엔비디아 그래픽카드로 이용해서 딥러닝을 구현하면 성능 향상에 획기적이것이라는 아이디어를 제시한것도 일리야 였지

[익명(112.161)]

진짜 딱 10년만 버티면 되겠다..

[익명(amazonia)]

어쩌면 5년

[익명(110.10)]

[현자(1.248)]

중국이 ai 무기로 전세계 점령하는 미래가 보인다

[익명(221.156)]

back-propagation에 여전히 부정적이시네 일리아도 굳이 FF를 써야냐고 말하던만 과연 어떻게 될까

[나일론마스크(flx1012)]

부정적이라기 보다는 인터뷰 보니까 힌튼은 인공지능 자체 보다도 뇌를 이해하고 싶어하는 사람임. 인공지능 개발도 뇌를 이해하려는 수단일 뿐. 그래서 그냥 연구 방향의 차이라고 생각하면 될 듯.

[익명(211.214)]

agi에 대한 접근방식이 다르다라고 보면 됨

[익명(kekps1234)]

[익명(218.151)]

스타크래프트 마인 진짜 개발 중인가보네 ㅋㅋ

[익명(59.19)]

이 인터뷰쇼는 맨날 왜 서서하냐 업계 최고들을 이렇게 대우해도 되는 것이냐

[ㅇㅇㅇ(221.151)]

나쁠거없지

[나일론마스크(flx1012)]

진행자가 치질인가봄

[익명(211.187)]

진행자치질 ㅅㅂ ㅋㅋㅋㅋㅋㅋ

[익명(125.129)]

아잇 ㅅㅂ 치질 ㅋㅋㅋㅋㅋㅋㅋㅋ

[익명(222.238)]

제프리 힌튼 등뼈에 병이 있어서 앉아 있지를 못한데

[ㅇㅇㅇ(221.151)]

ㅋㅋ 사람도 자의식있는지 모르겠는데

[익명(59.19)]

직업대체 측면에서 인간은 커리어를 위해 더 많은 공부가 필요할것 산업혁명이후 그랬던 것 처럼 요즘엔 석사도 기본인데 박사도 점점 많아지지않을까

[익명(218.151)]

그래도 gpt로 정보, 공부 되니까 어느정도는 완화 될듯

[익명(userinjapan)]

정리 잘했네. 아빠답다

[ㅇ(210.104)]

나일론 너 ai지?? 정보 왜이리 빨라

[익명(211.187)]

ㄹㅇㅋㅋ

[익명(220.127)]

마인이노 씨발 ㄷㄷ

[익명(amazonia)]

앞으로 5년내 agi가능할수도 ㄷㄷㄷ

[MoonChild(aowlr2001)]

[익명(27.255)]

대규모 언어모델이 그냥 자동완성기능이라고 조롱하는 사람들이 있다. 그게 틀린게 아니긴 하지만 잘 생각해보면 다음 단어 예측하려면 그 전 문장들을 제대로 이해할 수 있어야 함.

[익명(27.255)]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 빈깡통 드립 치던 전문가들 직접 패버렸노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[익명(27.255)]

결국 힌튼급 최전선 연구자조차도 언어 모델의 잠재성을 가늠 못 하고 있었다는 소리네

[익명(27.255)]

항상 인류의 역사에서 진보를 막아섰던건 권위자에 대한 비판적 시각을 갖지 못해서다.

[익명(27.255)]

초창기에 비판 쏟아내면서 지랄했던 놈들 싹 다 구속시켜!!!!!!!!!!!!!!!!!!!

[익명(222.238)]

제프리 힌튼도 GPT1이 나왔을땐 시큰둥하다가 GPT2 성능을 보고 놀랐다고 한다

[익명(125.129)]

??? : 구글은 인공지능 선두주자였지만 요즘 압박 느끼고 있음. 하지만 마소보다는 훨씬 조심스럽게 제품들을 내놓을 것임 조심스럽게 내놓기 전에 없어질꺼 같은데?

[뭐냠(tupa159)]

와, 진짜 오나요? ㄷㄷ

[익명(112.164)]

무장권이 인공지능한테 주어지면 그시점부터 진짜 마소 대주주는 천룡인이고 나머지는 노예인 상황이 되도 안이상함