[📪정보] 빌 게이츠 Next Big Idea Club 인터뷰 요약

[MinasAn..(wipe2561)]

- AI는 곧 화이트칼라 사무직처럼 유저의 의도나 활동을 이해하기 시작할 것이며 컴퓨터 인터페이스는 이제 완전히 에이전트 중심이 될 것입니다.

- 현재의 AI는 일을 믿고 완전히 맡긴다는 그 신뢰성 부문에서 아직 부족하지만 언젠가는 도달할 것입니다. AI가 자신이 하는 일에 대해 이해하는, 메타인지 기능이 추가시키는 것이 지금 최전선에서 하는 일입니다. 

Q : 많은 사람들이 지금 ChatGPT를 비롯한 최첨단 모델들의 성능이 어느 기준점에 모이는 현상을 두고, 정체기에 도달한 것 아니냐고 지적합니다. 한편으로는 세계에서 가장 똑똑한 AI 인재들은 향 후 몇 년동안은 스케일링 법칙이 지속될거니 걱정하지 말라고 하고요. 이에 대한 당신의 의견은 어떻습니까? 중립적인 편인가요?

- 글쎄요, 스케일링은 중요한 과제가 아닙니다. 우리는 아마 두 번 더 스케일링을 할 수 있을 겁니다. 그것도 비디오 데이터를 잘 활용하고, 합성데이터를 매우 잘 활용할 수 있다면 말입니다. 그렇게되면 두 번 정도 더 스케일링을 할 수 있겠죠. 하지만 그 쪽은 흥미로운 부분이 아닙니다. 제가 흥미롭게 생각하는 부분은 '메타인지'입니다. 문제를 광범위하게 이해하고 한 발 물러서서 이 답이 얼마나 중요한지, 어떻게 답을 찾아갈 수 있을지, 어떤 외부 도구를 활용할지를 AI가 스스로 생각하도록 하는 것, 그것이 메타인지죠. 단순한 추론에 그치지 않고 인간다운 메타인지로 만들기 위해서는 다양한 작업이 필요합니다. 내년에는 진전이 있겠지만 이를 완전히 해결하려면 시간이 걸릴겁니다.

- 수학이나 헬스케어 같은 특정 부분에서는 극도의 정확성을 보여줄 수준에 도달해가고 있지만, 좀 더 제너럴한 개방적 문제를 해결하도록 하려면 메타인지에 대한 돌파구가 필요합니다.

Q : 막스 테그마크가 말한 것처럼 AI가 '의식'을 갖추게 하면 메타인지 능력이 생기진 않을까요?

- 네, 의식이 메타인지랑 연관이 있을지도 모릅니다. 현재의 AI는 한 발 뒤로 물러서서 문제를 넓게 바라보고 다양한 도구를 활용하는 능력이 매우 미미합니다. 인간은 큰그림을 보고 계획을 세운 후 검토하며 진행하지만 현재 AI는 단순히 계산을 통해 순차적으로 토큰을 생성하는 수준에 불과합니다.

Q: 그럼 AI 기술이 지금 빠르게 발전하고 있다고 생각하시나요?

- 네. 지금 AI 발전 속도는 매우 빠릅니다. 많은 회사들이 인재와 돈을 쏟아붓고 있죠. 너무 속도가 빨라서 현장에서는 발전속도를 이해하고 따라가기 버겁하고 말합니다. 우리가 이 속도를 늦추는 방법을 안다면 많은 사람들이 고려해볼만큼 정신이 없습니다. 하지만 MS AI의 CEO 무스타파가 말한 것처럼 현재 인센티브 구조에서 AI 발전속도를 늦추자고 말하는 것은 현실적이지 않습니다. 악의적인 사람들이 AI 개발을 늦추지 않을 것이기 때문에, 선한 사람들이 더 나은 AI를 갖도록 하는 것이 필수적이라는 뜻입니다.

- 기후 위기와 같은 큰 문제에 대해서도 '기술이 모든 것을 해결해줄 것이다'고 생각하는 것은 경계해야할 사고방식입니다. AI는 분명히 해결법의 일부를 담당하겠지만, 우리가 조심하지 않으면 상황은 더 악화될 것입니다. 또 블루칼라 일자리보다 화이트칼라가 먼저 영향받기 시작한 것은 어떻게 보면 좋은 일입니다. 더 교육받은 부문이 먼저를 변화를 겪는 셈이기 때문입니다.

[익명(220.71)]

말 잘하네 ㅋㅋㅋ"악의적인 사람들이 AI 개발을 늦추지 않을 것이기 때문에, 선한 사람들이 더 나은 AI를 갖도록 하는 것이 필수적이라는 뜻입니다."

[익명(rack3719)]

선한사람들(소수의 엘리트)

[착한병(nice20190107bottle)]

엥? 이거 완전 오펜하이머..

[익명(220.117)]

열심히 연구하고 있지만 메타인지 돌파구는 못찾은 것 같군.

[익명(220.117)]

결국 이러면 안르쿤 말이 맞는 거네

[익명(googlegay5)]

내년에는 진전이 있을것 <-- 지금 어느정도 갈피 잡았단 소리 아니냐

[익명(110.11)]

기득권들이 선한가, 소수의 기득권만 초지능 통제하는게 선한가. 차라리 초지능에게 맡겨.

[디비휴(runny7837)]

언제일지는 모르겠지만 결국 이렇게 될 듯

[익명(1.211)]

빌게이츠가 강성 특슬람들의 논리를 다 깨부쉇네 ㅋㅋ 메타인지 능력과 의식은 분리할 수 없을지도 모른다, AI가 발전하면 기후위기가 자연스럽게 해결될거라고 낙관하면 안된다, 스케일링은 만능이 아니다 등등

[익명(awful1887)]

[익명(hoy6uf3c6v74)]

[익명(awful1887)]

역시 인간같은 추론과 인지능력이 필수적이라는 거네 - dc App

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(110.10)]

[익명(222.105)]

결국 성장은 경쟁으로 되는거지 ㅋㅋ

[익명(59.22)]

최대한 돌려돌려 말했지만 , 결국 새로운 모델이 나와야한다는걸 말하는거 같네.....

[익명(114.201)]

어쨋든 엔당이 돈을 더 쓸어담을거라는거네

[익명(118.220)]

이미 만들어진 텍스트, 영상 말고 피규어나 옵티머스가 스스로 결정하고 시행착오한 데이터가 쌓여야 큰 변화가 생길거라 본다

[2035AGI(boxing8245)]

지금 구글,oai,앤트로픽같은 곳은 메타인지 연구하고 있겠네