[📪정보] 샘 알트만 뉴욕타임즈 인터뷰 요약

[익명(222.108)]

샘 알트만 해고 2일전, 즉 APEC 전날 진행한 인터뷰

Q. 먼저 AGI를 정의하고 싶습니다.

A. 제 생각엔 우스꽝스럽고 의미없는 용어인 것 같아요. 하지만 말하자면, '정말 똑똑한 AI'를 의미합니다.

Q. 구글 딥마인드에서 AGI를 0~5레벨로 나누고 ChatGPT,Bard,LLaMA를 모두 레벨1이라고 했는데요. 동의하십니까?
A. 현재 우리는 확실히 어느 정도 유용한 시스템을 갖고 있다. 그리고 그것이 레벨1인지 레벨2 AGI인지는 모르겠다. 레벨1이라고 불러도 전혀 신경쓰이지 않는다.

Q. 현재 시스템에는 신뢰성 문제가 있습니다. 따라서 의료나 법률쪽에 사용하기 어려운데요. 이 문제를 어떻게 해결할까요? 그리고 실제로 위험성이 큰 분야에 필요한 낮은 오류에 도달할 수 있다고 생각하시나요?

A. 제어 가능성, 신뢰성은 훨씬 더 좋아질 것이다. 앞으로 몇 년 동안 큰 진전을 이룰 것이다. 2026년, 2028년, 2030년과 같은 것인지는 모르겠지만, 우리가 더 이상 이에 대해 이야기하지 않는 때가 올것이다.

Q. 제가 듣기로 당신은 비밀리에 가속주의자이고 AI가 가능한 빨리 진행되기를 바라는 사람이며 당신이 규제를 요구하는 신중한 외교가 실제로는 그저 사회를 위한 예의바른 얼굴일 뿐이라고 들었습니다. 하지만 속으로는 우리가 미래를 향해 브레이크 없이 전력을 다해야한다고 생각한다던데, 맞나요?

A. 아니요. 저는 미래를 향한 모든 것이 가속도, 브레이크도 아니라고 생각합니다. 하지만 저는 우리가 미래로 가야한다고 생각합니다. 이것이 제가 대부분의 AI 회사들과 다른 점일 것입니다. AI는 좋은 것 같다. 나는 사람들이 AI로부터 혜택을 받았으면 좋겠다. 아마도 AI 분야에 종사하는 대부분의 사람들에 비해 나를 가속주의자로 볼 수 있지만, 극단적인 가속주의자들에 비하면 나는 거기에는 속하지 않는다. 그래서 당신은 이 회사의 CEO가 중간 어딘가에 있기를 원하다고 생각하며, 저는 그렇다고 생각한다.

Q. 그렇다면 당신은 가속도에 더 가까운 셈이군요.

A. 저는 이것이 인류가 발명한 가장 중요하고 유익한 기술이 될 것이라고 믿지만, 우리가 조심하지 않으면 큰 재앙이 될 수도 있다고 믿습니다. 그래서 우리는 그것을 주의 깊게 탐색해야 합니다.

+GPT-5와 GPT-6에는 아주 새로운 것들이 있을 것이다.

+AI가 새로운 물리학을 발견할 수 없다면 AGI라고 부를 수 없다.

+새로운 물리학 연구를 하는 AGI로 가는데 장애물에 대한 생각 :

제한된 추론 능력이다. 모델은 추론 능력이 더 뛰어나야 한다. 이에 대한 예로서 제 공동 창업자인 '일리야 수츠케버'가 가끔 하는 말이 내 마음속에 깊이 남아있다. 뉴턴의 삶에서 그개 해야할 옳은 일은 손에 쥘 수 있는 모든 수학 교과서를 읽는 것이었던 때가 있었다는 것이다. 그는 모든 똑똑한 교수들과 이야기하고, 동료들과 이야기하고, 문제를 푸는 등 무엇이든 해야한다. 이것이 오늘날 우리 모델이 하는 일이다. 그리고 어느 시점에서 뉴턴은 어떤 교과서에도 미적분학이 존재하지 않았다면 결코 미적분학을 발명하지 않았을 것이다. 어떤 시점에서 그는 새로운 아이디어를 생각하고 이를 테스트하고 구축해야 했다. 그리고 그 단계, 두번째 단계는 아직 완료되지 않았다. 그리고 우리가 그것을 AGI라고 부르기 전에 그것이 필요하다고 생각한다.

https://www.nytimes.com/2023/11/20/podcasts/hard-fork-sam-altman-transcript.html

전문 인터뷰 링크

[MoonChild(aowlr2001)]

[익명(58.140)]

뉴턴 미적분학 얘기는 뭔소리냐

[익명(222.108)]

새로운 물리학을 발견할 정도의 AGI 시스템으로 가려면 뉴턴도 한때는 모든 수학책을 읽고 교수, 동료랑 얘기하고 수학 문제 풀던 시절이 있었다는 것임. 그러다가 어느 순간 그렇게 알고 있게된 지식을 바탕으로 미적분학이라는 것을 발명하게 됨. 지금 AI 시스템은 1단계, 지식을 쌓아가는 단계에 있고 2단계에 도달하면 그 지식들을 바탕으로 새로운 지식을 발명할 수 있게 될 것이라는 뜻

[익명(111.217)]

지금 ai는 학생 뉴턴급 메모

[익명(116.84)]

뉴턴이 "제한된 추론 능력"을 갖고 있었다면, 미적분학을 발명하지 못했을 것이라는 말임. 뉴턴이 미적분학을 발명한 그 때 당시에는 '미적분학'이란 것 자체가 존재하지 않았지만, 뉴턴이 당대 모든 수학 관련 책을 읽고나서, 미적분학이란 "완전 새로운 어떤 것"을 개발했다는 것임. 지금까지 있는 지식을 바탕으로 존재하지 않았던 어떤 것을 만드는 것이 AI에서 중요하다 이말이지. 지금은 있는 지식의 범위에서 활용하는 능력만 있다 이 말

[익명(1.239)]

[부패하는유전자!!!(sansss2015)]

[익명(119.207)]

agi 1~2단계 사이란 소린가

[포스트휴먼.(ysoo75430)]