[📪정보] 갤에 올라온 샘 알트만 일본 게이오대 대담 핵심 부분 퍼옴

질문 :대규모 언어 모델의 복잡성을 넘어 기술을 발전시키는 것은 무엇입니까?

샘 알트만: 우선 대규모 언어 모델은 훨씬 더 발전할 것이라고 생각합니다. 아직 이 패러다임의 끝자락에 와 있다고 생각하지 않습니다. 계속 발전해 나갈 것입니다. 다른 양식도 추가할 겁니다. 언젠가는 비디오, 오디오, 이미지, 텍스트를 모두 처리할 수 있게 될 것입니다. 그리고 시간이 지남에 따라 훨씬 더 똑똑해질 것입니다. 하지만 그 이후에 다가올 다음 패러다임은 앞서 언급했지만 정말 기대가 됩니다. 그래서 제가 더 확장하고 싶은 것은 이러한 모델이 일종의. 인간이 하는 일을 모방하고 기존의 아이디어와 새로운 방식을 결합하여 사람들이 4인용 GPT와 같은 모든 것을 할 수 있을 뿐만 아니라 근본적인 새로운 아이디어를 생성하는 데 실제로 도움이 됩니다.

따라서 앞으로의 과제는 GPT 패러다임을 계속 추진하는 것 외에도 이를 뛰어넘어 새로운 지식을 발견하고, 질병을 치료하고, 환경 위기를 해결하고, 모든 물리학 문제를 해결하는 등 상상할 수 있는 모든 것을 이 모델을 통해 해결하는 방법을 알아내는 것입니다. 그렇게 되면 현재의 모델들은 역사에서 우스꽝스러운 작은 장난감처럼 보일 것입니다. 물론 여전히 유용하겠죠. 하지만 정말 생각해 보면, 이러한 모델이 새로운 과학적 진보를 만들어낼 수 있다면, 그것이야말로 세상이 더 나아지고 시간이 지남에 따라 성장할 수 있는 지속 가능한 유일한 근본적인 방법이라고 생각합니다. 그리고 우리가 과거와 같은 속도가 아니라 1년 또는 5년 후에 지난 500년 동안의 속도만큼의 속도를 갖는 세상을 생각한다면 그것은 매우 흥미진진한 일입니다.

질문:제 질문은 미래에 대해 어떻게 생각하십니까, 예를 들어 다음 5년 또는 10년 후, 인공 지능 측면에서 어떻게 보일까요? 사람들이 실직하거나 모두가 훨씬 더 나은 삶을 살게 된다면. 그래서 그것에 대한 당신의 견해는 무엇입니까? 감사합니다.

샘 알트만: 아마도 두 가지 모두일 겁니다. 일부 일자리가 사라질 수도 있고요. 저는 모두가 훨씬 더 나은 삶을 살기를 바랍니다. 동시에 그럴 수도 있다고 생각합니다. 하지만 사람들이 기대하는 만큼 고용에 영향을 미치지는 않을 것 같아요. 지금 일어나고 있는 일들을 보면 현재의 시스템은 일자리가 아닌 업무를 처리하는 데만 능숙합니다. 그리고 사람들은 '그래도 일자리는 점점 더 좋아질 것'이라고 말합니다. 그리고 그것은 사실입니다. 하지만 일자리에 대한 정의는 계속 바뀔 것이라고 생각합니다. 점점 더 많은 부분을 자동화할 수 있게 되면 사람들은 더 창의적인 수준에서 더 많은 일을 할 수 있게 될 것입니다.

따라서 컴퓨터 프로그래머는 이제 이러한 도구를 두세 배, 때로는 그보다 훨씬 더 많이 사용하며 이전보다 더 생산적으로 일하고 있습니다. 그런데 생산성이 두세 배가 아니라 20배, 30배가 되면 어떻게 될까 하는 의문이 생깁니다. 제 생각에는 세상은 점점 더 좋은 것들을 얻게 될 것입니다. 작성할 코드가 부족할 것 같지는 않습니다. 새로운 제품이 부족할 것 같지도 않고요. 다만 수요를 충족시키지 못했을 뿐이라는 사실을 알게 될 겁니다. 그리고 다른 모든 산업에서도 비슷한 상황이 벌어질 것입니다.

첫 번째 예로 프롬프트 엔지니어를 들 수 있겠지만, 이미 이런 현상이 나타나고 있습니다. 하지만 시간이 지남에 따라 완전히 새로운 종류의 직업이 등장할 것입니다. 그리고 기본적으로 저는 모든 예측, 아니 거의 모든 예측이 틀렸다고 생각합니다. 기술을 가까이서 지켜보면서 어떻게 진화하는지 지켜봐야 합니다. 하지만 이전의 모든 기술 혁명에는 항상 '더 이상 일자리가 없을 것이다'라는 예측이 있었습니다. 미래의 직업은 항상 달라지겠지만, 우리가 원하는 새로운 일, 창의성을 표현하고 성취감을 느끼며 우리 모두가 혜택을 받는 사회의 발판에 유용한 무언가를 기여하고자 하는 욕구는 결코 사라지지 않을 것 같습니다.

미래의 직업은 지금으로서는 상상할 수 없는 것일 수도 있습니다. 그리고 우리는 그런 직업들을 보면서 그건 진짜 일이 아니라고 말하죠. 그냥 재미로 새로운 은하계를 탐험하는 것일 뿐이죠. 하지만 새로운 직업이 생겨날 것이고 사람들에게 의미 있는 일이 될 것입니다. 2천 년 전의 사람들과 이야기한다면 오늘날의 직업을 보고 그것도 진짜 일이 아니라고 말할 것입니다.

질문 :저는 AI가 우리 사회를 재편하고 있다고 생각합니다. 말씀하신 것처럼 일부 일자리가 사라지고 있습니다. 그리고 여기 앉아있는 사람들은 특권을 가진 사람들이라는 것을 알 수 있습니다. 그래서 어쩌면 우리는 이 시기에도 쉽게 살아남을 수 있을지도 모르죠. 그러길 바랍니다. 하지만 저소득 국가의 가난한 사람들은 어떨까요? 그들을 위해 우리가 무엇을 할 수 있을까요? 그게 제 질문입니다. 감사합니다

샘 알트만: 두 가지입니다. 첫째, 저는 이 기술 혁명이 모든 사람을 향상시킬 것이라고 생각하지만 가난한 사람들에게 가장 큰 도움이 될 것이라고 생각합니다. 인지 노동과 인지 서비스 비용을 낮추고, 낮추고, 낮출 수 있다면, 예를 들어 훌륭한 의료 서비스를 생각해보면, 현재 전 세계 가난한 사람들에게는 감당할 수 없는 비용일 수 있습니다.

훌륭한 의료 서비스를 거의 무료로 제공할 수 있다면 부유한 사람들보다 가난한 사람들에게 더 큰 도움이 될 것입니다. 교육도 마찬가지입니다. 오늘날 부자들은 좋은 교육을 받을 수 있습니다. 이제 지구상의 모든 사람이 거의 무료로 받을 수 있는 더 나은 교육을 만들 수 있다면 부자들보다 가난한 사람들에게 더 큰 도움이 될 것입니다. 그래서 저는 아이폰이 세상을 평등하게 만드는 데 많은 기여를 했다고 생각하는 것처럼 다른 많은 기술과 마찬가지로 이 특정 기술의 형태가 세상을 평등하게 만드는 힘이 될 것이라고 생각합니다.

하지만 두 번째 요점은 일자리 이동에 대한 좋은 지적을 해주셨습니다. 그리고 다시 말하지만, 그것이 어떻게 작동할지 완전히 명확하지 않습니다. 5년 전이나 10년 전의 전문가들에게 물어본다면, 자동화가 다가오는 것은 전통적으로 저임금 직종에 종사하는 사람들에게 정말 좋지 않을 것이라고 말했을 것입니다. 처음에는 육체 노동, 그다음에는 인지 노동의 저급 직종, 그다음에는 중간급 직종, 그다음에는 컴퓨터 프로그램과 같은 고급 직종, 또는 미래에는 그럴 수도 있고 아닐 수도 있지만, 창의력이라는 인간의 마법 같은 것이 있기 때문에 절대 그렇지 않을 것이라고 말했죠.

그리고 물론 정반대의 방향으로 흘러가고 있습니다. 예를 들어, 도시를 가로질러 물건을 배달하거나 배달을 받는 세상이 올 수도 있고, 물리적인 작업은 엄청나게 비싸고 아이폰 앱을 7달러에 만들 수 있는 세상이 올 수도 있습니다. 저는 이 모든 것이 어떻게 될지 예측하기 어렵다고 생각합니다. 그럼에도 불구하고 이러한 변화에 대한 완충 장치로서 기본소득과 같은 것을 탐구해야 한다고 생각합니다.

그리고 AI가 있는 세상에서는 세상의 사회경제적 계약이 바뀔 것이라고 생각합니다. 자본주의가 지금과 똑같은 방식으로 계속된다면 노동에 비해 자본이 너무 많은 영향력을 행사하게 될 것입니다. 그래서 우리가 뭔가를 해야 한다고 생각하는데, 그 윤곽은 부자들보다는 가난한 사람들에게 상대적으로 더 많은 도움이 되어야 한다고 생각합니다. 정말 감사합니다.

질문: GPT를 좋아하는 사람으로서 GPT의 위험을 어느 정도까지 줄일 수 있다고 생각하시는지 궁금합니다.

샘 알트만: 네, 좋은 질문입니다. 사람들이 혜택을 받을 수 있을 만큼 빠르게 움직이면서도 우려 사항을 해결할 수 있도록 균형을 맞추는 것이 중요합니다. 이를 위한 가장 좋은 방법은 좋은 안전 시스템 엔지니어링 관행이라고 생각합니다. 그리고 우리는 모델을 출시하기 전에 우리가 원하는 것을 개발해 나갈 것이며 업계의 다른 사람들도 그렇게 할 것입니다. 그래서 우리는 미래의 초강력 모델을 위한 라이선스 프레임워크를 제안했습니다.

또한 훈련 중과 배포 전에 통과해야 하는 안전 테스트, 위험 기능 평가도 제안했습니다. 이로 인해 개발 속도가 다소 느려지겠지만 그만한 가치가 있다고 생각합니다. 그리고 안전성을 확보하는 방법을 찾지 못한다면 그렇게까지 속도를 늦출 필요는 없다고 생각합니다. 그리고 우리는 속도를 많이 늦추고 싶습니다. 그게 정말 중요하다고 생각합니다. 그리고 그 균형을 맞추는 것이 모든 사람을 만족시킬 수는 없습니다. GPT-4를 개발하는 데 약 8개월이 걸렸습니다. 그 기간 동안 모두가 출시하라, 출시하라, 출시하라고 말했죠. 저희는 준비가 될 때까지는 안 된다고 했죠. 그리고 질문의 두 번째 부분에 대해 말씀드리자면, 훨씬 더 안전하게 만들 수 있었다고 생각합니다.

GPT-4와 비교하여 GPT-3의 정렬 수준을 보면 큰 진전이라고 말하기는 어려울 것 같습니다. 하지만 여기에 너무 안주하지 말고 GPT-5 이후에는 새로운 방법을 찾아야 한다는 점을 인식하는 것이 중요하다고 생각합니다. 연구는 일정대로 진행되는 것이 아니기 때문에 얼마나 오래 걸릴지 말하기는 어렵습니다. 감사합니다. .

질문: 다음 분 안녕하세요. 전지전능한 인공지능의 정의가 무엇인지 구체적으로 말씀해 주시겠어요? 그리고 아까 말씀하신 AGI도 그렇고요.

샘 알트만: AGI의 정의가 매우 중요하거나 전혀 중요하지 않을 정도로 우리는 충분히 가까워지고 있다고 생각합니다. 하지만 사람들은 매우 다른 정의를 내리고 있습니다. 어떤 사람들은 GPT-4가 새로운 일을 할 수 있고 일반화 할 수 있기 때문에 이미 AGI라고 말하는 사람들이 있습니다. 그리고 태양계 주변에 다이슨 구를 건설하기 전까지는 AGI에 가깝지 않다고 말하는 사람들도 있습니다. 그리고 그 중간에는 많은 사람들이 있습니다.

OpenAI에서 사용했던 전통적인 정의는 세상에서 경제적으로 가치 있는 일의 절반을 하는 것입니다. 하지만 지금은 이것이 작동하는 방식을 보고 있자면, 인간의 능력을 향상시키는 것이기 때문에 그다지 적합하지 않다고 느껴지기도 합니다. 제 개인적으로는 세상에 많은 과학적 진보에 기여하는 일이라고 생각합니다. 다른 사람들에게는 다른 것이겠죠. 또한 제가 생각했던 것과 같은 시점은 오지 않을 것이라고 생각합니다.

시스템이 점점 더 강력해지는 모호한 시기가 될 것이라고 생각합니다. 우리는 계속 익숙해져서 오늘날 우리 모두가 AGI라고 말하는 것이 다가올 때쯤에는 '이건 분명히 AGI가 아니다'라고 생각하게 될지도 모릅니다. 그건 앞으로 더 먼 미래가 될 것입니다. 그리고 다이슨 스피어를 만들면서도 여전히 AGI는 아니라고 말하는 것과 마찬가지입니다. 그래서 저는 순간을 정의하기보다는 아마도 세계 경제의 성장률이나 사회의 지식 또는 그와 비슷한 무언가가 될 것이라고 생각합니다. 하지만 우리가 생각했던 것보다 덜 중요한 하나의 결정적인 순간이 될 것 같습니다.

https://jumby.jp/article/40

- dc official App

[📪정보] 갤에 올라온 샘 알트만 일본 게이오대 대담 핵심 부분 퍼옴

댓글 3

다른 게시글