7fee8275abc236a14e81d2b628f1726f22196cb5


1. GPT 4.5에서 극적인 발전이 이루어지진 않을 것.

어떤 비밀스러운 연구실에서 AGI를 실제로 개발하고 세상에 갑자기 공개했다고 쳐보자.

세상은 적응하기 힘들고 많은 혼란이 올 것임.

따라서 우리는 점진적으로 향상되는 모델을 공개할 것.

아이폰1과 아이폰15를 봤을 땐 극적인 차이지만 아이폰 14와 아이폰 15는 음.. 또 다른 아이폰이네.

이정도의 느낌이 되도록 할 것


2. 사람들은 지금 현상황을 잘 모름.

사실 이미 미친 전환, 미친 조정이 대부분 일어났음.

하지만 사람들은 모두 바쁘고 자신의 삶에서 느끼고 사용할 수 있는 것을 주지 않으면 심각하게 받아들이지 않음.

내 생각에 대부분의 사람들은 AGI가 공상 과학 소설이고 먼 미래의 일이라고만 생각함.


3. 인간은 질투, 정욕, 시기 등 돈과 지위를 다룰 때 작용하는 변수가 있다.

기술을 통해 이런 것들이 제거되면 본질적으로 우리는 인간 종의 다음 버전이 될 것.

일할 필요도 없고 아무것도 할 필요가 없습니다.

야망을 가질 필요도 없습니다.

돈만 있고 그냥 누워서 마약을 하면됩니다.

이것이 사람들에게 공짜로 돈을 줄 때 발생할 수 있는 부작용입니다.

하지만 기술적으로 사람들을 계몽할 수 있다면 이를 딜레마가 아닌 지점까지 발전시킬 수 있습니다.

어쩌면 분노와 두려움, 증오가 불가능한 지점까지 도파민 수치를 높이는 것일 수도 있습니다.

-> 진행자 발언이었음 ㅈㅅ.

-> 알트만 반응은 언젠가는 그렇게 될 것이지만 그렇게 되면 손실이 클 것이라고 생각하고, 경쟁에 대한 걱정이 없는 곳에서 소량만 사용한다면 어떨까요? 라고 함


4. 2016년 초쯤 오픈AI에서 이 프로젝트를 시작했을 때 공동 창립자 중 한명인 John Schuman과 이야기를 나눴던게 기억에 납니다.

그는 "그래 내 생각엔 이 프로젝트가 15년 정도 걸릴 것 같아."라고 말하더군요.

그리고 나는 "그래 나에게 딱 맞는 것 같다"라고 생각했습니다.

그 이후로 저는 항상 AGI를 종착점으로 생각하지 않고 우리가 달성하려고 설정한 목표 지점에 도달하려면 2030년 정도가 되어야한다고 생각했습니다.

그리고 나는 우리가 가정했던 궤도에 있다고 생각합니다.


5. 나는 인터넷의 구현이 첫 단계라고 생각하며, AGI는... 스테로이드를 사용하는 인터넷입니다.

또한 그 이후에도 더 많은 단계가 있을 것입니다.

이것은 지금까지 우리의 가장 흥미로운 단계입니다.

생각만 해도 너무 흥미롭지 않나요?

나는 우리가 모든 생물학적 문제를 가진 마지막 사람들이라고 생각합니다.

그래서 우리가 이 시대를 살아가고 있다는 것은 정말 미친것 같습니다.


6. 나에게는 이 두 가지가 불가피해보인다.

나에게 필연적인 것은 우리보다 훨씬 더 진보된 인공적이고 지능적인 생명체를 창조하게 될 것이라는 점이다.

그리고 일단 그것이 감각을 갖게 되면 훨씬 더 나은 버전의 자신을 만들 수 있을 것이고,

더 나은 버전이 생기면 계속해서 발전해 결국 신과 같은 능력에 도달하게 될 것이다.

우리가 100년, 1000년, 10000년을 살아남아도

동일한 기술, 기하급수적, 증가 및 능력 경로에 있다면, 그것이 바로 신입니다.

우리는 하나님과 같은 존재가 됩니다.

-> 진행자 발언이었음 ㅈㅅ

-> 알트만의 반응은 우리보다 믿을 수 없을 정도로 훨씬 더 똑똑하고 능력 있는 무언가가 될 것이라는 점에는 동의하나, 여전히 우주의 물리 법칙 적용을 받을 것이라고 생각. 신이 된다는 것이 무엇을 의미하는 지에 대한 정의적 불일치로 귀결될 것이라고 생각함


7. (질문 : 일론 머스크가 AI 중단을 요구했을 때 어떻게 생각하셨나요? 그러는 동안 그는 마치 AGI 회사를 차린 것 같았어요.)

일시중지를 요청하는 것은 기껏해야 순진한 것 같습니다.

앞서 언급했듯이 방에 앉아서 열심히 생각하는 것만으로는 안전 부분에 진전을 이룰 수 없다고 생각합니다.

기술이 어디로 가는지 살펴봐야하고, 현실과 접촉해야 합니다.

우리는 AGI가 안전하고 유익하다는 조건 하에 AGI를 향한 진전을 이루려고 노력하고 있습니다.


출처 영상 :

https://www.dailymotion.com/video/x8on42y


3일전 인터뷰