https://youtu.be/oDdXicdY_5Q?t=1574

샘알트먼 GPT-4와 AGI에 대한 대담Sam Altman이 2023년 3월 26일 Lex Fridman의 팟캐스트에 출연하였습니다.OpenAI는 AGI의 출현을 위한 타임라인을 짧게, 그리고 AGI가 초지능을 얻기까지의 이륙을 길게하는 것이 목표라고 명확히 언급하고 있습니다.AGI의 출현을 앞당긴다면 초지능을 얻기까지...youtu.be


올해 3월26일 팟캐스트 출현 중 내용


렉스 프리드먼 : 이런 상황에서 가장 큰 우려 중 하나는 AI 이륙(take off), 또는 AI 빠른 이륙(fast task off)이라 불리는 매우 빠른 발전속도입니다. AGI 이후 초지능(ASI)을 얻기까지...


알트만 : 수 일만에 이뤄지죠.


렉스 프리드먼 : 수 일만에. 네 그렇죠. 이 발전속도는 꽤 심각한 문제입니다. 적어도 제게는 더욱 그렇게 다가옵니다.


(중간 생략. 프리드먼은 GPT 보고 놀랬다. 발전속도가 빠르다. 알트만은, 놀라진 않았다. AGI라고도 생각 안 하고.)


렉스 프리드먼 : AGI를 구축할 때, 그것이 빠를지, 느릴지 어떻게 될지 예측할 수 있을까요? 그 과정에서 우린 무슨 일이 일어나는지 알수 있을까요?(이륙을 알 수 있느냐는 질문인 듯)


(대충 생략)


알트만 : (AGI 이륙기간이) 더 길어지는 게 더 안전하다고 느낍니다. 저는 느린 이륙과 짧은 AGI 타임라인이 더 안전할거라 생각합니다. 그런 세상을 이루도록 최대한 영향력을 행사할 수 있도록 openAI 를 최적화하고 있습니다.


--------------------------------


나도 이륙에 대해서 알트만의 입장과 동일함.


AGI가 어느정도 달성되면, ASI 까지는 '명령'만으로 달성될 수 있음. 그런데 정렬이 안 되어 있으면 너무 위험하니까 정렬을 해야 하는데.


AGI가 있어야 정렬을 이렇게 시도하든, 저렇게 시도하든 하겠지.


즉, AGI는 최대한 빠르게 만들고, 그 AGI를 최대한 뜯고 맛보면서 경험하고 사용법을 안 이후에, ASI로 천천히 나아가는 게 맞다고 봄.


근데 이런 이야기에 대해서, 무조건 빠른게 좋다고, 빠른 AGI, 빠른 이륙! 이러는 분들 계시던데, 크게 동의가 안 되는 것 같음.


아, 내가 이해한 바에 따르면, AGI에서 ASI는 몇일만에 가능할 수도 있음. AGI를 처음 만드는 사람이 알 수 있겠지.


만약 몇일만에 가능하다면, 그걸 1년으로 늘릴지, 10년으로 늘릴지는 AGI 개발한 사람에 의해 주도될 가능성이 높다고 봄.


근데 그게 알트만일 확률이 매우 높고, 지금까지 알트만의 발언과 행동을 볼 때, 그래도, 인류는 운이 좋은 것 같다고 생각됨.