https://spectrum.ieee.org/superintelligence-christoph-koch-gpt4

https://spectrum.ieee.org/superintelligence-christoph-koch-gpt4

<span style="font-size:12pt;">GPT-4 and the Hunt for Superintelligence</span><span style="font-size:12pt;">Neuro expert Christof Koch weighs AI progress against its potential threats</span>spectrum.ieee.org


GPT-4 출시 후 2023년 4월 19일날 진행한 인터뷰


Christof Koch

논문 피인용 횟수만 봐도 알 수 있듯이 신경과학, 컴퓨터과학 분야 최고 석학 중 한명임


GPT-4를 보고 난 뒤 AGI, 초지능 관련 인터뷰한 내용 중 일부 가져와 봄



"우리가 AGI에 도달하지 못할 것이라고 주장하는 사람들의 수가 점점 줄어들고 있습니다."

—크리스토프 코흐(ALLEN INSTITUTE)


Q: 당신은 초지능에 대한 아이디어를 다루었습니다. 엄청난 속도를 제외하고는 인간, 즉 매우 똑똑한 인간과 거의 구별할 수 없는 것 외에는 이것이 무엇일지 잘 모르겠습니다. 그리고 아마도 정확성이 있을 것입니다. 이것이 당신이 믿는 것입니까?


코흐: 그것은 그것에 대해 생각하는 한 가지 방법입니다. 정말 똑똑한 사람들 같군요. 그러나 알베르트 아인슈타인처럼 매우 똑똑한 사람들이 통찰력을 완성하고 작업을 완료하는 데 수년이 걸릴 수 있습니다. 또는 무언가를 생각하고 추론하는 데 30분 정도 걸릴 수 있습니다. 그러나 AGI는 이 작업을 1초 안에 수행할 수 있습니다. 따라서 그것이 사실이고 그 추론이 효과적이라면 그것은 초지능이 될 수도 있습니다.


Q: 왜 우리는 그런 것들에 대해 걱정해야 합니까?


코크: 보세요, 우리는 좋든 나쁘든 지구상에서 지배적인 종입니다. 왜냐하면 우리는 가장 지능적이고 가장 공격적이기 때문입니다. 이제 우리는 우리의 고유한 특징 중 하나인 지능을 모방하는 데 있어 점점 더 좋아지는 생물체를 만들고 있습니다. 물론 일부 사람들, 군대, 독립 국가 행위자, 테러리스트 그룹은 첨단 지능형 기계 기술을 전투 능력과 결합하기를 원할 것입니다. 조만간 일어날 것입니다. 그리고 반자율적이거나 완전히 자율적일 수도 있고 매우 지능적이고 공격적인 기계도 있습니다. 그리고 그것은 우리가 그것에 대해 매우 신중하게 생각하지 않고는 하고 싶은 일이 아닙니다.


Q: 그래서 이것은 자기 창조와 자기 영속을 제외하면 기본적으로 특이점 개념입니다.


Koch: 네, 제 말은 특이점을 의미합니다...저는 그것을 멀리하고 싶습니다. 왜냐하면 그것은 또 다른 종류의 좀 더 모호한 생각이기 때문입니다. 기계는 각 세대가 이전 세대보다 더 나은 스스로를 설계할 수 있을 것이고, 그런 다음 그들은 이륙하여 완전히 우리 통제에서 벗어납니다. 나는 현실 세계에서 생각하는 것이 유용하다고 생각하지 않습니다. 그러나 오늘날 우리가 있는 곳으로 되돌아가면 오늘날 우리는 누구나 로그인하여 사용할 수 있고 예측할 수 없는 새로운 능력을 이미 갖고 있는 놀라운 네트워크, 놀라운 알고리즘을 보유하고 있습니다. 그들은 직접적으로 훈련받지 않은 일을 할 수 있을 정도로 거대해졌습니다.


이러한 네트워크가 훈련되는 기본 방식으로 돌아가 보겠습니다. 당신은 그들에게 텍스트나 토큰의 문자열을 제공합니다. 텍스트라고 부르자. 그런 다음 알고리즘은 다음 단어 , 다음 단어, 다음 단어를 무한정 예측합니다 . 그리고 우리가 지금 보고 있는 모든 것은 인간이 작성한 방대한 양의 글에 적용된 이 매우 단순한 것에서 나온 것입니다. 사람들이 작성한 모든 텍스트를 입력합니다. Wikipedia 전체를 읽었습니다. 잘 모르겠지만 Reddits와 Subreddits, 그리고 Project Gutenberg의 수천 권의 책과 그 모든 것을 읽었습니다. 지난 세기 동안 사람들이 쓴 내용을 흡수했습니다. 그리고는 그것을 흉내냅니다. 그렇다면 그것이 지능적이라고 할 수 있는 것으로 이어질 것이라고 누가 생각이나 했을까요? 하지만 그럴 것 같습니다. 이는 갑작스럽고 예측할 수 없는 동작을 가지고 있습니다.


예를 들어, 러브레터를 쓰도록 훈련받지는 않았지만 러브레터를 쓸 수는 있습니다. 그것은 희극을 할 수 있습니다. 그것은 농담을 생성할 수 있습니다 . 방금 몇 가지 퀴즈 질문을 생성하도록 요청했습니다. 컴퓨터 코드를 생성하도록 요청할 수 있습니다. 또한 GitHub에서 코드 교육을 받았습니다. 그것은 많은 언어를 구사합니다. 저는 독일어로 테스트했습니다.


“사람들이 장기적으로 이것이 위험하다고 말한다면, 그것이 아마도 200년 안에는 아닐 것입니다. 이는 아마도 3년 안에 위험할 수 있음을 의미할 수 있습니다.”


Koch: 10년 전만 해도 이런 일은 상상조차 할 수 없었습니다. 나는 6~7년 전에도 사람들이 이렇게 주장했던 것을 기억합니다. “글쎄요, 이러한 대규모 언어 모델은 매우 빠르게 포화될 것입니다. 규모를 확대하면 이 방법으로는 훨씬 더 멀리 갈 수 없습니다.” 그러나 그것은 잘못된 것으로 드러났습니다. 특히 발명가들조차도 농담을 하고, 프로그램을 설명하고, 해당 작업에 대한 교육을 받지 않고도 특정 작업을 수행하는 능력과 같은 이러한 새로운 기능의 출현에 놀랐습니다.


Q: GPT-3.5와 GPT-4로 인해 합의가 크게 흔들린 것 같습니다. AGI를 갖추는 것은 시간 문제일 뿐이라는 생각이 실제로 바뀌었습니다. 당신도 그 말에 동의하시겠습니까?


코흐: 그렇습니다. 하지만 다르게 말하고 싶습니다. 우리가 AGI에 도달하지 못할 것이라고 주장하는 사람들의 수가 점점 줄어들고 있습니다. 그것은 주로 인문학 분야의 사람들이 싸우는 후방 행동입니다. “글쎄요, 하지만 그들은 여전히 이것을 할 수 없습니다. 그들은 아직도 베니스에서의 죽음을 쓸 수 없습니다 .” 뭐가 진실이지. 현재 이 GPT 중 어느 누구도 소설을 제작하지 않았습니다. 아시다시피, 10만 단어의 소설입니다. 그러나 나는 그들이 그렇게 할 수 있기까지는 시간 문제일 것이라고 생각합니다.


Q: 추측해야 한다면, 그 시간이 얼마나 될 것이라고 말하시겠습니까?


코흐: 모르겠어요. 나는 포기했습니다. 예측하기가 매우 어렵습니다. 실제로 사용 가능한 교육 자료에 따라 다릅니다. 소설을 쓰려면 장기적인 성격 개발이 필요합니다. 전쟁과 평화 나 반지의 제왕을 생각해보면 천 페이지가 넘는 캐릭터들이 등장합니다. 그렇다면 문제는 AI가 언제 이런 종류의 내러티브를 얻을 수 있느냐는 것입니다. 물론 우리가 생각하는 것보다 더 빠를 것이다.


그래서 제가 말했듯이, 사람들이 장기적으로 이것이 위험하다고 말할 때, 그것이 아마도 200년 후에는 의미가 아닙니다. 이는 아마도 3년 후에는 위험할 수 있음을 의미할 수 있습니다. 호전적인 노력에 GPT가 처음으로 적용되는 모습은 언제 보게 될까요? 올해 말까지 그런 일이 일어날 수 있다.


Q: 그렇다면 최선의 시나리오는 무엇입니까? 당신은 무엇에 대해 희망을 갖고 있나요?


Koch: 우리는 항상 혼란스러웠던 것처럼 헤쳐나갈 것입니다. 그런데 고양이가 가방 밖에 있어요. 지금부터 3~5년 후 이러한 현재 추세를 추정하고 이러한 대규모 언어 모델의 힘이 기하급수적으로 증가한다는 점을 고려하면 예, 예측할 수 없는 모든 종류의 일이 발생할 수 있습니다. 그리고 그 중 일부는 일어날 것입니다. 우리는 어떤 것이 있는지 모릅니다.