(2023년 인터뷰)


챗GPT 등장과 대중의 반응: 힌튼 교수는 챗GPT 이전에도 유사한 기술들을 접해왔기 때문에 챗GPT 자체에 크게 놀라지는 않았지만, 대중의 폭발적인 반응에는 놀랐다고 말합니다. 그는 과거에는 AI 연구자들만 이 기술의 가능성을 알고 있었지만, 이제는 대중들도 AI의 잠재력을 인지하게 되었다고 언급합니다.


과거 AI 연구와 힌튼 교수의 선견지명: 힌튼 교수는 과거 AI 연구에는 두 가지 주류가 있었다고 설명합니다. 하나는 논리와 추론에 기반한 주류 AI이고, 다른 하나는 힌튼 교수가 연구했던 신경망(neural network)입니다. 당시에는 컴퓨터 성능과 데이터셋의 부족으로 신경망 방식이 주목받지 못했지만, 힌튼 교수는 뇌의 작동 방식을 근거로 신경망의 가능성을 확신했습니다. 그는 컴퓨터 성능과 데이터가 충분해지면 신경망이 빛을 볼 것이라고 예견했으며, 이는 현재 현실로 나타나고 있습니다.


딥러닝의 등장과 발전: 2006년경 딥러닝 기술이 등장하면서 신경망 연구는 새로운 전환점을 맞이했습니다. 2009년 힌튼 교수의 제자들은 딥러닝을 음성 인식에 적용하여 기존 방식보다 뛰어난 성능을 보였고, 이는 2012년 구글의 음성 인식 기술에 활용되었습니다. 또한 이미지 인식 분야에서도 딥러닝을 활용한 객체 인식 시스템이 개발되어, 기존 시스템보다 훨씬 높은 정확도를 달성했습니다. 이러한 성과를 통해 딥러닝은 AI 분야의 주류로 자리 잡게 되었습니다.


언어 모델과 힌튼 교수의 연구: 힌튼 교수는 1986년 단어 시퀀스를 이용하여 다음 단어를 예측하는 언어 모델을 발표했습니다. 이는 현재 챗GPT와 같은 대형 언어 모델의 기초가 되었습니다.


AI의 미래와 잠재적 위험: 힌튼 교수는 현재 AI 기술이 인간의 뇌와는 다른 방식으로 작동하지만, 미래에는 인간의 뇌처럼 저전력으로 작동하는 새로운 형태의 컴퓨터가 개발될 것이라고 예측합니다. 그는 AI가 모든 분야에 영향을 미칠 것이며, 특히 기업들이 대형 언어 모델을 활용하여 큰 가치를 창출할 것이라고 전망합니다. 하지만 동시에 AI의 발전이 가져올 잠재적 위험에 대한 우려도 표명합니다. 특히 자율 살상 무기와 같은 기술의 오용 가능성, AI가 만들어낼 가짜 정보 문제, 그리고 일자리 감소 등에 대한 사회적 논의와 규제가 필요하다고 강조합니다. 또한 AI 발전 속도가 예상보다 빨라짐에 따라 20년 이내에 범용 인공지능(AGI)이 등장할 수 있으며, 이로 인해 인류가 위협받을 가능성도 배제할 수 없다고 언급합니다.


AI 거버넌스의 중요성: 힌튼 교수는 AI 기술을 통제하고 올바른 방향으로 이끄는 거버넌스의 중요성을 강조합니다. 그는 정부나 기업이 아닌, 사회 전체가 참여하는 공론의 장이 마련되어야 하며, AI 윤리와 관련된 국제적인 협약 마련도 필요하다고 주장합니다. 특히 자율 살상 무기와 같은 기술에 대한 제네바 협약과 유사한 국제 조약의 필요성을 언급합니다.


흥미로운 사실:


신경망은 비주류였고 많은 비판을 받아왔다 하지만 2006년 딥러닝 이후로 조금씩 달리지기 시작했고,

힌튼의 제자인 알렉스와 일리야가 만든 알렉스넷으로 모든게 바뀌었고 신경망을 비판하던 사람들은 딥러닝으로 갈아탔다.


힌튼은 미국이 항만에 지뢰를 심는 것에 혐오감을 느껴 캐나다로 이주했고 미 국방부의 자가회복지뢰(자리를 자율적으로 이동)계획에 혐오감을 느겼다

아직까지도 law(자율살상무기)를 경계한다 특히 푸틴같은 사람의 손에 AI가 군사적으로 이용되는것이 두렵다.


AI가 인류를 제거할 시나리오는 충분히 실현될 수 있는 미래다.


일리야는 개쩌는 천재다.


이 인터뷰에서 힌튼은 AGI의 등장까지 20년정도 걸릴거라고 예측했다 어쩌면 더 빠를수도?


구글은 마이크로소프와 다르게 AI의 안전성에 대해서 신중하고 마이크로스프트는 구글의 검색을 대체하기 위해서 공격적이고

어떻게 보면 꽤나 위험하다.


llm은 공간과 사물을 이해할 수 있다 (영어->프랑스어를 번역할때 남성/여성 명사를 사용해서 번역하는것을 예시로 사용)


AI는 산업혁명,전기의 발견,바퀴의 발명같이 인류 역사에서 손에 꼽는 기술발전이 될거다

버클을 꽉 채워라.