[🏆베스트] 하사비스 한나 프라이 인터뷰 (08.14)

[MinasAn..(wipe2561)]

한나 - 최근 구글은 사내 구조를 완전히 재구성해서 AI와 딥마인드를 전략의 핵심에 두었다. Gemini를 개발하고 멀티모달 에이전트인 Astra를 선보이며 단백질 접힘의 알파폴드3, 신약발견의 이소모픽 랩스까지 만들어냈다. 하사비스씨, 데미스 경이라고 불러야 하나? (*하사비스는 AI 연구에 대한 공로로 기사 작위를 받았습니다)

하사비스 - 아니다. 그러실 필요 없다. 절대 아니다 하하

한나 - 지금 AI에 대한 관심이 폭발하고 있는데 일이 더 쉬워졌나 어려워졌나

하사비스 - 너무 많은 주목을 받다보니 이 업계에 상당한 노이즈들이 섞여들어온다. 사람들이 더 적고 과학에 온전히 집중할 때가 좋긴 했다. 하지만 AI가 이제 세계에 영향을 끼칠 '준비'가 된 신호로도 보인다. 

한나 - 이전에 챗봇을 "비합리적으로 효과적"이라고 표현하셨다. 비합리적으로 효과적이라.. 무슨 뜻인가

하사비스 - 5~10년 전에 만약 우리가 "개념이나 추상화를 따로 해결하지 않고도 수많은 데이터를 때려박으면 AI가 스스로 개념, 추상화 문제를 해결할 것이다"고 주장했다면 많은 논란이 있었을 것이다. 인공지능 시스템에 인터넷 전체를 먹이면 알아서 학습하고 그로부터 일반화하는 능력이 생기는 것 같다. 단순히 암기하는 것이 아니라 말이다. 시스템은 자신이 처리하고 있는 것들을 어느정도 이해하는 것처럼 보인다. "비합리적으로 효과적"이라는 말은 여기에서 나온다. 5년 전만 해도 아무도 이 방식이 통할거라고 생각하지 못한, 비합리적인 것이었는데 효과적이라는 뜻이다.

한나 - 개념, 추상화 능력이 자연스럽게 나타난 것은 놀라운 일이다

하사비스 - 맞다. 이전 팟캐스트를 듣지 않은 분들이 있을 것 같아 그라운딩(grounding)이 뭔지 다시 설명해드려야 할 것 같다. 1980, 1990년대 MIT 등에서 연구한 AI에 나타난 고질적인 문제인데, 언어로는 "개는 다리가 있다" 고 말할 수 있지만 개의 사진을 보여주면 그게 개이고 다리를 갖고 있는 것인지는 연결지어서 이해하지 못하는 한계가 있었다. 이게 바로 그라운딩 문제다. 즉 상징적이고 추상적인 표현 (ex. 다리가 있다) 을 현실 세계나 혼란스러운 현실 세계에선 떠올리지 못하는 것이다. (ex. 노이즈가 섞인 픽셀 속에서 개와 개의 다리를 찾는 것에 실패).

- 당시엔 이 문제를 해결하려고 노력했지만 완전히 해결하지 못했다. 하지만 지금의 AI들은 데이터를 통해 학습하고 있기 때문에 그 연결을 '처음부터' 형성한 채로 태어난다. 흥미로운 점은 과거에서처럼, '언어만으로' 그런 추상적인 개념들을 학습했다면, 다른 멀티모달과 같은 요소들로 추가로 학습해야만 이 그라운딩 문제를 해결해야 하는 것이 맞는데, 놀랍게도 그 많은 문제들을 AI가 어떻게든 추론해낸다는 것이다.

한나 - 왜 이론적으로는 그라운딩이 부족해야 한다는 건가? 왜 추가요소 학습이 더 진행되어야 한다는 이야긴가

하사비스 - 초기 언어모델들은 멀티모달이 아니었다. 실제 세계(real world)에 존재하지 않았다. 시각적 자료나 그런 것들 없이 오직 '언어'로만 연결되어 있었다. 추상적인 영역에서만 학습한 것이다. 그런데도 지금 눈을 달아놓으니 현실세계에서 추론을 할 수 있다는 것은 놀라운 일이 아닐 수 없다.

한나 - 그런 추가적인 그라운딩 학습이 사용자들의 피드백으로 시스템에 더 흡수될 것 아닌가. 이건 좋은 답변이야, 이건 나쁜 답변이야 하면서 말이다.

하사비스 - 맞다. 실제 세계에서 개가 짖는 소리를 두고도 모델의 그라운딩이 부족하면 사용자로부터 지적받고 모델이 그걸 수정하게 된다. 그런 피드백으로 자연스럽게 그라운딩들이 AI에 흘러들어가는 것이 분명하다.

한나 - 이런 식으로 예상치 못한 속성들이 나타나는 것에 대해 물어보고 싶다. 지금 우리는 AI가 과장되어 있나? 과소평가된 건가? 아니면 혹시 잘못된 방향으로 과장되어 있는 것인가?

하사비스 - 단기적으로 과장되어있다고 생각한다. 사람들이 AI가 할 수 없는 것도 할 수 있다고 생각하는 것 같다. 하지만 지금 사람들은 AGI를 달성한 그 이후에 대해서는 과소평가하고 있다고 본다. 이게 얼마나 엄청난 일인지, 그리고 그 책임이 얼마나 큰지를 이해조차 하지 못하고 있다. 그래서 단기적으로 과장, 장기적으로는 과소평가된 면이 있다. 

한나 - Gemini는 다른 연구소와 무엇이 다른가?

하사비스 - Gemini를 처음 만들때부터 우린 멀티모달로 해야한다고 말했다. 언어 뿐 아니라 오디오, 비디오, 이미지, 코드 등 어떤 모달리티도 처리할 수 있도록 말이다. 멀티모달을 목표로 한 이유는 첫째, 실제 세계를 이해하도록 해 월드모델을 만들기 위해서다. 앞서 말한 것처럼 언어를 기반으로 그라운딩을 만드는 것이 중요했다. 두번째 혁신은 메모리다. 긴 컨텍스트를 이해하는 능력, 즉 백만토큰, 2백만토큰을 머릿 속에 저장할 수 있는 능력이다. 우리가 만드는 Astra는 유저가 입력한 것 뿐 아니라 유저가 처한 상황의 전체 맥락까지 읽는 에이전트다.

한나 - Gemini는 별도의 두 부서에서 시작된 것 맞나?

하사비스 - 맞다. 작년에 우린 구글 알파벳 내 두 연구 부서를 합병했다. 구글 딥마인드, 구글 브레인을 말이다. 둘다 최전선의 AI를 연구하면서 적지않은 교류는 있긴 했지만 전략적 수준에서의 협력은 없었다. 이제 통합된 이 그룹은 구글의 엔진 룸 같은 역할을 하고 있다. 우린 제2의 트랜스포머 아키텍처 연구에도 박차를 가하고 있다. 구글 브레인은 트랜스포머를 개발해낸 곳이고, 딥마인드는 딥-강화학습의 대가다. 앞으로도 많은 혁신이 필요할 것이며 우린 지난 10년간 그래왔던 것처럼 앞으로도 우리가 혁신을 만들어낼 것이라 확신한다.

한나 - 그 합병에 대해서도 말하고 싶지만, 우선 Gemini가 얼마나 뛰어난 모델인지 알려달라

하사비스 - 난 Gemini가 아주 뛰어난 모델이라 생각한다. 하지만 문제는 좋은 벤치마크가 없다는 것이다. 잘 알려진 학술적 벤치마크들은 아시다시피 포화상태다. 서로 다른 최상위권 모델 간 성능차이가 별로 없다. 각 모델들이 각기 다른 면에서 뛰어나다는 것을 검증하기 어렵다. 예를 들어 코딩은 클로드가 낫고, 추론은 GPT, 긴 컨텍스트 창과 멀티모달은 제미나이가 나을 수 있다. 제미나이는 지금 막 1년 정도된 프로젝트일 뿐이다. 우리의 속도는 매우 빠르다. 다음 인터뷰 쯤에는 우리가 최전선에 있길 바란다. 아직 모델들이 못하는게 많다. 환각 뿐 아니라 계획 수립도 못한다.

한나 - 계획이란 어떤 의미에서 계획인가

하사비스 - 장기적인 계획 말이다. 특정 목표를 줘서 알아서 일하도록 하는 것이다. 현재 모델들은 매우 수동적이다. 예를 들어 지금의 AI는 "이탈리아로 휴가를 갈 건데 관련해서 예약좀 처리해줘, 레스토랑, 박물관 포함시켜서" 라고 하면 유저 취향에 맞게 알아서 예약하는 것 등을 못한다. 하지만 이것이 다음 AI의 대세가 될 것이다. 우린 이걸 에이전트 기반 시스템, 에이전틱 시스템(agentic system)이라 부른다. 에이전트처럼 인공지능이 활동한다는 뜻이다. 우린 이 분야의 전문가다. 알파고는 게임 에이전트였고 기타 에이전트들도 많이 만들어냈었다. 다음 세대는 알파고와 제미나이를 결합한 것이라 생각할 수 있다.

한나 - 알파고는 계획 전문가였다.

하사비스 - 맞다. 물론 게임의 영역 내에서만 그랬지만. 이제는 그 영역을 확장시키는 것이다.

한나 - 딥마인드가 구글의 엔진 룸이라. 구글이 당신을 믿고 큰 도박을 하고 있다고 생각하나

하사비스 - 어느정도는 그렇다. 순다 피차이는 구글 CEO에 취임할 때, 구글을 AI-first 기업으로 만들겠다고 선언했었다. 우린 모든 재능을 한데 모아 열심히 추진하고 있다. 과거와는 다른 것이, 과거에는 열심히 연구해도 실제 적용되기까지 딜레이가 많을 것 같아 동기부여가 덜 되었는데, 지금은 알파폴드와 같이 우리의 연구가 곧바로 적용되어 세상을 바꾼다 생각하니 동기부여가 잘된다.

- 또 하나는, 5년 전만 해도 특정 AI제품을 만들려면 거기에만 맞는 특정 AI를 개발해야했는데, 지금은 주 연구에서 갈라져 나오는 방식으로 바뀌었다. 무슨 말이냐면, 약 90%는 베이스 모델 개발이고 나머지 10%만 특화 작업을 하면 된다는 것이다. 그래서 제품을 위한 AI나 AGI를 위한 AI연구가 거의 90% 겹친다.

- 마지막은 제품을 출시하고 유저들이 많이 그걸 써줄수록 사용자 피드백을 통해 우리가 연구 성과를 더 내게 된다는 점이다. 이는 연구에 매우 유용하다.

한나 - 딥마인드는 과거엔 연구 프로젝트들을 오픈소스로 공개했었는데 지금은 달라진 것 같다. 오픈소스에 대한 입장을 알려달라

하사비스 - 난 오픈소스, 오픈사이언스를 크게 지지한다. 하지만 예외가 있다. AGI는 이중목적 기술이다. 나쁜 목적으로도 쓸 수 있다는 뜻이다. 우린 악의적인 행위자들의 접근을 막아야한다. 특히 에이전트가 나오기 시작하는 2~3년 후, 강력한 시스템이 악용될 수 있는 상황에서는 더욱 조심해야한다. 

- 이런 문제에 대한 근본적인 해결책은 없지만, 앞으로 최첨단 모델들은 더 많은 검증이 필요할 것이다. 어쩌면 모델 공개 후, 1~2년이 지나면 오픈소스로 돌리는 것도 괜찮은 방법일지 모른다. 우리의 Gemma가 바로 그런 방식이다. 제미나이 1.5보다는 성능이 약하지만 1년 정도 뒤쳐진 모델을 오픈소스하고 있다. 한번 오픈소스하면 그걸 다시 회수할 수 없다. 그래서 오픈소스를 결정할 때에는 매우 신중해야 한다. AGI를 통제할 수 있다고 확신할 수 있을까.

한나 - AGI를 조직 내에서 통제할 수 있을까. 그 가능성은 얼마나 된다고 보나

하사비스 - 지금 당장은 그 방법을 모른다. 최근 AI에 대한 관심이 폭발하고 있는 이유 중 하나는 각 국 정부들의 주목 때문이다. 영국과 미국 정부의 매우 똑똑한 공무원들이 기술을 잘 이해하고 있다. 앞으로는 국제협력이 중요할 것이다. AI는 디지털 기술이기 때문에 국경이라는 개념이 없다. 영국이나 유럽이 통제한다 하더라도, 중국이 그 규제에 따르지 않으면 AGI가 임박했을 때 그 규제의 의미가 사라진다. 5년 전에 규제를 했다면 지금 생성형 AI에 대한 규제는 전혀 없는거나 다름 없었을 것이다. 즉, 기술이 빠르게 발전하기 때문에 AI에 대한 규제를 지금 만들기보다는 현재의 각 분야에 있는 규제들을 AI 시대에 맞게 조금씩 다듬어가면서 준비하는 것이 맞다고 본다.

한나 - AGI가 오면, 사람들이 과거의 왕자들처럼 왕좌에 직접 오르지 않아도 되고, 일도 안하고, 사치스러운 삶을 살아갈 수도 있겠다. 목적없는 삶일수도 있겠다.

하사비스 - AGI를 넘어선 ASI에 다가갔을 때 그럴 수 있다. ASI 시대에는 급진적인 풍요가 올 것이고, 그 풍요가 사회전반에 고루 퍼진다면, 우린 많은 자유를 누릴 수 있다. 자아실현을 할 수도 있고, 컴퓨터게임을 할 수도 있고, 다른 활동을 할 수도 있다. 그것이 나쁜 일일까? 꼭 그렇진 않다. 우린 별을 여행할 수도 있고 익스트림 스포츠를 즐길 수도 있다. 난 매우 흥미로운 세계가 펼쳐질 것이라 생각한다. 사람들은 이에대해 굉장히 과소평가하고 있다. 모든 질병을 치료하고 에너지, 기후문제도 해결할 것이다.

한나 - 전에 당신이 말한 것처럼, AGI에 매우 가까워졌을 때, 위험을 줄이기 위해서 과학자들의 '어벤져스 어셈블'을 할 수도 있겠다

하사비스 - 그렇다. 맞다.

한나 - 테렌스 타오(*수학 천재)를 불러내는 겁니다

하사비스 - 정확하다. 전화로 불러내는 거다. 난 내가 말한 그 계획이 좋은 생각이라 생각한다. 일종의 국제 CERN 같은 AI 연구소를 만들고 싶다. 세계 최고의 연구자들을 모아 AGI 프로젝트의 마지막 몇 년을 집중적으로 연구하고 과학적이고 신중하게 매 단계를 밟아나가는 것. 난 그게 좋은 방법이 아닐까 생각한다.

한나 - 뇌과학, 신경과학이 AI 연구에 영감을 주나? 예전에는 그렇다고 들었다

하사비스 - 지금은 아니다. 이제는 진화해서 공학적인 단계에 와있다. 대규모 시스템, 거대한 트레이닝 아키텍처다. 신경과학의 영향은 이제 많이 줄었다. 물론, 다시 그쪽으로 돌아갈 수도 있다. 난 AGI에 다가갈수록, 거꾸로 이제 AGI로 우리의 뇌를 비춰볼 수 있을 것이라 본다.

한나 - 당신은 AGI가 우주적 신비를 탐구할 수 있도록 하길 바란다고 했던 것이 기억난다. 플랑크 단위계에서 우리가 아직 생각하지 못한 것들을 가능케할 것이라고 보나? 예를 들자면, 웜홀같이?

하사비스 - 완전 그렇다. 난 웜홀이 미래엔 가능해지길 바란다. 난 여전히 우리 인간이 물리학과 현실의 본질에 대해 이해하지 못하는 부분이 많다고 본다. 물리학에는 거대한 공백이 있다. 난 다중우주 이론을 좋아하지 않는다. 플랑크 단위계를 말하는 이유는, 우리가 볼 수 있는 해상도 한계가 아직 그정도이기 때문이다. 플랑크 단위계가 가장 작은 단위인 것이다. 지금 우리 과학으론. AGI 시대가 오고 풍요로워진다면 우린 다양한 실험을 할 수 있을 것이다.

한나 - AGI는 인간의 이해를 넘어선 것들을 밝혀낼 수 있을까?

하사비스 - AGI는 그 잠재력이 있다. 우리 뇌의 전두엽은 6~7단계의 추상화만 할 수 있다. AI 시스템은 더 효과적이고 큰 전두엽을 가질 수 있다. 우리보다 더 높은 수준의 추상화를 해낼 것이다. 미래의 AGI와 우리의 아이큐를 비교하면, 우린 개미 수준일 것이다. 하지만 그럼에도 우린 포괄적이고 일반지능을 가진 존재로 남을 것이다. 느린 기계에서 작동하는 지능이기에 좀 느릴 뿐이다. 

한나 - 딥마인드가 20년 프로젝트라고 전에 말씀하셨다

하사비스 - 그렇다

한나 - 지금 어느정도 진행됐나? 계획대로인가?

하사비스 - 계획대로다. 물론 20년 프로젝트는 대개 영원히 20년 남은 프로젝트이긴 하지만 우린 꽤 진행되었다.

한나 - 그럼 여전히 2030년까지 AGI를 개발한다고?

하사비스 - 그렇다. 2030년이다. 앞으로 10년 내에 AGI가 등장해도 난 놀라지 않을 것이다.

한나 - 지난번 말씀과 일치한다. 당신의 예측이 변하지 않았다.

하사비스 - 맞다. 놀라운 일이다.

한나 - 고맙다. 항상 대화가 즐겁다.

하사비스 - 나도 그렇다. 정말 즐거웠다. 고맙다.

https://www.youtube.com/watch?v=pZybROKrj2Q

Unreasonably Effective AI with Demis Hassabis

[떠깅(chldmstjr0218)]

2030

[MoonChild(aowlr2001)]

AGI 타임라인 안깨졌네 좋아

[익명(110.10)]

우리 뇌의 전두엽은 6~7단계의 추상화만 할 수 있다. 6 7단계 추상화가 무슨 뜻인지 아는 사람? 설명 부탁

[익명(110.10)]

prefrontal cortex that does that and there's sort of up to about six or seven layers of of indirection you know one could take you

[익명(110.10)]

https://en.wikipedia.org/wiki/Neocortex

[익명(175.123)]

[익명(222.120)]

<2030 가보자

[익명(182.230)]

[퐁칸8(zxvw157)]

개추개추ㅋㅋ - dc App

[슈퍼130클럽(y3xxqs89b55t)]

네, 핵심적인 내용만 간단히 요약해 드리겠습니다:1. 구글이 AI 중심으로 재편되고 딥마인드와 합병함2. AI 챗봇의 예상 외 성능은 대량 데이터 학습으로 인한 자체 개념 이해 때문3. 구글의 Gemini: 다양한 정보 유형을 처리하는 멀티모달 AI 모델4. AI는 단기적으로 과대평가, 장기적으로 과소평가됨5. 미래 AI: 자율적으로 계획 수립하고 행동하는 '에이전트' 형태로 발전 예상6. AGI 개발 시 사회 문제 해결과 풍요 가능성7. 하사비스의 AGI 개발 예상 시기: 2030년까지이렇게 핵심만 간략히 정리해 보았습니다. 필요하시면 더 자세한 설명을 드릴 수 있습니다.

[익명(99999999999n)]

[??(14.39)]

게임 오바

[탈조선(reuse2097)]

인터뷰들 다 핵심적이네.. 인지과학 이런건 약간 의미가없어짐