[📪정보] 다리오 아모데이와 데미스 하사비스의 대담 (AGI 시기 예측)

[MGMG(fork5938)]

AI bosses on what keeps them up at night

AI 발전에 대한 대담 (번역본)

(00:00:00,333 - 00:00:05,013)

“이건 AI 분야에서 마치 비틀즈와 롤링스톤즈가 한자리에 모인 것과 같아요. 오늘 무대에는…”

(00:00:05,013 - 00:00:14,103)

“미래를 만들어갈 몇 안 되는 사람 중 두 명이 함께하고 있습니다.

앤트로픽(Anthropic)의 공동 창립자이자 CEO인 다리오 아마데이(Dario Amodei),

그리고 딥마인드(DeepMind)의 공동 창립자이자 CEO인 데미스 하사비스(Demis Hassabis), 그리고 노벨상 수상자입니다.”

AGI(인공지능 일반 지능)에 대한 정의와 예상 시기

(00:00:14,103 - 00:00:22,193)

“먼저, 여러분이 생각하는 AGI(Artificial General Intelligence)의 정의와 예상 시기에 대해 이야기해 보겠습니다.

만약 AI 모델이 인간이 할 수 있는 모든 일을 할 수 있는 수준에 도달한다면,

예를 들어 여기 있는 노벨상 수상자처럼 여러 분야에서 인간 수준의 능력을 보일 수 있다면,

그리고 단순한 작업이 아니라 몇 분, 몇 시간, 며칠, 몇 달이 걸리는 복잡한 작업까지 수행할 수 있다면,

제 예상으로는 2026년 또는 2027년쯤에 이를 달성할 수 있을 것 같습니다.”

(00:00:22,193 - 00:00:43,293)

“데미스, 이에 동의하시나요? 저는 이 시기가 조금 더 멀다고 생각하는데요.”

“우리는 큰 차이는 없다고 봅니다. 다만 저는 좀 더 긴 시간이 걸릴 거라고 생각합니다.

제가 AGI를 정의하는 방식은, 인간이 가진 모든 인지 능력을 발휘할 수 있는 시스템입니다.

인간의 두뇌는 우리가 아는 유일한 범용 지능의 사례이기 때문에, 이것이 중요한 기준이 됩니다.

하지만 이를 어떻게 테스트할 것이냐가 큰 문제이며, 저는 그 시기가 조금 더 멀리 있다고 봅니다.”

(00:00:59,193 - 00:01:17,343)

“제가 생각하기에 AGI가 등장할 확률은 앞으로 5년 내 50% 정도라고 보고 있습니다.

즉, 2030년 즈음이 될 가능성이 높습니다.

아직까지 우리의 AI 시스템은 아인슈타인이 상대성이론을 발견했을 당시 가졌던 정보만으로 그런 이론을 만들어낼 수 있는 수준이 아닙니다.

또 다른 예로, AI가 ’알파고(AlphaGo)’처럼 바둑을 잘 두는 것이 아니라,

아예 바둑 같은 새로운 게임을 창조할 수 있을 정도가 되어야 한다고 생각합니다.”

AGI가 실현되었을 때의 변화

(00:01:52,473 - 00:02:19,383)

“AGI가 실현되면 세상이 어떻게 변할까요?

점진적인 변화가 있을까요, 아니면 어느 순간 AI가 스스로 더 똑똑한 AI를 훈련할 수 있는 지점에 도달하면서

압도적인 우위를 차지하는 ‘임계점’이 있을까요?”

“저는 이를 국제 정세와 관련하여 고민해 왔습니다.

만약 특정 지역이 다른 지역보다 빠르게 AGI를 개발할 수 있다면,

그것이 지정학적 긴장으로 이어질 수도 있습니다.

특히 권위주의 국가가 AGI 개발에서 앞서게 된다면,

우리가 소중히 여기는 가치들이 위협받을 가능성이 크다고 생각합니다.”

국제 협력과 AI 거버넌스

(00:03:10,383 - 00:03:28,293)

“정부들은 AI 발전이 가져올 변화와 위험성을 더 잘 인식해야 합니다.

현재 AI는 이미 엄청난 관심을 받고 있지만,

단기적으로는 과대평가되고 있고,

중장기적으로는 그 파급력이 과소평가되고 있다고 봅니다.

이해가 깊어질수록 국제적인 협력도 더욱 필요해질 것입니다.”

(00:03:56,283 - 00:04:13,263)

“그래서 저는 AGI 연구를 위한 국제 협력 기관,

마치 유럽입자물리연구소(CERN) 같은 조직이 필요하다고 생각합니다.

우리가 AGI 개발의 마지막 단계를 밟아나가는 과정에서

국제적으로 협력할 수 있는 연구 기관이 있어야 합니다.”

AI 규제와 글로벌 균형

(00:04:55,383 - 00:05:20,283)

“현재 미국과 유럽의 AI 접근 방식은 매우 다릅니다.

미국은 규제 없이 빠르게 개발하려 하고,

유럽은 아직 AI 기술이 많지 않음에도 강력한 규제를 추진하고 있습니다.

어느 쪽이 더 옳다고 생각하시나요?”

“저는 균형이 중요하다고 생각합니다.

AI가 가져올 과학적, 의학적 혁신을 최대한 활용해야 합니다.

예를 들어, AI를 활용한 신약 개발 덕분에

향후 10년 내 대부분의 질병을 치료할 수 있을지도 모릅니다.

또한 기후 문제 해결에도 큰 도움이 될 것입니다.

하지만 동시에, AGI의 위험성을 관리하는 것도 필수적입니다.”

개발자들의 개인적인 고민

(00:06:30,183 - 00:06:46,293)

“여러분은 AI 발전의 최전선에서 중요한 결정을 내리고 있습니다.

가끔 ‘로버트 오펜하이머’처럼 역사적으로 큰 영향을 미칠 인물이 될지도 모른다는 생각을 하시나요?”

“네, 저도 그런 생각을 자주 합니다.

그래서 저희는 새로운 거버넌스 구조가 필요하다고 주장하는 것입니다.

국제 원자력기구(IAEA) 같은 AI 모니터링 기관이 있어야 합니다.”

(00:07:28,533 - 00:07:45,183)

“저는 거의 매일 밤 이런 고민을 합니다.

만약 우리가 충분히 빨리 개발하지 못한다면, 권위주의 국가들이 AI 경쟁에서 이길 수도 있습니다.

반대로 너무 빨리 개발하면, 우리가 우려하는 위험이 현실화될 수 있습니다.

어느 쪽이든 그 책임은 제게 있을 것 같아 늘 고민스럽습니다.”

미래 전망: AGI와 긍정적인 변화

(00:12:00,093 - 00:12:15,483)

“이제 부정적인 이야기에서 벗어나, 긍정적인 전망으로 마무리해 볼까요?

앞으로 1년 안에 우리가 주목해야 할 중요한 변화는 무엇인가요?”

“앞으로 1년 안에 AI 기반의 에이전트 시스템이 본격적으로 등장할 것입니다.

이들은 사용자의 업무를 돕고, 스스로 문제를 해결하며,

생산성을 높이는 데 중요한 역할을 하게 될 것입니다.”

[MGMG(fork5938)]

짤린부분.. “또한, AI가 단순히 기존 이론을 푸는 것이 아니라, 새로운 수학적 정리를 제안하는 수준까지 발전할 가능성이 있습니다. 만약 AI가 AI 연구 자체를 수행할 수 있는 수준까지 도달한다면, 이는 우리가 예상한 AGI 개발 일정이 맞아떨어진다는 신호일 것입니다.”

[익명(wanted7407)]

아모데이가 말한 부분? - dc App

[Twink(regular6398)]

하사비스일듯

[익명(175.202)]

1년? 수고했다

[Whoareyou(whoareyou1)]

26년쯤 버블이 터지고 완전히 과소평가 될 즈음 예상치못하게 올 것 같은 agi

[점심밥(yield0917)]

[Moonchild(resolve0716)]

[수직(player5319)]

[Asi(worship5388)]

온다...

[Borazine(player4081)]