[📪정보] 하사비스, 세르게이 브린 250521

[익명(121.178)]

1. (오늘날 최전선 모델에 대해 알고 있는 바로, 얼마나 많은 개선의 여지가 남아있다고 보십니까? 왜 그렇게 많은 똑똑한 사람들이 이 분야의 발전이 곧 정체될 것이라고 말한다고 생각하세요?)

하사비스 : "저는 저희가 키노트에서 보여드린 것처럼 엄청난 진전을 보고 있다고 생각합니다.

기존 기술들을 한계까지 밀어붙이면서 엄청난 성과를 보고 있죠.

하지만 저희는 항상 동시에 새로운 것들을 발명하고 있기도 합니다.

아마도, AGI에 도달하기까지는 한두 가지의 돌파구가 더 필요할 수도 있습니다.

저희는 현재 준비 중인 유망한 아이디어들을 여러 개 가지고 있고,

이를 Gemini에 통합하기를 희망합니다."

2. (추론 모델 패러다임에 대한 생각)

하사비스 : "저희는 항상 이 thinking 패러다임의 강력한 신봉자였습니다.

알파고와 알파 제로와 같은 시스템으로 거슬러 올라가면,

그들은 모두 모델 위에 이런 유형의 추론 시스템 속성을 가지고 있었죠.

알파고와 알파 제로에서 추론 기능을 켜면, 챔피언 레벨을 훨씬 뛰어넘으며, 약 600 elo 차이가 납니다.

그래서, 게임에서조차 이를 볼 수 있는데, 하물며 더 복잡한 현실 세계는 어떨까요.

저는 이런 추론 유형의 패러다임을 추가함으로써 잠재적으로 훨씬 더 큰 성과를 이룰 수 있다고 생각합니다.

물론, 어려운 점은 모델이 좋은 월드 모델이어야 한다는 것이고,

이는 단순한 게임의 모듈을 만드는 것보다 훨씬 어렵습니다.

그리고 그 안에는 오류가 있으며, 장기적인 계획에서 이러한 오류가 복합적으로 작용할 수도 있죠.

하지만 저는 우리가 이 모든 면을 해결할 좋은 계획을 세우고 있다고 생각합니다."

세르게이 : "저희는 아직 이 패러다임에서 1년도 안됐고, 빙산의 일각을 보고 있다고 생각합니다."

하사비스 : "네, 또한 추론 과정을 통해

여러 도구를 사용하고, 또 다른 AI를 활용하는 것을 통해

최종 결과물을 개선하는 것에 생각한다면 더욱 그렇습니다.

그래서 이건 엄청나게 강력한 패러다임이 될 것으로 생각합니다."

3. (AGI에 도달하기 위해 몇 가지 발전이 더 필요하다고 하셨는데, 그에 대한 설명?)

하사비스 : "네, 추론은 분명 그 중 일부라고 할 수 있겠죠.

그리고 다른 것들도 필요합니다.

예를 들어, 진정한 발명은 어디에서 오는걸까요?

수학적 추측을 풀거나 제안하고, 물리학에서 새로운 이론을 가설로 세우는 것

아직 이런 창의성을 가진 시스템은 없습니다.

하지만 저는 그것들이 다가오고 있다고 생각합니다. (I think they're coming)

저는 이러한 추론과, Veo와 같은 월드모델의 정확성 같은 많은 발전 등이

거기에 도달하는 데 필요할 것으로 생각합니다."

4. (AGI라는 용어가 의미 없어지고 있다는 말이 있는데, 이에 대한 의견은?)

하사비스 : "저는 매우 중요하다고 생각합니다.

하지만 아마 25년 전에 이 용어를 만든 사람 중 한명인

저희 최고 과학자 셰인 래그와 함께 이에 대한 글을 써야할 것 같아요.

제 생각에는 두 가지가 약간 혼동되고 있습니다.

하나는 일반적인 사람이 무엇을 할 수 있는가 하는 것입니다.

하지만 제가 AGI라고 부르는 것은 좀 더 이론적인 구성물인데,

그것은 인간의 뇌가 중요한 기준점입니다.

왜냐하면 그것이 우주에서 일반 지능이 가능하다는 유일한 증거이기 때문입니다.

그래서 당신의 시스템은 역사상 최고의 인간들이

동일한 뇌 아키텍처로 할 수 있었던 다양한 일들을 할 수 있다는 것을 보여줘야 합니다."

하사비스 : "AI는 아직 충분히 일반적이라고 할 만큼의 일관성이 부족합니다.

현재 꽤 일반적이어서 오늘날 수천 가지 일을 하고 인상적인 일을 많이 할 수 있습니다.

하지만 우리 모두가 챗봇과 어시스턴트를 경험해 보면,

쉽게 몇 분 안에 명백한 결함을 찾을 수 있습니다.

해결하지 못하는 고등학교 수학 문제라든지,

플레이할 수 없는 기본적인 게임이라든지 말이죠.

그리고 제 생각에 어떤 것이 AGI라고 불리려면, 오늘날보다 전체적으로 훨씬 더 일관성이 있어야 합니다.

아마 미래의 AGI는 전문가팀이 명백한 허점을 찾는데 몇 달은 걸려야할 것입니다.

오늘날에는 개인이 그것을 찾는 데 몇 분 밖에 걸리지 않죠."

5. (세르게이, AGI가 한 회사에 의해 달성되고 게임이 끝날 것이라고 생각하시나요? 중국이나 앤트로픽이 AGI를 가지게 될까요?)

세르게이 : "좋은 질문이네요.

제 생각엔 하나의 회사나 국가, 또는 단체가 먼저 AGI에 도달할 것 같습니다.

하지만, 이건 좀 예측하기 어려운 스펙트럼 같은 겁니다.

AI 분야에서는 한 종류의 발전을 이루면 다른 회사들이 빠르게 따라옵니다.

그래서 이건 끊임없는 도약 경쟁 같은거죠."

하사비스 : "저는 이 분야가 AGI의 정의에 대해 합의하는게 중요하다고 생각합니다.

저희가 동의할 수 있는 기준이 하나가 있다면, 거기에 먼저 도달하는 조직들이 있을 것입니다.

그리고 저는 이러한 첫 번째 AGI 시스템들이 신뢰할 수 있고 안전하게 구축되는게 중요하다고 생각합니다.

그리고 그 이후에는, 이를 활용하여 개인용 AGI와 같은 온갖 종류의 일들이 일어날 수 있을 것입니다.

하지만 세르게이가 말했듯이, 그 사건의 지평선 너머를 예측하는 것은 매우 어렵습니다."

6. (데미스, AGI에는 감정이 필요하다고 보시나요? 감정을 가질 수 있을까요?)

하사비스 : "제 생각에는 감정을 이해해야 한다고 생각합니다.

감정을 모방할지 여부는 거의 설계상의 결정이 될 것이라고 생각해요.

이론적으로 불가능할 이유는 없다고 봅니다.

하지만 그것은 사실 필요하지 않거나 바람직하지 않을 수도 있습니다.

그들이 우리 인간처럼 이런 감정적인 반응을 갖는 것은요.

그래서 제 생각에는,

이 AGI 시점에 가까워질 수록 여전히 미해결 질문이라고 생각합니다.

저는 이것을 5년에서 10년 정도 시간 척도라고 생각하기 때문에,

그런 종류의 질문을 연구할 시간이 충분하다고 생각합니다."

7. (알파이볼브가 얼마 전 나왔는데, 재귀개선 시스템의 징조를 보는 것 같습니다. 데미스, 지능 폭발을 일으키려고 하시나요?)

하사비스 : "아뇨, 통제되지 않은 폭발은 아닙니다.

우선, 그것은 놀라운 시스템이고 훌륭한 팀이 그 작업을 하고 있습니다.

이 경우에는 진화 프로그래밍 기술을 점점 더 강력해지고 있는 

최신 파운데이션 모델과 결합하기 시작하는 것이 흥미롭습니다.

말씀하신 대로, 자기 개선, 누군가가 재귀 개선 루프를 발견하는 것이

오늘날보다 더 빠르게 상황이 가속될 수 있는 한 가지 방법일 것입니다.

그리고 우리는 알파 제로가 체스와 바둑을 배우고 어떤 게임이든 처음부터,

자기 개선 과정을 통해 24시간 이내에 무작위 상태에서 시작하는 것을 이미 보았습니다.

그래서 우리는 그것이 가능하다는 것을 알고 있습니다.

하지만, 다시 말하지만, 그것들은 매우 잘 설명된 상당히 제한된 게임 도메인입니다.

현실 세계는 훨씬 더 복잡하죠.

그래서 그런 유형의 접근 방식이 더 일반적인 방식으로 작동할 수 있을지는 두고 봐야 합니다."

8. (세르게이, 평소에 출근해서 뭐하시나요?)

세르게이 : "제 생각엔 데미스 같은 사람들을 괴롭히는 것 같아요. 정말 대단한 분이시죠.

제가 이 비공식 대담에 불쑥 끼어든 것도 너그럽게 봐주셨고요.

저는 길 건너편에, 거의 매일 있습니다.

그리고 거기에는 주요 제미나이 모델을 훈련하는 사람들이 있죠.

대부분 그들과 함께하고, 주기적으로 Veo3같은 일부 멀티모달 작업에도 관여합니다."

9. (딥마인드 발표를 보면 시각적으로 이루어지는 내용이 많은데, 왜 그런지?)

하사비스 : "우리는 완전한 일반 지능인 AGI를 만드려고 노력하고 있습니다.

그것은 분명 주변의 물리적 환경, 물리적 세계를 이해해야 하죠.

...

저는 항상 로봇공학의 병목 현상이 하드웨어는 아니라고 느꼈습니다.

항상 로봇 공학을 가로막던건 소프트웨어 지능이었습니다.

하지만 우리는 지금 정말 흥미로운 순간에 있습니다.

마침내 이 최신 버전, 특히 Gemini 2.5, 그리고 이 Veo 기술과

다른 곳에서 더 가져올 많은 것들로,

저는 마침내 로봇 공학이 작동하고 그 잠재력을 실현할 수 있는

정말 흥미로운 알고리즘을 갖게 될 것이라고 생각합니다.

그것은 엄청날 수 있습니다."

10. (합성데이터에 대한 질문, 만약 인터넷이 AI 영상으로 꽉 차게 된다면, 인간 콘텐츠로만 훈련한 것보다 품질이 낮아질 것인가?)

하사비스 : "네, 소위 모델 붕괴에 대한 우려가 많죠.

영상도 그렇지만 텍스트와 같은 어떤 모달리티든 마찬가지입니다.

이에 대해 몇 가지 말씀드릴게 있습니다.

첫째, 저희는 데이터 품질관리와 큐레이션에 매우 엄격합니다.

synthID와 같은 것을 AI 워터마크를 통해, 필터링을 한다던지 할 수 있죠.

그래서 저는 실제로 그걸 큰 문제로 보지 않습니다.

또한, 추가 데이터 소스에 루프로 다시 넣을 수 있을만큼 좋은 비디오 모델을 갖게 될 수도 있습니다.

합성 데이터라고 부르죠.

저희는 알파폴드에서도 이미 비슷한 일을 성공한 적이 있습니다."

11. (10년 후 웹은 어떤 모습일까요?)

세르게이 : "이런, 10년 이라니... AI의 발전 속도 때문에 예측 범위를 너무 벗어나는데요.

웹뿐만이 아니라, 10년 후 세상이 어떤 모습일지조차 저희는 모른다고 생각합니다."

하사비스 : "단기적으로 볼 때 에이전트 중심의 웹을 생각하면 상당히 많이 바뀔 것입니다.

우리 인간이 웹을 사용하는 것처럼 렌더링된 화면이나 그런게 정말 에이전트에게 필요할까요?

몇 년 안에 상황이 꽤 달라질 겁니다."

12. (AGI, 2030년 이전일까요 이후일까요?)

세르게이 : "2030년이라니, 정말 아슬아슬한 선을 그으셨네요. 저는 이전이라고 하겠습니다."

하사비스 : "저는 조금 뒤, 바로 직후요."

세르게이 : "데미스, 부담가지지 마 ㅋㅋ"

하사비스 : "돌아가서 더 열심히 일해야할지도 모르겠네요."

세르게이 : "제가 그에게 AGI가 다음 주까지 필요하다고 요청할 수도 있어요. 

엄살부리지 마, 데미스!"

AI Stage - Day 1 (Google I/O 2025)

https://www.youtube.com/watch?v=mri4JFkv6Ow

[익명(sigh9970)]

[익명(merge3772)]

[야하이잇(dignity123)]

추천

[익명(bluewarp)]

캬 단호하게 바로 직후라고 했네

[익명(tiger4366)]

개추 - dc App

[낭만적특이점(next1842)]

[낭만적특이점(next1842)]

재밌는 내용이 많네 1. AGI는 다양한 분야의 역사상 최고의 인간들이 할 수 있던걸 해야한다. 2. 로봇 공학은 하드웨어 보다는 소프트웨어가 문제이다. 3. 10년 후를 예측하는건 선형충이다. 하사비스경이 점점 더 확신을 가지는 것 같아 기대가 되네

[asi2026(dart5404)]

veo 월드모델 이거 완전 사고 실험... 인간이 할 수 없는 수준의 복잡한 가상 사고 실험, 추론... 물리학, 재료 공학, 가상 세포 생물학 의학

[Moonchild(resolve0716)]

[이세이미야케(jkwarawara)]

[익명(prime3d)]

우리 인간이 웹을 사용하는 것처럼 렌더링된 화면이나 그런게 정말 에이전트에게 필요할까요? <-- 이거보니 오히려 에이전트가 인간보다 일 빠르게할 가능성도 높은듯

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[멘토스(gblzvhbddpj2)]

[점심밥(yield0917)]

[천사다천사(jjtheman999)]

[ㅇㅇ 1(116.36)]

이제 1황은 구글 확정인가

[산시야(logical6358)]

확실히 하사비스가 생각하는 agi가 알트만이 생각하는 agi보다 더 나아보인다.

[ㅇㅇ 2(58.120)]

하사비스 이 선형충