[📪정보] AlphaEvolve 저자 팟캐스트 250626

[익명(121.178)]

AlphaEvolve 저자인 

Pushmeet Kohli, Matej Balog 팟캐스트

1. 알파이볼브가 코드를 진화시키는 방법

질문 : 일반 대중을 위해 작동 방식을 구체적으로 설명해주실 수 있나요? 예를 들어 데이터센터 스케줄링 최적화 문제에서요.

(발로그)

-알파이볼브 유저가 해결하려는 문제를 '평가 함수'와 함께 명시합니다.

-예를 들어, 데이터센터 작업 스케줄링 알고리즘의 경우 이 평가 함수는 '데이터센터의 작업 시뮬레이터'가 될 수 있습니다.

-사용자가 이렇게 '무엇'을 정의하면 알파이볼브가 '어떻게'를 채웁니다.

-두 가지 방법이 있는데, 첫째로 '어떻게 해결할지 전혀 모르겠으니 완전 처음부터 시작해서 창의적인 것을 만들어보자' 라고 할 수 있습니다.

-두번째로 '우리는 이 문제에 대해 오래 연구해왔다. 여기 우리가 제공할 수 있는 강력한 초기 해결책이 있으니 여기서부터 시작해달라'고 할 수 있습니다.

-데이터센터 스케줄링 문제에서는 후자의 방식을 사용했었습니다.

-알파이볼브는 이 초기 해결책을 LLM의 창의적인 힘을 사용하여 개선 사항을 제시하고, 평가함수를 통해 좋은 것과 나쁜 것을 걸러내며, 진화 알고리즘을 통해 마침내 구글 인프라에 배포할 만큼 강력한 알고리즘을 만들어냅니다.

2. 자동화된 평가 함수의 한계 극복

질문 : 자동화된 평가 함수가 에이전트의 능력을 제한하는 큰 제약이라면, 이를 어떻게 극복할 수 있을까요?

(발로그)

-정확한 평가 함수는 매우 중요하며, 정확한 평가 함수를 구축하면 알파이볼브 같은 에이전트가 인간의 능력을 훨씬 뛰어넘는 것을 발견할 가능성이 열립니다.

-연구 관점에서는 이것이 개념적 한계라고 생각하지 않습니다. 예를 들어 언어 모델 자체가 평가자 역할을 수행할 수 있으며, AI Co-scientist에서 유망한 경로를 보여줬었습니다.

(콜리)

-LLM 기반 평가자는 시뮬레이터 없이도 얼마나 좋은지 추측할 수 있으며, 이 접근법 역시 매우 잘 작동합니다.

-AI Co-scientist 연구에서 보여줬듯이, 멀티 에이전트는 단독 LLM보다 훨씬 더 나은 새로운 정보를 발견할 수 있다는 점에도 주목해야합니다.

3. 우리는 재귀 개선 AI 시대에 돌입했는가?

질문 : 우리는 재귀적 자기 개선의 초기 단계를 목격하고 있는걸까요?

(콜리)

-어떤 의미에서는 '그렇다'라고 할 수 있습니다.

-하지만 현재까지 우리가 본 것은 계산 시간의 개선, 즉 훈련을 더 효율적으로 만드는 것이었습니다.

-기본 모델이 근본적으로 더 나아지게 할 수 있는지는 아직 검증되어야 할 문제입니다.

-이론적으로, 제안된 훈련 개선안이 좋은 결과를 낳을 것이라고 말할 수 있는 좋은 평가자가 있다면 작동은 할 것입니다.

(발로그)

-저도 이것이 자기 개선의 첫 신호일 수 있다는데는 동의합니다.

-하지만 현재는 피드백 주기가 몇 달 단위로 꽤 깁니다.

-가장 큰 질문은 이것이 미래에 어떻게 될 것인가 하는 점이며, 개선이 지속되며 계속 쌓여갈지 혹은 어떤 한계에 수렴할지는 아직 답을 모르는 질문입니다.

4. 과학적 발견과 수학에 미치는 영향

질문 : 이 기술이 다른 과학 분야, 특히 수학에 미치는 영향은 무엇이라고 생각하시나요?

(발로그)

-알파이볼브는 현재 수학과 컴퓨터 과학에 주로 초점을 맞췄는데, 이는 자동화된 평가 함수를 얻기 가장 쉬운 분야이기 때문입니다.

-하지만 생물학이나 화학 같은 분야에서도 불가능한 것은 아니며, 예를 들어 분자 예측 시뮬레이터와 같은 평가 함수를 통해 알파이볼브를 적용할 수 있습니다.

-우리는 알파이볼브를 더 강력하고 광범위하게 적용할 수 있는 많은 아이디어를 가지고 있습니다.

(콜리)

-알파이볼브는 과학자들에게 매우 복잡하고 때로는 반직관적인 해결책 공간을 탐색할 수 있는 '초능력' 도구와 같습니다.

5. 구글 내에서의 알파이볼브 적용

질문 : 아직 시도해보지 않았지만 구글 내에서 흥미로울 것이라고 생각하는 적용 분야가 있나요?

(발로그)

-이 도구는 이미 구글 내에서 사용 가능하며 매우 많은 문제에 사용되고 있습니다.

-구체적인 내용은 아직 공개할 수 없지만, 이미 매우 흥미로운 결과들이 많습니다.

-힌트를 드리자면, 구글 내 AI와 AI 이외의 분야에서의 많은 연산(computational) 문제들에 대해 상상해보세요. 앞으로 이에 대해 더 많은 멋진 결과들이 나올 것이라고 확신합니다.

(위 이야기할 때 입이 근질근질한게 느껴짐)

No Priors Ep. 120 | With Google DeepMind’s Pushmeet Kohli and Matej Balog

https://youtu.be/2Fs6VZpsiMQ?si=VAQ5-ruAXLCRxzi4

[점심밥(yield0917)]

[익명(sigh9970)]

[ㅇㅇ 1(210.97)]

개선루프 2.5기반부터는 분기마다는 되려나..

[은바다(nmra3fmzhxmg)]

[ㅇㅇ 2(110.10)]

[낭만적특이점(next1842)]

[이세이미야케(jkwarawara)]

[산시야(logical6358)]

[스칼렛(ashamed6749)]

[천사다천사(jjtheman999)]

[개미폭격기(imaohw12)]

알파이볼브 논문 읽어봤는데 개인적으론 좀 실망함.. LLM 자체의 개선이 아니라 LLM을 사용한 시스템을 설계한 느낌이라... 예를들어 어떤 오랜역사를 가진 기술의 로직이 발전하려면 인간이 이전의 아이디어들을 공부하고 자신이 가진 지식과 공부한 지식을 토대로 새로운 아이디어를 제안하면서 기술이 발전하고, 또 후대의 사람이 이걸 학습해서 발전하는 방식인데 이걸 시스템화하고 인간이 학습, 새로운 아이디어를 제안 하는 과정을 LLM으로 대체한다는 내용임.. 결국 LLM이 인간과 다르게 신선한 아이디어를 단번에 제안하는게 아니라 인간과 같은 발전과정을 거치되 그걸 자동화해서 좀더 빠르다 정도인듯 물론 컴퓨팅파워와 시간을 쏟으면 쏟는대로 인간보다 훨씬 빠르게 발전하겠지만 이것도 LLM 자체성능이 발 - dc App

[개미폭격기(imaohw12)]

전하지 않는다면 한계가 있다고봄.. - dc App

[야하이잇(dignity123)]

뭐 니가 말했던것도 팟캐스트에서 말하긴 했으니 당장은 근본적인 개선은 아니라고