[📪정보] 딥마인드 FunSearch 논문 내용

[익명(123.100)]

최근 대규모 언어 모델(LLM)은 디버깅[10, 11], 코드 경진대회[12, 13], 코드 성능 개선[14] 등의 응용을 통해 코딩 기능이 크게 향상되었지만, 미해결 문제에 대한 풀이 프로그램을 합성하려면 검증 가능한 새로운 아이디어를 찾아야 합니다. 

이는 LLM에게는 매우 어려운 일인데, 이는 기존의 결과를 모방하거나 궁극적으로 기존 결과를 뛰어넘지 못하는 경향이 있기 때문입니다. 

LLM의 '명목상' 능력을 뛰어넘기 위해 최근의 연구[3]는 진화 알고리즘[15, 16]과 결합하여 다양한 합성 문제[17], 신경망 아키텍처 검색[18-20], 퍼즐 풀이[21]에서 중요한 개선을 이끌어냈습니다. 

저희가 제안한 방법인 펀서치는 기존의 미해결 문제에 대한 새로운 과학적 결과의 발견과 새로운 알고리즘의 발견이라는 LLM 유도 진화 절차의 한계를 새로운 차원으로 끌어올렸습니다. 

기존 미해결 문제에 대한 최첨단 결과를 능가하는 것은 LLM의 학습 데이터에서 검색된 것이 아니라 진정으로 새로운 발견이라는 것을 명확하게 보여줍니다. 

함수 공간에서의 검색의 줄임말인 FunSearch는 창의적인 솔루션을 제공하는 것을 목표로 하는 사전 학습(고정)된 대규모 언어 모델과 평가기를 결합하여, 혼동과 잘못된 아이디어를 방지합니다. 

FunSearch는 이 두 가지 구성 요소를 반복하여 초기의 낮은 점수를 받은 프로그램을 새로운 지식을 발견하는 높은 점수의 프로그램으로 발전시킵니다. 

이 간단한 절차의 성공 비결은 여러 가지 필수 요소의 조합입니다. 

첫째, 가장 성과가 좋은 프로그램을 샘플링하여 LLM이 개선할 수 있도록 프롬프트에 피드백을 주는데, 이를 베스트샷 프롬프트라고 합니다. 

둘째, 골격 형태의 프로그램(상용구 코드와 문제에 대한 잠재적 사전 구조 포함)으로 시작하여 중요한 프로그램 로직을 관장하는 부분만 발전시킵니다. 예를 들어, 욕심 많은 프로그램 스켈레톤을 설정하여 모든 단계에서 결정을 내리는 데 사용되는 우선순위 함수를 진화시킵니다. 

셋째, 탐색을 장려하고 로컬 최적을 피하는 섬 기반 진화 방법을 사용해 다양한 프로그램 풀을 유지합니다. 마지막으로, 펀서치의 고도로 병렬적인 특성을 활용하여 비동기식으로 확장함으로써 이 접근법의 범위를 상당히 넓혀 새로운 결과를 찾으면서도 전체 실험 비용을 낮게 유지합니다. 

여러 사용 사례에서 FunSearch의 놀라운 효과를 확인할 수 있습니다. 

우리는 극한 조합론의 근본적인 문제, 즉 상한 집합 문제를 고려합니다 [22, 23]. 

FunSearch는 점근 하한을 20년 만에 가장 크게 개선하는 등 지금까지 알려지지 않은 구조의 존재를 입증했습니다. 

우리가 아는 한, 이것은 LLM을 사용하여 악명 높은 과학 문제에 대한 새로운 검증 가능한 지식을 발견한 최초의 과학적 발견입니다. 

또한, 펀서치를 사용하여 잘 연구된 관심 분포에 대한 기존 알고리즘을 개선하는 온라인 빈 패킹 문제에 대한 새로운 알고리즘을 발견했으며[24, 25], 이는 작업 스케줄링 알고리즘 개선에 응용할 수 있습니다. 

대부분의 컴퓨터 검색 기법은 해가 무엇인지 직접 출력하지만(예: 캡 집합을 형성하는 벡터 목록), FunSearch는 해를 생성하는 프로그램을 생성합니다. 구조화된 문제의 경우, 이러한 프로그램은 단순한 솔루션의 열거에 비해 해석이 용이하고(도메인 전문가와의 상호작용이 용이), 간결하여 대규모 인스턴스로 확장할 수 있는 경향이 있습니다. 

또한, 표준 프로그래밍 언어의 코드로 설명되는 결정 절차(예: 빈 패킹)는 일반적으로 특수 하드웨어가 필요하고 설계 사양을 검증하기 어려운 것으로 악명 높은 다른 유형의 설명(예: 신경망)에 비해 배포하기가 훨씬 쉽습니다.

대충 요약하면

기존 LLM은 알고있던 지식 안에서 검색만 하는 정도고 새로운 지식을 만들어내지는 못했는데 이번 FunSearch는 그걸 뛰어넘어서 실제로 새로운 것을 발견하는 능력이 생긴 것

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(123.100)]

제미니 울트라로도 곧 해보겟지 얘네들? 그거로 하면 무슨 결과 나올지 나 너무 기대돼 지금

[Ad_Astra(peraspera83)]

페르마의 마지막 증명 페르마가 했을 법한 증명으로 해달라고 하고 싶1다

[익명(123.100)]

진짜 머지 않은 것 같다

[Tnk(a1778untethered)]

[익명(125.183)]

한마디로 재귀개선 가능?

[익명(123.100)]

저걸 신경망 아키텍쳐 개선하는 프로그래밍쪽에 쓰면 가능할 수도 있어보임

[익명(61.75)]

확률 챗봇 앵무새 싹 다 구속시켜

[익명(119.207)]