[📪정보] [번역] VERSES AI - OpenAI 이사회에 보내는 공개 서한

[초존도초(htr3c654r6ft)]

AGI 혁신

OpenAI 이사회에 보내는 공개 서한

2023년 11월 1일, 케임브리지 대학교의 호킹 펠로우십 수상 행사에서, 대규모 언어 모델(LLM)이 인공 일반 지능(“AGI”) 달성의 올바른 접근법인지, 아니면 “새로운 혁신이 필요한지”에 대한 질문에 대해, OpenAI의 CEO 샘 알트만은 다음과 같이 답했습니다:

“우리는 새로운 혁신이 필요합니다.” 더 나아가 설명하며, “사람과 인간의 텍스트 행동을 복제하는 것(예를 들어 ChatGPT와 같은 LLM 기반 AI 시스템)은 우리를 그곳에 도달시키지 않을 것입니다.”

OpenAI 헌장에는 다음과 같이 명시되어 있습니다:

“…만약 가치 중심적이고 안전 의식적인 프로젝트가 우리보다 먼저 AGI를 구축하는 데 가까워진다면, 우리는 이 프로젝트와 경쟁을 중단하고 이 프로젝트를 지원하기로 약속합니다.”

우리는 VERSES가 귀사의 지원을 받을 자격이 있다고 믿습니다. 대가로, 우리는 일반 지능과 초지능이 인류에게 안전하고 유익하게 개발되고 배포되는 것을 돕기 위해 우리의 도움을 제공합니다.

오늘날의 기초 모델들, 예를 들어 GPT-4, LLaMa, BARD 및 Claude 등을 뒷받침하는 지배적인 딥러닝 방법들은 분야에서 놀라운 진전을 보여주었지만, 그들의 일반화, 설명 가능성 및 통제 가능성의 부족은 이들이 적응 가능하고, 안전하며, 지속 가능한 AGI로 이어지지 않을 것임을 시사합니다. 위에서 알트만 씨가 표현한 바와 같이, 그들의 신뢰성에 대한 확신이 사라지고 있으며, 최근 LLM의 한계를 강조하는 연구와 AI 산업에서의 컨센서스가 이를 더욱 뒷받침합니다.

딥러닝만으로는 충분하지 않습니다.

일부 유망한 대안들이 연구되고 있지만, 우리는 자연에서의 지능 발생에 대한 우리의 최고 과학적 이해를 바탕으로 한 특정 접근 방식이 일반 지능을 향한 더 현명하고, 더 안전하며, 더 지속 가능한 기반을 제공한다고 믿습니다.

지난 몇 년 동안 VERSES AI 연구소의 컴퓨터 과학자, 신경 과학자 및 엔지니어들은 우리의 최고 과학 책임자인 칼 프리스턴 박사의 지도 아래, 자연의 지능에 대한 청사진에 의해 지도되고, 첫 원칙에 기초한 이 대안적 접근 방식, 즉 활동적 추론을 개발했습니다. 활동적 추론은 지능, 인지 및 합리적 행동을 물리적 과정과 명시적으로 연결하는 수학적 원칙을 코딩합니다. 이러한 연결은 거시적인 인간의 규모에서부터 세포 및 양자 입자의 미시적 규모에 이르기까지 모든 규모에서 유효합니다. 자유 에너지 원칙에 의해 확립된 이 연결은 어떠한 물리적 시스템도 실시간으로 추론하고, 학습하고, 계획하고, 예측하고, 행동하는 활동적 추론 에이전트로 모델링하는 명확한 방법을 제공합니다.

오늘날의 “블랙 박스” AI 모델들의 유연하지 못하고 일체형의 특성과는 대조적으로, 이러한 에이전트들은 유연하고, 전문화되며, 조합 가능합니다. 그들은 상호 운영 가능하며, 함께 공유하고 배울 수 있어, 우리가 자연에서 찾는 집단 지능을 가능하게 합니다. 활동적 추론을 통해, 에이전트들은 자동으로 가장 관련성 있는 데이터를 찾아내고 학습한 다음, 가장 계산적으로 효율적인 방식으로 믿음을 형성합니다. 중요한 것은, 이 접근 방식이 투명하고 인간이 해석 가능한 의사결정 과정을 가져온다는 것입니다. 그리고 아마도 가장 중요한 것은, 이 에이전트들은 홈오스타시스, 즉 건강하고 안정적인 생태계를 형성하기 위해 다른 사람들 및 환경과 조화를 이루는 동적 평형을 추구하는 자연스러운 추진력을 가지고 있다는 것입니다.

“또 다른 혁신”

VERSES는 최근 활동적 추론에서 중요한 내부 혁신을 달성했으며, 우리는 이것이 확률적 AI의 실행 가능성 문제를 해결한다고 믿습니다. 이 진전은 적응 가능하고, 실시간 활동적 추론 에이전트를 대규모로 설계하고 배포하는 것을 가능하게 하며, 종종 최첨단 딥러닝의 성능을 매치하거나 능가합니다. 이 에이전트들은 훨씬 적은 입력 데이터를 사용하여 우수한 성능을 달성하며, 특히 에지에서의 지능형 컴퓨팅을 위해 에너지 효율성을 최적화하여 설계되었습니다. 이 혁신을 바탕으로, 우리는 일반화, 적응성 및 계산 효율성이 획기적으로 향상된 에이전트의 확장 가능한 생성을 촉진하는 새로운 프레임워크를 개발했습니다. 이 프레임워크는 또한 전기전자공학회(IEEE)에서 개발 중인 P2874 공간 웹 표준과 함께, 우수한 정렬 가능성, 상호 운영 가능성 및 통제 가능성을 특징으로 합니다.

우리는 아직 개발 초기 단계에 있지만, 최근의 성공이 귀사의 헌장에 따라 앞으로 나아갈 유망한 대안적 경로를 나타낸다고 믿습니다. 그리고 이것의 잠재적 중요성을 감안하여, 우리는 이를 귀사와 세계와 공유하고자 합니다.

VERSES에서는 자연의 지능 청사진을 따르는 것이 일반 지능과 초지능 시스템을 확장하는 데 가장 현명하고 안전하며 지속 가능한 기반을 제공한다고 믿습니다. 중요한 것은, 우리의 접근 방식이 LLM과 다른 AI 모델들을 보완하고, 그들의 능력의 격차를 메우며 상호 운용 가능하고 조합 가능하게 만들어, AGI와 관련된 동적인, 실제 세계의 인지, 감정, 사회 및 신체적 지능의 과학적 기반을 제공한다고 믿는다는 것입니다. 우리는 이 기반 위에 구축하고 있으며, 다른 이들이 이를 구축하는 것을 지원하고 장려하고 싶습니다.

협력의 정신과 귀사의 헌장에 따라, 우리는 귀사와 연결하고 협력할 것을 초대하며, 우리의 작업, 단기 목표 및 타임라인을 평가하고, 검증이 이루어진 후에는 우리의 접근 방식이 인류에게 유익한 가장 유망한 경로로 인정받기를 희망합니다. 우리는 우리의 연구를 지원하고, 귀사와 업계가 우리의 연구를 평가하고, 여러분의 연구 의제에 통합하며, 우리와 함께 인간 중심, 표준 기반 접근 방식에 헌신하여 일반 지능 개발을 향한 자연스러운 경로를 따르도록 초대합니다.

단순히 더 똑똑한 기술뿐만 아니라, 더 똑똑한 세계를 구축합시다.

경의를 표하며,

가브리엘 르네

CEO

VERSES 연구소

https://www.verses.ai/open-letter

VERSES AI Open Letter

[초존도초(htr3c654r6ft)]

멋있는데....?

[§(180.229)]

[익명(122.32)]

[익명(873dvejis77)]

[빅모드(kangnhong)]

이걸 왜 공개서한으로 보내는거지? 뭐 대중들한테 어필하고싶은거라도 있나?

[ㄴㄴ(183.96)]

결과로 얘기해라 쇼로 정신승리 그만하고

[익명(180.230)]

뭐 두고보면 진짜 뭔간지 그냥 돈이나 털어먹으려는 헛짓인진 답 나오겠지