[📪정보] VERSES AI 공개서한 전문 번역

[익명(180.71)]

원문은 아까 다른 유동이 올려준 거임.

 chatGPT로 두 번에 나눠서 한거라 찐빠가 있을 수 있다 양해 부탁.

 요약하면, "너네(openai)보다 잘하는 팀 만나면 적극 협력한다고 했었지? 우리가 한 건 해낸 것 같다. 아직 초기단계니까 좀 도와줘" 인 것 같은데... VERSERS AI가 어느정도 신뢰성이 있는 기관인지가 궁금하네...

 ----
2023년 11월 1일, 케임브리지 대학교에서 열린 호킹 펠로우십 수여식에서, 대규모 언어 모델(LLM)이 인공 일반 지능(“AGI”)을 달성하기 위한 올바른 접근법인지, 아니면 "새로운 돌파구가 필요한지"에 대한 질문에 대해 OpenAI의 CEO 샘 알트만은 다음과 같이 답했습니다:

“우리는 새로운 돌파구가 필요합니다.” 덧붙여, “그것(LLM 기반 AI 시스템, 예를 들어 ChatGPT)에게 인간과 인간의 텍스트 행동을 복제하는 것을 가르치는 것은 우리를 그곳에 도달하게 하지 않을 것입니다.”

OpenAI 헌장은 다음과 같이 명시하고 있습니다:

“…가치 지향적이고 안전 의식이 있는 프로젝트가 우리보다 먼저 AGI를 구축하는 데 가까워진다면, 우리는 그 프로젝트와의 경쟁을 중단하고 이 프로젝트를 돕겠다고 약속합니다.”

우리는 VERSES가 귀사의 도움을 받을 자격이 있다고 믿습니다. 대신, 우리는 인류 전체에게 안전하고 유익한 방식으로 일반 지능과 초지능이 개발되고 배포되는 것을 돕기 위해 우리의 지원을 제공합니다.

오늘날의 기초 모델, 예를 들어 GPT-4, LLaMa, BARD, Claude 등을 뒷받침하는 지배적인 딥러닝 방법은 분야에서 정말 놀라운 진전을 보여주었지만, 그들의 일반화, 설명 가능성 및 통제 가능성의 부족은 그들이 적응 가능하고, 안전하며, 지속 가능한 AGI로 이어지지 않을 것임을 시사합니다. 위의 알트만 씨가 표현한 대로, AGI의 기초로서의 그들의 타당성에 대한 신뢰는 점차 사라지고 있으며, 이는 LLM의 한계를 강조하는 최근 연구와 AI 산업 내에서 점점 커지는 합의에 의해 더욱 뒷받침됩니다.

딥러닝만으로는 충분하지 않습니다.

일부 유망한 대안들이 연구되고 있지만, 우리는 자연에서 발견되는 지능에 대한 우리의 최고의 과학적 이해에 기초한, 지능에 대한 더 똑똑하고, 더 안전하며, 더 지속 가능한 기초를 제공하는 특정 접근 방식이 있다고 믿습니다.

지난 몇 년 동안, VERSES AI 연구소의 컴퓨터 과학자, 신경 과학자 및 엔지니어들로 구성된 우리 팀은, 우리의 최고 과학 책임자인 칼 프리스턴 박사의 지도하에, 이 대안적 접근 방식인 활동적 추론을 개발했습니다. 이것은 첫 원칙에 기초하고 생물학적 시스템에서의 지능에 대한 자연의 설계도를 따르고 있습니다. 활동적 추론은 지능, 인지 및 합리적 행동을 모든 규모에서 물리적 과정과 명시적으로 연결하는 수학적 원리를 규정합니다: 인간의 거시적 규모에서부터 세포의 미시적 규모에 이르기까지, 심지어 양자 입자의 규모에까지 이르기까지. 자유 에너지 원리에 의해 확립된 이 물리, 인지 및 행동 간의 연결은 실시간으로 추론하고, 배우고, 계획하고, 예측하고, 행동할 수 있는 활동적 추론 에이전트로서 어떠한 물리 시스템이든 모델링하는 명시적인 레시피를 제공합니다.

오늘날의 “블랙 박스” AI 모델의 유연하지 못하고 일체형적인 특성과 대조적으로, 이 에이전트들은 유연하고, 전문화되어 있으며, 조합 가능합니다. 그들은 상호 운용할 수 있고, 함께 공유하고 배울 수 있으며, 우리가 자연에서 찾는 집단 지능의 종류를 가능하게 합니다. 활동적 추론을 통해, 에이전트들은 자동적으로 가장 관련성 높은 데이터를 찾아내고 배우며, 그런 다음 가장 계산 효율적인 방식으로 믿음을 형성합니다. 중요한 것은, 이 접근 방식이 투명하고 인간이 해석할 수 있는 의사결정 과정을 가져옵니다. 그리고 아마도 가장 중요한 것은, 이 에이전트들은 자연스럽게 항상성을 추구하며, 다른 사람들과 그들의 환경과 조화를 이루어 건강하고 안정적인 생태계를 형성하려고 하는 역동적인 균형을 추구합니다.

“또 다른 돌파구”

VERSES는 최근 확률적 AI의 실용성 문제를 해결하는 것으로 믿어지는 Active Inference에서 중요한 내부 돌파구를 달성했습니다. 이 발전은 실시간으로 적응하는 Active Inference 에이전트를 대규모로 설계하고 배치할 수 있게 하며, 종종 최첨단 딥러닝의 성능을 맞추거나 능가합니다. 이러한 에이전트들은 훨씬 적은 입력 데이터를 사용하면서 우수한 성능을 달성하며, 에너지 효율성에 최적화되어 있으며, 클라우드뿐만 아니라 에지에서의 지능형 컴퓨팅을 위해 특별히 설계되었습니다. 이 돌파구를 바탕으로, 우리는 일반화, 적응성 및 계산 효율성에서 극적으로 개선된 에이전트의 확장 가능한 생성을 촉진하는 새로운 프레임워크를 개발했습니다. 이 프레임워크는 또한 IEEE(전기전자기술자협회)가 개발 중인 P2874 공간 웹 표준과 일치하고 이를 보완하는 뛰어난 정렬성, 상호 운용성 및 관리 가능성을 특징으로 합니다.

개발 초기 단계에 있지만, 최근의 성공이 귀사의 헌장에 따라 우리가 여러분과 — 그리고 그 잠재적 중요성을 감안할 때 — 세계와 공유하고자 하는 유망한 대안적 길을 가리키고 있다고 믿습니다.

VERSES에서는 지능의 자연스러운 설계를 따르는 것이 일반 및 초지능 시스템을 확장하는 데 가장 현명하고 안전하며 지속 가능한 기반을 제공한다고 믿습니다. 중요한 것은, 우리의 접근 방식이 LLM 및 기타 AI 모델과 보완적이며, 그들의 능력의 격차를 메우고 상호 운용성과 결합성을 가능하게 함으로써 AGI와 관련된 동적이고 실제적인 인지적, 감정적, 사회적, 신체적 지능을 위한 더 과학적으로 탄탄한 기반을 제공한다고 믿습니다. 우리는 이 기반 위에 구축하고 있으며 다른 사람들도 이를 구축하도록 지원하고 장려하고자 합니다.

협력의 정신과 귀사의 헌장에 따라, 우리는 여러분이 우리와 연결하고 협력하여 우리의 작업, 단기 목표 및 시간표를 평가하고 검증 후에 인류에게 가장 유망한 길로 안전하고 지능적인 시스템을 구축하는 우리의 접근 방식을 발견하시기를 희망하며 초대합니다. 우리는 여러분의 연구를 지원하는 데 도움을 요청하며, 여러분과 업계가 우리의 연구를 평가하고 이를 자신의 연구 의제에 통합하는 것을 고려하며, 일반 지능 개발과 그 너머로 우리를 안내하는 자연스러운 길을 추구하는 인간 중심, 표준 기반 접근 방식을 공약하는 데 함께 참여하도록 권장합니다.

더 똑똑한 기술뿐만 아니라 더 똑똑한 세상을 만들어 봅시다.

[익명(121.158)]

뭔가 살짝 cho전도che 냄새 나는데..

[익명(123.100)]

관련된거 좀 보고왔는데 오픈AI로 자기네들꺼 홍보할려는 목적이 너무 커보인다. 과대광고인듯