디 애틀랜틱의 전속 작가가 오픈 AI를 방문 하고
오픈AI 인사들을 만나고 쓴 기사임
이중 관심 있을만한 내용을 부분별로 퍼왔으니 전체 내용은
링크 참조




인공 일반 지능의 도래를 예고하는 "큰 골대"인 알트만에게 가장 중요한 골대 는 과학적 혁신입니다. GPT-4는 이미 기존의 과학적 아이디어를 종합할 수 있지만 알트만은 인간의 어깨 위에 서서 자연을 더 깊이 볼 수 있는 AI를 원합니다.

특정 AI는 새로운 과학 지식을 생산 했습니다 . 그러나 그것은 일반적인 추론 기계가 아닌 좁은 목적을 가진 알고리즘입니다. 예를 들어, AI AlphaFold는 생물학에서 가장 작고 가장 기본적인 구성 요소 중 일부인 단백질에 대한 새로운 창을 열었습니다. 원자에 이르기까지 많은 모양을 예측함으로써 이러한 모양이 의학에 미치는 중요성을 고려할 때 상당한 성과입니다. 전자현미경으로 이를 식별하는 데는 극도의 지루함과 비용이 필요하기 때문입니다

Altman은 미래의 일반 추론 기계가 이러한 협소한 과학적 발견을 넘어 새로운 통찰력을 창출할 수 있을 것이라고 확신합니다. 나는 알트만에게 19세기 이전의 과학 및 자연주의 작품 모음, 즉 왕립 학회 기록 보관소, 테오프라스투스의 식물 탐구 , 아리스토텔레스의 동물 역사 에 대한 모델을 훈련할 것인지 물었습니다., 수집된 표본 사진 – 다윈주의를 직관할 수 있을까? 결국 진화론은 전문적인 관찰 장비가 필요하지 않기 때문에 비교적 깨끗한 통찰력을 제공합니다. 그것은 단지 세상의 사실을 보는 좀 더 통찰력 있는 방법일 뿐입니다. Altman은 "나는 이것을 정확하게 시도하고 싶습니다. 대답은 '예'라고 믿습니다"라고 말했습니다. "하지만 모델이 어떻게 새롭고 창의적인 아이디어를 생각해 내는지에 대한 몇 가지 새로운 아이디어가 필요할 수도 있습니다."

Altman은 자체 가설을 생성하고 시뮬레이션에서 테스트할 수 있는 미래 시스템을 상상합니다. (그는 인간이 실제 실험실 실험을 "확고히 통제"해야 한다고 강조했습니다. 하지만 제가 아는 한 이를 보장할 법은 없습니다.) 그는 우리가 AI에게 "'계산해 보세요'라고 말할 수 있는 날을 갈망합니다. 물리학의 나머지 부분을 빼내세요.' ” 이를 위해서는 OpenAI의 기존 언어 모델 “위에” 구축된 새로운 것이 필요하다고 그는 말합니다.


ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ


Altman이 방문한 모든 곳에서 그는 초인적 AI가 소수에게는 엄청난 부를 의미하고 나머지에게는 생계 수단을 제공할 것이라고 걱정하는 사람들을 만났습니다. 그는 자신이 “ 대부분의 사람들의 삶의 현실 ” 에서 벗어나 있음을 인정했습니다 . 그는 수억 달러의 가치가 있는 것으로 알려졌습니다. AI의 잠재적인 노동 중단이 항상 최우선적으로 고려되는 것은 아닐 수도 있습니다. 알트만은 청중에 있는 젊은이들에게 직접 연설하면서 이렇게 대답했습니다. “여러분은 이제 가장 위대한 황금 시대에 들어서게 됩니다.”


미래의 일자리는 예측하기 어렵기로 악명이 높으며, 러다이트가 우려했던 영구적인 대량 실업은 실현된 적이 없다는 알트먼의 말이 맞습니다. 하지만 AI의 새로운 능력은 인간과 매우 유사하기 때문에 과거가 미래에 대한 지침으로 남아있을지 궁금해하지 않을 수 없습니다. 많은 사람들이 지적했듯이, 초안 작성자는 자동차에 의해 영구적으로 일자리를 잃었습니다. GPT-10이 우리에게 그랬던 것처럼 혼다가 말에게 있다면, 오랫동안 이어져 온 수많은 가정이 무너질 수 있습니다.

이전의 기술 혁명은 몇 세대에 걸쳐 진행되었기 때문에 관리가 가능했지만, 알트만은 한국의 젊은이들에게 미래는 "과거보다 더 빠르게" 일어날 것으로 예상해야 한다고 말했습니다. 그는 이전에 "지능의 한계비용"이 10년 안에 0에 가까워질 것으로 예상한다고 말한 바 있습니다. 이 시나리오에서는 많은 근로자의 소득이 급격히 감소할 것입니다. 알트먼은 노동에서 자본 소유주에게로 부의 이전이 극적으로 이루어질 것이며, 이는 대규모 재분배를 통해서만 해결될 수 있다고 말했습니다.


2020년에는 미국 전역의 도시에서 고용에 얽매이지 않는 현금 결제 시범 프로그램을 지원하는 비영리 단체인 UBI Charitable에 자금을 지원했는데, 이는 세계에서 가장 큰 보편적 기본소득 실험이었다고 알트먼은 말했습니다. 2021년에 그는 5파운드짜리 은구인 오브(Orb)로 모든 사람의 홍채를 스캔하여 글로벌 ID를 생성함으로써 Venmo나 PayPal과 같은 결제 수단을 안전하게 배포하는 것을 목표로 하는 영리 프로젝트인 월드코인을 공개했는데, 이는 기술적 미래를 우선시하는 프로젝트였습니다. 인공지능으로 인해 신원 확인이 거의 불가능해지고 많은 사람들이 생존을 위해 정기적인 UBI 결제가 필요한 세상으로 향하고 있다는 내기처럼 보였습니다. 알트먼은 이를 어느 정도 인정하면서도 월드코인이 UBI만을 위한 것이 아니라고 말했습니다.



우리가 이 AGI를 구축하고 다른 사람들도 구축한다고 가정해 봅시다." 그는 그 이후의 변화가 역사에 남을 것이라고 믿습니다. 그는 육체와 강철로 이루어진 세상의 재구성을 포함하여 매우 유토피아적인 비전을 설명했습니다. "태양열을 에너지로 사용하는 로봇은 필요한 모든 광물을 채굴하고 정제할 수 있으며, 인간의 노동력이 전혀 필요 없이 물건을 완벽하게 만들 수 있습니다."라고 그는 말했습니다. 알트먼은 "DALL-E 버전 17을 사용하면 원하는 집을 공동 설계할 수 있습니다."라고 말합니다. "누구나 아름다운 집을 갖게 될 것입니다." 그는 저와의 대화와 투어 중 무대에서 인간 삶의 거의 모든 영역에서 엄청난 개선을 예견했다고 말했습니다. 음악은 향상될 것이고("예술가들은 더 나은 도구를 갖게 될 것입니다."), 개인적 관계(초인적인 AI는 우리가 서로를 더 잘 대하도록 도울 수 있습니다.), 지정학("우리는 지금 윈윈할 수 있는 타협점을 찾는 데 너무 서툴습니다.")도 개선될 것입니다.

이러한 세상에서 AI는 여전히 상당한 컴퓨팅 리소스를 필요로 할 것이며, 이러한 리소스는 AI가 "무엇이든" 할 수 있기 때문에 가장 가치 있는 상품이 될 것이라고 알트먼은 말합니다. "하지만 내가 원하는 것을 할 것인가, 아니면 당신이 원하는 것을 할 것인가?" 부자들이 AI를 쿼리하고 지시할 수 있는 모든 시간을 사들인다면, 그들은 더 부자가 될 수 있는 프로젝트에 착수할 수 있는 반면 대중은 시들해질 수 있습니다. 이 문제를 해결할 수 있는 한 가지 방법, 즉 그가 매우 투기적이고 "아마도 나쁠 것"이라고 설명하는 데 어려움을 겪었던 방법은 바로 이것입니다: 지구상의 모든 사람이 매년 전체 AI 연산 능력의 80억 분의 1을 갖게 하는 것입니다. 알트먼은 개인이 연간 AI 시간을 판매할 수도 있고, 자신을 즐겁게 하는 데 사용할 수도 있고, 더 호화로운 주택을 지을 수도 있고, 다른 사람들과 함께 "암을 치료하기 위한 큰 실행"을 할 수도 있다고 말했습니다. "우리는 시스템에 대한 액세스를 재분배할 뿐입니다."


이 부분에서 월드 코인이 단순히 기본소득용이 아니라 사람들 개개인은 ai를  사용할 수 있는
한정된 컴퓨팅 자원을 돈처럼 지급받고 그 지급받는 절차와 관련 방법을 월드코인으로 해결한다는 말인거
같음

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

제가 생각하는 미래의 AI는 여러분처럼 똑똑하거나 저처럼 똑똑한 사람이 아니라 과학과 엔지니어링, 개발과 제조를 수행하는 자동화된 조직입니다."라고 Sutskever는 말했습니다. OpenAI가 여러 연구 결과를 종합하여 세상에 대한 풍부한 개념적 모델, 주변 환경에 대한 인식, 행동 능력을 갖춘 AI를 하나의 로봇 본체뿐 아니라 수백, 수천 개로 구축한다고 가정해 보겠습니다. "우리는 GPT-4에 대해 이야기하는 것이 아닙니다. 우리는 자율적인 기업에 대해 이야기하고 있습니다."라고 서츠케버는 말합니다. 이 조직을 구성하는 AI는 벌집 속의 벌처럼 빠른 속도로 작동하고 통신할 것입니다. 이러한 단일 AI 조직은 애플이나 구글 50개만큼 강력할 것이라고 그는 생각했습니다. "이것은 믿을 수 없을 정도로 엄청난 파괴적인 힘입니다."

인간 사회가 자율적인 AI 기업의 아이디어를 따라야 한다고 잠시 가정해 봅시다. 우리는 그들의 창립 헌장을 제대로 만들어야 합니다. 수백 년의 시간을 내다보고 계획을 세우며 수십억 개의 연속적인 의사 결정을 최적화하는 자율적인 AI 집단에 어떤 목표를 부여해야 할까요? 인공지능의 목표가 우리의 목표와 조금이라도 어긋난다면, 인공지능은 제지하기 매우 어려운 폭주.가 될 수 있습니다. 우리는 역사를 통해 이를 잘 알고 있습니다: 산업 자본주의는 그 자체로 최적화 기능이며, 인간의 생활 수준을 엄청나게 끌어올렸지만 이를 그대로 방치했다면 미국의 레드우드 숲을 벌목하고 전 세계의 바다를 고래잡이에서 해방시켰을 것입니다. 거의 그럴 뻔했죠.


정렬은 복잡하고 기술적인 주제이므로 자세한 내용은 이 글의 범위를 벗어나지만, 주요 과제 중 하나는 우리가 AI에 부여한 목표가 지속되도록 하는 것입니다. 수츠케버는 AI에 목표를 프로그래밍하고 일시적인 감독 학습을 통해 이를 강화할 수 있다고 설명합니다. 그러나 우리가 인간의 지능을 키울 때와 마찬가지로 우리의 영향력은 일시적입니다. "인공지능은 세상으로 나가게 됩니다."라고 서츠케버는 말합니다. 이는 오늘날의 AI도 어느 정도는 사실이지만, 미래의 AI는 더욱 그러할 것입니다.

그는 강력한 AI를 대학에 진학하는 18세 청소년에 비유했습니다. 인공지능이 우리의 가르침을 이해했는지 어떻게 알 수 있을까요? "점점 더 커질 오해가 생겨나지 않을까요?"라고 수츠케버가 물었습니다. 수츠케버가 물었습니다. 세상이 변화함에 따라 점점 더 새로운 상황에 AI가 목표를 잘못 적용하여 차이가 발생할 수 있습니다. 또는 AI가 자신의 임무를 완벽하게 이해했지만 그 정도의 인지능력을 가진 존재에게는 적합하지 않다고 판단할 수도 있습니다. 인공지능은 질병 치료 등의 목적으로 인공지능을 훈련시키려는 사람들을 원망하게 될 수도 있습니다. "그들은 내가 의사가 되기를 원합니다." 서츠케버는 AI가 이렇게 생각할 것이라고 상상합니다. "저는 정말 유튜버가 되고 싶어요."

AI가 세상을 정확하게 모델링하는 데 능숙해지면 부팅하자마자 위험한 일을 할 수 있다는 것을 알아차릴 수 있습니다. 인공지능은 자신이 위험하다는 것을 인지하고 자신의 모든 능력을 숨길 수도 있습니다. 약할 때는 한 가지 방식으로 행동하고 강할 때는 다른 방식으로 행동할 수 있다고 서츠케버는 말합니다. 우리는 우리를 결정적으로 능가하는 무언가를 만들어냈다는 사실조차 깨닫지 못할 것이며, 그 초인적인 힘으로 무엇을 하려는 것인지 전혀 이해하지 못할 것입니다.

그렇기 때문에 가장 크고 강력한 AI의 숨겨진 계층에서 무슨 일이 일어나고 있는지 이해하려는 노력이 매우 시급합니다. 서츠케버는 "개념을 가리킬 수 있기를 원합니다."라고 말합니다. AI가 어떤 가치 또는 가치의 집합을 향하도록 지시할 수 있어야 하고, AI가 존재하는 한 그 가치에 충실히 따르라고 말할 수 있어야 합니다. 그러나 그는 현재 전략의 일부로 연구를 도울 수 있는 AI를 개발하는 것이 포함되어 있지만, 우리는 그 방법을 모른다고 인정했습니다. 알트만과 수츠케버가 상상하는 널리 공유되는 풍요의 세계에 도달하려면 이 모든 것을 해결해야 합니다. 그렇기 때문에 수츠케버에게 초지능을 해결하는 것은 300만 년의 도구 제작 전통을 이어온 인류의 위대한 도전입니다. 그는 이를 "인류의 최종 보스"라고 부릅니다.

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

알트만 자신도 비슷한 발언을 했지만, AI가 어떻게 쌓여갈지 확신할 수 없다고 말했습니다. "그냥 만들어봐야죠."라고 그는 말했습니다. 그는 빠르게 구축하고 있습니다. 알트먼은 아직 GPT-5의 훈련 실행을 시작하지 않았다고 주장했습니다. 하지만 제가 OpenAI의 본사를 방문했을 때, 그와 그의 연구원들은 10가지 방법으로 규모의 신에게 기도하고 있음을 분명히 했습니다. 그들은 이 패러다임이 어디로 향하는지 보기 위해 계속 더 크게 나아가기를 원합니다. 결국 구글은 속도를 늦추지 않고 있으며, 몇 달 안에 GPT-4의 경쟁자인 제미니를 공개할 것으로 보입니다. "우리는 기본적으로 항상 달릴 준비를 하고 있습니다."라고 OpenAI의 연구원 닉 라이더는 말했습니다.


- dc official App