[📪정보] (스압) OpenAI 2015~2019 메일 전문 번역

[익명(222.108)]

제목: 질문

샘 알트만에서 일론 머스크에게 - 2015년 5월 25일 오후 9:10

인류가 AI 개발을 막을 수 있을지에 대해 많이 생각해 봤습니다.

답은 거의 확실히 아니라고 생각합니다.

어쨌든 일어날 일이라면 구글 이외의 누군가가 먼저 하는 것이 좋을 것 같습니다.

YC가 AI를 위한 맨해튼 프로젝트를 시작하는 것이 좋을지에 대한 생각이 있으신가요? 제 생각에는 상위 ~50명을 모아서 작업할 수 있고, 기술은 일종의 비영리 단체를 통해 세상에 속하지만 작업하는 사람들은 성공하면 스타트업과 같은 보상을 받도록 구성할 수 있습니다. 물론 모든 규제를 준수하고 적극적으로 지원할 것입니다.

샘

일론 머스크에서 샘 알트만에게 - 2015년 5월 25일 오후 11:09

대화할 가치가 있을 것 같습니다.

샘 알트만에서 일론 머스크에게 - 2015년 6월 24일 오전 10:24

임무는 최초의 범용 AI를 만들고 개인의 역량 강화, 즉 가장 안전해 보이는 분산형 미래를 위해 사용하는 것입니다. 더 일반적으로 안전은 최우선 요구 사항이어야 합니다.

이상적으로는 7-10명으로 시작해서 거기서 확장하는 것이 좋을 것 같습니다. 마운틴 뷰에 좋은 여유 건물이 있어서 그들이 사용할 수 있습니다.

거버넌스 구조는 5명으로 시작하고 당신, 빌 게이츠, 피에르 오미디야르, 더스틴 모스코비츠, 그리고 저를 제안합니다. 기술은 재단 소유이고 "세상의 이익을 위해" 사용되며, 적용 방법이 명확하지 않은 경우 우리 5명이 결정합니다. 연구원들은 상당한 재정적 이득을 얻겠지만 그들이 만드는 것과는 관련이 없으므로 갈등이 일부 제거될 것입니다(경쟁력 있는 급여를 지급하고 YC 지분을 제공하여 이득을 얻을 수 있도록 할 것입니다). 오픈 소스로 공개해야 하는 작업과 그렇지 않은 작업에 대해 지속적으로 논의할 것입니다. 어느 시점에는 팀을 운영할 사람을 구해야 하지만 그 사람은 거버넌스 이사회에 속하지 않는 것이 좋습니다.

단순히 거버넌스 외에도 어떤 식으로든 참여하시겠습니까? 최고의 인재를 영입하고 작업 방향을 올바르게 설정하는 데 정말 도움이 될 것이라고 생각합니다. 이상적으로는 한 달에 한 번 정도 와서 진행 상황에 대해 이야기하는 것입니다. YC에서는 제한적으로 참여하는 사람들을 일반적으로 "파트타임 파트너"라고 부릅니다(예를 들어 피터 틸과 함께 그렇게 하지만 현재 그는 매우 적극적으로 참여하고 있습니다). 하지만 원하는 대로 부를 수 있습니다. 실제로 시간을 할애할 수는 없지만 공개적으로 지원할 수 있다면 인원 채용에 정말 도움이 될 것입니다.

규제 서한에 대한 올바른 계획은 이것이 시작될 때까지 기다렸다가 "이제 우리가 이것을 하고 있으니 안전을 위해 세상에 어떤 종류의 제약이 필요한지 많이 생각해 왔습니다."와 같은 메시지와 함께 공개하는 것이라고 생각합니다. 서명자에서 당신을 제외해도 괜찮습니다. 또한 공개되면 더 많은 사람들이 이를 지지할 것이라고 생각합니다.

샘

일론 머스크에서 샘 알트만에게 - 2015년 6월 24일 오후 11:05

모두 동의합니다.

제목: 통화 후속 조치

그렉 브록만에서 일론 머스크에게 (참조: 샘 알트만) - 2015년 11월 22일 오후 6:11

안녕하세요, 일론님

아까 통화해서 반가웠습니다.

전화에서 말씀드렸듯이 블로그 게시물의 최신 초안은 다음과 같습니다: https://quip.com/6YnqA26RJgKr. (샘, 일리아, 그리고 저는 새로운 이름을 생각하고 있습니다. 여러분의 의견을 듣고 싶습니다.)

분명히 변경해야 할 다른 세부 사항도 많지만 그런 종류의 메시징에 대해 어떻게 생각하시는지 궁금합니다. 저는 어떤 비판도 피하고 싶지 않으며, 옳다고 생각되면 더 강력한 메시지를 전달하는 데 거리낌이 없습니다. 우리의 메시징이 연구 커뮤니티(또는 적어도 채용하고 싶은 하위 집합)에 어필하는 것이 가장 중요하다고 생각합니다. 우리가 중립적인 그룹으로 이 분야에 진출하여 폭넓게 협력하고 특정 그룹이나 회사가 아닌 인류의 승리에 대한 대화로 전환하기를 바랍니다. (우리가 선도적인 연구 기관이 되기 위한 최선의 방법이라고 생각합니다.)

175,000달러의 급여가 포함된 제안서 템플릿을 첨부했습니다. 제가 사람들에게 보내는 이메일 템플릿은 다음과 같습니다.

YCR 공식 제안서가 첨부되어 있습니다! 편의에 따라 서명하고 날짜를 기입해 주세요. 두 개의 문서가 더 제공될 예정입니다.

YC 고문으로서의 보상으로 참석하는 각 YC 배치의 0.25%를 제공하는 별도의 서한.

의지에 따른 고용, 기밀 정보, 발명 양도 및 중재 계약

(이것이 우리가 처음으로 공식 제안을 하는 것이므로 과정에서 발생하는 모든 문제를 양해해 주시고 이상한 점이 있으면 알려주세요!)

다음과 같은 혜택을 제공할 계획입니다.

건강, 치과 및 시력 보험

연간 4주 권장과 함께 무제한 휴가

유급 육아 휴직

YC AI 업무를 발표하거나 YC AI의 참석 요청을 받은 경우 유급 회의 참석

비자 지원도 제공합니다. 비자 관련 질문에 대해 이야기할 준비가 되면 YC의 Kirsty에게 연락해 드리겠습니다.

질문이 있으면 언제든지 알려주세요. 언제든지 채팅할 수 있습니다! 함께 일하게 되기를 기대합니다 :).

gdb

제목: 초안 시작 단락

일론 머스크에서 샘 알트만에게 - 2015년 12월 8일 오전 9:29

초록 부분을 제대로 작성하는 것이 매우 중요합니다. 이 부분은 모두가 읽고 언론에서 주로 인용하는 부분입니다. 이번 발표의 핵심은 최고의 인재를 유치하는 것입니다. 그렉이 그걸 완전히 이해하고 있는지 확신할 수 없습니다.

---- OpenAI는 재정적 수익을 창출할 의무에 구애받지 않고 인류 전체에 가장 도움이 될 가능성이 높은 방식으로 디지털 지능을 발전시키는 것을 목표로 하는 비영리 인공 지능 연구 회사입니다.

우리 회사의 근본 철학은 자유의 정신에 따라 디지털 지능의 힘이 지나치게 집중되지 않고 인류 전체가 바라는 미래를 향해 발전하도록 모든 개인의 의지의 확장으로서 AI 기술을 가능한 한 광범위하게 전파하는 것입니다.

이 벤처의 결과는 불확실하고 다른 곳에서 제공하는 것에 비해 급여는 낮지만 목표와 구조는 옳다고 생각합니다. 이 분야 최고의 인재에게 가장 중요한 것은 이것이라고 생각합니다.

샘 알트만에서 일론 머스크에게 - 2015년 12월 8일 오전 10:34

이건 어때요?

__

OpenAI는 재정적 수익을 창출할 의무에 구애받지 않고 인류 전체에 가장 도움이 될 가능성이 높은 방식으로 디지털 지능을 발전시키는 것을 목표로 하는 비영리 인공 지능 연구 회사입니다.

재정적 의무가 없기 때문에 최대한의 긍정적인 인간적 영향에 집중하고 AI 기술을 가능한 한 광범위하게 전파할 수 있습니다. 우리는 AI가 개인의 의지의 확장이 되어야 하며, 자유의 정신에 따라 소수의 손에 집중되어서는 안 된다고 믿습니다.

이 벤처의 결과는 불확실하고 다른 곳에서 제공하는 것에 비해 급여는 낮지만 목표와 구조는 옳다고 생각합니다. 이 분야 최고의 인재에게 가장 중요한 것은 이것이라고 생각합니다.

제목: 방금 소식을 들었습니다...

샘 알트만에서 일론 머스크에게 - 2015년 12월 11일 오전 11:30

DeepMind가 내일 OpenAI의 모든 사람에게 엄청난 역제안을 해서 이를 무산시키려고 한다는 소식입니다.

모든 사람의 연봉을 1년에 10만~20만 달러씩 선제적으로 인상하는 것에 대해 이의가 있으신가요? 저는 그들이 여기서 임무에 동기를 부여받았다고 생각하지만, 시간이 지남에 따라 그들을 돌볼 것이라는 좋은 신호가 될 것입니다.

DeepMind가 이 문제에 대해 전쟁을 벌일 계획인 것 같습니다. 그들은 말 그대로 NIPS에서 사람들을 구석에 몰아넣고 있습니다.

일론 머스크에서 샘 알트만에게 - 2015년 12월 11일

일리야는 확실히 "예"라고 답했나요?

누군가 확신이 없는 것 같으면 저도 직접 전화할 의향이 있습니다. 엠마에게 이것이 저의 24시간 최우선 순위라고 말했습니다.

샘 알트만에서 일론 머스크에게 - 2015년 12월 11일 오후 12:15

네, 확실히 약속했습니다. 방금 약속했습니다.

일론 머스크에서 샘 알트만에게 - 2015년 12월 11일 오후 12:32

훌륭합니다.

샘 알트만에서 일론 머스크에게 - 2015년 12월 11일 오후 12:35

모두 기분이 좋다고 말합니다. "DeepMind 제안을 받아들이세요. 불행히도 그들은 '옳은 일을 하라'는 편이 아닙니다"와 같은 말을 합니다.

오후 1시 30분(PST)에 뉴스가 나옵니다.

제목: OpenAI 회사

일론 머스크에서 일리아 수츠케버, 파멜라 바가타, 비키 청, 디데릭 킹마, 안드레이 카파시, 존 D. 슐만, 트레버 블랙웰, 그렉 브록만에게 (참조: 샘 알트만) - 2015년 12월 11일 오후 4:41

훌륭한 시작을 축하합니다!

우리는 여러분이 잘 아는 조직에 비해 터무니없는 차이로 수적으로나 화력에서 불리하지만, 우리는 정의를 위해 싸우고 있으며 그것은 큰 의미가 있습니다. 저는 승산이 있다고 생각합니다.

우리의 가장 중요한 고려 사항은 최고의 인재를 영입하는 것입니다. 모든 회사의 결과물은 그 안에 있는 사람들의 벡터 합입니다. 시간이 지남에 따라 가장 재능 있는 사람들을 유치할 수 있고 우리의 방향이 올바르게 정렬되면 OpenAI는 성공할 것입니다.

이를 위해 누가 합류해야 할지 많이 생각해 보십시오. 채용이나 기타 다른 사항에 도움이 될 수 있다면 언제든지 도와드리겠습니다. 대학원이나 학부를 마치지 않았지만 분명히 뛰어난 사람들에게 주의를 기울일 것을 권장합니다. 그들이 돌파구를 마련하기 전에 합류시키는 것이 좋습니다.

함께 일하게 되기를 기대합니다.

일론

제목: 보상 체계

그렉 브록만에서 일론 머스크에게 (참조: 샘 알트만) - 2016년 2월 21일 오전 11:34

안녕하세요,

현재 설립 후 첫 번째 정규직 제안을 진행하고 있습니다. 그 함의가 매우 장기적이기 때문에 이러한 제안을 제대로 하는 것이 매우 중요합니다. 아직 여기서 스스로 결정을 내릴 준비가 되지 않았으며 무엇이든지 도움을 주시면 감사하겠습니다.

현재 진행 상황은 다음과 같습니다.

창립 팀: 연봉 $275,000 + YC 주.,식 25bps

또한 $125,000 연간 보너스 또는 YC 또는 SpaceX 주.,식으로 영구 전환할 수 있는 옵션이 있습니다. 아직 누가 이 옵션을 선택했는지는 모르겠습니다.

새로운 제안: 연봉 $175,000 + 연간 보너스 $125,000 또는 YC 또는 SpaceX 주.,식. 보너스는 성과 검토 대상이며, 0%를 받거나 100%보다 훨씬 많이 받을 수 있습니다.

특별 케이스: gdb + Ilya + Trevor

계획은 급여를 대부분 고정하고 보너스 배수를 실적이 우수한 직원에게 보상하는 방법으로 사용하는 것입니다.

참고 사항:

주.,식이 유동화되기까지 8년 동안 연간 20% 할인을 적용하며, $125,000 보너스는 YC의 12bps에 해당합니다. 따라서 최종 가치는 $750,000에 가깝습니다. 이 숫자는 훨씬 더 인상적으로 들리지만 정확하게 평가하기는 어렵습니다.

창립 팀에게는 처음에 각각 $175,000가 제공되었습니다. 연구소가 출범한 다음 날, 모든 사람의 연봉을 $100,000씩 선제적으로 인상하고, 연구소가 성공함에 따라 재정적으로 지원할 것이라고 말하고, 모든 역제안을 무시하고 우리가 그들을 돌볼 것이라고 믿겠다는 개인적인 약속을 요청했습니다.

현재 Brain의 Ian Goodfellow를 인터뷰하고 있으며, 그는 우리가 보유하지 않은 해당 분야의 상위 2명 과학자 중 한 명입니다(다른 한 명은 DeepMind의 충실한 직원인 Alex Graves). 그는 Brain에서 가장 뛰어난 사람이기 때문에 Google에서 그를 위해 싸울 것입니다. 우리는 그를 창립 팀 제안에 포함시키고 있습니다.

급여 데이터 포인트:

John은 DeepMind에서 연간 $250,000를 제안받았으며, 쉽게 $300,000까지 협상할 수 있다고 생각했습니다.

Wojciech는 FAIR에서 구두로 연간 ~$125만을 제안받았습니다(구체적인 서한은 없음).

Andrew Tulloch는 FB에서 연간 $800,000를 받고 있습니다. (많은 부분이 귀속되는 주.,식입니다.)

Ian Goodfellow는 현재 Google에서 현금 $165,000 + 주.,식 $600,000/년을 받고 있습니다.

Apple은 다소 절박하며 사람들에게 현금 $550,000(및 주.,식)를 제공하고 있습니다. 유능한 사람이 승낙한다고 생각하지 않습니다.

제가 염두에 두고 있는 두 명의 구체적인 후보자:

Andrew는 승낙할 가능성이 매우 높습니다. 그러나 그는 그렇게 큰 폭의 급여 삭감을 우려하고 있습니다.

Ian은 돈이 주된 관심사가 아니라고 말했지만, 베이 지역은 물가가 비싸고/집을 살 수 있는지 확인하고 싶어합니다. Google이 Ilya에게 제시한 숫자를 제시하기 시작하면 어떻게 될지 모르겠습니다.

제 즉각적인 질문은 다음과 같습니다.

Andrew가 협상을 시도할 것으로 예상합니다. 그의 제안을 고수하고, 그러한 급여 삭감을 감수할 만큼 충분히 흥분되는 경우에만 참여하도록(그리고 다른 사람들은 더 많은 것을 포기했다고) 말해야 할까요?

Ian은 수요일에 인터뷰를 하고 제안을 받을 것입니다. 그의 제안을 최종적인 것으로 간주해야 할까요, 아니면 Google의 제안에 따라 변경할 의향이 있을까요?

1 + 2에 대한 답변에 따라 이 고정 전략이 합리적인지 궁금합니다. 이 전략을 유지한다면 보너스 배수를 사람들에게 적극적으로 홍보해야 할 것 같습니다. 한 가지 옵션은 계약 보너스를 사람들이 계약하도록 유인하는 수단으로 사용하는 것입니다.

매우 부차적인 문제이지만 인턴 보상도 시장보다 낮습니다. 월 $9,000. (FB는 $9,000 + 무료 숙소를 제공하고, Google은 약 $11,000/월을 제공합니다.) 경험이 중요하기 때문에 보상은 정규직보다 인턴에게 훨씬 덜 중요합니다. 하지만 이 때문에 아슬아슬하게 후보자를 놓쳤을 수도 있다고 생각합니다. 정규직보다 시간당 금액이 훨씬 낮다는 점을 감안할 때 금액 인상을 고려해야 할까요?

언제든지 이 문제에 대해 이야기할 수 있습니다.

gdb

일론 머스크에서 그렉 브록만에게 (참조: 샘 알트만) - 2016년 2월 22일 오전 12:09

최고의 인재를 확보하기 위해 필요한 조치를 취해야 합니다. 더 높은 금액을 제시합시다. 어느 시점에 기존 직원의 급여를 재검토해야 한다면 괜찮습니다.

세계 최고의 인재를 확보하거나 DeepMind에 패배할 것입니다.

뛰어난 인재를 영입하기 위해 필요한 모든 조치는 저에게 괜찮습니다.

DeepMind는 저에게 극심한 정신적 스트레스를 유발하고 있습니다. 그들이 승리한다면 세상을 지배하는 단일 마음 철학으로 정말 나쁜 소식이 될 것입니다. 그들은 분명히 큰 진전을 이루고 있으며, 그곳의 인재 수준을 감안할 때 당연히 그래야 합니다.

그렉 브록만에서 일론 머스크에게 (참조: 샘 알트만) - 2016년 2월 22일 오전 12:21

잘 알겠습니다. 계획처럼 들립니다. 세부 사항에 대해서는 sama와 계속 협력할 계획이지만 계속 알려드리겠습니다.

gdb

제목: 유선 기사

그렉 브록만에서 일론 머스크에게 (참조: 샘 텔러) - 2016년 3월 21일 오전 12:53

안녕하세요, 일론님

저는 OpenAI에 대한 Wired 기사 인터뷰를 받았고, 사실 확인 담당자가 몇 가지 질문을 보냈습니다. 특히 두 가지 질문에 대해 여러분과 동기화하여 합리적이고/여러분이 말씀하시는 것과 일치하는지 확인하고 싶었습니다.

OpenAI가 모든 연구를 공개한다고 말하는 것이 정확할까요?

우리는 언제든지 세상에 가장 큰 도움이 될 가능성이 높은 조치를 취할 것입니다. 단기적으로는 연구 결과를 공개하는 것이 최선의 접근 방식이라고 생각합니다. 하지만 장기적으로는 이것이 최선의 접근 방식이 아닐 수도 있습니다. 예를 들어 잠재적으로 위험한 기술을 즉시 공유하지 않는 것이 좋을 수도 있습니다. 어떤 경우든 우리는 모든 연구의 모든 이점을 공개할 것이며, 그 이점이 특정 기관이 아닌 세상에 귀속되기를 바랍니다.

OpenAI는 가능한 한 많은 사람이 가능한 한 정교한 AI를 얻는 것이 악의적인 목적으로 세상에 자신을 풀어줄 방법을 찾을 수 있는 너무 똑똑한 AI를 개인이 소유하는 것을 방지할 수 있는 인류의 최선의 기회라고 생각합니까?

AI를 사용하여 개인의 의지를 확장하는 것이 AI가 유익한 상태로 유지되도록 하는 가장 유망한 방법이라고 생각합니다. 이는 동일한 역량을 가진 에이전트가 많으면 나쁜 행위자를 견제할 수 있기 때문에 매력적입니다. 하지만 우리가 모든 답을 가지고 있다고 주장하지는 않겠습니다. 대신, 우리는 그러한 답을 찾고 답이 무엇이든 최선의 조치를 취할 수 있는 조직을 구축하고 있습니다.

감사합니다!

gdb

일론 머스크에서 그렉 브록만에게 (참조: 샘 텔러) - 2016년 3월 21일 오전 6:53:47

좋습니다.

제목: Re: Maureen Dowd

샘 텔러가 Alex Thompson으로부터 이 이메일을 받아 일론 머스크에게 전달 - 2016년 4월 27일 오전 7:25

안녕하세요, 샘님

좋은 하루 보내시기 바라며, 또 다른 질문으로 방해해서 죄송합니다. Maureen은 머스크 씨가 인터뷰 이후 저커버그 씨의 공개 발언에 대해 어떤 반응을 보였는지 알고 싶어했습니다. 특히 AI에 대한 머스크 씨의 두려움을 "히스테리"라고 부르고 AI의 위험에 대해 "공포를 조장"하는 사람들을 비난한 것에 대한 반응입니다. 저커버그 씨의 발언에 대한 자세한 내용은 아래에 포함되어 있습니다.

최근 독일에서 머스크의 예감에 대해 질문을 받은 저커버그는 이를 "히스테리"라고 부르고 AI의 발전을 칭찬했으며, 그중 하나는 "최고의 피부과 전문의"의 정확도로 휴대전화에서 피부 병변에 대한 암 진단을 내릴 수 있는 시스템이라고 주장했습니다.

"우리가 정말 뭔가를 망치지 않는 한" 기계는 항상 "초인적인" 존재가 아닌 복종적인 존재일 것이라고 그는 말했습니다.

"우리는 AI가 우리를 위해 작동하고 우리를 도울 수 있도록 구축할 수 있다고 생각합니다... 어떤 사람들은 AI가 큰 위험이라고 두려워하지만, 저는 그것은 터무니없는 것처럼 보이며 광범위한 질병, 폭력 등으로 인한 재난보다 훨씬 가능성이 낮습니다." 또는 4월 Facebook 개발자 컨퍼런스에서 그의 철학을 다음과 같이 표현했습니다. ""두려움보다 희망을 선택하세요.""

--

Alex Thompson

뉴욕 타임즈

일론 머스크에서 샘 텔러에게 - 2016년 4월 27일 오후 12:24

역사는 강력한 기술이 양날의 검임을 명백히 보여줍니다. 모든 기술 중에서 가장 강력하다고 할 수 있는 AI에 단 하나의 날만 있다고 가정하는 것은 어리석은 일입니다.

최근 Microsoft의 AI 챗봇 사례는 얼마나 빨리 믿을 수 없을 정도로 부정적으로 변할 수 있는지 보여줍니다. 현명한 행동 방침은 AI의 도래에 신중하게 접근하고 그 힘이 어느 한 회사나 개인에 의해 통제되지 않고 널리 분산되도록 하는 것입니다.

그것이 바로 우리가 OpenAI를 만든 이유입니다.

제목: MSFT 호스팅 계약

샘 알트만에서 일론 머스크에게 (참조: 샘 텔러) - 2016년 9월 16일 오후 2:37

MSFT 조건은 다음과 같습니다. $1,000만에 $6,000만 상당의 컴퓨팅 파워를 제공하고, 클라우드에 배포하는 것에 대한 의견을 제공합니다. 의견이 있으면 알려주세요.

샘

Microsoft/OpenAI 조건[2]

일론 머스크에서 샘 알트만에게 (참조: 샘 텔러) - 2016년 9월 16일 오후 3:10

이것은 사실 저를 메스껍게 만들었습니다. 끔찍하고 그들에게서 정확히 예상했던 것입니다.

CNTK v2, Azure Batch 및 HD-Insight의 평가, 홍보 및 사용: OpenAI는 연구를 위해 CNTK v2, Azure Batch 및 HD-Insight를 평가하고 Microsoft가 이러한 제품을 개선할 수 있는 방법에 대한 피드백을 제공합니다. OpenAI는 Microsoft와 협력하여 연구 및 개발자 생태계에 이러한 제품을 홍보하고 Microsoft Azure를 선호하는 퍼블릭 클라우드 공급자로 홍보합니다. OpenAI는 자체 재량에 따라 연구에 적합하다고 판단되는 경우 이러한 제품을 채택합니다.

Microsoft가 OpenAI에 여분의 컴퓨팅 시간을 기부하고 이를 알리도록 하겠다고 말씀드리지만, 어떤 계약도 하거나 "홍보"에 동의하고 싶지는 않습니다. 그들은 언제든지 우리를 차단할 수 있고 우리는 언제든지 떠날 수 있습니다.

샘 알트만에서 일론 머스크에게 (참조: 샘 텔러) - 2016년 9월 16일 오후 3:33

저도 그 부분을 읽고 같은 반응을 보였고, 그들은 이미 포기하기로 동의했습니다.

우리는 원래 공간 주기를 기부받고 싶었지만 팀은 용량이 확실히 확보되기를 원했습니다. 하지만 MSFT와 협력하여 어떤 조건도 없도록 하겠습니다.

일론 머스크에서 샘 알트만에게 (참조: 샘 텔러) - 2016년 9월 16일

우리는 이것을 조용히 해야 합니다. 어느 쪽도 확실하지 않습니다. 계약도 없습니다.

샘 알트만에서 일론 머스크에게 (참조: 샘 텔러) - 2016년 9월 16일 오후 6:45

알겠습니다. 그 방향으로 얼마나 많은 돈을 얻을 수 있는지 알아보겠습니다.

샘 텔러에서 일론 머스크에게 - 2016년 9월 20일 오후 8:05

Microsoft는 이제 "OpenAI의 자체 재량에 따른 선의의 노력"과 언제든지 상호 해지 권한을 포함하여 $5,000만에 계약을 체결할 의향이 있습니다. 홍보도 없습니다. 조건도 없습니다. 초라한 Microsoft 마케팅 졸개처럼 보이지 않습니다. 진행해도 될까요?

일론 머스크에서 샘 텔러에게 - 2016년 9월 21일 오전 12:09

그들이 이것을 적극적인 메시징에 사용하지 않는다면 저는 괜찮습니다. Microsoft의 마케팅 노예처럼 보이지 않는 것은 $5,000만보다 훨씬 더 가치가 있을 것입니다.

제목: 격주 업데이트

일리아 수츠케버에서 일론 머스크, 그렉 브록만에게 - 2017년 7월 20일 오후 1:56

로봇 손이 이제 시뮬레이션에서 루빅스 큐브를 풀 수 있습니다.

https://drive.google.com/a/openai.com/file/d/0B60rCy4P2FOIenlLdzN2LXdiOTQ/view?usp=sharing (OpenAI 로그인 필요)

실제 로봇은 9월에 동일한 작업을 수행할 것입니다.

1대1 봇은 더 이상 악용할 수 없습니다.

"비전통적인" 전략을 사용하여 더 이상 이길 수 없습니다.

1개월 내에 모든 인간을 이길 예정입니다.

운동 경쟁 로봇:

https://drive.google.com/a/openai.com/file/d/0B60rCy4P2FOIZE4wNVdlbkx6U2M/view?usp=sharing (OpenAI 로그인 필요)

모든 각도에서 카메라를 속이는 적대적 사례를 공개했습니다.

https://blog.openai.com/robust-adversarial-inputs/

DeepMind는 파쿠르 결과를 생성하기 위해 우리의 알고리즘 중 하나를 직접 사용했습니다.

DeepMind의 결과: https://deepmind.com/blog/producing-flexible-behaviourssimulated-environments/

DeepMind의 기술 논문에서는 우리의 알고리즘을 직접 사용했다고 명시적으로 언급합니다.

우리의 알고리즘에 대한 블로그 게시물: https://blog.openai.com/openai-baselines-ppo/ (DeepMind는 이전 버전을 사용했습니다).

예정 사항:

영리 구조 설계

Cerebras와의 합병 조건 협상

Cerebras에 대한 추가 실사

제목: OpenAI 메모

시본 질리스에서 일론 머스크에게 (참조: 샘 텔러) - 2017년 8월 28일 오전 12:01

일론님,

말씀드렸듯이 그렉이 이번 주말에 몇 가지 사항에 대해 이야기하고 싶다고 했습니다. 일리아도 결국 합류했고, 그들은 여전히 생각하고 있는 모든 것을 공유했습니다. 이것은 그 대화의 무작위적인 흐름을 정리한 것입니다... 아래에 설명과 함께 7가지 미해결 질문으로 요약됩니다. 참고로 저는 이 중 어떤 것도 지지하는 것이 아니라 제가 들은 정보를 구성하고 공유하는 것뿐입니다.

단기 통제 구조는 어떻게 되나요?

절대적인 통제가 필요한가요? 말 그대로 다른 모든 사람(단순히 세 사람뿐만 아니라 더 넓은 이사회)이 방향에 동의하지 않는 경우 일종의 창의적인 기각 조항이 있을 수 있는 시나리오가 있는지 궁금합니다.

통제 기간과 전환은 어떻게 되나요?

협상 불가능한 사항은 AGI가 생성된 경우 어떤 한 사람도 AGI를 절대적으로 통제하지 않는다는 확고한 합의인 것 같습니다. 이를 충족하려면 세 사람에게 무슨 일이 일어나든 관계없이 초기 2~3년 기간 이후에 회사에 대한 권한이 분산된다는 보장이 필요합니다.

소요 시간은 어떻게 되나요?

일론님은 이 일에 얼마나 많은 시간을 할애하고 싶으시고, 실제로 얼마나 많은 시간을 할애할 수 있나요? 어떤 기간 내에요? 일주일에 한 시간, 열 시간, 그 사이 어딘가요?

소요 시간은 어떻게 사용하나요?

그들은 일론님이 다른 회사에서 시간을 어떻게 보내는 것을 선호하고 이 일에 시간을 어떻게 보내고 싶어하는지 잘 모릅니다. 그렉과 일리아는 SW/ML 측면을 잘 구축할 수 있다고 확신합니다. 그들은 하드웨어 측면에서는 확신하지 못합니다. 그들은 일론님이 그들이 약한 부분이기 때문에 그 부분에 시간을 할애해 주기를 바라는 것 같았지만, 그가 관심 있는 모든 분야에서 그의 도움을 원했습니다.

소요 시간 대비 통제량의 비율은 어떻게 되나요?

그들은 시간이 적게 소요되고 통제량도 적은 것, 시간이 많이 소요되고 통제량도 많은 것에는 괜찮지만 시간이 적게 소요되고 통제량이 많은 것은 원하지 않습니다. 그들은 시간이 너무 적게 소요되면 올바른 결정을 내리기 위해 관련 맥락 정보를 논의할 시간이 충분하지 않을까 우려합니다.

지분 분할은 어떻게 되나요?

그렉은 여전히 본능적으로 동일한 분할을 고수하고 있습니다. 저는 개인적으로 그의 본능에 동의하지 않으며, 그는 자신의 생각을 재조정하는 데 사용할 수 있는 다른 것들을 듣고 싶어했고, 기꺼이 들었습니다.

그렉은 일리아가 어떤 면에서는 Google에서 자신의 수입 잠재력을 포기함으로써 수백만 달러를 기여했다고 언급했습니다.

그들이 우려하는 한 가지는 제안된 직원 풀이 너무 작다는 것이었습니다.

자본 조달 전략은 어떻게 되나요?

그들의 본능은 처음부터 $1억 이상을 모으는 것입니다. 그들은 필요한 데이터 센터만 해도 그 정도의 비용이 들 것이라고 생각하기 때문에 더 많은 금액을 모으는 것이 더 편안하다고 생각합니다.

결론:

이 중 어떤 것도 받아들일 수 있는지 확실하지 않지만, 그들이 제시한 모든 데이터 포인트를 들어보면 다음과 같은 사항이 현재의 난점을 해결할 것입니다.

거의 완전한 통제권을 가지고 일주일에 5~10시간을 소요하거나, 시간을 줄이고 통제권도 줄입니다.

그렉/샘/일리아뿐만 아니라 극단적인 시나리오에 대한 창의적인 단기 재정의 권한을 갖습니다.

그렉/샘/일리아의 운명에 관계없이 확고한 2~3년 소수 지분 통제 계약을 체결합니다.

초기 자금 $2억~$10억.

그렉과 일리아의 지분은 일론의 1/10보다 높지만 크게 높지는 않습니다(이 부분은 여전히 가장 모호합니다).

직원 풀을 늘립니다.

일론 머스크에서 시본 질리스에게 (참조: 샘 텔러) - 2017년 8월 28일 오전 12:08

이건 정말 짜증나네요. 그들에게 회사를 차리라고 하세요. 저는 이제 질렸습니다.

제목: 솔직한 생각

일리아 수츠케버에서 일론 머스크, 샘 알트만에게 (참조: 그렉 브록만, 샘 텔러, 시본 질리스) - 2017년 9월 20일 오후 2:08

일론님, 샘님,

이 과정은 그렉과 제가 참여했던 대화 중 가장 중요한 대화였으며, 프로젝트가 성공한다면 세상에서 가장 중요한 대화였음이 드러날 것입니다. 또한 우리 모두에게 매우 개인적인 대화이기도 했습니다.

어제 권유 금지 계약을 감안하여 최종 약속을 할지 고려하던 중 우리가 실수를 저질렀다는 것을 깨달았습니다. 두 분께 제기하지 않은 중요한 우려 사항이 몇 가지 있습니다. 관계를 해치거나, 두 분이 우리를 덜 생각하거나, 파트너로서 두 분을 잃을까 두려워서 제기하지 않았습니다.

우리의 우려 사항이 해결 불가능한 것으로 판명될 가능성이 있습니다. 그렇지 않기를 바라지만, 지금 당장 논의하지 않으면 확실히 실패할 것이라는 것을 알고 있습니다. 그리고 우리는 이 문제를 해결하고 계속 함께 일할 수 있다는 희망을 가지고 있습니다.

일론님께:

저희는 정말로 당신과 함께 일하고 싶습니다. 우리가 힘을 합치면 임무 성공 가능성이 가장 높다고 생각합니다. 우리의 상승 가능성이 가장 높습니다. 그 점에는 의심의 여지가 없습니다. 당신과 함께 일하고 싶은 마음이 너무 커서 지분, 개인적 통제권을 포기하고, 쉽게 해고될 수 있도록 하겠습니다. 당신과 함께 일하기 위해 무엇이든 하겠습니다.

하지만 통제가 세상에 미치는 영향에 대해 생각하는 데 부주의했다는 것을 깨달았습니다. 너무 자만심이 강해서 성공의 의미를 진지하게 고려하지 않았습니다.

현재 구조는 당신이 AGI에 대한 일방적인 절대적 통제권을 갖게 되는 길을 제공합니다. 당신은 최종 AGI를 통제하고 싶지 않다고 말했지만, 이 협상 과정에서 당신에게 절대적 통제가 매우 중요하다는 것을 보여주었습니다.

예를 들어, 당신은 CEO가 되는 것을 싫어하고 CEO가 되고 싶지 않다고 말했지만, 모두가 당신이 책임자라는 것을 알 수 있도록 새 회사의 CEO가 되어야 한다고 말했습니다.

따라서 회사가 AGI를 향해 진정한 진전을 이루면서 현재의 의도와는 반대로 회사에 대한 절대적 통제권을 유지하기로 선택할까 우려됩니다. 회사가 실제로 AGI를 향해 나아가고 있으면 회사는 어떤 개인보다 훨씬 더 중요하기 때문에 떠날 수 있는 우리의 능력이 우리의 가장 큰 힘이라는 당신의 말에 동의하지 않습니다.

OpenAI의 목표는 미래를 좋게 만들고 AGI 독재를 피하는 것입니다. 당신은 Demis가 AGI 독재를 만들까 우려하고 있습니다. 우리도 마찬가지입니다. 따라서 특히 이러한 가능성을 피할 수 있는 다른 구조를 만들 수 있다는 점을 감안할 때 당신이 원한다면 독재자가 될 수 있는 구조를 만드는 것은 좋지 않은 생각입니다.

몇 가지 작은 우려 사항이 있지만 여기서 언급하는 것이 좋을 것 같습니다.

Cerebras를 인수하기로 결정할 경우 Tesla를 통해 인수할 것이라는 강한 예감이 듭니다. 하지만 OpenAI 내에서도 인수할 수 있다면 왜 이런 식으로 해야 할까요? 구체적으로 Tesla는 주주 수익을 극대화해야 할 주주에 대한 의무가 있으며, 이는 OpenAI의 임무와 일치하지 않습니다. 따라서 전체적인 결과가 OpenAI에 최적이 아닐 수 있습니다.

비영리 OpenAI는 당신과 샘이 모두 참여했기 때문에 성공했다고 생각합니다. 샘은 당신에 대한 진정한 균형추 역할을 했고, 이는 매우 유익했습니다. 그렉과 저는 적어도 지금까지는 당신에 대한 균형추 역할을 훨씬 못합니다. 이 협상에서도 샘이 자신의 입장을 고수하는 동안 우리는 장기적인 AGI 통제 문제를 덮어두려고 했던 것에서도 알 수 있습니다.

샘님께:

그렉과 제가 곤경에 처했을 때 항상 깊고 정확한 답을 주셨습니다. 이 문제에 대한 해결책을 매우 깊이 있고 철저하게 생각해 오셨습니다. 그렉과 저는 기술적 실행은 이해하지만 다음 달, 다음 해 또는 5년 동안 구조적 결정이 어떻게 전개될지는 모릅니다.

하지만 이 과정 전반에 걸쳐 당신의 비용 함수를 이해할 수 없었기 때문에 당신의 판단을 완전히 신뢰할 수 없었습니다.

우리는 왜 CEO 직함이 당신에게 그렇게 중요한지 이해할 수 없습니다. 당신이 말한 이유는 바뀌었고, 무엇이 당신을 이끄는지 정말 이해하기 어렵습니다.

AGI가 정말로 당신의 주된 동기인가요? 당신의 정치적 목표와 어떻게 연결되나요? 시간이 지남에 따라 당신의 사고 과정은 어떻게 변했나요?

그렉과 일리아에게:

우리는 이 협상에서 우리 자신의 잘못을 충분히 인정했고, 여기에 그 중 일부를 나열하겠습니다(일론과 샘, 분명히 덧붙일 말이 많을 것입니다...):

이 협상 과정에서 2~3년 후의 재정적 수익이라는 생각이 우리의 결정을 좌우하도록 내버려 두었다는 것을 깨달았습니다. 우리의 지분이 충분히 좋으니 왜 걱정해야 할까요? 하지만 이러한 태도는 AGI를 만들 것이라고 생각하지 않기 때문에 AI 안전이 문제라고 생각하지 않는 AI 전문가의 태도와 마찬가지로 잘못된 것입니다.

협상 중에 우리의 진실을 완전히 말하지 않았습니다. 변명의 여지는 있지만, 그것은 과정에 해로웠고, 그 결과 샘과 일론을 모두 잃을 수도 있습니다.

여기에는 우리가 만나서 이야기해야 한다고 생각할 만큼 충분한 문제가 있습니다. 우리가 협력하지 않으면 성공할 수 없습니다. 오늘 우리 네 명이 만날 수 있을까요? 우리 모두가 진실을 말하고 문제를 해결한다면 우리가 만들 회사는 앞으로 경험하게 될 매우 강력한 힘을 훨씬 더 잘 견뎌낼 수 있을 것입니다.

그렉 & 일리아

일론 머스크에서 일리아 수츠케버에게 (참조: 샘 알트만, 그렉 브록만, 샘 텔러, 시본 질리스) - 2017년 9월 20일 오후 2:17

여러분, 저는 이제 질렸습니다. 이게 마지막입니다. 스스로 뭔가를 하거나 OpenAI를 비영리 단체로 계속 운영하세요. 여러분이 남겠다는 확고한 약속을 하거나 제가 여러분이 스타트업을 만드는 데 무료로 자금을 지원하는 바보가 될 때까지 더 이상 OpenAI에 자금을 지원하지 않겠습니다. 논의는 끝났습니다.

일론 머스크에서 일리아 수츠케버, 샘 알트만에게 (참조: 그렉 브록만, 샘 텔러, 시본 질리스) - 2017년 9월 20일 오후 3:08

분명히 말씀드리지만, 이것은 이전에 논의된 내용을 받아들이라는 최후통첩이 아닙니다. 그것은 더 이상 논의 대상이 아닙니다.

샘 알트만에서 일론 머스크, 일리아 수츠케버에게 (참조: 그렉 브록만, 샘 텔러, 시본 질리스) - 2017년 9월 21일 오전 9:17

저는 비영리 구조에 대해 여전히 열정적입니다!

제목: 비영리

시본 질리스에서 일론 머스크에게 (참조: 샘 텔러) - 2017년 9월 22일 오전 9:50

안녕하세요, 일론님

그렉과 일리아가 비영리 구조를 계속 유지하고 싶다고 말했다는 사실을 알려드립니다. 그들은 비영리 구조를 유지하려면 다른 일을 하러 떠나지 않겠다는 보장을 해야 한다는 것을 알고 있습니다.

아직 알트만과 이야기하지 않았지만 오늘 오후에 이야기하자고 했으니 듣는 대로 보고하겠습니다.

도움이 필요한 일이 있으면 알려주세요.

일론 머스크에서 시본 질리스에게 (참조: 샘 텔러) - 2017년 9월 22일 오전 10:01

알겠습니다.

시본 질리스에서 일론 머스크에게 (참조: 샘 텔러) - 2017년 9월 22일 오후 5:54

알트만으로부터:

구조: 비영리 단체를 유지하고 계속 지원하는 데 큰 도움이 됩니다.

신뢰: 이 과정을 통해 그렉과 일리아에 대한 신뢰를 많이 잃었다는 것을 인정했습니다. 그들의 메시지가 일관성이 없고 때때로 유치하다고 느꼈습니다.

휴식: 샘은 그렉과 일리아에게 생각할 시간을 갖기 위해 10일 동안 자리를 비워야 한다고 말했습니다. 그들을 얼마나 신뢰할 수 있는지, 그들과 얼마나 많은 시간을 함께 일하고 싶은지 알아내야 합니다. 그 후에 돌아와서 얼마나 많은 시간을 할애하고 싶은지 알아보겠다고 말했습니다.

모금: 그렉과 일리아는 확실한 노력을 기울이면 기부금으로 수억 달러를 모을 수 있다고 생각합니다. 샘은 수천만 달러를 모을 수 있는 확실한 방법이 있다고 생각하지만 더 많은 금액은 미정입니다. 그는 OpenAI가 비영리 단체로 남아 있다면 Holden이 영리 단체로의 전환에 짜증을 냈고 잠재적으로 더 많은 금액을 제안했지만 확실하게 약속하지는 않았다고 언급했습니다. 샘은 그런 일이 일어난다면 $1억이라는 수치를 제시했습니다.

소통: 샘은 그렉과 일리아가 과정이 진행됨에 따라 전체 팀에게 얼마나 많은 일을 알리는지에 대해 걱정했습니다. 팀의 집중력을 분산시키는 것 같았습니다. 반면에 지난날 거의 모든 사람에게 영리 구조가 실현되지 않을 것이라는 말을 들었고, 그는 적어도 팀이 다시 집중하기를 바라기 때문에 이에 대해 기뻐하고 있습니다.

시본

제목: ICO

샘 알트만에서 일론 머스크에게 (참조: 그렉 브록만, 일리아 수츠케버, 샘 텔러, 시본 질리스) - 2018년 1월 21일 오후 5:08

일론님께,

안전 팀과 이야기를 나눴는데 ICO와 향후 발생할 수 있는 의도치 않은 영향에 대한 우려가 많았습니다.

내일 전체 팀과 이야기하고 의견을 구할 계획입니다. 기밀 유지의 필요성을 강조할 예정이지만, 우리가 지지를 얻고 사람들에게 조기에 의견을 제시할 기회를 주는 것이 정말 중요하다고 생각합니다.

샘

일론 머스크에서 샘 알트만에게 (참조: 그렉 브록만, 일리아 수츠케버, 샘 텔러, 시본 질리스) - 2018년 1월 21일 오후 5:56

물론입니다.

제목: 오늘날 최고의 AI 기관

안드레이 카파시에서 일론 머스크에게 (참조: 시본 질리스) - 2018년 1월 31일 오후 1:20

ICLR 컨퍼런스(최고의 딥러닝 전문 컨퍼런스(NIPS가 더 크지만 더 분산되어 있음))에서 채택/거부된 논문에 대한 결정을 발표했고, 누군가가 현재 딥러닝/AI 연구가 어디에서 이루어지고 있는지 보여주는 멋진 플롯을 만들었습니다. 모든 회사가 논문 발표를 우선시하는 것은 아니기 때문에 완벽한 척도는 아니지만, 시사하는 바가 있습니다.

다음은 모든 기관의 논문 총 수(구두/포스터/워크숍/거부로 분류)를 보여주는 플롯입니다.

요컨대 Google은 83편의 논문을 제출하여 우위를 점하고 있습니다. 학술 기관(버클리/스탠퍼드/CMU/MIT)이 그 다음이며, 각각 20~30편입니다.

오늘날 모든 활동이 어디에서 이루어지고 있는지 보여주는 흥미로운 스냅샷이라고 생각했습니다. 전체 데이터는 여기에서 확인할 수 있습니다. http://webia.lip6.fr/~pajot/dataviz.html

-안드레이

일론 머스크에서 그렉 브록만, 일리아 수츠케버, 샘 알트만에게 (참조: 샘 텔러, 시본 질리스, 전달: 안드레이 카파시) - 2018년 1월 31일 오후 2:02

OpenAI는 Google에 비해 확실히 실패하는 길을 걷고 있습니다. Google을 제외한 모든 사람이 무의미한 존재로 전락하지 않으려면 즉각적이고 극적인 조치가 필요합니다.

저는 ICO 접근 방식을 고려했지만 지지하지 않을 것입니다. 제 생각에는 그것은 단순히 OpenAI와 ICO와 관련된 모든 사람의 신뢰도를 크게 떨어뜨릴 뿐입니다. 너무 좋아 보이는 것은 사실이 아닙니다. 제 생각에는 이것은 현명하지 못한 일탈이었습니다.

제가 생각할 수 있는 유일한 방법은 OpenAI와 Tesla AI를 대폭 확장하는 것입니다. 아마도 동시에 둘 다 확장하는 것입니다. 전자는 기부금을 대폭 늘리고 매우 신뢰할 수 있는 사람들이 이사회에 합류해야 합니다. 현재 이사회 상황은 매우 취약합니다.

내일 이야기할 시간을 정하겠습니다. 분명히 말씀드리지만 저는 여러분의 능력과 업적을 존중하지만, 상황이 관리되는 방식에 만족하지 못합니다. 그래서 최근 몇 달 동안 OpenAI에 참여하는 데 어려움을 겪었습니다. 문제를 해결하고 제 참여가 많이 늘어나거나 그렇지 않으면 거의 0으로 떨어지고 공개적으로 제 관계를 줄이겠습니다. 저는 제 영향력과 시간에 대한 인식이 현실과 일치하지 않는 상황에 처하고 싶지 않습니다.

일론 머스크에서 안드레이 카파시에게 - 2018년 1월 31일 오후 2:07

참고하세요.

어떤 것이 합리적이라고 생각하시나요? 전화 통화가 더 좋다면 기꺼이 통화하겠습니다.

안드레이 카파시에서 일론 머스크에게 - 2018년 1월 31일 오후 11:54

AI의 최첨단에서 일하는 것은 안타깝게도 비용이 많이 듭니다. 예를 들어 DeepMind의 2016년 운영 비용은 약 $2억 5천만 달러였습니다(컴퓨팅 비용 제외). 오늘날 팀이 성장하고 있는 것을 감안하면 연간 ~$5억일 수 있습니다. 하지만 Alphabet은 2016년에 ~$200억의 순이익을 보고했으므로 DeepMind에 자체 수익이 없더라도 여전히 상당히 저렴합니다. DeepMind 외에도 Google에는 Google Brain, Research 및 Cloud가 있습니다. 그리고 TensorFlow, TPU, 그리고 그들은 모든 연구의 약 3분의 1을 소유하고 있습니다(사실 그들은 자체 AI 컨퍼런스를 개최합니다).

또한 AGI에 도달하려면 컴퓨팅 성능이 필수적이며 심지어 충분할 수도 있다고 강하게 의심합니다. 과거 추세를 보면 AI의 발전은 주로 시스템(컴퓨팅, 데이터, 인프라)에 의해 주도됩니다. 오늘날 우리가 사용하는 핵심 알고리즘은 ~90년대 이후 거의 변하지 않았습니다. 뿐만 아니라 어딘가에 발표된 알고리즘 발전은 거의 즉시 다시 구현하고 통합할 수 있습니다. 반대로 알고리즘 발전만으로는 무서운 알고리즘을 만들 수 있는 규모가 없으면 아무 소용이 없습니다.

제 생각에는 OpenAI는 현재 현금을 소진하고 있으며 자금 조달 모델은 Google(8,000억 달러 규모의 회사)과 진지하게 경쟁할 수 있는 규모에 도달할 수 없습니다. 진지하게 경쟁할 수는 없지만 공개적으로 연구를 계속한다면 실제로 상황을 악화시키고 "무료로" 도울 수 있습니다. 왜냐하면 모든 발전을 Google에서 쉽게 복사하여 즉시 대규모로 통합할 수 있기 때문입니다.

영리 기업으로의 전환은 시간이 지남에 따라 더 지속 가능한 수익 흐름을 창출할 수 있으며, 현재 팀과 함께 많은 투자를 유치할 수 있습니다. 그러나 처음부터 제품을 구축하면 AI 연구에서 초점이 흐려지고 시간이 오래 걸리며 회사가 Google 규모를 "따라잡을" 수 있는지 여부도 불확실하며 투자자가 잘못된 방향으로 너무 많은 압력을 가할 수 있습니다.

제가 앞서 언급했듯이 제가 생각할 수 있는 가장 유망한 옵션은 OpenAI를 Tesla에 현금 공급원으로 연결하는 것입니다. 다른 대기업(예: Apple? Amazon?)과의 연결은 회사 DNA가 호환되지 않아 실패할 것이라고 생각합니다. 로켓에 비유하자면 Tesla는 이미 Model 3의 전체 공급망과 온보드 컴퓨터, 지속적인 인터넷 연결을 갖춘 로켓의 "1단계"를 구축했습니다. "2단계"는 대규모 신경망 교육을 기반으로 하는 완전 자율 주행 솔루션이 될 것이며, OpenAI의 전문 지식이 크게 가속화하는 데 도움이 될 수 있습니다. 23년 안에 완전 자율 주행 솔루션이 작동하면 많은 자동차/트럭을 판매할 수 있습니다. 이 작업을 정말 잘 수행한다면 운송 산업은 Tesla의 시가 총액을 O(~100K)까지 높일 수 있을 만큼 크며, 그 수익을 사용하여 적절한 규모로 AI 작업에 자금을 지원할 수 있습니다.

10년 안에 지속 가능한 Google 규모의 자본에 도달할 수 있는 다른 방법은 생각할 수 없습니다.

-안드레이

일론 머스크에서 일리아 수츠케버, 그렉 브록만에게 - 2018년 2월 1일 오전 3:52

[안드레이의 이전 메시지 전달]

안드레이의 말이 맞습니다. 우리는 그렇지 않기를 바라지만, 저와 안드레이의 생각에 Tesla는 Google에 필적할 수 있는 유일한 방법입니다. 그렇다 하더라도 Google에 대한 균형추가 될 확률은 적습니다. 단지 0은 아닙니다.

제목: AI 업데이트

시본 질리스에서 일론 머스크에게 (참조: 샘 텔러) - 2018년 3월 25일 오전 11:03

OpenAI

모금:

더 이상 ICO/""미리 컴퓨팅 파워를 구매하는 수단"" 유형의 구조를 사용하지 않습니다. 알트만은 관심 있는 4~5개 대기업이 OpenAI가 어느 정도 수익을 창출하는 AGI에 도달하면 수익률이 50배로 제한되는 투자를 할 수 있는 수단을 고려하고 있습니다. 그들은 접근성 때문에 기꺼이 투자하는 것 같습니다. 그는 당신과 더 자세히 논의하고 싶어합니다.

공식 이사회 사임:

당신은 여전히 기술적으로 이사회에 있으므로 샘 알트만에게 ""이 이메일로 저는 2018년 2월 20일부로 OpenAI 이사직을 사임합니다.""와 같은 간단한 메시지를 보내야 합니다.

향후 이사회:

알트만은 제가 합류했다가 이해 충돌이 발생하면 사임하는 것에 괜찮다고 말했지만, 다른 사람들은 제가 사임해야 한다면 관계가 끊어진 것으로 생각할까 봐 걱정합니다. 제 생각에는 지금은 합류하지 않고 모호한 고문 역할을 하는 것이 가장 좋지만 다른 의견이 있으면 알려주세요. 그들은 당신의 자리를 대신할 잠재적인 다섯 번째 인물로 Adam D'Angelo를 생각하고 있는데, 훌륭해 보입니다.

TeslaAI

안드레이는 3명의 후보자를 확보했으며, 화요일에 1~2명이 당신을 만나러 올 수도 있습니다. 그는 당신에게 후보자에 대한 브리핑 자료를 보낼 것입니다. 또한 그는 잠재적인 보도자료를 위한 초기 문구를 작성하고 있으며, 화요일에 논의할 준비가 될 것입니다. 우리가 이야기했던 ""풀스택 AI 연구소""라는 관점을 따르겠지만, 옳지 않다고 생각되면 수정해 주세요... 메시징이 까다롭습니다.

Cerebras

칩은 8월에 테스트할 수 있도록 제공될 예정이며, 9월에는 다른 사람들이 원격으로 액세스할 수 있도록 할 계획입니다. Cerebras 담당자는 또한 최근 고객의 관심이 Nvidia의 서비스 약관 변경(소비자 등급 GPU에서 엔터프라이즈 Pascal/Volta로 전환하도록 강요하는 약관)에 불만을 가진 회사에서 많이 발생했다고 언급했습니다. Scott Gray와 일리아는 계속해서 그들과 많은 시간을 보내고 있습니다.

제목: OpenAI 헌장

샘 알트만에서 일론 머스크에게 (참조: 시본 질리스) - 2018년 4월 2일 오후 1:54

다음 주에 이 문서를 공개할 계획입니다. 의견 있으신가요?

OpenAI 헌장

OpenAI의 임무는 인공 일반 지능(AGI)(즉, 대부분의 경제적으로 가치 있는 창의적인 작업에서 인간을 능가하는 고도로 자율적인 시스템)이 모든 인류에게 도움이 되도록 하는 것입니다. 우리는 안전하고 유익한 AGI를 직접 구축하려고 노력하지만, 우리의 작업이 다른 사람들이 이러한 결과를 달성하는 데 도움이 된다면 우리의 임무가 완수되었다고 생각할 것입니다. 이를 위해 우리는 다음 원칙을 준수하기로 약속합니다.

광범위하게 분산된 이점

우리는 AGI의 배포에 대해 얻는 모든 영향력을 사용하여 모든 사람에게 도움이 되도록 하고, 인류에 해를 끼치거나 권력을 과도하게 집중시키는 AI 또는 AGI의 사용을 방지하기 위해 노력할 것을 약속합니다.

우리의 주된 수탁자 의무는 인류에 대한 것입니다. 우리는 우리의 임무를 완수하기 위해 상당한 자원을 동원해야 할 것으로 예상하지만, 항상 광범위한 이익을 해칠 수 있는 직원 및 이해 관계자 간의 이해 충돌을 최소화하기 위해 노력할 것입니다.

장기적인 안전

우리는 AGI를 안전하게 만들기 위해 필요한 연구를 수행하고 AI 커뮤니티 전체에서 그러한 연구의 광범위한 채택을 촉진하기 위해 노력할 것을 약속합니다.

우리는 후기 단계 AGI 개발이 적절한 안전 예방 조치를 취할 시간이 없는 경쟁적인 경쟁이 될 것을 우려합니다. 따라서 가치관이 일치하고 안전을 중시하는 프로젝트가 우리보다 먼저 AGI 구축에 근접한다면 우리는 이 프로젝트와의 경쟁을 중단하고 지원하기 시작할 것을 약속합니다. 우리는 사례별 계약에서 세부 사항을 해결하겠지만, 일반적인 발동 조건은 ""향후 2년 안에 성공할 확률이 50% 이상""일 수 있습니다.

기술 리더십

AGI가 사회에 미치는 영향을 효과적으로 해결하려면 OpenAI는 AI 역량의 최첨단에 있어야 합니다. 정책 및 안전 옹호만으로는 충분하지 않습니다.

우리는 AI가 AGI 이전에 광범위한 사회적 영향을 미칠 것이라고 믿으며, 우리의 임무 및 전문 지식과 직접적으로 관련된 분야를 선도하기 위해 노력할 것입니다.

협력적 방향

우리는 다른 연구 및 정책 기관과 적극적으로 협력할 것입니다. 우리는 AGI의 글로벌 과제를 해결하기 위해 함께 노력하는 글로벌 커뮤니티를 만들고자 합니다.

우리는 사회가 AGI로 가는 길을 헤쳐나가는 데 도움이 되는 공공재를 제공하기 위해 노력할 것을 약속합니다. 현재 여기에는 AI 연구 결과를 게시하는 것이 포함되지만, 앞으로는 안전 및 보안 문제로 인해 기존 출판물이 줄어들고 안전, 정책 및 표준 연구 공유의 중요성이 커질 것으로 예상합니다.

일론 머스크에서 샘 알트만에게 - 2018년 4월 2일 오후 2:45

좋습니다.

제목: AI 업데이트 (계속)

시본 질리스에서 일론 머스크에게 (참조: 샘 텔러) - 2018년 4월 23일 오전 1:49 (위와 동일한 제목의 스레드에서 계속)

알트만과의 대화에 따라 정보가 업데이트되었습니다. 화요일에 그와 통화할 예정입니다.

자금 조달:

그는 ICO가 아니라 고정 최대 수익률이 있는 주.,식을 발행할 것이라고 다시 확인했습니다.

모금을 위해 다소 독특한 자회사 구조가 될 것이며, 이에 대해 설명하고 싶어합니다.

4~6주 안에 첫 번째 라운드를 진행하고 싶어합니다(주로 Reid 자금, 잠재적으로 일부 기업).

기술:

Dota 5v5가 예상보다 좋아 보인다고 합니다.

Dota 봇 성능의 급격한 향상으로 인해 내부적으로 AGI까지의 기간이 이전에 생각했던 것보다 더 짧을까 봐 걱정하고 있는 것 같습니다.

곧 Montezuma's Revenge를 이길 것으로 예상됩니다.

시간 할당:

저는 OpenAI에 할애했던 시간의 대부분을 Neurali.ㅡnk와 Tesla에 재할당했습니다. 이는 당신이 이사회에서 사임하고 관련 요인으로 인해 자연스럽게 발생했지만, 제가 OpenAI 감독에 더 많은 시간을 할애하기를 원하시면 알려주세요.

샘과 그렉은 제가 비공식 자문 위원회에 참여할 의향이 있는지 물었습니다(지금까지는 Gabe Newell뿐). 잠재적인 이해 충돌을 감안할 때 공식 이사회보다 낫다고 생각합니다. 괜찮지 않다면 어떻게 하는 것이 좋을지 알려주세요.

제목: OpenAI

샘 알트만에서 일론 머스크에게 (참조: 샘 텔러, 시본 질리스) - 2019년 3월 6일 오후 3:13

일론님께,

월요일에 게시할 예정인 게시물 초안입니다. 추가/수정할 내용이 있나요?

요약:

상한선이 있는 영리 회사를 설립하고 Reid와 Vinod가 주도하는 첫 번째 라운드를 마쳤습니다.

모든 투자자가 절대 수익을 기대해서는 안 된다는 점을 분명히 하는 방식으로 이 작업을 수행했습니다.

우리는 그렉을 회장으로, 저를 새 회사의 CEO로 임명했습니다.

잠재적 차기 라운드 투자자들과 이 구조를 테스트했으며, 그들은 이 구조를 좋아하는 것 같습니다.

마지막으로, 우리는 현재 수십억 달러 규모의 투자를 논의하고 있으며, 시간이 되실 때 조언을 구하고 싶습니다. 베이 지역에 오시면 언제든지 만나 뵙고 싶습니다.

샘

게시물 초안[3]

제목: Bloomberg: 일론 머스크가 공동 설립한 AI 연구 그룹, 영리 부문 시작

일론 머스크에서 샘 알트만에게 - 2019년 3월 11일 오후 3:04

제가 OpenAI의 영리 부문에 재정적 이해 관계가 없다는 점을 명시해 주세요.

일론 머스크가 공동 설립한 AI 연구 그룹, 영리 부문 시작

Bloomberg

일론 머스크와 다른 여러 저명한 실리콘 밸리 기업가들이 공동 설립한 샌프란시스코 소재 인공 지능 연구 그룹인 OpenAI가 더 많은 자금을 조달할 수 있는 영리 부문을 시작합니다. 전체 기사 읽기

Apple 뉴스에서 공유

샘 알트만에서 일론 머스크에게 - 2019년 3월 11일 오후 3:11

처리 중입니다.

공개된 모든 이메일 번역

- dc official App

[수직(player5319)]

[익명(sguyff)]

전인류 혜택이란 단어가 ㅈㄴ 등장하는구만

[익명(116.84)]

기계번역 보기가 너무힘들다...... 걍 영어 올려주면 안되냐

[김넥탈님(nexonout)]

ㄹㅇ - dc App