7ff3c028e2f206a26d81f6e346887668

모든 것을 자동화할 필요는 없습니다. AI 연구만 자동화하면 됩니다.



OpenAI의 Alec Radford와 같은 자동화된 연구원을 상상해보십시오

—1억 명의 자동화된 Alec Radford들을 상상해보세요.


OpenAI의 거의 모든 연구원들이 동의할 것입니다:

만약 그들이 10명의 Alec Radford를 보유하고 있다면 (100명이나 1,000명은 물론이고, 인간보다 10배 또는 100배 빠른 속도로 작동하는 백만 명은 말할 것도 없고), 그들의 많은 문제들을 매우 빠르게 해결할 수 있을 것입니다.


다른 여러 병목 현상이 있다고 하더라도, 알고리즘 발전의 10년을 1년으로 압축하는 것은 매우 타당해 보입니다. (백만 배 더 많은 연구 노력으로 인한 10배의 가속화는 오히려 보수적인 추정으로 보입니다.)


이것만으로도 5+OOM(Orders of Magnitude, 규모의 차수)이 될 것입니다. 알고리즘적 발전의 5 OOM은 GPT-2에서 GPT-4로의 도약을 만들어낸 것과 비슷한 규모의 확장일 것입니다. 이는 ~취학 전 아동에서 ~ 영리한 고등학생 수준으로의 능력 도약이었죠. AGI 위에, Alec Radford 위에 이러한 질적 도약이 더해지는 것을 상상해보세요.


우리가 AGI에서 초지능으로 매우 빠르게, 아마도 1년도 안 되어 도달할 수 있다는 것이 놀랍도록 그럴듯해 보입니다.


-Situational Awareness 中




자동화된 Alec Radford가 곧 오기 때문... (혹은 이미 왔을지도...)