+ P(doom) (인류가 종말적 재앙에 직면할 확률)이 0이 아니라는 것이 중요하다. 사회에는 항상 비관론자의 자리가 있으며, 그들 덕분에 우리는 더 진지하게 사안을 생각할 수 있게 된다. 하지만 더 나은 질문은 안전하게 나아가기 위해 무엇이 필요한가 하는 것이다. 이 문제에 극도로 진지하게 대처할 필요가 있다.

+ GPT-5나 6에서 기대하는 것은 가능한 최고의 추론 엔진이 되는 것이다. 현재로서는 이를 실현할 유일한 방법은 방대한 데이터로 학습시키는 것이다. 하지만 미래에는 이것이 무의미했다고 돌아보게 될 것이다. GPT-4가 데이터베이스처럼 작동할 수 있다는 사실은 맞지만, 이는 느리고 비용이 많이 들며 제대로 기능하지 않는다. 결국 추론 엔진을 방대한 데이터나 데이터 저장으로부터 분리하는 방법을 알게 되어, 이를 별개의 것으로 취급할 수 있게 될 것이다. 그렇게 되면 프라이버시 문제도 더 쉽게 해결할 수 있을 것이다.

+ AI에 막대한 에너지가 필요한 것은 사실이다. 그러나 전 세계적으로 필요한 에너지에 비하면 대단한 것은 아니다. 만약 전 세계 전력의 1%를 AI 학습에 사용한다고 해도, 그 AI가 비탄소 에너지로의 전환이나 탄소 회수 방법을 찾아내는 데 도움이 된다면 이는 큰 승리다. 설령 그렇지 않더라도 그 AI 덕분에 사람들의 삶의 질이 향상된다면, 컴퓨팅의 1%를 사용하는 것은 가치가 있다.

+ 솔직히 말하면 (현재의 모델은) 아직 완벽과는 거리가 멀다. 최소한 앞으로 3, 4세대의 모델은 매번 믿을 수 없을 정도로 개선될 수 있다고 믿는다.

+ 전 세계가 "올해 AGI의 문턱을 넘었다"고 동의하는 시기는 오지 않을 것이다. AGI라는 용어의 정의가 너무 모호해졌기 때문이다. "곧 AGI가 온다"고 말하는 사람이 있는가 하면, 2040년이 되어도 "믿을 수 없을 정도로 유능하지만 아직 AGI는 아니다. 이것이 안 된다"고 말하는 사람도 있을 것이다. 그래서 이제는 언제 능력 X나 Y나 Z가 실현될 것인가 하는 질문이 더 적절하다.
다만 AGI라는 단어는 사용하지 않도록 하고 있다. OS 깊숙이 배어 있어서 완전히 없애지는 못하지만(웃음). 그러나 언제 새로운 과학적 발견이 가능해질지, 언제 경제적 가치를 창출할 수 있을지 등의 질문이 더 건설적이다. 지금의 10년이 끝날 때(2020년대 말)까지는 정말로 큰 경제적 가치를 창출하는 시스템이 가능해지기를 기대한다.





https://note.com/bioshok/n/ne4c05177d1f1

Sam Altman talks with MIT President about AI (May 2024)翻訳｜bioshok以下の動画の翻訳です。Sam AltmanはS、対談者をFとしました。最後に質問もあります。重要そうな箇所は太字にしました。 司会者: お二人ともお越しいただきありがとうございます。ご紹介の必要はないかもしれませんが、サリー・コーンは2023年1月にMITの第18代学長に就任しました。細胞生物学者であり、デューク大学の学長時代には、優れた管理者、創造的な問題解決者、教員の卓越性と学生の幸福の主導者としての評判を得ました。MITでの1年目には、AIに注力し、AIが社会に広く恩恵をもたらすことを確実にするためのMITの取り組みについて証言しています。サム・アルトマン氏は起業家、note.com