[일반] 9월 16일 알트먼 인터뷰에 답이 있네

[익명(124.111)]

아래 내용은 9월 16일 알트먼의 인터뷰 내용임.

세 번째는 초지능을 향해 나아가는 것에 대해 제가 생각했던 방식은 우리가 극도로 유능한 시스템을 구축하려고 했고 그에 따른 안전 문제도 많았고 일종의 세상이었다는 것입니다. 상당히 불안정하다고 느낄 것입니다. 하지만 이제 우리는 점점 더 강력해지는 생물 도구가 아닌 이러한 도구를 만드는 길을 보고 있다고 생각합니다. 세상에는 수십억 개의 사본이 사용되어 개인이 훨씬 더 발전할 수 있도록 돕습니다. 훨씬 더 많은 일을 효과적으로 수행할 수 있고 한 사람이 가질 수 있는 생산량이 극적으로 증가할 수 있으며 초지능이 나타나는 곳은 우리의 가장 큰 단일 이상적인 신경망의 능력뿐만 아니라 우리가 발견하고 있는 모든 새로운 과학입니다. 우리가 만들고 있는 새로운 것들과우리가 구축하는 수십억, 수조 개의 다른 시스템 사이의 상호 작용, 즉 AI는 인간이 이러한 도구를 사용하여 이 사회를 구축하도록 지원했으며, 우리가 가지고 있는 지식, 기술 및 기관 규범과 초지능과 함께 살아가는 비전은 여러분 모두를 위해 제가 훨씬 더 흥미로운 미래를 맞이할 수 있기를 바랍니다

위의 내용을 보면 초지능 인공지능을 개발했는데 안전에 문제가 있다.(정렬에 실패한듯) 그래서 초지능 AI를 분산지능으로 성능을 다운시켜서 개인 비서화 시킬려고 한걸로 보임. 알트먼이 짤린건 정렬 안된 초지능 AI를 성능을 다운시켜서 분산형 초지능으로 오픈하려고 해서 막은듯

https://youtu.be/w5nEf-HahZM?t=1305

Open AI Founder Sam Altman on Artificial Intelligence's Future | Exponentially