[📪정보] 무스타파 슐레이만 Aspen Ideas Festival 인터뷰 요약

[MinasAn..(wipe2561)]

Q : AGI가 10년 안에 올까, 많은 사람들이 기회로 보면서도 두려워한다

- 잘못된 프레임이다. 우리는 초지능, 즉 AI가 인간보다 더 잘하게 되는 그 순간에 집착하는 경향이 있다. 그것이 언제 될까에 집착하기보다 이 전례 없는 기술이 '정말 안전할까'에 집중해야한다. 이러한 기술들은 결국은 널리 퍼질 것이다. 모든 사람들이 이전에는 상상하기 어려울 만큼의 큰 힘을 갖게 될 것이다.

Q : 당신을 포함해 샘 알트만이나 기타 CEO 들이 백악관에 갔었지 않나. 거기서 '우리는 규제가 필요하다' 고 하고 왔다는데, 어떤 산업이 규제당국에 가서 '우리 규제해주세요' 하나. 정말 미래를 걱정하는 진심어린 노력인가, 규제포획을 통해 사다리 걷어차기 하려는 건가?

- 이 역시 잘못된 프레임이다. 실제 지금 규제가 있다면 다들 그 규제를 두고 말이 많지 않겠나. 또 규제가 '악'하다거나, '규제포획'을 통해 사다리 걷어차기 하는 것 아니냐는 식의 프레임은 음흉한 의도를 가진 것이다. 많은 CEO와 기술자들이 규제를 진지하게 생각하고 찬성하는 것은 훌륭한 일이다. 저는 개인적으로 샘 알트만을 사랑하고 훌륭하다고 생각한다. 그는 음흉하지 않다. 그는 진심이다. 나머지 사람들도 그렇고. 물론 잘못된 규제를 하게 된다면 우리를 느리게 하고 국제적 적들이 치고 나갈 수도 있다. 또 오픈소스 커뮤니티나 스타트업을 둔화시킬 수도 있어서 조심해야한다.

- 개인적으로 OpenAI의 성과에 대해 커다란 존경심을 갖고 있다. 그들은 아마 역사상 가장 중요한 테크기업 중 하나로 기록될 것이다. 그들은 기술적으로도 가장 빠르게 진전시키면서도 안전문제도 최우선으로 여긴다. 안전 연구에 대한 의제를 이끌어왔고 논문을 발표하며 아카이브에 기고하고 안전도구와 인프라를 오픈소스화했다.

- 매년 컴퓨팅과 데이터 양은 10배씩 증가해왔다. 그 추가된 컴퓨팅과 데이터가 모델에 적용될 때마다 측정가능한 개선이 이루어져왔다.

- 저작권법을 비롯한, 정보의 경제학은 근본적으로 변화할 것이다. 지식의 한계 생산비용이 0에 수렴할 것이기 때문이다. 이는 많은 사람들이 직관적으로 받아들이지 못한다. 15~20년 후에는 지식 한계 생산비용(*한 단위를 추가하는데 드는 비용을 marginal cost, 한계 생산비용이라 함)이 0이 되어 새로운 과학적, 문화적 지식을 거의 무료로 생산할 수 있게 된다. 이는 우리 종 역사에서 진정한 변곡점이 될 것이다. 우리 인간 종이 나아갈 수 있던 원동력은 과학이었다. AI가 발견과 발명을 할 수 있게 된다면 우리 종이 새로운 엔진을 갖게 되는 셈이다.

- 전통적인 학습방법, 교과서를 읽고 깊게 집중하고 글을 쓰는 능력은 분명히 중요하긴 하겠고 가치가 있긴 할 거다. 하지만 여러 사회적 언어를 구사하고 '빠르게 적응할 능력을 갖춘' 제네럴리스트가 되는 것이 더 중요할 것이라 생각한다. 열린 마음, 그리고 새로운 것에 대한 두려움을 떨치고 기술을 받아들이는 그 자세가 미래에는 가장 가치 있는 기술이 될 것이다.

- gpt3는 훈련에 수백만 달러가 들었지만 지금은 완전히 무료다. 오픈소스 모델들도 100% 무료로 제공된다. 지식은 인류 역사상 가장 빠르게 퍼지고 있다. 

- 많은 기업들, 특히 테크 기업들 위주로 권력이 집중되고 있다. 권력은 더 많은 권력을 끌어당기는 경향이 있다. 

- OpenAI에 대해서는, 우리 마이크로소프트는 그들을 소유하거나 통제하고 있지 않다. 그들은 전적으로 독자적이다. 다만 깊은 파트너십 관계에 있고 저는 샘과 매우 좋은 친구이며 그들에 대해 깊은 존경과 신뢰, 믿음을 갖고 있다. 

- 메타와 일론머스크의 오픈소스 AI vs Closed 소스 AI 프레이밍에 대해서도 반대한다. 난 MS에 입사한지 4주만에 가장 강력한 오픈소스 모델인 Phi-3를 내놓게 했다. 우린 오픈소스에 반대하지 않는다. 다양한 접근방식이 필요하다고 생각할 뿐.

- 2030년이나 2035년 쯤 되면 개인 AI에 너무 애착을 가지는 사람들이 나타나 해당 AI의 인격과 권리를 주장하고 나설 것이다. 지금 극단적인 동물 애호가들이 동물의 권리를 주장하는 것처럼 말이다. 

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

ai 아니고 직접 번역임?

[dfddf(1.251)]

ㅇㅇ