[📪정보] 일리야 수츠케버 독점 인터뷰 올라옴

[익명(asdf045)]

https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/

Exclusive: Ilya Sutskever, OpenAI’s chief scientist, on his hopes and fears for the future of AI

서츠케버가 말하는 것 중 많은 부분이 과격합니다. 하지만 불과 1~2년 전만 해도 그렇게 거칠게 들리지는 않았을 것입니다. 그가 직접 말했듯이 ChatGPT는 이미 "절대 일어나지 않을 것"이라는 말을 "생각보다 빨리 일어날 것"으로 바꾸며 많은 사람의 기대를 바꿔놓았습니다.

"모든 것이 어디로 향하고 있는지에 대해 이야기하는 것이 중요합니다."라고 그는 말하며 인공 일반 지능(인간만큼 똑똑한 기계를 의미)의 개발을 마치 다른 iPhone처럼 확실한 내기처럼 예측합니다: "언젠가 우리는 정말 AGI를 갖게 될 것입니다. OpenAI가 만들 수도 있고요. 아니면 다른 회사가 만들 수도 있습니다."

중략

놀라운 것들

Sutskever는 아직 존재하지 않는(그리고 결코 존재하지 않을 수도 있는) 기술에 대한 이 모든 이야기가 좋은 것이라고 주장합니다. 왜냐하면 그것이 그가 이미 당연하게 여기는 미래를 더 많은 사람들이 인식하게 하기 때문입니다.

“AGI를 사용하면 수많은 놀라운 일을 할 수 있습니다. 의료 관리를 자동화하고, 수천 배 더 저렴하게 만들고, 수천 배 더 좋게 만들고, 많은 질병을 치료하고, 실제로 지구 온난화를 해결하는 것입니다.”라고 그는 말합니다. “하지만 '맙소사, 과연 AI 기업들이 이 엄청난 기술을 관리하는데 성공할 수 있을까?'라고 우려하는 분들도 많습니다.”

이런 식으로 제시된 AGI는 실제 전망이라기보다는 소원을 들어주는 요정처럼 들립니다. 생명을 구하고 기후 변화를 해결하는 데 반대하는 사람은 거의 없습니다. 하지만 존재하지 않는 기술의 문제는 원하는 대로 무엇이든 말할 수 있다는 것입니다.

Sutskever가 AGI에 대해 이야기할 때 실제로 말하는 것은 무엇입니까? “AGI는 과학적인 용어가 아닙니다.”라고 그는 말합니다. "이것은 유용한 기준점이자 참조 지점이 되도록 의도되었습니다."

“그게 바로 아이디어예요.” 그는 말을 시작했다가 멈춘다. “AI가 너무 똑똑해서 사람이 어떤 일을 할 수 있다면 AI도 그 일을 할 수 있다는 점입니다. 그 시점에서 AGI가 있다고 말할 수 있습니다.”

사람들이 이에 대해 이야기하고 있을지 모르지만 AGI는 여전히 이 분야에서 가장 논란이 많은 아이디어 중 하나입니다 . 그 발전을 당연한 것으로 여기는 사람은 거의 없습니다. 많은 연구자들은 Sutskever가 염두에 두고 있는 것과 같은 것을 보기 전에 중요한 개념적 돌파구가 필요하다고 믿고 있으며 일부 연구자들은 결코 그렇게 되지 않을 것이라고 믿습니다.

하지만 그것은 처음부터 그를 이끈 원동력이었습니다. Sutskever는 “저는 항상 이 아이디어에서 영감을 받고 동기를 부여받았습니다.”라고 말합니다. “당시에는 AGI라고 부르지 않았지만 신경망이 모든 일을 하는 것처럼 말이죠. 나는 항상 그들이 할 수 있다고 믿지 않았습니다. 하지만 넘어야 할 산이었죠.”

그는 신경망과 뇌가 작동하는 방식 사이의 유사점을 제시합니다. 둘 다 데이터를 받아들이고 해당 데이터의 신호를 집계한 다음 간단한 프로세스(신경망의 수학, 뇌의 화학 및 생체전기)를 기반으로 신호를 전파합니다. 엄청나게 단순화되었지만 원칙은 그대로 유지됩니다.

Sutskever는 “만약 당신이 그것을 믿는다면, 즉 당신 자신이 그것을 믿도록 허용한다면, 많은 흥미로운 의미가 있을 것입니다.”라고 말합니다. “주된 의미는 매우 큰 인공 신경망이 있다면 많은 일을 해야 한다는 것입니다. 특히 인간의 두뇌가 뭔가를 할 수 있다면, 대규모 인공 신경망도 비슷한 일을 할 수 있을 것입니다.”

“이 깨달음을 충분히 진지하게 받아들이면 모든 것이 뒤따릅니다.”라고 그는 말합니다. "그리고 내 작업의 상당 부분이 그것으로 설명될 수 있습니다."

다른 사람들이 인간의 지능에 필적할 수 있는 기계에 대한 아이디어를 놓고 씨름하는 동안 Sutskever는 우리를 능가 할 수 있는 기계를 준비하고 있습니다 . 그는 이것을 인공 초지능이라고 부릅니다. “그들은 사물을 더 깊이 볼 것입니다. 그들은 우리가 보지 못하는 것을 보게 될 것입니다.”

이번에도 이것이 실제로 무엇을 의미하는지 파악하기가 어렵습니다. 인간의 지능은 지능이 무엇인지에 대한 벤치마크입니다. Sutskever가 인간보다 똑똑한 지능이란 무엇을 의미합니까?

“우리는 AlphaGo에서 매우 좁은 초지능의 예를 보았습니다.”라고 그는 말합니다. 2016년 딥마인드의 보드 게임 AI는 세계 최고의 바둑 선수 중 한 명인 이세돌을 5경기에서 4-1로 이겼습니다. Sutskever는 “인류가 수천 년 동안 집단적으로 개발해 온 것과는 다른 방식으로 바둑을 두는 방법을 알아냈습니다.”라고 말합니다. “새로운 아이디어가 떠올랐어요.”

Sutskever는 AlphaGo의 악명 높은 37수를 지적합니다. Sedol과의 두 번째 게임에서 AI는 해설자들을 당황하게 만들었습니다. 그들은 AlphaGo가 망했다고 생각했습니다. 사실, 그것은 게임 역사상 누구도 본 적이 없는 승리의 움직임을 보였습니다. Sutskever는 “이러한 수준의 통찰력이 모든 것을 포괄한다고 상상해 보십시오.”라고 말합니다.

개인적으로  인터뷰 중에 인상적인게

알파고의 37수를  매우 좁은 초지능이라 본  부분임

인류가 수천년간 발전시킨 한 영역에서 인간 전문가도

이해 못하는 능력을 그것도 훨씬 뛰어넘는 능력을 보여줌

정말 말 그대로 우리가 현실에서 목격한 초지능의 사례라고

알게 되니 소름이 돋는달까 그런 느낌이 들었음

이게 전 분야로  확장 된다면 어디까지 가능할까 상상하니 참 즐거운 인생임

- dc official App

[부패하는유전자!!!(sansss2015)]

이 시점에서 선형충인 새끼는 정상이 아님 대화가 안 통할수밖에 ㅋㅋㅋㅋ

[보수의거인(2000an)]

알파고만으로도 이미 초지능의 가능성은 입증되었다고 봄

[익명(125.130)]

모든 영역에서 알파고같은 초지능이라 공포심이 있다가도 설레이네

[디시콘발사대(fcbjsjmu1t9f)]

[MoonChild(aowlr2001)]

[익명(873dvejis77)]