[📪정보] NYT 기자:대부분의 사람들은 AGI가 6개월에서 몇년 안으로 올걸로본다

몇 년 전, Bing의 시드니가 제 결혼생활을 망치려 한 이후로(진짜입니다), 저는 “AGI 씬”이라고 부를 수 있는 현상을 취재하고 있습니다. 샌프란시스코를 중심으로 형성된 소수지만 영향력 있는 인물들이 이 씬에 속해 있으며, 그들은 인간보다 똑똑한 인공지능이 가능할 뿐만 아니라 조만간 실현될 것이라 믿고 있어요. (이미 AGI가 도달했다고 주장하는 사람들도 있지만, 제가 인터뷰한 대부분은 AGI가 앞으로 6개월에서 몇 년 이내에 올 것으로 보고 있습니다. 보수적인 이들도 2030년까지는 가능하다고 생각하죠.)

이 씬에 있는 사람들과 시간을 보내다 보면 반복되는 패턴이 있어요. 누군가가 믿기 어려운 이야기나 중요한 AI 개발 상황을 이야기해주곤 합니다. 예를 들면, 훈련 도중 새로운 능력이 갑자기 나타난 순간. 어떤 파티에서 AI 연구 방향을 두고 임원들이 언성을 높인 장면. 또는 정책 입안자들이 비공개 데모를 보고 처음으로 AGI의 함의를 체감한 순간 등등.

그 이야기를 들으면서 늘 생각하죠:

“이거 누가 기록하고 있는 거야?”

대부분의 경우, 아무도 제대로 기록하고 있지 않아요. 연구소 직원들은 너무 바쁘고, 임원들은 법적 문제나 유출을 걱정해 말을 아낍니다. 중요한 대화들이 오가는 슬랙(Slack)이나 시그널(Signal)은 자동 삭제 기능이 기본이고요. 지금 온 세상이 AI에 대해 떠들고 있지만, 진짜 내부자들의 목소리는 점점 사라지고 있어요.

기자로서 저는 이게 정말 답답합니다. 만약 AGI 개발이 인류 역사상 가장 중대한 기술 프로젝트 중 하나가 될 거라면 — 저는 그렇게 믿고 있어요 — 그 과정이 제대로 기록되지 않는다는 건 너무 아쉬운 일이죠.

AI 안전을 위해 투명성이 중요하다는 건 잘 알려져 있어요. 하지만 이건 기록 보존 차원에서도 엄청나게 중요한 문제입니다. 우리가 아폴로 계획이나 맨해튼 프로젝트에 대해 알고 있는 건 당시의 생생한 기록 덕분이잖아요. 그런데 만약, 10년 또는 20년 후 우리가 AGI 이후의 유토피아/디스토피아/프로토피아 세계에 살고 있는데, 그 과정에 대한 기록이 트위터 스레드 조각, 레스롱(LessWrong) 포스트, 먼지 쌓인 "Situational Awareness" 책 한 권밖에 없다면 어떨까요?

지금 샌프란시스코에서의 삶은 마치 16세기 종교개혁을 직접 겪는 느낌입니다. 선언문들, 파벌 싸움, “이 길만이 정답이다”를 외치는 카리스마 리더들. 이 모든 배경에는 AI의 지속적인 발전이 있습니다 — 모델들은 학습하고 또 학습하니까요 — 하지만 사회적, 인류학적 여파도 손실 함수(loss curve)만큼이나 흥미롭습니다. 우리가 새로운 르네상스로 향하든, 파멸로 돌진하든, 적어도 이 모든 과정을 기록하는 건 꼭 필요하다고 믿어요.

그래서, 저는 기록을 남기기로 했습니다.

책 제목은 The AGI Chronicles입니다. 개인적으로 AGI라는 용어를 아주 좋아하진 않아요. 요즘은 “사무직 몇 개 대체 가능한 AI”부터 “신처럼 강력한 쇼거스(shoggoth)형 AI가 인류를 노예화하거나 파괴할 존재”까지 AGI라는 단어가 의미하는 바가 너무 다양하거든요. 하지만 현실적으로 AGI는 지금 AI 업계를 관통하는 핵심 개념이고, 이념적 슐링 포인트(Schelling point) 역할을 하고 있어요. 세계에서 가장 똑똑하고 야심 찬 사람들 중 일부가 이 개념에 몰두하고 있고, 만약 AGI가 실제로 실현된다면, 그건 인류의 미래를 근본적으로 바꿀 수 있는 사건이니까요.

https://www.agichronicles.com/p/why

글 내용중 인상적인 부분이 현재 sf에서 일어나고 있는 삶이

16세기 종교개혁을 겪고 있는거 같다고 말한 것인데

종교개혁은 인쇄술의 발달과 맞물려 유럽 사회 전역에

엄청난 영향을 준 사건임 현재 일어나고 있는 이 변화가

얼마나 큰 파급력을 가져올지 기대됨

- dc official App

[📪정보] NYT 기자:대부분의 사람들은 AGI가 6개월에서 몇년 안으로 올걸로본다

댓글 4

다른 게시글