다리오 아모데이가 쓴 사랑과 은총의 기계야.
이번엔 ChatGPT 4o 하나로만 작업했어.
내용이 어렵진 않은데..
문단 하나 하나가 너무 길고
직역을 하거나, 의역을 적당한 수준에서 하니까 좀 늘어져서 읽기가 쉽지 않더라고.
그래서 아예 의역도 화끈하게 해버리고,
말투도 반말로 바꿔봤어.
그러니까 좀 잘 읽히더라.
호불호가 많이 있을 것 같은데,
암튼 같이 읽어보면 좋을 것 같아.
원래는 여기다가 다 쓸려고 했는데
아무리 줄여도 태그 먹으니까
20만자는 넘게 나오더라구 ㅋㅋㅋ
그래서 블로그 링크 걸어놔
여기는 서문만 적음
사랑과 은총의 기계 (Machines of Loving Grace)
부제 : AI가 세상을 더 좋게 바꾼다면 (How AI Could Transform the World for the Better)
2024년 10월 11일
요즘 사람들이 AI 위험성에 대한 얘기를 진짜 많이 하더라. 나도 사람들 만날 때마다 그 얘기 자주 하게 되고, 혼자서도 계속 생각하게 돼. 내가 CEO로 있는 앤트로픽(Anthropic)이라는 회사도 AI 위험을 줄이는 연구에 집중하고 있거든.
그러다 보니까 사람들이 가끔 오해하더라고. 내가 AI에 대해 비관적으로 본다든가, 아니면 무슨 종말론자(doomer)처럼 "AI가 결국 다 망칠 거다!” 이렇게 생각한다고 말이야.
근데 전혀 아니야. 난 오히려 완전 반대야.
솔직히 내가 위험성을 신경 쓰는 가장 큰 이유는 그 위험만 잘 관리하면 우리 앞에 진짜 멋진 미래가 펼쳐질 거라고 믿기 때문이야. 그런데 사람들 대부분이 AI가 얼마나 큰 긍정적인 변화를 가져올지, 그 가능성을 좀 과소평가하는 것 같아. 마찬가지로, AI가 잘못될 경우 얼마나 심각해질지도 사람들이 생각보다 덜 경계하는 느낌이고.
그래서 이 글에서는 그 '밝은 미래 쪽'을 한번 그려보려고 해. 만약 AI가 제대로 잘 발전해주면 세상이 어떻게 달라질 수 있을까? 그걸 좀 상상해보는 거지.
물론, 미래라는 게 누가 정확하게 알 수 있는 것도 아니고, AI 같은 새로운 기술이 가져올 변화는 과거 기술 혁신 때보다 훨씬 더 예측 불가능할 수 있지. 그러니까 이 글도 결국은 '이러지 않을까?' 하는 추측들이야.
근데 그냥 막 던지는 상상이 아니라, 그래도 나름 현실에 기반한, 의미 있는 상상을 해보려는 거거든. 혹시나 세부적인 부분들이 나중에 틀린다 해도, 전체적인 느낌은 비슷할 수 있잖아?
그리고 굳이 이렇게 구체적인 내용들을 많이 넣은 이유가 있어. 막 두루뭉술하게 "AI가 좋을 수도 있고, 나쁠 수도 있고..." 이렇게 애매하게 말하는 것보다는 조금이라도 뚜렷한 그림을 보여주는 게 사람들끼리 얘기 나눌 때 훨씬 도움이 되더라고. 그래서 여기선 좀 디테일하게 '이렇게 되면 어때?' 하고 그려보려는 거야.
근데 그 밝은 미래 얘기를 들어가기 전에, 왜 나랑 우리 회사 앤트로픽이 그동안 AI의 좋은 점보다는 위험성 쪽 얘기를 더 많이 해왔는지, 그리고 앞으로도 아마 계속 위험 이야기를 더 많이 하게 될 것 같은 이유부터 잠깐 설명해볼게. 그냥 막연히 겁주려고 그러는 게 아니고, 다 나름 이유가 있어.
일단, AI 기술 자체는 이제 방향이 거의 정해졌다고 봐. 기본적인 발전이든, 그 발전이 가져올 여러 가지 좋은 효과들이든 웬만해선 막히지 않고 흘러갈 거야. 왜냐면 돈이랑 시장의 힘이 엄청 세게 밀고 있거든.
근데 위험은 좀 달라. 이건 우리가 어떻게 하느냐에 따라 결과가 정말 크게 달라질 수 있어. 그래서 난 우리가 ‘위험 줄이기’ 쪽에 힘을 더 줘야 결과적으로 미래가 더 좋아진다고 보는 거지.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">프로파간다(홍보성 발언)처럼 보일까 봐.
솔직히 AI 회사들이 “AI가 이런저런 멋진 일을 할 수 있습니다!” 이런 식으로만 계속 말하면, 듣는 사람들은 “아, 저거 자기네 기술 팔려고 저러는 거 아냐?” 이렇게 느끼기 쉽잖아. 괜히 부정적인 면은 가리고 좋은 얘기만 하는 것처럼 보이기도 하고. 그리고 나 개인적으로도 너무 내 입장에서 유리한 얘기만 하고 다니는 건, 사람 됨됨이에 별로 안 좋은 것 같아. 그냥 내 철학이랄까.. 영혼이 좀 상할 것 같더라고.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">거창하게 굴고 싶지 않아서.
솔직히 AI 업계에서 유명한 사람들. 특히 AGI 이야기하는 사람들 보면 가끔 좀 부담스러울 때가 있어. 자기가 마치 인류 구원자라도 된 것처럼 “내가 이 미래를 이끌어가리라!” 이런 식으로 말하는 사람들이 있잖아. 근데 난 그런 태도가 오히려 위험하다고 봐. 회사가 무슨 신도 아니고 세상을 자기들 마음대로 바꿀 수 있다는 식으로 생각하면 꼭 사고가 나더라고. 기술 개발이라는 게 결국 되게 현실적인 과정인데 말이야. 거기다 종교 같은 사명감을 섞어버리면 판단이 흐려질 수 있거든.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">너무 ‘SF 감성’ 덕지덕지 붙는 게 싫어서.
내가 AI 낙관론자라고 했잖아. 그러다 보면 주변에 AI 미래 얘기를 진짜 과하게 하는 사람들도 꽤 있어. 무슨 뇌를 컴퓨터에 업로드한다느니, 우주 진출해서 AI랑 같이 행성 개척한다느니, 약간 그런 SF 영화 같은 분위기로 말하는 사람들.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
근데 솔직히 그렇게 나가면 사람들이 잘 안 믿어. 듣는 사람들 입장에선 그냥 공상과학 소설 같고, “아, 저거 먼 미래 이야기지. 지금 우리랑 상관없어” 이렇게 생각해버리거든. 문제는 그 기술들이 ‘가능하냐, 안 하냐’가 아니야. 그런 얘기들 중에 몇 개는 진짜 실현될 수도 있지.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
근데 그런 ‘공상’스러운 느낌이 섞여버리면, 정작 중요한 얘기까지 같이 가볍게 들려버린다는 거야. 게다가 그 미래상이 꼭 모든 사람한테 좋은 것도 아니고. AI가 만든 미래가 다 똑같은 모습일 필요는 없잖아. 근데 자꾸 소수 마니아들 취향에 맞는 SF적인 미래만 그려대니까, 오히려 더 거부감 느끼는 사람들도 많아지더라고.</li><li class="li1" style="font-stretch: normal; font-size: 16px; line-height: normal; font-size-adjust: none; font-kerning: auto; font-variant-alternates: normal; font-variant-ligatures: normal; font-variant-numeric: normal; font-variant-east-asian: normal; font-variant- normal; font-feature-settings: normal; font-optical-sizing: auto; font-variation-settings: normal;">
</li></ul>
그래도 아까 말한 걱정들이 다 있긴 한데, 난 그래도 결국 이런 질문도 꼭 필요하다고 생각해.
“AI가 잘 풀렸을 때, 세상이 얼마나 좋아질 수 있을까?” 이걸 같이 상상해보는 거.
물론 아까 말한 그 과장이나 SF 감성 같은 건 조심해야겠지. 근데 그렇다고 위험 얘기만 하면 안 되잖아. 앞으로 뭘 막고 조심해야 한다는 계획만 줄줄 얘기하는 것도 중요하긴 한데, 결국 우리가 어디로 가고 싶은지, 진짜 멋진 미래는 어떤 모습일지 그런 희망 같은 게 있어야 힘이 나거든.
AI 때문에 생기는 문제들이 당연히 많고 어떨 땐 서로 치고받고 싸우는 상황도 생길 수 있어. 근데 그 끝에 우리가 진짜 꿈꿔볼 만한 미래가 있어야, 사람들이 단순히 두려워서 움직이는 게 아니라 "아, 저 미래를 같이 만들어보자!" 이렇게 뭔가 더 큰 힘으로 뭉칠 수 있거든. 솔직히 말해서 공포만 가지고는 오래 못 가. 불안해서 시작할 수는 있는데 계속 가려면 결국 희망이 필요하더라고.
AI로 좋은 일을 할 수 있는 분야는 진짜 많아. 로봇이든, 공장 자동화든, 에너지든 이거 다 하면 끝도 없을 거야. 근데 그중에서도 내가 특히 기대하는 분야가 다섯 개 정도 있거든. 이게 사람들 ‘삶의 질’을 직접적으로 확 끌어올릴 수 있는 거라서 그래. 그게 뭐냐면 :
</li></ol>
솔직히 내가 하는 예상들이 꽤 파격적으로 들릴 수도 있어. SF 영화에서나 나올 법한 특이점(Singularity)까지는 아니지만 그래도 웬만한 사람들 눈에는 되게 급진적으로 보일 거야.
근데 이거 장난으로 하는 얘기가 아니라 나름 진지하게 생각해서 적는 거야.
물론 내가 다 맞을 리는 없지. 아까도 말했지만 다 추측이니까 틀릴 수도 있다는 거 계속 염두에 두고 봐줘.
그래도 내가 이런저런 분야에서 지금 기술 발전 속도나 방향을 봤을 때 “이 정도까지는 가능하지 않을까?” 이런 마음으로 나름 분석해보고 쓴 거야. 특히 나는 생물학이랑 뇌과학 쪽 일도 해봤고 경제 발전 쪽도 관심 많아서 꽤 공부했거든. 그래서 이런 부분들에 대해서는 조금 더 근거 있게 얘기하려고 했어.
근데 당연히 나 혼자만으론 부족하지. 이 글 쓰면서도 느꼈는데 사실 이런 거 할 때는 각 분야 전문가들(생물학자, 경제학자, 국제 관계 전문가 이런 사람들) 다 모여서 같이 써야 진짜 제대로 된 그림이 나오겠더라고.
그러니까 내가 지금 쓰는 이 글은 그냥 "우리 이런 얘기 시작해보자!" 하는 첫 단추 같은 거라고 보면 돼. 이걸 시작으로 더 똑똑한 사람들이 모여서 더 나은 미래 상상도를 같이 그렸으면 좋겠어.
댓글 0