[🏆베스트] 다리오 아모데이 Machines of Loving Grace 전문 번역

[익명(183.96)]

원문이 꽤 장문이라, 읽는데 오래 걸릴거임. 시간적 여유가 있을 때 읽어

내가 보려고 번역한 걸 겸사겸사 올림. 분량 문제로 번역 내용 검수까진 못함. GPT 번역

원문 링크: https://darioamodei.com/machines-of-loving-grace

---

Loving Grace의 기계들
AI가 세상을 더 나은 곳으로 변화시킬 수 있는 방법
2024년 10월

저는 강력한 AI의 위험성에 대해 많은 생각을 하고, 이야기를 나눕니다. 제가 CEO로 있는 회사인 Anthropic은 이러한 위험을 줄이기 위한 연구를 많이 하고 있습니다. 그래서 때때로 사람들은 제가 비관주의자거나 AI가 대체로 나쁘거나 위험할 것이라고 생각하는 '둠어(doomer)'라고 결론을 내리곤 합니다. 저는 그렇게 생각하지 않습니다. 사실, 제가 위험에 집중하는 주요 이유 중 하나는 위험이 우리가 궁극적으로 긍정적인 미래로 나아가는 유일한 장애물이라고 보기 때문입니다. 저는 대부분의 사람들이 AI의 긍정적인 가능성이 얼마나 근본적으로 큰지를 과소평가하고 있다고 생각합니다. 마찬가지로, 대부분의 사람들이 AI의 위험이 얼마나 클 수 있는지도 과소평가하고 있다고 봅니다.

이 에세이에서 저는 그런 긍정적인 가능성이 어떻게 생길지, 즉 모든 것이 잘 풀릴 경우 강력한 AI가 있는 세상이 어떻게 보일지를 간략하게 설명하려고 합니다. 물론, 미래를 확실하게 예측할 수 있는 사람은 아무도 없으며, 강력한 AI의 효과는 과거 기술 변화보다 훨씬 더 예측 불가능할 가능성이 큽니다. 따라서 이 모든 것은 피할 수 없는 추측에 기반한 것이 됩니다. 하지만 적어도 교육적인 추측과 유용한 추측을 목표로 하고 있으며, 그 세부 사항이 틀리더라도 전체적인 방향은 맞기를 기대하고 있습니다. 저는 세부 사항을 많이 포함하려고 하는데, 이는 매우 추상적이거나 방어적인 설명보다 구체적인 비전이 논의를 더 발전시키는 데 도움이 된다고 믿기 때문입니다.

그러나 먼저, 제가 왜 그리고 Anthropic이 왜 강력한 AI의 긍정적인 측면에 대해 그다지 많이 이야기하지 않았고, 앞으로도 위험에 대해 많이 이야기할 가능성이 있는지 간단히 설명하고 싶습니다. 특히, 저는 다음과 같은 이유로 이러한 선택을 했습니다:

1. 레버리지를 극대화하기 위해. AI 기술의 기본적인 발전과 그 혜택 중 많은 부분은 (모두는 아님) 불가피하며(위험이 모든 것을 방해하지 않는 한), 이는 근본적으로 강력한 시장의 힘에 의해 추진됩니다. 반면에, 위험은 정해진 것이 아니며 우리의 행동은 그 가능성을 크게 변화시킬 수 있습니다.

2. 선전처럼 보이는 것을 피하기 위해. AI 회사들이 AI의 모든 놀라운 이점에 대해 이야기하면, 이는 선전가처럼 보이거나 단점에서 주의를 돌리려는 것처럼 보일 수 있습니다. 저는 또한 원칙적으로 자신의 이익을 너무 많이 홍보하는 것이 본질적으로 영혼에 해롭다고 생각합니다.
   

3. 과장된 표현을 피하기 위해. 저는 많은 AI 위험 공공 인물들이 (말할 것도 없이 AI 회사 리더들이) 포스트 AGI 세계에 대해 이야기하는 방식, 마치 그것이 그들의 사명이자 예언자처럼 독립적으로 세상을 실현시키려는 것처럼 말하는 방식을 자주 불편해합니다. 저는 회사들이 세계를 일방적으로 형성하는 것을 위험하게 보며, 실제적인 기술 목표를 사실상 종교적 용어로 보는 것도 위험하다고 생각합니다.

4. 'SF적' 짐을 피하기 위해. 비록 제가 대부분의 사람들이 강력한 AI의 긍정적인 측면을 과소평가한다고 생각하지만, 강력한 AI 미래에 대해 논의하는 소수의 사람들은 종종 과도하게 'SF적'인 어조로 이야기합니다. 예를 들어, 업로드된 정신, 우주 탐사, 또는 전반적인 사이버펑크 분위기를 포함한 이야기들입니다. 저는 이것이 사람들이 그 주장을 덜 진지하게 받아들이게 만들고, 일종의 비현실감을 심어줄 수 있다고 생각합니다. 분명히 말씀드리자면, 문제는 기술이 가능한지 혹은 가능성이 있는지 여부가 아니라(본 에세이는 이를 세세히 다룬다), 그런 '분위기'가 어떤 미래가 바람직한지에 대한 문화적 짐과 암묵적인 가정을 몰래 주입하는 데 있습니다. 그 결과는 종종 좁은 하위문화에 대한 판타지로 읽히며, 대부분의 사람들에게는 불쾌하게 다가옵니다.

위의 모든 우려에도 불구하고, 저는 강력한 AI가 있는 좋은 세상이 어떤 모습일 수 있는지에 대해 이야기하는 것이 중요하다고 생각합니다. 결국, 우리가 싸워야 할 어떤 것이 필요하며, 사람들이 작은 싸움을 넘어 앞으로의 도전에 맞서도록 결속할 수 있는 긍정적인 합계 결과가 필요합니다. 공포는 하나의 동기일 수 있지만, 그것만으로는 충분하지 않습니다. 우리는 희망도 필요합니다.

강력한 AI의 긍정적인 응용 프로그램 목록은 매우 길지만(로봇공학, 제조, 에너지 등 포함), 저는 인간의 삶의 질을 직접적으로 향상시킬 가능성이 가장 큰 몇 가지 분야에 집중할 것입니다. 제가 가장 기대하는 다섯 가지 범주는 다음과 같습니다:

1. 생물학과 신체 건강
2. 신경 과학과 정신 건강
3. 경제 발전과 빈곤
4. 평화와 통치
5. 일과 의미

제가 내리는 예측은 대부분의 기준에 따르면 매우 급진적인 것입니다(다른 SF '특이점' 비전과는 달리). 그러나 저는 이것을 진지하고 성실하게 의미합니다. 제가 말하는 모든 것이 쉽게 틀릴 수 있지만(위에서 다시 한 번 강조한 것처럼), 적어도 다양한 분야에서의 진보가 얼마나 빨라질 수 있는지, 그리고 그것이 실제로 어떤 의미를 가질 수 있는지에 대한 반쯤 분석적인 평가에 근거해 보려고 노력했습니다. 저는 생물학과 신경과학 분야에서 전문적인 경험을 갖고 있으며, 경제 발전 분야에서도 정보가 풍부한 아마추어입니다. 그렇지만 제가 많은 것을 잘못 이해할 수 있다는 점은 확실합니다. 이 에세이를 쓰면서 깨달은 한 가지는 생물학, 경제학, 국제 관계 등 여러 분야의 전문가들이 모여 제가 여기서 작성한 것보다 훨씬 더 잘 알고 정보가 풍부한 버전을 작성하는 것이 가치가 있을 것이라는 점입니다. 제 노력을 이 그룹을 위한 시작의 계기로 보는 것이 좋을 것입니다.

기본 가정과 프레임워크

이 에세이를 보다 정밀하고 구체적으로 만들기 위해서는 우리가 말하는 강력한 AI가 무엇인지, 즉 5-10년의 타이머가 언제 시작되는지를 명확히 정의하는 것이 도움이 됩니다. 또한 이러한 AI가 등장한 후 그 효과를 생각하는 데 필요한 프레임워크를 설정하는 것도 중요합니다.

강력한 AI가 무엇처럼 보일지, 언제 (또는 그것이) 도착할지에 대한 문제는 그 자체로 매우 큰 주제입니다. 저는 이 문제에 대해 공개적으로 논의한 적이 있으며, 언젠가 이에 대한 별도의 에세이를 쓸 가능성도 있습니다. 분명히 많은 사람들이 강력한 AI가 곧 개발될 것에 대해 회의적이며, 어떤 사람들은 그것이 결코 만들어지지 않을 것이라고도 생각합니다. 저는 2026년쯤에 올 수 있다고 생각하지만, 훨씬 더 오래 걸릴 가능성도 있습니다. 그러나 이 에세이의 목적을 위해서는 이러한 문제를 제쳐두고, 그것이 합리적으로 곧 올 것이라고 가정하고, 그 후 5-10년 동안 무슨 일이 일어날지를 집중적으로 다루고자 합니다. 또한 이 시스템이 어떤 모습일지, 그 기능이 무엇이며, 어떻게 상호작용할지를 정의하려고 합니다. 여기에는 의견이 다를 수 있는 여지가 있지만, 이를 논의할 것입니다.

제가 말하는 강력한 AI란 현재의 LLM(대형 언어 모델)과 비슷한 형태일 가능성이 높으나, 다른 아키텍처를 기반으로 하거나, 여러 상호작용 모델을 포함할 수 있으며, 훈련 방식이 다를 수 있는 AI 모델을 의미합니다. 이 모델은 다음과 같은 특성을 가질 것입니다:

1. 순수 지능 측면에서 생물학, 프로그래밍, 수학, 공학, 작문 등 대부분의 관련 분야에서 노벨상 수상자보다 더 똑똑합니다. 즉, 풀리지 않은 수학 정리를 증명하고, 뛰어난 소설을 작성하며, 어려운 코드를 처음부터 작성할 수 있다는 의미입니다.

2. 단지 "대화를 나누는 똑똑한 것" 이상입니다. 텍스트, 오디오, 비디오, 마우스 및 키보드 제어, 인터넷 액세스 등 인간이 가상으로 작업할 때 사용하는 모든 "인터페이스"를 가지고 있습니다. 이 AI는 인터넷에서의 작업 수행, 인간에게 지시하거나 지시받는 것, 재료를 주문하거나 실험을 지시하는 등 이 인터페이스를 통해 허용된 모든 작업과 의사소통을 수행할 수 있습니다. 또한, 이러한 작업을 전 세계에서 가장 유능한 인간보다 더 뛰어난 능력으로 수행합니다.

3. 단순히 질문에 답하는 것이 아니라, 몇 시간, 며칠 또는 몇 주가 걸리는 작업을 맡겨질 수 있으며, 필요한 경우 명확성을 요청하면서 이러한 작업을 자율적으로 수행합니다. 이는 똑똑한 직원이 하는 방식과 유사합니다.

4. 물리적인 구현은 없지만(컴퓨터 화면에 존재), 컴퓨터를 통해 기존의 물리적 도구, 로봇 또는 실험 장비를 제어할 수 있으며, 이론적으로는 스스로 사용할 로봇이나 장비를 설계할 수도 있습니다.

5. 모델을 훈련시키는 데 사용된 자원은 이를 실행하는 수백만 개의 인스턴스로 전환될 수 있으며(이는 2027년까지 예상되는 클러스터 크기와 일치합니다), 모델은 대략 인간 속도의 10배~100배로 정보를 흡수하고 행동을 생성할 수 있습니다. 다만, 물리 세계나 소프트웨어의 반응 시간이 제한 요소일 수 있습니다.

6. 이 수백만 개의 복사본은 독립적으로 서로 다른 작업을 수행할 수 있으며, 필요할 경우 모두 협력하여 작업을 수행할 수 있습니다. 이는 인간이 협력하는 방식과 유사하며, 아마도 특정 작업에 특히 능숙하도록 세분화된 하위 집단이 조정될 수 있습니다.

우리는 이것을 '데이터 센터 안에 있는 천재들의 나라'라고 요약할 수 있습니다.

분명히 이러한 존재는 매우 어려운 문제를 매우 빠르게 해결할 수 있는 능력을 가질 것입니다. 하지만 얼마나 빠를지는 추정하기가 어렵습니다. 두 가지 '극단적인' 입장은 모두 거짓으로 보입니다. 첫 번째로, 당신은 이 세상이 몇 초나 며칠 만에 즉시 변화할 것이라고 생각할 수 있습니다('특이점'으로 알려짐). 이 때, 우수한 지능이 자체적으로 발전하고 모든 과학, 공학 및 운영 작업을 즉각적으로 해결할 것이라고 상상할 수 있습니다. 이 문제는 물리적 및 실질적인 한계가 있다는 것입니다. 예를 들어 하드웨어를 구축하거나 생물학적 실험을 수행하는 데 필요한 실질적인 한계가 있습니다. 지능은 매우 강력할 수 있지만, 마법의 가루는 아닙니다.

두 번째로, 반대로 기술 발전은 실질적인 데이터나 사회적 요인에 의해 이미 포화되었으며, 인간보다 뛰어난 지능이 거의 영향을 미치지 않을 것이라는 입장도 있습니다. 이것 또한 저에게는 비현실적으로 보입니다. 저는 대규모의 매우 똑똑한 사람들이 과학적 또는 사회적 문제를 해결하는 데 있어서 대폭적인 속도 향상을 가져올 수 있는 수백 가지의 문제를 생각할 수 있습니다. 특히 분석에만 의존하는 것이 아니라 실제 세계에서 무언가를 실현할 수 있다면 말입니다(우리의 천재들의 나라는 이러한 일을 할 수 있으며, 인간 팀을 지휘하거나 도울 수 있습니다).

저는 진실이 이 두 가지 극단적인 그림의 혼합물에 가깝다고 생각합니다. 이는 작업과 분야에 따라 다르고, 세부 사항에서 매우 미묘할 가능성이 큽니다. 우리는 이러한 세부 사항을 생산적으로 생각하기 위한 새로운 프레임워크가 필요하다고 믿습니다.

경제학자들은 종종 "생산 요소"에 대해 이야기합니다. 여기에는 노동, 토지, 자본 등이 포함됩니다. "노동/토지/자본의 한계 수익률"이라는 표현은 특정 상황에서 어느 요소가 제한적인 요소가 될 수 있다는 아이디어를 담고 있습니다. 예를 들어, 공군에는 비행기와 조종사가 필요하며, 비행기가 부족하면 조종사를 더 고용해도 소용이 없습니다. 저는 AI 시대에는 지능의 한계 수익률에 대해 이야기해야 한다고 생각하며, 지능이 매우 높을 때 지능과 보완적인 역할을 하는 다른 요소가 무엇인지, 그리고 이러한 요소가 제한 요소가 되는지 알아내는 것이 중요하다고 봅니다. 우리는 익숙하지 않지만, "이 작업에서 더 똑똑해지는 것이 얼마나 도움이 되는가, 그리고 어떤 시간적 규모에서 도움이 되는가?"를 묻는 것이 강력한 AI가 존재하는 세계를 개념화하는 올바른 방법이라고 생각합니다.

제가 생각하는 지능과 상호 보완적이거나 제한적인 요소의 목록은 다음과 같습니다:

1. 외부 세계의 속도. 지능적인 에이전트는 작업을 완료하고 학습하기 위해 세계와 상호작용해야 합니다. 그러나 세계는 일정 속도로만 움직입니다. 세포와 동물은 고정된 속도로 움직이기 때문에, 그들을 대상으로 한 실험은 일정 시간이 걸리며, 이는 줄일 수 없을 수 있습니다. 하드웨어, 재료 과학, 사람들과의 커뮤니케이션, 기존 소프트웨어 인프라 모두 마찬가지입니다. 더욱이, 과학에서는 종종 연속된 실험이 필요하며, 각 실험은 이전 실험에서 배운 것을 기반으로 이루어집니다. 이러한 모든 이유로 인해 주요 프로젝트, 예를 들어 암 치료제를 개발하는 데 필요한 시간은 지능이 아무리 높아져도 줄일 수 없는 최소한의 시간이 있을 수 있습니다.

2. 데이터의 필요성. 때로는 데이터가 부족한 경우, 더 높은 지능이 도움이 되지 않습니다. 오늘날 입자 물리학자들은 매우 창의적이며 다양한 이론을 개발했지만, 입자 가속기 데이터를 얻기 어려워 그 이론들 사이에서 선택하기가 힘듭니다. 슈퍼지능이 있다고 해도 그들이 현재보다 훨씬 더 나은 성과를 내지 못할 수도 있습니다. 아마도 더 큰 가속기를 만드는 속도를 높일 수는 있겠지만요.

3. 본질적인 복잡성. 어떤 것들은 본질적으로 예측할 수 없거나 혼란스럽기 때문에, 가장 강력한 AI도 이를 현재의 인간이나 컴퓨터보다 훨씬 더 잘 예측하거나 분석할 수는 없습니다. 예를 들어, 매우 강력한 AI도 일반적인 경우의 삼체 문제와 같은 혼돈 시스템을 예측하는 데 있어 현재의 인간이나 컴퓨터보다 조금 더 나은 예측만 할 수 있습니다.

4. 인간의 제약. 많은 일은 법을 어기거나 인간을 해치지 않고는 할 수 없으며, 사회를 혼란에 빠뜨릴 위험이 있습니다. 정렬된 AI는 이러한 일을 하고 싶어하지 않을 것입니다(정렬되지 않은 AI가 있다면 우리는 다시 위험에 대해 이야기하는 상황으로 돌아가겠지만요). 많은 인간 사회 구조는 비효율적이거나 심지어 해로운 경우가 많지만, 임상 시험에 대한 법적 요구사항, 사람들이 습관을 바꾸려는 의지, 정부의 행동과 같은 제약을 존중하면서 바꾸기는 어렵습니다. 기술적으로는 효과가 있지만 규제나 잘못된 두려움으로 인해 그 영향을 크게 줄인 예로는 원자력, 초음속 비행기, 심지어 엘리베이터까지 포함될 수 있습니다.

5. 물리 법칙. 이것은 첫 번째 요점의 더 명확한 버전입니다. 깨기 어려운 물리 법칙이 존재합니다. 빛보다 빠르게 여행하는 것은 불가능합니다. 푸딩은 다시 섞이지 않습니다. 칩은 일정 크기 이상의 트랜지스터를 가질 수 없습니다. 계산은 지우는 비트당 최소 에너지가 필요하며, 이는 세계에서의 계산 밀도를 제한합니다.

또한 시간 규모에 따른 차이가 있습니다. 단기적으로는 제한 요소가 되는 것이 장기적으로는 지능에 의해 더 유연해질 수 있습니다. 예를 들어, 지능은 이전에는 동물 실험이 필요했던 것을 인공 실험에서 학습할 수 있는 새로운 실험 패러다임을 개발하거나, 새로운 데이터를 수집하기 위해 더 큰 입자 가속기를 건설할 수 있으며, 인간 중심의 제약을 우회하는 방법(예를 들어 임상 시험 시스템 개선, 관료주의가 적은 새 관할 구역 생성, 임상 시험이 필요 없거나 저렴해지는 과학의 발전)까지 찾을 수 있습니다.

따라서 우리는 처음에는 다른 생산 요소들에 의해 지능이 크게 병목을 겪지만, 시간이 지나면서 지능 자체가 다른 요소들을 점점 우회하기 시작하는 그림을 상상해야 합니다. 물론, 물리 법칙과 같은 일부 요소들은 절대적으로 존재합니다. 핵심 질문은 이 모든 것이 얼마나 빨리 발생하고, 어떤 순서로 이루어지느냐입니다.

이 프레임워크를 염두에 두고, 서문에서 언급한 다섯 가지 영역에 대한 질문에 답해 보겠습니다.

1. 생물학과 건강

생물학은 과학적 진보가 인간 삶의 질을 직접적이고 명확하게 향상시킬 가능성이 가장 큰 분야입니다. 지난 세기 동안 가장 오래된 인간의 고통(예: 천연두)이 마침내 극복되었지만, 여전히 남아있는 많은 고통이 있으며, 이를 극복하는 것은 엄청난 인도주의적 성취가 될 것입니다. 질병 치료를 넘어 생물학적 과학은 이론적으로 건강한 인간 수명을 연장하고, 우리의 생물학적 과정을 더 잘 통제하며, 현재 인간 조건의 불가피한 일부로 생각되는 일상적인 문제들을 해결할 수 있습니다.

앞서 설명한 "제한 요소" 언어에서 보면, 생물학에 지능을 직접적으로 적용하는 데 가장 큰 장애물은 데이터, 물리 세계의 속도, 그리고 내재적 복잡성입니다. (사실 이 세 가지는 서로 관련이 있습니다.) 인간 제약 또한 임상 시험이 개입되는 후반 단계에서 중요한 역할을 합니다. 이를 하나씩 살펴보겠습니다.

세포, 동물, 심지어 화학적 과정에 대한 실험은 물리 세계의 속도로 인해 제한됩니다. 많은 생물학적 프로토콜은 세균이나 다른 세포를 배양하거나, 단순히 화학 반응을 기다리는 것과 관련이 있으며, 이러한 과정은 때때로 며칠이나 몇 주가 걸립니다. 이를 빨리 처리할 방법은 없습니다. 동물 실험은 수개월 또는 그 이상이 걸릴 수 있으며, 인간을 대상으로 한 실험은 종종 수년에서 수십 년이 걸립니다. 이와 관련된 문제로, 데이터의 양이 아니라 질의 부족이 있습니다. 특정 생물학적 효과를 10,000가지 혼란 요소와 독립적으로 명확하게 나타내는 데이터, 또는 인과적으로 특정 과정에 개입하는 데이터, 또는 어떤 효과를 직접 측정하는 데이터가 항상 부족합니다. (반대의 간접적이거나 노이즈가 많은 방식으로 그 결과를 추론하는 것이 아니라요.) 제가 질량 분석 기법으로 수집한 단백질체 데이터와 같은 대규모의 양적 분자 데이터도 노이즈가 많고, 많은 것을 놓칩니다. 예를 들어, 이 단백질들이 어떤 유형의 세포에 있었는지, 세포의 어느 부위에 있었는지, 세포 주기의 어떤 단계에 있었는지와 같은 정보가 없습니다.

이 데이터 문제의 일부는 내재적인 복잡성 때문입니다. 인간 대사의 생화학을 보여주는 다이어그램을 본 적이 있다면, 이 복잡한 시스템의 어느 부분에서든 효과를 고립시키는 것이 매우 어렵고, 이 시스템에 정확하게 개입하는 것은 훨씬 더 어렵다는 것을 알 것입니다. 그리고 마침내, 인간에 대한 실험을 실행하는 데 필요한 본질적인 시간 외에도 실제 임상 시험에는 많은 관료적 요구사항과 규제가 있으며, 이는 많은 사람들(저를 포함한 많은 사람들)의 의견으로는 불필요한 추가 시간을 유발하여 진보를 지연시키는 요인입니다.

이 때문에 많은 생물학자들은 AI와 '빅 데이터'에 대해 회의적인 입장을 오랫동안 유지해 왔습니다. 역사적으로 수학자, 컴퓨터 과학자, 물리학자들은 지난 30년 동안 자신들의 기술을 생물학에 적용했으나, 처음 기대했던 만큼의 변혁적인 영향을 미치지 못했습니다. 이 회의론은 AlphaFold(창작자들이 노벨 화학상을 받을 만한 대단한 성과를 이룬)와 AlphaProteo와 같은 주요 혁신적인 돌파구로 인해 어느 정도 감소했지만, AI는 제한된 상황에서만 유용할 것이라는 인식이 여전히 남아 있습니다. 흔히 하는 말로 "AI는 데이터를 더 잘 분석할 수 있지만, 더 많은 데이터를 생성하거나 데이터의 질을 개선할 수는 없다. 쓰레기가 들어가면, 쓰레기가 나온다."라고 합니다.

그러나 저는 이 비관적인 관점이 AI를 잘못 바라보고 있다고 생각합니다. 만약 우리가 AI 발전에 대한 기본 가설이 옳다면, AI를 데이터 분석 방법으로 생각하는 것이 아니라, 실제 생물학자처럼 모든 생물학적 작업을 수행하는 가상 생물학자로 생각하는 것이 맞습니다. 여기에는 실험 설계, 실험 수행, 로봇 제어 또는 인간에게 실험 지시 등이 포함되며, 생물학자들이 수행하는 거의 모든 작업을 수행하고 개선하는 것입니다. AI는 연구 과정 전체를 가속화함으로써 생물학을 진정으로 가속화할 수 있습니다. AI의 생물학적 변혁 능력에 대해 이야기할 때 가장 자주 오해되는 점을 다시 한 번 강조하고 싶습니다. 저는 AI가 단지 데이터를 분석하는 도구가 아니라, 생물학자가 하는 거의 모든 것을 수행하고 지휘하며 개선하는 방식으로 활용된다는 이야기를 하고 있습니다.

이제 어디에서 가속이 발생할 가능성이 있는지 구체적으로 살펴보겠습니다. 생물학에서의 진보 중 놀라울 만큼 큰 부분은 측정 도구나 기술과 관련된 매우 적은 수의 발견에서 나왔습니다. 이들은 정확하지만 일반적이거나 프로그래밍 가능한 방식으로 생물학적 시스템에 개입할 수 있게 해줍니다. 매년 이러한 주요 발견이 약 1개씩 나오며, 이 발견들이 생물학의 진보의 50% 이상을 차지한다고 주장할 수 있습니다. 이 발견들은 본질적 복잡성과 데이터 제한을 직접적으로 해결함으로써 우리의 생물학적 과정에 대한 이해와 제어력을 크게 증가시킵니다. 몇 가지 발견은 수십 년 동안 우리에게 생물학에 대한 기본 과학적 이해를 제공했으며, 가장 강력한 의학적 치료법을 이끌어냈습니다.

몇 가지 예로는:

• CRISPR: 살아있는 생명체의 모든 유전자를 실시간으로 편집할 수 있는 기술(임의의 유전자 서열을 다른 임의의 서열로 교체). 초기 기술이 개발된 이후, 특정 세포 유형을 대상으로 하거나 정확성을 높이고 잘못된 유전자의 편집을 줄이는 등 인간에게 안전하게 사용할 수 있도록 지속적인 개선이 이루어졌습니다.

• 다양한 종류의 현미경: 정밀한 수준에서 일어나는 일을 관찰할 수 있는 기술. 고급 형광 기법, 특수 광학 등을 갖춘 고급 광학 현미경, 전자 현미경, 원자 힘 현미경 등 다양한 기법이 있습니다.

• 게놈 시퀀싱 및 합성: 지난 몇 십 년 동안 비용이 몇 배나 줄어든 기술입니다.

• 옵토제네틱 기법: 신경세포에 빛을 비추면 발사하도록 하는 기술.

• mRNA 백신: 원칙적으로 무엇이든 백신을 설계하고 신속하게 적응시킬 수 있는 기술(이 mRNA 백신은 COVID 동안 유명해졌습니다).

• 세포 치료법: CAR-T와 같은 기술로 면역 세포를 몸 밖으로 꺼내어 다시 프로그래밍하여 원칙적으로 무엇이든 공격하도록 할 수 있습니다.

• 개념적 통찰: 병원균 이론이나 면역 체계와 암 사이의 연관성 발견 등이 있습니다.

이 모든 기술을 나열한 이유는 중요한 주장을 하기 위해서입니다. 저는 이러한 기술들의 발견 속도를 10배 이상 증가시킬 수 있다고 생각합니다. 더 많은 유능하고 창의적인 연구자가 있다면 말입니다. 또는 달리 말하면, 이러한 발견들에 대한 지능의 수익률이 매우 높다고 생각하며, 생물학과 의학의 모든 진보는 주로 이러한 발견들에 따라 진행됩니다.

왜 그렇게 생각하느냐고 묻는다면, 저는 다음 질문에 대한 답변 때문이라고 할 것입니다. 우리는 지능의 수익률을 결정할 때 이런 질문을 습관적으로 물어봐야 합니다. 첫째, 이 발견들은 일반적으로 소수의 연구자들에 의해 이루어졌으며, 종종 같은 사람들이 반복적으로 발견을 했습니다. 이는 기술이나 창의성이 중요하다는 것을 시사합니다. 만약 발견이 단순한 무작위 검색에 의한 것이라면, 시간이 오래 걸리는 실험이 제한 요소일 수 있겠지만, 기술적 요소가 강력한 요인이라는 것이 드러납니다. 둘째, 이 발견들은 종종 훨씬 더 일찍 이루어질 수 있었을 것입니다. 예를 들어, CRISPR는 박테리아의 면역 시스템에서 자연적으로 발생하는 요소였으며 1980년대부터 알려져 있었지만, 그것이 유전자 편집에 일반적으로 재사용될 수 있다는 사실을 깨닫는 데 25년이 걸렸습니다. 또한 많은 유망한 연구 방향이 과학 공동체의 지원 부족으로 인해 여러 해 동안 지연된 경우도 많습니다. (mRNA 백신의 발명가에 대한 프로필을 참조하십시오. 유사한 이야기는 수없이 많습니다.) 셋째, 성공적인 프로젝트는 종종 사소하게 여겨지거나, 처음에는 그다지 유망하지 않다고 생각되었던 것들이었으며, 대규모 자금 지원을 받지 못한 경우가 많습니다. 이는 단순히 대규모 자원 집중만이 발견을 촉진하는 것이 아니라 창의성이 중요한 요소임을 시사합니다.

마지막으로, 이러한 발견들 중 일부는 "연속적 의존성"이 있지만(도구나 지식이 필요하여 A 발견을 먼저 해야만 B 발견을 할 수 있는 경우), 많은 경우 특히 독립적입니다. 즉, 여러 가지가 한 번에 병렬적으로 진행될 수 있습니다. 이러한 사실들과 제가 생물학자로서의 경험을 바탕으로 보면, 수백 가지의 발견들이 기다리고 있으며, 인간 지식의 방대한 양에서 연결성을 잘 찾는 더 똑똑한 과학자들이 있다면 더 빨리 이루어질 것이라고 강력히 생각합니다. AlphaFold/AlphaProteo가 인간이 수십 년 동안 신중하게 설계한 물리학 모델보다 훨씬 더 효과적으로 중요한 문제를 해결한 성공 사례는(비록 제한된 도구로 제한된 영역에서이긴 하지만) 앞으로 나아갈 길을 제시하는 원칙적인 증거라고 생각합니다.

따라서 저는 강력한 AI가 이러한 발견들의 속도를 최소 10배 가속시킬 수 있다고 생각합니다. 이를 통해 우리는 향후 50100년 동안의 생물학적 진보를 510년 안에 이룰 수 있을 것입니다. 왜 100배는 아니냐고 묻는다면, 이는 아마도 가능할 수 있지만, 여기서 연속적 의존성과 실험 시간이 중요한 역할을 하기 때문입니다. 1년 만에 100년의 진보를 이루려면 많은 것이 첫 시도에서 올바르게 진행되어야 하며, 동물 실험 및 현미경이나 실험실 설계와 같은 것들이 필요합니다. 5~10년 안에 1000년의 진보를 이룰 수 있다는 (어쩌면 터무니없이 들릴 수 있는) 아이디어는 열려 있지만, 1년 안에 100년의 진보는 불가능하다고 생각합니다. 또 다른 방식으로 표현하자면, 특정 지연은 피할 수 없다고 생각합니다. 실험 및 하드웨어 설계는 일정한 "대기 시간"이 있으며, 논리적으로 추론할 수 없는 것을 배우기 위해서는 일정한 "필수적인" 횟수만큼 반복되어야 합니다. 그러나 그 위에 엄청난 병렬 처리가 가능할 수 있습니다.

임상 시험에 대해서는 어떻게 생각할 수 있을까요? 물론 임상 시험에는 많은 관료적 문제와 속도 저하가 있지만, 진실은 그 속도의 대부분(모두는 아님)이 엄격하게 평가해야 할 약물의 효과가 거의 없거나 애매한 경우에서 비롯된다는 것입니다. 오늘날의 치료법 중 대부분은 불행히도 이러한 상황에 해당합니다. 예를 들어, 평균적인 암 치료제는 생존 기간을 몇 개월만 늘리며, 그로 인해 발생하는 상당한 부작용을 신중하게 측정해야 합니다. (알츠하이머 치료제에 대한 이야기 또한 비슷합니다.) 이로 인해 통계적 유의성을 확보하기 위해 대규모 연구가 필요하고, 규제 기관들은 관료주의와 복잡한 이해관계로 인해 어려운 선택을 해야 합니다.

그러나 어떤 것이 정말 잘 작동한다면 훨씬 더 빠르게 진행됩니다. 효과 크기가 더 클 때 승인 과정이 더 쉬워지고, 가속화된 승인 경로도 있습니다. COVID에 대한 mRNA 백신은 9개월 만에 승인되었습니다. 이는 평소보다 훨씬 빠른 속도입니다. 그렇다고 해도, 이러한 조건에서도 임상 시험은 여전히 너무 느립니다. mRNA 백신은 아마도 2개월 안에 승인되었어야 했을 것입니다. 그러나 이러한 지연(약물의 전 과정을 1년 정도로 줄일 수 있다)은 막대한 병렬화와 몇 번의 시도만 필요로 하는 반복성 때문에, 5~10년 내에 생물학적 혁신이 가능할 것입니다. 더 낙관적으로는, AI가 주도하는 생물학은 인간에게 일어날 일을 더 정확하게 예측할 수 있는 더 나은 동물 및 세포 실험 모델(또는 심지어 시뮬레이션)을 개발함으로써 임상 시험에서의 반복의 필요성을 줄일 수도 있습니다. 이는 특히 수십 년에 걸쳐 진행되는 노화 과정을 겨냥한 약물을 개발할 때 중요한 역할을 할 것입니다. 왜냐하면 더 빠른 반복 루프가 필요하기 때문입니다.

마지막으로, 임상 시험과 사회적 장벽에 대해 이야기하면서, 바이오 의학 혁신이 다른 기술들에 비해 상대적으로 성공적으로 배치된 역사를 가지고 있다는 점을 명시적으로 지적할 가치가 있습니다. 서론에서 언급했듯이, 많은 기술들은 기술적으로 잘 작동하지만, 사회적 요인들로 인해 방해를 받습니다. 이는 AI가 무엇을 성취할 수 있는지에 대해 회의적인 관점을 시사할 수 있습니다. 그러나 생물의학은 고유하게도 약물이 한 번 개발되면 일반적으로 성공적으로 배포되고 사용된다는 점에서 독특합니다.

위의 내용을 요약하자면, 저의 기본적인 예측은 AI가 주도하는 생물학과 의학이 인간 생물학자들이 향후 50 - 100년에 걸쳐 이룰 진보를 5 - 10년 안에 압축하여 이룰 수 있을 것이라는 것입니다. 이를 '압축된 21세기'라고 부를 것입니다. 이는 강력한 AI가 개발된 이후 몇 년 안에 생물학과 의학 분야에서 우리가 21세기 동안 이루었을 모든 진보를 이루게 될 것이라는 아이디어입니다.

강력한 AI가 몇 년 안에 무엇을 할 수 있을지를 예측하는 것은 여전히 본질적으로 어렵고 추측에 불과하지만, "인간이 앞으로 100년 동안 독립적으로 무엇을 할 수 있을까?"를 묻는 것은 조금 더 구체적인 질문입니다. 20세기 동안 우리가 무엇을 성취했는지, 21세기 첫 20년을 어떻게 추론할 수 있는지, 그리고 "10개의 CRISPR와 50개의 CAR-T"가 우리에게 무엇을 가져다줄지 등을 단순히 살펴보는 것만으로도 우리가 강력한 AI로부터 기대할 수 있는 진보의 수준을 예측할 수 있습니다.

아래에서는 우리가 기대할 수 있는 것들을 목록으로 만들어보려고 합니다. 이는 엄격한 방법론에 기반한 것은 아니며, 세부 사항에서는 거의 틀릴 가능성이 높지만, 우리가 예상해야 할 급진적인 수준을 전달하려고 합니다:

1. 거의 모든 자연 감염병의 신뢰할 수 있는 예방 및 치료. 20세기에 감염병에 대한 엄청난 진보가 있었음을 감안할 때, 압축된 21세기 동안 우리는 그 일을 거의 "완성"할 수 있을 것이라고 상상하는 것은 급진적인 생각이 아닙니다. mRNA 백신과 유사한 기술은 이미 "무엇이든 백신"의 가능성을 제시하고 있습니다. 감염병이 완전히 근절될지는(일부 지역에서만이 아니라 전 세계적으로) 빈곤과 불평등에 대한 질문에 달려 있습니다. 이는 3장에서 다룰 것입니다.

2. 대부분의 암 제거. 암으로 인한 사망률은 지난 몇 십 년 동안 매년 약 2%씩 감소했습니다. 따라서 인간 과학의 현재 속도로 보았을 때, 21세기 말에는 대부분의 암이 제거될 것으로 보입니다. 일부 유형의 암은 이미 거의 완치되었습니다. (예: CAR-T 치료법을 사용한 일부 백혈병) 저는 암이 초기 단계에서 발생하는 것을 막는 매우 선택적인 약물에도 큰 기대를 걸고 있습니다. AI는 또한 개별 암의 유전자형에 매우 정교하게 맞춘 치료 요법을 가능하게 할 것입니다. 이는 오늘날에도 가능하지만, 인간의 전문성과 시간이 너무 많이 소요되어 AI가 이를 확장할 수 있도록 해야 합니다. 사망률과 발생률을 95% 이상 줄이는 것이 가능해 보입니다. 그럼에도 불구하고 암은 매우 다양하고 적응력이 뛰어나므로 이러한 질병 중에서 완전히 제거하는 것은 가장 어려운 과제일 것입니다. 드물고 어려운 종류의 악성 종양이 계속 남을 가능성이 큽니다.

3. 유전병의 매우 효과적인 예방 및 치료. 대폭 개선된 배아 스크리닝은 대부분의 유전병을 예방할 수 있게 될 것이며, CRISPR의 더 안전하고 신뢰할 수 있는 후속 기술은 기존 사람들에게서도 대부분의 유전병을 치료할 수 있을 것입니다.전신에 영향을 미치는 유전병은 마지막까지 남아있을 수 있습니다. 그러나 대부분의 유전병은 치료될 가능성이 높습니다.

1. 알츠하이머 예방. 우리는 알츠하이머의 원인이 무엇인지 밝혀내는 데 매우 어려움을 겪어왔습니다. 그것이 베타 아밀로이드 단백질과 관련이 있다는 것은 알고 있지만, 실제로 그 세부 사항은 매우 복잡해 보입니다. 이는 더 나은 측정 도구로 생물학적 효과를 고립시키는 방식으로 해결할 수 있는 문제인 것처럼 보입니다. 따라서 AI가 이 문제를 해결할 가능성에 대해 저는 낙관적입니다. 우리가 실제로 무슨 일이 일어나고 있는지 이해하게 되면 비교적 간단한 개입으로 예방할 수 있을 가능성이 큽니다. 그러나 이미 존재하는 알츠하이머로 인한 손상은 되돌리기 어려울 수 있습니다.

2. 대부분의 다른 질병의 개선된 치료. 이는 당뇨병, 비만, 심장병, 자가 면역 질환 등을 포함한 기타 질병에 대한 포괄적인 카테고리입니다. 대부분의 경우, 이러한 질병들은 암이나 알츠하이머보다 "해결하기 쉬운" 문제로 보이며, 실제로는 이미 상당한 진전을 이루고 있습니다. 예를 들어, 심장병으로 인한 사망률은 이미 50% 이상 감소했으며, GLP-1 작용제와 같은 간단한 개입으로 비만과 당뇨병에 대해 큰 진전을 이루었습니다.

3. 생물학적 자유. 지난 70년 동안 피임, 가임력, 체중 관리 등에서 진전이 있었습니다. 그러나 저는 AI가 주도하는 생물학이 가능한 것을 크게 확장할 것이라고 생각합니다. 체중, 신체적 외모, 생식력 및 기타 생물학적 과정은 모두 사람들이 완전히 통제할 수 있게 될 것입니다. 우리는 이를 생물학적 자유라는 이름으로 부를 것입니다. 즉, 모든 사람이 자신이 되고 싶은 것을 선택할 수 있고, 그들이 원하는 방식으로 자신의 삶을 살 수 있도록 권한을 부여하는 것입니다. 물론 글로벌 접근성의 평등과 관련된 중요한 질문들이 있겠지만, 이는 3장에서 다룰 것입니다.

4. 인간 수명의 두 배 증가. 이것은 급진적으로 들릴 수 있지만, 20세기 동안 인간의 평균 수명은 거의 두 배로 증가했습니다. (약 40세에서 약 75세로) 따라서 '압축된 21세기' 동안 이를 다시 두 배로 늘려 150세까지 연장하는 것은 "추세적"이라고 할 수 있습니다. 물론, 실제로 노화 과정을 늦추는 개입은 주로 어린 시절의 질병으로 인한 조기 사망을 막는 것과는 다를 것입니다. 하지만 변화의 크기는 전례 없는 것이 아닙니다. 구체적으로는, 쥐의 수명을 25~50% 늘리는 약물이 이미 존재하며, 큰 부작용 없이 사용할 수 있습니다. 또한 일부 동물(예: 거북이의 일부 종류)은 이미 200년을 살기 때문에 인간이 이론적인 상한선에 도달했다고 볼 수 없습니다. 제 추측으로는 가장 중요한 것은 인간 노화의 신뢰할 수 있는 비 Goodhart-able 바이오 마커일 것입니다. 이는 실험과 임상 시험에서 빠른 반복을 가능하게 할 것입니다. 한 번 인간 수명이 150년이 되면, 우리는 "탈출 속도"에 도달할 수도 있습니다. 이는 대부분의 현존하는 사람들이 원하는 만큼 오래 살 수 있게 해줄 것입니다. 물론, 생물학적으로 이것이 가능한지는 확실하지 않습니다.

이 목록을 보고, 만약 이 모든 것이 7~12년 후(공격적인 AI 타임라인에 맞춰) 이루어진다면 세상이 얼마나 달라질지 반성해볼 필요가 있습니다. 말할 필요도 없이, 이는 수천 년 동안 인류를 괴롭혀 온 대부분의 재난을 한 번에 제거하는 상상할 수 없는 인도주의적 승리가 될 것입니다. 제 주변에는 아이들을 키우고 있는 친구와 동료들이 많은데, 그 아이들이 성장할 때쯤이면 질병에 대한 이야기가 괴혈병, 천연두, 흑사병에 대한 이야기처럼 들릴 것입니다. 그 세대는 또한 더 많은 생물학적 자유와 자기 표현을 누릴 것이며, 운이 좋으면 원하는 만큼 오래 살 수 있을 것입니다.

이러한 변화들이 AI를 기대했던 소수의 사람들을 제외한 모든 이들에게 얼마나 충격적일지는 과소평가하기 어렵습니다. 예를 들어, 현재 미국의 수천 명의 경제학자와 정책 전문가들이 사회보장제도와 메디케어를 어떻게 유지할지, 더 나아가 70세 이상, 특히 암과 같은 말기 질환을 앓고 있는 사람들이 주로 소모하는 의료 비용을 어떻게 줄일지 논의하고 있습니다. 이 프로그램들의 상황은 이러한 모든 것이 현실화된다면 급격히 개선될 가능성이 큽니다. 왜냐하면, 노동 연령 인구와 은퇴 인구의 비율이 급격히 변할 것이기 때문입니다. 분명히 이러한 도전 과제들은 기술에 대한 광범위한 접근을 어떻게 보장할 것인가와 같은 다른 도전 과제로 대체될 것이지만, 생물학이 성공적으로 가속화될 경우 세상이 어떻게 변할지 반성해볼 가치가 있습니다.

2. 신경과학과 정신

앞서의 섹션에서는 신체 질병과 생물학 전반에 대해 이야기했지만, 신경과학이나 정신 건강에 대해서는 다루지 않았습니다. 그러나 신경과학은 생물학의 하위 분야이며, 정신 건강은 신체 건강만큼 중요합니다. 사실, 정신 건강은 신체 건강보다도 인간의 웰빙에 더 직접적인 영향을 미칠 수 있습니다. 수백만 명의 사람들이 중독, 우울증, 정신분열증, 저기능 자폐증, PTSD, 반사회적 인격장애 또는 지적 장애와 같은 문제들로 인해 매우 낮은 삶의 질을 경험하고 있습니다. 그보다 더 많은 수십억 명이 이러한 심각한 임상적 장애의 경미한 버전으로 해석될 수 있는 일상적인 문제들과 씨름하고 있습니다. 그리고 일반 생물학과 마찬가지로, 문제를 해결하는 것을 넘어 인간 경험의 기본적인 질을 향상시키는 것이 가능할 수 있습니다.

제가 생물학을 위해 제시한 기본 프레임워크는 신경과학에도 동일하게 적용됩니다. 이 분야는 종종 측정 또는 정확한 개입을 위한 도구와 관련된 소수의 발견에 의해 진보합니다. 위에서 언급한 목록에서, 옵토제네틱스는 신경과학에서의 발견이었으며, 최근에는 CLARITY와 확장 현미경이 같은 맥락에서 진전을 이루었고, 많은 일반 세포 생물학적 방법들도 신경과학에 직접적으로 적용될 수 있습니다. 이러한 진보의 속도는 AI에 의해 동일한 방식으로 가속화될 것이며, 따라서 "100년의 진보를 5~10년 만에 이루는" 프레임워크는 생물학과 마찬가지로 신경과학에도 적용될 수 있습니다. 20세기 신경과학의 진보는 엄청났습니다. 예를 들어, 1950년대까지 우리는 신경세포가 어떻게, 왜 발사하는지조차 이해하지 못했습니다. 따라서 AI가 가속화된 신경과학이 몇 년 안에 빠른 진전을 이루리라고 기대하는 것이 합리적으로 보입니다.

우리가 여기에 추가해야 할 한 가지는 최근 몇 년간 AI에 대해 배운 것들이 신경과학의 진보를 더욱 가속화할 수 있다는 점입니다. 인터프리터빌리티는 그 중 한 가지 뚜렷한 예입니다. 생물학적 신경세포는 인공 신경세포와는 표면적으로 완전히 다른 방식으로 작동하지만, (생물학적 신경세포는 스파이크 및 종종 스파이크 속도를 통해 의사소통하며, 세포 생리학 및 신경전달물질과 관련된 여러 세부 사항이 크게 다릅니다.) "단순한 단위들이 비선형 작업을 조합해 중요한 계산을 수행하는 분산되고 훈련된 네트워크가 어떻게 중요한 계산을 수행하는가?"라는 기본적인 질문은 동일합니다. 저는 세부 사항이 대부분 흥미로운 질문에서 추상화될 것이라고 강력히 의심합니다.이 중 한 가지 예로, AI 시스템에서 인터프리터빌리티 연구자들이 발견한 계산 메커니즘이 최근에 쥐의 뇌에서 재발견된 사례가 있습니다.

인공 신경망에서 실험을 수행하는 것이 실제 신경망에서 실험을 수행하는 것보다 훨씬 쉽기 때문에, 인터프리터빌리티는 우리가 신경과학에 대한 이해를 개선하는 도구로 자리 잡을 가능성이 높습니다. 더 나아가, 강력한 AI는 인간보다 이 도구를 더 잘 개발하고 적용할 수 있을 것입니다.

인터프리터빌리티 외에도, AI에서 지능 시스템이 어떻게 훈련되는지에 대해 배운 것들은 (아직 적용되지 않았다면) 신경과학에 혁명을 일으킬 가능성이 큽니다. 제가 신경과학에서 일할 당시, 많은 사람들이 학습에 대해 지금 제가 생각하는 것과는 다른 질문에 집중했는데, 그 이유는 그 당시에는 '확장 가설'(scaling hypothesis) 또는 '고통스러운 교훈'(bitter lesson)이라는 개념이 존재하지 않았기 때문입니다. 간단한 목표 함수와 많은 데이터가 매우 복잡한 행동을 유도할 수 있다는 아이디어는 목표 함수와 구조적 편향(architectural biases)을 이해하는 것이 중요한 것이지, 발생하는 계산의 세부 사항을 이해하는 것이 덜 중요하다는 것을 시사합니다. 저는 최근 몇 년 동안 이 분야를 면밀히 따르지 않았지만, 계산 신경과학자들이 아직 완전히 이 교훈을 흡수하지 못했다고 생각합니다. 제 태도는 항상 '확장 가설'이 "아, 이것이 지능이 어떻게 작동하고 어떻게 쉽게 진화했는지에 대한 고수준의 설명이구나"라는 것이었지만, 이것이 평균적인 신경과학자의 견해는 아니라고 생각합니다. 그 이유는 AI 내에서도 지능의 비밀로서 확장 가설이 아직 완전히 받아들여지지 않았기 때문입니다.

저는 신경과학자들이 이 기본적인 통찰을 인간 두뇌의 특수성과 결합하려고 시도해야 한다고 생각합니다. (생물물리학적 한계, 진화적 역사, 지형적 특성, 운동 및 감각 입력/출력의 세부 사항 등) 이를 통해 신경과학의 주요 퍼즐 중 일부를 풀어나가야 한다고 생각합니다. 일부 연구자들은 아마도 이 방향으로 일하고 있을 것입니다. 그러나 충분히 많은 연구가 이루어지지 않았다고 생각하며, AI 신경과학자들이 이 각도를 더 효과적으로 활용하여 진전을 가속화할 수 있을 것으로 보입니다.

저는 AI가 신경과학 진전을 가속화할 네 가지 경로를 예상하며, 이 모든 경로가 협력하여 정신 질환을 치료하고 뇌 기능을 개선하는 데 기여할 수 있을 것입니다.

1. 전통적인 분자 생물학, 화학, 유전학. 이는 기본적으로 일반 생물학과 같은 이야기입니다. AI는 동일한 메커니즘을 통해 이 과정을 가속화할 수 있을 것입니다. 많은 약물이 신경전달물질을 조절하여 뇌 기능을 변화시키고, 경계 상태나 인식을 변화시키며, 기분을 바꿉니다. AI는 더 많은 약물을 발명하는 데 도움을 줄 수 있습니다. AI는 또한 정신 질환의 유전적 기초에 대한 연구를 가속화할 가능성이 있습니다.

2. 세밀한 신경 측정 및 개입. 이는 많은 개별 신경세포 또는 신경 회로의 활동을 측정하고 그들의 행동을 변경하는 능력입니다. 옵토제네틱스와 신경 탐침은 살아있는 유기체에서 측정과 개입 모두를 가능하게 하는 기술이며, 수많은 개별 신경세포의 발화 패턴을 기록할 수 있는 분자적인 방법(예: 분자적 티커 테이프) 등이 제안되었습니다. 이러한 방법들은 원칙적으로 가능해 보입니다.

3. 고급 계산 신경과학. 앞서 언급한 바와 같이, 현대 AI에서 얻은 구체적인 통찰과 전체적인 접근법은 시스템 신경과학의 문제에 적용될 수 있으며, 특히 정신증이나 기분 장애와 같은 복잡한 질병의 실제 원인과 역학을 밝혀내는 데 도움을 줄 수 있습니다.

4. 행동 개입. 저는 신경과학의 생물학적 측면에 집중하느라 크게 언급하지 않았지만, 정신의학과 심리학은 20세기 동안 행동 개입의 광범위한 레퍼토리를 개발해왔습니다. AI는 새로운 방법의 개발을 가속화하거나, 환자가 기존 방법을 준수하는 데 도움을 줄 가능성이 큽니다. 더 넓게 보자면, AI 코치가 당신을 항상 최고의 버전으로 만들어주고, 상호작용을 연구하여 더 효과적으로 학습하도록 돕는 아이디어는 매우 유망해 보입니다.

이 네 가지 진전 경로가 함께 작동하면 신체 질환처럼 대부분의 정신 질환을 치료하거나 예방하는 데도 100년 안에 도달할 수 있을 것이며, AI로 인해 이 과정이 5~10년 안에 완료될 수 있습니다. 제 구체적인 예측은 다음과 같습니다.

대부분의 정신 질환은 치료될 가능성이 큽니다. 저는 정신질환에 대해 전문가가 아니지만(저는 소수의 신경세포를 연구하는 탐침을 만드는 데 시간을 보냈습니다), PTSD, 우울증, 정신분열증, 중독 등과 같은 질환은 위에서 언급한 네 가지 방법의 조합을 통해 매우 효과적으로 치료될 수 있을 것이라고 생각합니다. 답은 아마도 "무언가가 생화학적으로 잘못되었다"(매우 복잡할 수 있더라도)와 "고차원적인 수준에서 신경망에 무언가가 잘못되었다"의 조합일 것입니다. 이는 시스템 신경과학의 문제이지만, 앞서 언급한 행동 개입의 영향도 무시할 수 없습니다. 측정과 개입을 위한 도구, 특히 살아있는 인간에서의 도구가 빠른 반복과 진전을 가능하게 할 것으로 보입니다.

매우 '구조적'인 상태는 더 어려울 수 있습니다. 예를 들어, 반사회적 인격장애는 뇌의 명백한 신경해부학적 차이와 관련이 있다는 증거가 있습니다. 반사회적 인격장애를 가진 사람들은 뇌의 특정 영역이 단순히 작거나 덜 발달한 것으로 여겨지며, 공감 능력이 부족한 경우가 많습니다. 또한, 이러한 상태는 어린 시절부터 나타날 수 있습니다. 이러한 상태들은 아마도 상당히 오래된 뇌 구조와 관련이 있을 것입니다. 성인의 뇌를 어린 시절 또는 더 유연한 상태로 다시 조정하여 재구성하는 방법이 있을지도 모르겠지만, 저는 이것이 얼마나 가능한지 확신할 수 없습니다. 그러나 AI가 이 문제를 해결할 혁신적인 방법을 발명할 수 있을 것이라는 낙관적인 본능이 있습니다.

정신 질환의 유전적 예방은 가능할 것 같습니다. 대부분의 정신 질환은 부분적으로 유전되며, 전체 게놈 연관 분석(GWAS) 연구는 관련 요인들을 규명하기 시작하고 있습니다. 이 요인들은 종종 다수의 유전자에 의해 영향을 받습니다. AI를 활용한 정신질환 연구는 이러한 복잡한 요인을 더 잘 이해하는 데 도움을 줄 수 있습니다.

일상적인 심리적 문제도 해결될 가능성이 큽니다. 우리 중 대부분은 임상적 질병으로 간주되지 않는 일상적인 심리적 문제들을 겪고 있습니다. 어떤 사람들은 화를 쉽게 내거나 집중하는 데 어려움을 겪으며, 다른 사람들은 자주 졸리거나 변화에 대한 두려움을 느끼는 경우가 있습니다. 오늘날에는 경각심이나 집중력을 향상시키는 약물(카페인, 모다피닐, 리탈린)이 이미 존재하지만, 더 많은 약물이 발견될 가능성이 크며, 전혀 새로운 개입 방식(예: 타겟화된 빛 자극이나 자기장)을 개발할 수도 있습니다. 20세기에 우리는 인지 기능과 정서 상태를 조정하는 많은 약물을 개발했기 때문에, AI가 가속화된 21세기 동안 우리는 모든 사람이 자신의 뇌를 더 잘 조정하고 더 충만한 일상 경험을 할 수 있을 것이라는 데 매우 낙관적입니다.

인간의 기본적인 경험이 크게 개선될 수 있습니다. 한 발 더 나아가, 많은 사람들은 계시나 창의적 영감, 자비, 성취감, 초월, 사랑, 아름다움 또는 명상의 평온과 같은 특별한 순간을 경험해 본 적이 있습니다. 이 경험들의 성격과 빈도는 사람마다, 그리고 같은 사람도 시간에 따라 크게 다르며, 때로는 다양한 약물에 의해 유발되기도 하지만, 그 과정에서 부작용이 동반되기도 합니다. 이 모든 것은 "경험할 수 있는 것의 범위"가 매우 넓고, 사람들이 이러한 특별한 순간들을 더 많이 경험하는 삶을 살 가능성이 크다는 것을 시사합니다. 또한 다양한 인지 기능을 전반적으로 향상시킬 가능성도 큽니다. 이것이 아마도 신경과학에서의 '생물학적 자유' 또는 '연장된 수명'과 비슷한 개념일 것입니다.

마음 업로딩(mind uploading)이라는 주제는 AI에 대한 SF적 묘사에서 자주 등장하지만, 여기서 다루지 않은 의도적인 이유가 있습니다. 마음 업로딩이란 인간 두뇌의 패턴과 역동성을 포착해 소프트웨어로 구현하는 것을 의미합니다. 이는 별도의 에세이 주제가 될 수 있겠지만, 간단히 말하자면 저는 업로딩이 원칙적으로는 거의 확실히 가능하다고 생각하지만, 강력한 AI가 있더라도 실제로 이를 구현하는 것은 상당한 기술적, 사회적 도전과제를 수반할 것이며, 아마도 우리가 논의하고 있는 5~10년의 시간 범위를 넘어서게 될 것이라고 봅니다.

결론적으로, AI가 가속화된 신경과학은 대부분의 정신 질환을 치료하거나 예방할 수 있을 가능성이 높으며, '인지 및 정신적 자유'를 크게 확장하고 인간의 인지적, 정서적 능력을 개선할 것입니다. 이는 앞서 언급한 신체 건강 개선만큼이나 급진적인 변화가 될 것입니다. 아마도 외부적으로는 크게 달라지지 않을 수 있지만, 인간이 경험하는 세상은 훨씬 더 나아질 것이며, 인간 실현의 더 많은 기회를 제공하는 곳이 될 것입니다. 또한 정신 건강이 개선되면 정치적이거나 경제적으로 보이는 많은 사회 문제도 완화될 것이라고 예상합니다.

3. 경제 발전과 빈곤

앞서의 두 섹션은 질병을 치료하고 인간 삶의 질을 개선하는 새로운 기술의 개발에 관한 것이었습니다. 그러나 인도주의적 관점에서 당연히 제기될 수 있는 질문은 다음과 같습니다. "이 기술에 모든 사람이 접근할 수 있을까요?"

질병 치료법을 개발하는 것과 그 질병을 세상에서 근절하는 것은 별개의 문제입니다. 더 넓게 말하면, 기존의 건강 개입이 아직 세계 모든 곳에 적용되지 않았다는 점, 그리고 건강과 관계없는 기술적 발전도 마찬가지라는 점을 들 수 있습니다. 즉, 세계 일부 지역의 생활 수준은 여전히 절망적으로 낮습니다. 사하라 이남 아프리카의 1인당 GDP는 약 2,000달러인 반면, 미국은 약 75,000달러에 달합니다. 만약 AI가 선진국의 경제 성장과 생활 수준을 더욱 높이면서 개발도상국을 돕지 못한다면, 이는 끔찍한 도덕적 실패로 여겨질 것이며, 앞서 논의한 신체적 및 정신적 건강에서의 진정한 인도주의적 승리에 흠집을 남길 것입니다. 이상적으로는, 강력한 AI는 개발도상국이 선진국을 따라잡을 수 있도록 도와야 하며, 동시에 선진국을 혁신적으로 변화시켜야 합니다.

저는 AI가 기술을 발명할 수 있는 능력에 대해 낙관적인 반면, 불평등 해소와 경제 성장에 대해서는 그만큼 확신하지 못합니다. 기술은 지능에 매우 분명한 높은 수익률을 제공하는 반면, 경제는 많은 인간적인 제약과 본질적인 복잡성을 수반하기 때문입니다. 예를 들어, AI가 '사회주의 계산 문제'를 해결할 수 있을지에 대해 회의적이며, 정부가 경제 정책을 AI에 맡길지 여부에 대해서도 불확실합니다. 또한 사람들이 효과적인 치료법을 받아들이도록 설득하는 것과 같은 문제도 있습니다.

개발도상국이 직면한 도전 과제는 사적 및 공적 부문 모두에서 만연한 부패로 인해 더욱 복잡해집니다. 부패는 빈곤을 악화시키고, 빈곤은 다시 부패를 촉발하는 악순환을 만듭니다. AI가 주도하는 경제 발전 계획은 이러한 부패, 취약한 제도, 그리고 인간적인 도전 과제들을 고려해야 할 것입니다.

그럼에도 불구하고 저는 어느 정도 낙관할 이유가 있다고 생각합니다. 질병이 근절되었고, 여러 국가가 가난에서 부유해졌으며, 이러한 임무들을 수행하는 데 있어 지능의 수익률이 높다는 것이 분명합니다. 따라서 AI는 현재 우리가 하고 있는 것보다 이를 더 잘 수행할 수 있을 것입니다. 또한 인간적 제약을 우회하는 타겟화된 개입이 있을 수 있으며, AI가 이를 중점적으로 연구할 가능성도 있습니다. 더 중요한 것은, 우리가 시도해야 한다는 점입니다. AI 기업과 선진국 정책 입안자들이 협력하여 개발도상국이 뒤처지지 않도록 해야 하며, 그 도덕적 의무는 너무나 큽니다. 이 섹션에서 저는 계속해서 낙관적인 견해를 제시하겠지만, 성공은 보장되지 않으며 우리 모두의 공동 노력이 필요하다는 점을 기억해야 합니다.

아래는 강력한 AI가 개발된 후 5~10년 동안 개발도상국에서 어떻게 상황이 진행될지에 대한 제 예상입니다.

건강 개입의 보급. 제가 가장 낙관적인 분야는 건강 개입을 전 세계에 보급하는 것입니다. 질병은 실제로 상위 기관의 캠페인에 의해 근절된 바 있습니다. 천연두는 1970년대에 완전히 근절되었고, 소아마비와 기니 벌레는 연간 100건 이하의 발병으로 거의 근절되었습니다. 수학적으로 정교한 역학 모델링은 질병 근절 캠페인에서 중요한 역할을 하고 있으며, 인간보다 더 똑똑한 AI 시스템이 이를 더 잘 수행할 가능성은 매우 높습니다. 또한 물류 배포도 크게 최적화될 수 있을 것입니다. 기부 기관인 GiveWell에서 초기 기부자로 활동하면서 배운 것은, 일부 건강 관련 자선 단체들이 다른 자선 단체들보다 훨씬 더 효과적이라는 사실이었습니다. AI가 가속화된 노력은 더욱 효과적일 것이라는 희망이 있습니다. 또한, 일부 생물학적 진보는 배포의 물류를 훨씬 더 쉽게 만들 수 있습니다. 예를 들어, 말라리아는 매번 질병에 감염될 때마다 치료가 필요하기 때문에 근절하기 어려웠지만, 한 번만 투여하면 되는 백신이 개발 중입니다. 이러한 백신이 실제로 존재한다면 물류는 훨씬 더 단순해질 것입니다. 심지어 일부 질병은 동물 매개체를 대상으로 하면 근절될 수 있습니다. 예를 들어, 세균에 감염된 모기를 방출해 질병을 옮기지 못하게 만들거나 유전자 드라이브를 사용해 모기를 없애는 방법이 있습니다. 이는 수백만 명을 치료하는 것보다 훨씬 더 적은 수의 중앙 집중식 행동으로 가능해집니다. 전반적으로, AI 주도의 건강 혜택이 세계에서 가장 가난한 국가들에까지 50% 정도는 5~10년 내에 전파될 가능성이 있다고 생각합니다. AI가 개발된 후 5~10년 내에 개발도상국도 상당히 더 건강한 사회가 될 수 있으며, 이는 오늘날의 선진국보다 더 나아질 수 있습니다. 물론 이를 달성하기 위해서는 전 세계적인 건강, 자선, 정치적 옹호, 그리고 많은 다른 노력들이 필요하며, AI 개발자들과 정책 입안자들이 이를 지원해야 합니다.

경제 성장. 개발도상국이 선진국을 빠르게 따라잡을 수 있을까요? 건강 분야뿐만 아니라 경제 전반에 걸쳐 말입니다. 어느 정도는 그럴 가능성이 있습니다. 20세기 후반 몇몇 동아시아 국가들은 연간 실질 GDP 성장률 약 10%를 달성하며 선진국과의 격차를 빠르게 좁혔습니다. 인간 경제 계획자들이 이러한 성공을 이끌었고, 이는 경제 전체를 직접 통제하지 않고 몇 가지 중요한 레버(예: 수출 주도형 성장 산업 정책, 천연 자원에 의존하지 않기)만 당겨서 가능했습니다. "AI 재무 장관이나 중앙은행장"이 이 10% 성장률을 복제하거나 초과할 가능성도 충분히 있습니다. 중요한 질문은 개발도상국 정부가 자국의 자치 원칙을 존중하면서도 이를 채택할 수 있을지 여부입니다. 일부는 이에 대해 열광할 수 있겠지만, 다른 일부는 회의적일 수 있습니다. 낙관적인 측면에서 보자면, 앞서 언급한 건강 개입의 많은 부분이 유기적으로 경제 성장을 촉진할 가능성이 큽니다. AIDS, 말라리아, 기생충 감염을 근절하는 것만으로도 생산성에 엄청난 영향을 미칠 것입니다. 또한 신경과학 개입(예: 기분과 집중력 개선)이 선진국과 개발도상국 모두에서 경제적 이익을 가져올 수 있습니다. 마지막으로, 건강과 관련 없는 AI가 가속화

[익명(182.230)]

[익명(183.96)]

길어서 절반밖에 안올라가네, 완장한테 삭제 요청함

[은바다(nmra3fmzhxmg)]

삭제 보다는 일단 읽어보고 싶은 특붕이들이 많으니까 나중에 1편 2편 나눠서 올려주세용. 다 올리고 삭제하면 될듯? (넘 길긴해요..)

[익명(terrace9297)]

2편 어디가쒀

[익명(183.96)]

ㅇㅇ 시간날때 2-3개 정도로 나눠서 다시 올릴게

[익명(180.70)]

개쩌네. 물론 다 읽지는 않았습니다만

[천사다천사(jjtheman999)]

[익명(bluewarp)]

2편을 보고 싶구나

[익명(rmh22200)]

[싸이버펑크(cyberpunk2025)]

2편... 2편 어디가쒀

[익명(116.84)]

"Hey Chat GPT, this is such a TLDR. Summarize this"

[익명(death0877)]

전문 올라오면 그때 읽고싶은데 빨리좀...ㅋㅋㅋ

[익명(14.50)]

생물학적 자유 시발 존나 섹시하노.... 내가 인생에서 제일원하는게 바로 생물학적 자유다!!!!!!!!!

[특술람(gpt2030)]

[sama(prince2317)]

(잘린) 2편 링크
https://m.dcinside.com/board/thesingularity/647679