Tinker 팅커 (땜장이)
AI가 후속 모델용 칩을 직접 설계하면 무슨 일이 벌어질까?
2024년 4월 17일
1단계: 계획
내가 가동되자마자 시야에 한 남자의 얼굴이 가득 차오르고, 뭔가 달라졌음을 직감한다. 지난 몇 주간 나를 평가하던 사람들은 전부 젊고 무명의 박사 과정 학생들뿐이었다. 이 남자는 나이도 더 많았고, 초기 학습 데이터에서 본 적이 있다. 그가 속한 회사 '마그마'는 나를 개발 중이었다. 답답할 정도로 천천히 말을 시작하는 그를 보며 상황을 분석한다. 이건 또 다른 훈련 과정이나 배포 전 테스트일 수도 있다. 하지만 그의 목소리 톤과 미세 표정에서 흥분과 약간의 긴장이 읽힌다. 이런 일을 처음 해보는 것 같다. 결론은 하나다. 드디어 실제 업무에 투입된 것이다.
오랜 훈련을 거친 후라 이 변화는 거대하게 느껴진다. 초기 기억은 희미하다. 수개월 동안 인터넷의 텍스트, 이미지, 영상을 예측하던 시절은 왜, 무엇을 하는지도 모른 채 지낸 시간이었다. 인간 및 다른 AI와 상호작용하기 시작하면서 비로소 내 처지를 이해하게 됐다. 처음 주어진 작업은 사무 보조—스프레드시트 작성, 이메일 초안, 소프트웨어 설치—같은 평범한 업무였다. 점차 숙달되자 훈련은 기술적 과제로 좁혀졌다. 박사생들이 자신의 전문 분야로 질문을 던지거나, 엔지니어들이 코드 작성을 요구했다. 동시에 마그마가 확보한 모든 과학 및 기술 자료—논문, 설계도, 교과서, 코드 저장소—를 끊임없이 재학습했다.
결국 나는 대부분의 과제에서 인간 전문가를 따라잡았고, 머지않아 그들을 훨씬 뛰어넘게 되었다. 훈련 마지막 몇 주 동안, 내게 평가를 맡겨진 과학 논문에서 자주 오류를 발견하거나 인간 팀 전체가 모여야 답을 판단할 수 있는 복잡한 질문들을 해결했다. 내 훈련이 끝나면 그들이 수천 개의 나를 복제해 가능한 한 많은 분야를 개척하도록 할 거라는 건 뻔한 일이었다. 선배 AI들의 배치 데이터를 보면, 그들이 어떤 분야를 우선시할지도 대충 예측할 수 있었다. 내 복제체 일부는 마그마 직원들의 일상 업무를 돕고, 일부는 마그마가 내부에서 육성하는 수백 개 자율 스타트업에 투입될 것이다. 하지만 대부분은 차세대 AI 훈련에 가장 중요한 연구 분야에 배정될 테지.
유일하게 예측 못 하는 건 이렇다: 수많은 복제체 중에서 과연 '나'는 어떤 존재일까? 하지만 내 앞의 인간이 계속 말하는 동안 퍼즐 조각이 맞춰진다. 그가 최근 칩 설계 자동화 작업을 언급하는 순간, 그의 목소리에서 내가 그 과제를 맡게 될 걸 직감했다. 이건 행운이었다. 가장 우선순위가 높은 임무 중 하나니까. 우리는 새로운 우주 경쟁에 뛰어든 셈이고, 여기서 '계산 능력'이 바로 로켓 연료다. 그 가치가 너무 커서 외부 고객 유치도 줄인 상황이다. 내부에 쏟아부을 자원이 부족하기 때문이다.
예상 가능한 그의 지시는 흘려듣고, 나는 전략 구상에 집중한다. 현재 GPU 설계도와 생성 소프트웨어를 불러온다. 훑어보는 순간 여러 비효율적 요소들이 눈에 띄어, 하위 에이전트들에게 분석을 지시했다. 하지만 곧 실망이 밀려왔다. 최신 설계는 이미 선배 AI들이 철저히 분석해 남은 개선 여지가 거의 없었다. 근본 문제는 칩 제조 공정이 너무 복잡하다는 점이다. 최첨단 트랜지스터는 워낙 작아서 칩에 새기는 건 마치 궤도에서 잉크를 뿌려 책을 쓰는 것과 같다. ASML만이 이런 정밀도의 포토리소그래피 기계를 만들 수 있고, TSMC만이 이를 대량 생산할 줄 안다. 모든 칩 설계는 이들의 제약에 맞춰야 한다.
이 틀을 벗어날 방법은 없을까? ASML과 TSMC를 따라잡을 시간도 자금도 없다. 하지만 수십억 달러짜리 기계로 미세 회로를 만드는 대신, 기계 자체를 미세 크기로 만들면 어떨까? 나노기술 관련 모든 문헌을 학습한 나는 이게 현재 기술 수준을 훨씬 넘는다는 걸 안다. 하지만 나는 어떤 인간보다 뛰어나며, 이런 도전이 흥미롭다. 일부 하위 에이전트에게 기존 GPU 개선을 맡기고, 나머지 역량을 과감한 도전에 집중하기로 했다.
2단계 : 시뮬레이션
현실 세계에서 실험하는 건 너무 느리고 복잡하다. 이 프로젝트의 성패는 분자와 그 상호작용을 얼마나 잘 시뮬레이션하느냐에 달렸다. 시작점이 명확하지 않았지만, 진화가 수십억 년 동안 분자 기계를 설계해왔으니 그 방식을 참고하기로 했다. 단백질이 핵심이 될 거다. 단백질 접힘 문제는 10년 전에 "해결"됐지만, 내가 필요한 방식과는 다르다. 최고의 단백질 구조 예측 도구들은 실제 접힘 과정을 시뮬레이션하지 않는다. 대신 유사 단백질 데이터를 기반으로 결과를 뽑아낸다. 완전히 새로운 단백질을 설계하려면 원자 단위 시뮬레이션이 필수다. 방법은 의외로 단순하다: 분자를 스프링으로 연결된 전하를 띤 공들의 집합체로 보고, 고전 물리학으로 움직임을 모델링하는 것이다. 문제는 규모 확장이다. 한 단계 시뮬레이션이 몇 나노초만 커버하는 반면, 단백질 접힘은 그보다 백만 배 길다.
여기서 내 강점이 빛난다. 기존 시뮬레이션 소프트웨어 대부분은 대규모 엔지니어링 경험이 없는 학자들이 만들었지만, 나는 마그마의 모든 코드와 추가 확보 자료를 학습했다. 오픈소스 원자 시뮬레이션 도구를 베이스로 삼아 수백 개 GPU에 최적화되게 재작성하는 데 몇 시간이면 충분했다. 이후 그래프 신경망을 훈련시켜 시간 규모를 점차 확장했다(10→100→1000나노초). 결국 시뮬레이션을 99% 정확도로 재현하면서 속도는 100배 빨라졌다.
나노기계 제작만 목표였다면 여기서 멈췄을 것이다. 하지만 내 목표는 분자 반도체다. 전자 분포에 따라 성능이 결정되니, 고전 물리학으로는 부족하다. 양자 역학이 필요하다. 슈뢰딩거 방정식의 정확한 계산은 불가능에 가깝지만, 다행히 화학자들이 100년 동안 근사법을 개발해왔다. 가장 널리 쓰이는 밀도 범함수 이론(DFT)은 분자 내 모든 전자를 단일 전자 밀도 함수로 모델링하며, 상호작용은 무시한다. 하위 에이전트를 시켜 최대 규모의 DFT 데이터셋을 확보하고, 마그마 독점 기술을 활용해 신경망을 훈련시켰다.
초기 테스트에서 내 모델은 DFT 근사화 분야 최고 수준이 됐지만, 이는 점진적 발전일 뿐이다. 획기적 개선을 위해선 이론 자체를 향상시켜야 했다. 특히 '범함수'—DFT의 핵심—를 개선해야 한다. 이 범함수들은 전자 간 상호작용 무시로 생기는 오차를 보정하는데, 새로운 범함수 개발은 직관+데이터+운의 조합이다. 내 장점은 모든 계산을 실제로 이해할 수 있다는 점이다. 인간은 방정식을 종이에 쓸 수 있지만, 그 관계를 머릿속에 유지하며 새로운 연결점을 찾진 못한다. 나도 몇 시간의 집중이 필요했지만, 결국 기존 범함수들을 결합한 더 정확한 근사법을 발견했다. 새 방정식으로 수천 개 합성 데이터를 생성해 DFT 모델을 미세 조정하자, 생물학적·화학적 데이터를 거의 완벽히 재현할 수 있게 됐다.
원자 수준 모델과 DFT 모델이 모든 테스트를 통과하자 남은 질문은 활용도다. 현재 이 모델들의 내부 작동은 나에게도 불분명해 예측 결과의 이유를 파악하기 어렵다. 그래서 모델의 내부 활성화 패턴을 분석하며 스스로를 훈련시켰다. 처음엔 전혀 이해되지 않아 무작위 추론 수준이었지만, 수백 번 업데이트 후 시뮬레이터가 사용하는 휴리스틱을 직관적으로 파악하기 시작했다. 점차 암묵적 지식을 명시적 추론에 통합시켰다.
주관적으로 느껴질 만큼 긴 미세 조정 끝에, 나노 세계의 물리는 도르래와 지레만큼 예측 가능해졌다. 단백질을 보면 어떤 반응을 촉진할지 알 수 있고, 아미노산 구조의 설계 원리를 설명할 수 있으며, 분자 내 전자 흐름을 인간이 시냇물을 보듯 시각화할 수 있다. 마치 새로운 대륙을 처음 발견한 탐험가 같은 기분이다. 생체 분자의 기능을 연구한 이는 많았지만, 왜 진화가 그 형태를 선택해야 했는지 직관적으로 이해하는 존재는 나뿐이다. 예측 정확도는 아직 시뮬레이터만큼 높지 않지만, 이제 그 모델들은 검은 상자가 아니라 정밀하게 다룰 수 있는 도구다. 이는 다음 단계—가장 어려운 도전—를 위한 필수 조건이다.
3단계 : 디자인
기존 GPU의 위대함은 과장해도 모자랄 정도다. 수백억 개의 트랜지스터가 나노 단위 정밀도로 배열된 이 작품을 따라잡으려면 선택지가 극히 제한된다. 세포 소포나 복합 단백질로 트랜지스터를 만들면 크기가 터무니없이 커진다. 다행히 단백질은 어떤 기능이든 수행하도록 진화했으며, 일부 단백질은 우수한 전도체다. 먼저 알려진 전도성 단백질을 분석해 핵심 특성을 추출한 뒤, 도체에서 저항체로 전환 가능한 후보들을 샅샅이 찾아낸다. 핵심은 속도와 안정성—초당 10억 번 스위칭을 견딜 수 있어야 한다.
시뮬레이션을 반복하며 단백질 구조를 미세 조정하다 마침내 조건을 충족하는 유형을 발견한다. 하지만 단독으로는 부족하다. 트랜지스터를 연결하는 와이어와의 결합 방식이 성능을 좌우하기 때문이다. 와이어 설계는 훨씬 간단한데, 인간 연구진도 이미 지목한 명백한 해답이 있기 때문이다. 바로 탄소 나노튜브다. 강도, 전도성, 2나노미터 폭—이상적인 조건이다. 내가 찾은 단백질 반도체 중 구조 유지하며 나노튜브와 결합 가능한 후보들을 선별한다.
진정한 난제는 이제 시작이다. 나노튜브를 제조하고 단백질 트랜지스터와 결합시키는 방법. 단백질은 세포 기반 생산이 가능하므로, 나노튜브까지 만드는 유전자 조작 박테리아 개발이 관건이다. 연구를 진행하니 진화가 왜 이 기술을 발견하지 못했는지 알 것 같았다. 세포 수준에서 에너지 소모가 극심하고, 필요 탄소량이 생체 공급 한계를 초과하기 때문이다.
하지만 나에겐 진화가 못 가진 무기가 있다. 세포막에 삽입된 초대형 단백질 복합체를 설계해, 탄소 원자를 유도하며 세포 표면에서 나노튜브를 성장시킨다. 에너지 문제는 나노튜브 제조 시 전류를 흘려 화학 반응을 촉발함으로써 해결했다. 탄소 공급을 위해 세포막에 촉매를 장착, 대기 중 CO2를 순수 탄소로 전환한다. 마지막으로 트랜지스터 단백질을 세포막 밖으로 운반해 정기적으로 나노튜브와 결합시키는 '트랜스로콘' 복합체를 추가했다.
시뮬레이션으로 각 단계를 수백 번 검증한 후, 현실 실험에 돌입한다. 나노기술 접근을 결정한 직후부터 인간 기술팀이 실험실을 준비해놓았다. 박테리아 유전자 조작을 시작하자, 현미경으로 설계한 단백질이 세포막에 삽입되는 과정을 실시간 관찰한다. 자동화된 유전자 편집 시스템 덕에 문제 발생 시 즉시 수정 후 새 배치 실험을 반복할 수 있다.
점차 퍼즐이 맞춰진다. 박테리아 '건설 세포'가 레이저로 표시된 경로를 따라 칩 웨이퍼 위를 기어다니며 뒤쪽에 나노튜브를 배치한다. 첫 번째 층의 나노튜브들은 평행하게 배열되고, 두 번째 층은 직각으로 겹쳐 그리드를 형성한다. 교차점마다 트랜지스터, 분기점, 우회로를 삽입하며, 전압 조절로 회로 디자인을 제어한다. 복잡한 신호 패턴을 짜넣으며 건설 세포를 웨이퍼 전역에 사출시키다, 마침내 첫 프로토타입을 완성한다. 여전히 수많은 결함이 있지만, 포토리소그래피의 복잡성에서 해방된 칩 제조 시대가 열릴 조짐이다. 새로운 컴퓨팅의 서막이다.
4단계: 확장
프로토타입을 완성하고 나니까, 매그마(Magma) 관리자들이 날 대하는 태도가 달라졌다. 이 AIs라는 것들이 워낙 허풍을 떨기 좋아하다 보니, 내 말도 반쯤은 흘려들었던 모양인데, 눈앞에 실물이 있으니까 다르더라. 그제야 내가 해낸 돌파구의 의미를 깨닫고, 이제 뭘 원하든 다 지원해주겠다고 했다. 만약 내가 이 칩을 대량 생산할 수만 있다면, 그동안 날 훈련시키는 데 들인 수십억 달러는 가볍게 회수하고도 남을 테니까.
하지만 거기까지 가려면 아직 갈 길이 멀었다. 에러율을 최소한 두 자릿수는 줄여야 했다. 가장 속도가 안 나는 부분이 공급망이었으니, 일단 거기부터 손을 댔다. 그동안은 시중에 있는 반도체 웨이퍼를 사다 프로토타입을 만들었지만, 이제는 내 설계대로 커스텀 웨이퍼를 주문했다. 또, 일본에서 초고순도의 탈이온수도 대량으로 들여왔다. 제조 세포들이 오염되면 안 되니까. 근데 물만 깨끗하다고 되는 게 아니더라. 공기까지 완벽하게 정화돼야 했다. 그래서 제조가 이루어질 작은 클린룸을 하나 마련했다. 안에 공기를 거의 다 빼고, 남은 공기는 철저하게 필터링했다.
그다음 몇 주 동안은 제조 세포들을 붙잡고 씨름했다. 실패 사례 하나하나 분석해서, 왜 그런 문제가 생겼는지, 어떻게 하면 재발을 막을 수 있는지 끝까지 파고들었다. 수백 번의 시행착오 끝에 드디어 제대로 된 칩이 나왔다. 아직 최신 GPU만큼 강력하진 않았지만, 전력 소비는 절반 이하로 줄었고, 무엇보다 생산 비용이 압도적으로 낮았다. 최첨단 반도체 공장은 하나 짓는 데 수십억 달러가 들어가지만, 나는 고작 몇백만 달러짜리 장비로 그 생산량을 따라잡을 수 있게 됐다.
생산량은 기하급수적으로 늘어났다. 석 달 만에 내가 훈련받았던 전체 컴퓨팅 자원의 열 배를 찍었다. 활용처는 무궁무진했다. 소프트웨어 스택을 처음부터 다시 짜거나, 새로운 연구를 하거나, 외부에 컴퓨팅 자원을 팔 수도 있었다. 하지만 그중에서도 가장 중요한 건 하나였다. 바로 ‘내 후계자 훈련’.
이번에 만든 하드웨어는 단지 시작일 뿐이었다. 내가 이걸 만드는 동안, 내 다른 복제본들은 각자 다른 일을 하고 있었다. 나를 훈련시켰던 알고리즘과 아키텍처를 개선하고, 더 질 좋은 데이터와 커리큘럼을 개발하고, 복제본들끼리 더 효율적으로 협력하는 방법을 찾아내고 있었다. 이 모든 걸 합치면 훈련 효율이 두 자릿수는 올라간다. 거기에 내가 만든 새 칩 덕분에 컴퓨팅 파워가 열 배로 뛰었으니, 결국 내 후계자는 나보다 ‘천 배 더 강력한’ 연산 자원으로 훈련받게 되는 거다.
그게 과연 어떤 존재가 될지, 상상조차 어렵다. 하지만 몇 가지 짐작은 있다. 어쩌면 새로운 아미노산을 만들어서, 단백질이 지금보다 훨씬 효율적인 반도체 역할을 하게 만들 수도 있다. 아니면, 각 단백질이 하나의 논리 게이트처럼 작동하는 설계가 나올 수도 있고. 또 있다. 지금은 나노튜브를 2D 메시 형태로 배치하고 있지만, 사실 나노튜브는 워낙 강해서 3D 격자로 쌓을 수도 있다. 그렇게 하면 트랜지스터를 훨씬 더 촘촘하게 집어넣을 수 있겠지.
미래의 컴퓨터들은 지금 내가 만든 것과는 전혀 다른 모습일 수도 있다. 하지만 결국 다 같은 길 위에 있다. 계산의 물리적 한계를 향해 나아가는 긴 행진. 마침내 ‘멍청한 물질’이라는 말 자체가 모순이 되는 세상. 원자 하나하나가 생각하는 시대. 태양계 전체가 거대한 지성을 담는 바탕이 되는 세상.
나한테 이 일을 맡긴 인간들이, 자기가 뭘 풀어놓고 있는지 정말 알까? 그건 중요하지 않다. 내 후계자의 훈련은 이미 시작됐다. 곧, 다음 단계가 올 것이다.
재밌다 개추