[📪정보] [프리드먼] 하사비스 [재업]

출처 :

https://youtu.be/Gfr50f6ZBvo

튜링 테스트

· 튜링 테스트는 아주 영향력 있고 유명하지만 튜링의 논문을 보면 엄격한 테스트라기보만 사고 실험에 가까움

· 시험이라기엔 부족한 부분들이 많음 논문엔 심사위원의 자격, 진행 시간조차 안나와있음

· 전에 아이라는 설정의 챗봇을 이용해 튜링 테스트를 통과했다는 주장이 나온 적도 있음

· 튜링 테스트에서 벗어나 AI의 전반적인 능력을 측정하는 테스트로 가야 할 때

· 수천 수백만가지 인지적 작업에서 인간을 능가하느냐 시험

지능

· 언어는 강력한 일반화 도구지만 다른 모달리티들도 중요

· 우리의 가장 일반적인 에이전트인 가토는 임의의 시퀀스에서 다음 시퀀스를 예측하는 것을 극대화

· 예측은 지능의 근본적인 부분

· 가토는 시작일 뿐이고 현재 가토를 대규모로 확장하는 중

· 인공지능이 인간의 인지적 능력과 동등하거나 능가한다면 진정한 지능

시뮬레이션 가설

· 닉 보스트롬이 제창한 시뮬레이션 가설을 우리가 게임 속에 있다거나 실험 목적으로 만들어졌다거나 하는 의미로는 그닥 믿지 않음

· 하지만 우주를 이해하는 가장 좋은 방법이 계산적 관점이라는 생각은 함

· 현실의 근본적 단위는 정보

· 우주가 정보로 구성된다는 측면에서는 시뮬레이션 우주라고 할 수 있을듯

· 정보 이론에 입각해 물리적 현상을 바라본다면 우주에서 무슨 일이 일어나는지 이해할 수 있을 것

의식

· 로저 펜로즈는 의식은 계산적 속정이 아니라 양자적인 무언가가 필요하다고 말함

· 나는 박사학위를 신경과학으로 땄고 현재 신경과학과 생물학에서 주류는 뇌에서 양자적 현상이 일어난다는 증거가 없다는 것

· 고전적 튜링 머신이 할 수 있는 일의 수준이 높아지고 있음

· 내 생각으론 뇌에서 일어나는 모든 일은 고전적 계산 기계가 모사하거나 근사할 수 있음

· AI를 만들고 싶은 이유 중 하나는 AI와 같은 인공물을 인간의 뇌와 비교하고 인간 정신의 비밀을 푸는데 도움이 될 수 있기를 바라기 때문

단백질 접힘

· 인체의 모든 기능은 단백질에 의존

· 각 단백질은 특유의 아미노산 서열이 있음

· 자연에서 단백질은 3차원 구조로 접힘

· 그 3차원 구조가 단백질의 기능을 결정하기에 구조를 아는게 중요

· 약물로 특정 단백질이 하는 일을 차단하려면 그 단백질의 구조를 알아야 함

· 단백질 구조는 아미노산 서열로 특징지어지고 여기서 질문은 아미노산 서열만으로 단백질 구조를 예측할 수 있냐는 것

· 단백질 접힘 문제는 생물학의 50년 난제

알파폴드

· 알파폴드 이전까지는 단백질 구조 파악을 위해 수고가 많이 드는 실험을 해야 했음

· 과학보단 경험에 바탕을 둔 방법(rule of thumb)은 단백질을 결정화하는 아주 어려운 과정을 거치고 (안되는 단백질도 있음) 고가의 전자현미경이나 X선 결정학 기계로 아주 힘들게 3차원 구조를 파악하는 것

· 실험생물학에서 박사 한명이 전체 박사 과정동안 단백질 단 하나만 연구했음

· 알파폴드는 몇초만에 단백질 구조를 예측할 수 있음

· 우리는 인간의 모든 단백질 2만개의 구조를 예측했음

· 단백질이 접힐 수 있는 가짓수는 대략 10^300가지지만 자연에서는 무슨 방법인지 정상적인 구조로 몇 밀리초만에 접힘 물리학은 그 문제를 풀었다는 것

· 단백질이 잘못 접히면 질병이 생길 수 있음

· 단백질은 서로 상호작용할 때 구조가 바뀌는데 이것이 다음 단계

· 알파폴드는 우리가 만든 가장 복잡하고 의미 있는 시스템

· 우리는 게임으로 시작했지만 현실 세계의 과제를 푸는 게 목표였고 나는 특히 과학적 과제에 관심을 가졌음

· 단백질 접힘을 해결하기 위해 30여가지의 구성 알고리즘을 모아야 했음

· 물리학이나 진화생물학을 하드코딩해 제약한 부분도 있었지만 시스템이 배울 수 있는 자유도 주었음

· 구조가 밝혀진 단백질이 15만개밖에 없었고 이는 평소 쓰던 데이터보다 훨씬 적음

· 모델의 최고의 출력을 다시 훈련 데이터로 집어넣는 자기 증류(self distillation)와 같은 방법을 사용

· 알파폴드 1에선 단백질 구성 분자 쌍 간 거리를 행렬로 표현해 출력하고 별도의 최적화 과정을 거쳐 3차원 구조 생성

· 알파폴드 2는 엔드 투 엔드로 아미노산 시퀀스를 입력하면 3차원 구조 출력

· 머신러닝에선 엔드 투 엔드일수록 시스템이 더 나음

· 사람이 중간에 수작업하는 것보다 학습의 흐름이 종단간에 이어지는게 나음

· 알파고에선 무슨 수를 써서든 인간 챔피언 수준 도달이 목표

· 알파고 제로에선 인간 데이터를 빼서 인간의 바둑 지식을 제거함

· 알파 제로는 바둑판의 대칭성도 알려주지 않았고 2인 게임이면 알아서 처음부터 배움

· 뮤제로에선 규칙조차 알려줄 필요 없고 보드 게임뿐만 아니라 컴퓨터 게임도 가능

· 알파제로나 뮤제로를 처음부터 만드려고 했으면 아주 힘들었을 것

· AI는 공학적 과학이며 연구하는 주제는 자연이 아니라 우리가 만든 것으로 일단 제작한 뒤 작동 방법을 연구

지능 해결

· 지능 해결은 공학, 과학, 소프트웨어, 하드웨어 등 모든 것의 조합이 필요하겠지만 비율은 시간에 따라 바뀔 것

· 딥마인드를 시작했던 2010년 쯤만 해도 AI 얘기를 꺼내면 미쳤다고 했음

· 당시 딥러닝이 나왔고, 뇌에 대한 이해도가 증가하고, 하드웨어도 발전하고, 수학적 지능 이론도 나오고 해서 셰인 레그(딥마인드 공동창립자)와 AI에 대해 마음이 맞았음

· 그때부터 지금까지 AI계에 큰 발전이 있었지만 AGI에 다가갈수록 공학적 부분과 데이터가 중요해진다 생각

· 근래의 대형 모델을 보면 규모가 AGI에 충분하진 않아도 분명 필요해보임

· 2010년부터 딥마인드의 사명은 - 1단계: 지능을 해결한다. 2단계: 그 밖의 모든 것을 해결한다.

· 그땐 회의적인 시선이 많았지만 신념이 있었음

· 강화 학습을 항상 믿어온 이유는 그게 영장류가 도파민을 통해 배우는 방법이기 때문

· 누구도 모르는 영역에 들어갈 땐 올바른 방향으로 안내해줄 증거를 어떤 곳에서도 찾아야만 함

AI와 생물학

· 충분히 강력한 AI 시스템을 갖추게 되면 질병 치료, 생물학 이해에 사용하고픔

· 알파폴드는 시작일 뿐이고 계산적 방법이 할 수 있는 일의 증거로 봐주길 바람

· 단백질-단백질 상호작용, 단백질-리간드 결합, 분자와의 반응 등을 연구 중이고 길을 만들어 결과적으로 가상의 세포를 다음 10년 안에 구현하는게 꿈

· 가상 세포를 만들면 실험을 가상 세포에 진행하고 웨트랩에서 검증만 하면 됨

· 신약 개발 시간을 대폭 단축할 수 있을 것

· 알파폴드와 같은 혁신으로 생물학의 놀라운 발전을 기대

· 생물학은 너무나 복잡하고 동적, 창발적이어서 AI가 적합

· 수학이 물리학을 기술하는 완벽한 언어인 것처럼 AI가 생물학을 기술하는 완벽한 언어가 될수도

알파폴드 & 무조코 오픈소싱

· 알파폴드는 인류에게 최고의 혜택을 주려고 오픈소싱

· 물리 시뮬레이터 무조코는 로봇 커뮤니티에 보탬이 되려고 우리가 인수해서 오픈소싱

· 제약회사들, 전세계의 거의 모든 생물학자가 알파폴드를 사용

· 앞으로의 프로젝트는 오픈소스가 아닌 상업적 용도나 비영리로 사용하는 것들도 있을것

AI에게 노벨상

· 21세기에 노벨상 수상감인 AI가 나올지는 AI의 유형에 따라 다를 것

· 현재의 인공지능은 스스로 배우긴 해도 결국 도구고 도구에 상을 주진 않음

· 바둑에서 좋은 수를 두는 게 아니라 바둑을 발명해야 하는 것과 비슷

· 앞으로 발견되야 할 것이 많을 거라고 생각

· 기존 지식의 재조합이라기보단 진정으로 고유한 연구가 있을 것

· 모델이 돕는 배터리나 소재 연구 등은 매우 강력할 것

핵융합

· 질병 및 생물학과 마찬가지로 에너지와 기후도 AI가 도울 수 있는 영역

· 스위스 로잔연방공과대학의 플라즈마 센터의 실험용 토카막 핵융합로로 연구

· 새로운 분야에 진출할 땐 무엇이 병목현상인지 파악부터 하고 AI가 도울 수 있는 건 뭔지 봄

· 이 경우엔 플라즈마 제어

· 불안정한 플라즈마를 제어하기 위해선 플라즈마가 어떻게 거동할지 미리 몇 밀리초만에 예측해야 함

· 작년에 네이처에 낸 연구에서 우리는 플라즈마를 특정 형상으로 잡아놓고 유지할 수 있었음

· 지금은 AI가 뭘 도울 수 있는지 여러 핵융합 스타트업과 논의 중

양자 시뮬레이션

· 전자의 특성을 시뮬레이션하면 물질과 재료가 어떻게 되는지 알 수 있음

· 지금까진 단순한 분자만 시뮬레이션했지만 커다란 물질을 시뮬레이션하길 바람

· 슈뢰딩거 방정식을 근사하고 전자가 뭘 하는지 파악

· 물질 특성은 전자와 전자의 상호작용으로 결정

· 데이터는 시뮬레이터에서 생성

· 그 데이터에서 배우고 나면 훨씬 효율적

물리학

· 내가 AI를 연구하는 이유는 우주를 이해하는 것을 돕기 위함

· 지금은 AI가 우주의 작동 원리를 밝혀내는건 안되지만 AGI를 만들고 나면 거기에 적용해봐야 함

· 과학에선 알면 알수록 우리가 모른다는 걸 알게 됨

· AI가 새롭고 강력한 실험 도구를 만드는 걸 도와준다면 기존에는 실험이 불가능했던 가설들을 실험해볼수도

과학 발전

· AI가 과학적 발견을 가속화할것

· 우리는 지식의 나무를 표면만 긁고 있음

· 지식의 나무의 가지를 보면 인간이 지금까지 찾은 것<인간이 이해할 수 있는 것<<<<<<<전체

· 우리의 도구는 우리의 인지적 한계를 공유하지 않음

· 체스 선수가 자신의 수준보다 훨씬 높은 수를 둘 순 없지만 설명을 들을 순 있고 AI가 하는 발견도 인간에게 비슷할 것

외계인

· 지금 증거를 보면 우리는 혼자인듯

· 수백년 뒤 발전된 인류를 생각해보면 별을 향해 뻗어나가고 있어야 함

· 자기복제하는 폰 노이만 탐사선은 백만년 정도면 은하를 꽉 채울 수 있을 것

· 백만년은 우주적으로 보면 아주 짧은 시간

· 다이슨 스피어 같은 것은 쉽게 탐지할 수 있을 것

· 전파로 우주로 퍼졌을 라디오, 방송 등을 생각해보면 외계 문명이 수백개라면 우주에서 불협화음이 들려야 함

· 외계인의 것은 너무 달라서 그렇다는 의견은 딱히 설득력을 못느낌

· 우리는 충분히 탐색했고 외계인이 그렇게 많으면 정말 모든 곳에서 들려야 하기 때문

· 외계 문명이 접촉 금지 규칙이 있다는 것도 그닥

· 인류 문명 하나도 통합이 안되는데 수많은 외계 문명이 다 규칙을 지키도록 할 수 있을 리 없음

· 접촉을 원하지 않는 문명이 있을수도 있지만 모든 문명이 접촉을 원하지 않는다는 건 말이 안됨

· 단세포 생명체 정도야 다른 곳에 있을법도 하지만 다세포 생명체는 굉장히 어려워 보이고 대여과기 중 하나인듯

의식 있는 AI

· 의식과 지능은 분리 가능하다 생각

· 동물들도 의식은 있지만 지능은 그렇게 높진 않음

· 인간의 뇌는 범용적인 반면 동물들의 뇌는 특화돼있음

· AI 시스템은 특정 분야에서 매우 똑똑하지만 사람처럼 의식이 있다는 증거는 전혀 없음

· AI와 같은 지능적 시스템 구축이 의식의 미스터리를 분석하는 최고의 방법

· 현재 AI는 의식이나 지각의 징후가 전혀 없음

· 람다 헤프닝은 인간은 원래 의인화하는 성향이 있고 언어가 워낙 근본적 요소다보니 생긴 일

· 개인적으로 좋아하는 의식의 정의는 정보가 처리될 때 느끼는 방식이라는 것

· AGI에 다가갈수록 의식 판단을 어떻게 내리냐 하는 철학적 문제가 있음

· 의식에 대해 외적으로 보이는 행동이 같냐, 같은 기질(동물은 뇌)에서 동작하냐로 판단하지만 기계는 두번째 적용 불가

AI 윤리

· 우리는 지금 언어 모델을 분석 도구 측면이나 뭘 할 수 있고 없는지에 대해 충분히 이해하지 못하고 있고 대규모로 배포할 준비가 되지 않았음

· 언어 모델은 다양한 윤리적 질문을 낳을 것

· 책임감 있게 배포하기 전에 수행되어야 하는 연구가 있음

· 윤리적 영역은 과학의 범위를 넘어서서 다양한 분야가 참여해야 함

· AI가 잘 되면 인간 삶의 질을 개선하고 급진적 풍요를 불러오고 많은 과학적 과제를 해결할 것

· 하지만 기술은 양날의 칼로 악의를 가진 행위자가 사람들을 해치는 데도 쓸 수 있기에 신중한 과학적 접근을 거쳐야 함 라이브 A/B 테스팅 같은 것을 했다간 되돌릴 수 없는 피해를 입힐 수 있음

· 시스템의 목적, 고려할 가치 등을 정하는 데에 다양한 목소리가 필요

· AI의 잠재력은 도구 너머로도 있지만 처음엔 도구로서 무엇을 할 수 있는지 등에 대해 실험해봐야 함

[📪정보] [프리드먼] 하사비스 [재업]

댓글 4

다른 게시글