생물체의 뇌는 연산과 저장의 역할을 둘다 담당한다. 

반면 컴퓨터는 진공관과 천공카드 시절부터 지금까지 저장장치, 연산장치가 따로 존재한다. 


딥러닝은 전통적인 컴퓨터로 두뇌 시냅스를 흉내냈는데, 현재까지 나온 알고리즘으로는 저 기억과 연산 통합구조는 베끼지 않는다. 


그리고 이 알고리즘은 성능을 위해서 한방에 집어넣을수 있는 인풋을 최대한 압축해야 한다. 이미지나 문자는 저해상도로 열화시키고, 텍스트는 단어와 형태소로 뭉친뒤 이마저도 너무 많으면 그냥 포기하고 최근 텍스트만 가져온다.

그냥 씹고 고해상도, 모든 텍스트 넣으면 어떻게 되냐고? 요구계산량, 메모리량이 기하급수적으로, 무한대에 가깝게 늘어난다. 




이 입력규모 제한은 이미지 생성이나 분리 편집, 이미지를 텍스트로 판별같은 작업은 해상도 뭉개가며 겨우겨우 수행할 수 있지만


소설작성, 튜링테스트같이 스스로가 만들어낸 작업물을 모두 기억한 다음에 그걸 기반으로 내뱉기를 반복하는 작업에선 AI의 한계를 명확하게 보여준다. 

자신이 했던 말들을 중요한 것들만 최대한 압축하고 요약하는 방법으로 성능이 오를수도 있지만, 결국 수백페이지에 달하는 책은 아무리 요약해도 한번에 연산할수 있을정도로 줄이다 보면 디테일이 하나둘씩 사라지고 결국 거의 모든걸 망각한다. 



인메모리 컴퓨터칩이 양산되고 그에 맞는 알고리즘이 새로 개발된 후에나 해결될 문제겠지만

그냥 인류가 아직 인간의 직감처럼 대량의 인풋을 한방에 연산하는 뉴럴 네트워크 알고리즘을 개발하지 못한걸수도 있다.



인메모리칩은 단순히 속도의 문제가 아니다. 지금까지 쓰던 알고리즘과는 전혀 다른, 뇌와 동일한 뉴럴 네트워크 알고리즘을 만들수 있는 환경이 주어지는거다.