인간을 입력을 받아 출력을 뱉는 일종의 연속함수로 본다면, 보편 근사 정리(UAT)에 따라 스케일이 충분히 크다면 이 함수도 충분히 가깝게 근사할 수 있음.

수학을 좀 해본 사람은 알겠지만, 식이 어떻든 간에 입-출력 쌍만 같으면 그냥 같은 함수임. 즉, 함수를 근사한다고 할 때 중요한건 구현 방법이 아닌 입-출력 그 자체임.

예전에는 인간의 뇌 구조(=구현 방법)를 분석해서 그것을 모방하려고 했다면, 이제는 직접적인 구현 방법이랑 관련 없이 그냥 인간이 생성한 입-출력 쌍(단어,이미지 입출력)만 가지고 간접적으로 인간을 근사하는 것일 뿐임.

이 방법에 한계가 있다면 AGI까지는 가능하지만, 인간조차 아예 할 수 없는 일은 인간으로부터 모방할 수 없기 때문에 초지능을 만들기는 힘들다는 점. 초지능을 만드려면 강화학습이 필요한데, 현재 바둑의 알파고처럼 한정된 일이면 몰라도, 보편성을 가진 강화학습 방법은 나와있지 않음.