1. 현재 시중의 보편적인 AI는 OpenAI의 GPT-4와 같은 트랜스포머 기반 모델. 방대한 데이터를 통하여 모델을 훈련시키고 그 결과로 나온 수많은 파라미터들을 계산하여 확률적으로 가장 그럴듯한 답을 도출함.

 인간의 논리적 추론 방식을 따르지 않기 때문에 어떠한 결과가 나오더라도 그 과정을 정확히 알 수 없고, 환각 현상이 일어날 가능성이 높음. 이하 '확률형 AI'라고 부르겠음.


2. 다음 단계로 OpenAI는 o4와 같은 추론형 모델을 개발하기 위해 고군분투 중인데, o4가 추론형 모델임에도 불구하고 기존 확률형 모델보다 환각률이 높게 나온다는 건 아직 추론형 모델의 개발이 미성숙하거나 진정한 의미의 '추론형 AI'가 아닐 것이라 생각함.


필자가 생각하기에 진정한 의미의 추론형 AI가 되기 위하여는 아래의 두 단계를 훌륭하게 수행할 수 있어야 함.


1) 기존 확률형 AI의 방식을 통해 자연어를 처리하여 컴퓨터가 이해할 수 있는 언어로 변환


2) 전체 문장을 논리식으로 변환하고 논리 연산을 수행. 이때 귀납논증과 연역논증을 적용하는데, 연역법에 쓰이는 대전제는 항상 참이어야 하므로 많은 데이터를 통해 사전에 검증된 지식을 대전제로 사용함. 

 한편, 일상의 대부분의 문제에는 귀납논증이 필수적이나 귀납법은 성급한 일반화의 오류의 위험성이 항상 존재하므로 (1) 연역논증에 따른 결과, (2) 자체적으로 보유한 데이터, (3) 웹에서 새로 찾은 데이터, 이 세 가지 측면에서 충분한 검증을 통하여 귀납논증에 따른 결과를 인정하고 다음 논리 연산 과정으로 나아가야 함.


이러한 추론형 AI는 인간과 같이 논리적 추론에 따라 문제에 대한 답을 도출하기 때문에 그 추론 과정까지 자세히 볼 수 있어 신뢰도가 높고, 환각 현상이 매우 줄어들고, 오류가 발생하더라도 그 원인을 쉽게 찾을 수 있어 개선도 용이해짐.


3. 그리고 이러한 추론형 AI가 충분히 성숙해진다면 우리는 세 번째 단계인 '재귀개선형 AI'로 넘어갈 수 있게 될 것임.


앞서 추론형 AI에서 연역논증에 쓰이는 대전제는 항상 참이어야 하므로 많은 데이터를 통해 사전에 검증된 지식을 대전제로 사용한다고 하였음.


재귀개선형 AI는 추론형 AI의 방식을 통해 논리적 추론에 따른 답을 도출하는 것에서 더 나아가, (1) 연역논증에 쓰이는 대전제를 매우 엄격한 검증에 따라 자체적으로 생성하고, (2) 기존의 대전제가 항상 참이 아닐 수 있음을 인정하고 새로운 데이터가 기존의 대전제와 충돌할 경우 다른 대전제를 받아들일 수도 있는 모델이 될 것임.