약한 인공지능은 특정 분야에서 사용되는 인공지능이다.


지금의 인공지능은 모두 약한 인공지능이다.


AGI 즉 강한 인공지능은 모든 분야에서 사용될 수 있는 인공지능을 말한다.


약한 인공지능과 강한 인공지능의 가장 큰 차이는 범용성이며 이 범용성을 위해 필요한 능력은 1. 멀티모달 2. 계속적 학습이다.


멀티모달에 대한 부분은 해결되고 있는 것으로 보인다. 하지만 계속적 학습에 대해서는 아직 연구 중에 있다.


GPT3를 비롯하여 가토에 이르기까지 현 인공지능의 가장 큰 문제점은 계속적인 학습이 안된다는 뜻이다.


그렇다면 계속적인 학습은 무엇을 의미하는가?


인간은 모든 것을 할 수 있는 지능을 가지고 있지는 않다. 하지만 인간은 한번 학습했던 내용을 시간이 지나면 잊어버리지만 다시 특정 상황이 되서 그 능력이 필요한 시점이 되면 빠르게 과거에 학습된 내용을 빠르게 학습을 할 수 있다. 그리고 그 과정에서 이전에 배웠던 학습 내용을 잊지도 않는다.


인공지능의 장기기억이라는 것은 단순히 메모리에 저장되는 데이터가 아니라 하나의 학습에서 다른 학습을 진행할 경우 이전의 학습을 기억하는지의 여부에 달려있다.


이 계속적인 학습이 중요한 이유는 인공지능의 범용성에 필수적이기 때문이다. 인공지능이 범용적이라는 것은 인공지능이 모든 것을 할 수 있다는 것을 의미하는 것이 아니라 A라는 목적으로 만들어진 인공지능이더라도 B라는 능력이 필요한 상황이 되었을 때 B라는 능력을 배우고 또 상황에 따라서 C, D도 배울 수 있으며 다시 A라는 능력이 필요한 시점이 되었을 때, 그 능력을 보유하고 있거나 아니면 이전보다 많이 저렴한 비용으로 학습을 할 수 있어야 한다.


하나의 목적에 한정되지 않고 다양한 상황에 맞춰서 다양한 학습을 진행할 수 있으며 기존 상황에 대한 학습도 잊지 않아야 인공지능은 범용성을 가질 수 있는 것이다.


또한 나아가서는 다양한 A, B, C, D..라는 능력을 통합적으로 발휘해서 더 다양한 연구를 할 수 있어야 한다.


이것이 가능해야 진정한 의미의 인공지능이라고 할 수 있다.


인간은 역사를 배우고 역사라는 학습을 통해서 철학이나 경제학 그리고 사회학과 같은 다른 분야의 학습에도 이를 활용할 수 있다. GATO의 목적은 A라는 학습이 B라는 학습에 긍정적인 영향을 미쳐서 A의 학습을 통해 B의 학습 비용을 절감할 수 있고 나아가서는 다양한 분야의 학습이 이뤄질 수록 다른 학습에 따른 비용이나 결과값이 향상되는 결과를 가져올 수 있을 것인가에 대한 연구였다. 일부분은 긍정적인 효과가 있었지만 일부에서는 부정적인 효과도 있었다. GATO는 실용적인 목적의 AI라기 보다는 AI가 AGI로 가기 위해서 필요한 것에 대한 실험용 모델이었다. 하지만 이러한 모델을 통해 분명 우리는 계속적 학습과 학습 간의 연계를 통한 학습비용의 절감에 대해서 다가갈 수 있을 것이다.


ASI란 Artificial Super Intelligence 즉 초지능을 의미한다.


ASI와 AGI의 가장 큰 차이는 AI가 스스로 목적을 설정하는 것에 있다. AGI까지는 인간이 설정한 목적에 따라 AI가 필요한 학습을 한다. 즉 AI는 인간이 설정한 목표에 따라 인간이 설정한 알고리즘을 따라 학습한다.


하지만 ASI가 되기 위해서는 단순히 인간이 설정한 결과 값을 위해서 스스로의 학습 목표를 다르게 설정할 수 있어야 한다. 즉 A라는 결과 값을 위해서 인간이 B와 C를 학습하면 된다고 했지만 AI가 스스로 판단해서 알고리즘을 변형하여 D와 E도 학습하여 더 나은 결과 값을 만드는 것이다.


또한 AI 스스로 인간이 설정한 목표가 아닌 부분에 있어서도 긍정적인 결과를 위해서 다른 학습을 진행할 수 있다는 것이다.


즉 AI가 스스로 판단해서 스스로 학습하고 설정하지 않은 부분에 대해서도 학습을 하는 것, 즉 인간이 상상할 수 있는 결과가 아닌 다른 결과를 가져올 수 있는 단계가 ASI이다. 그리고 그 과정이 AI가 의식을 가지고 재귀발전을 하는 시점을 의미한다.


AI의 재귀발전이란 AI 스스로 학습의 질을 높이는 것이 아니라 AI가 주어진 환경에서 더 나은 결과를 위해서 인간이 설정하지 않는 전혀 다른 학습을 통해서 스스로를 발전시키는 것을 의미한다.


즉 재귀발전과 의식의 문제는 보통 초지능을 말할 때 필요한 것이다.


AGI라는 것은 계속적 학습과 멀티모달을 통해서 상황에 따른 지식을 학습하여 A라는 단일 모델로 다양한 상황에서 사용할 수 있는 능력을 가진 AI를 의미하고 ASI는 AI가 의식을 가지고 인간이 설정하지 않은 방법을 통해서 새로운 해결책을 만들어가는 AI를 의미한다.


인간 수준의 AI라는 말은 어떻게 보면 맞지만 틀린 말이다. 사실 인간은 연산력이라는 측면에서 AI를 능가할 수 없다. AI가 할 수 있는 분야에서 인간은 AI를 능가하는 효율을 보일 수 없다. 하지만 인간은 지속적 학습과 목표 설정을 통해서 AI가 할 수 없는 범용성을 가지고 통합적인 사고를 할 수 있는 장점이 있다. 그런 의미에서는 AI는 아직 인간을 능가할 수 없다. 즉 인간 수준의 AI라는 말은 인간과 같은 AI가 아니라 인간 수준의 범용성을 가진 AI를 의미하는 것이고 그 범용성을 가진다는 것 만으로 AI는 인간을 그 순간 능가할 수 있다.


AI는 언어모델을 통해서 정보를 이해하고 표현하는 방식을 연구했고, 가토를 통해서 멀티모달과 학습 간의 연관관계에 대한 연구을 했다. 또한 계속적 학습에 대한 연구도 상당 부분 진행되는 것으로 보인다. 지금은 모든 피스가 분산되서 AGI에 대한 전체적인 그림이 그려지지 않는 것으로 보이지만 AI를 연구하는 천재들은 전체적인 AGI의 방향성을 가지고 하나하나씩 실험하는 것으로 보인다. 그리고 어느 순간 그 피스를 모두 모으는 순간 AGI는 곧 나오게 될 것이라고 생각한다.