생성형 AI 의 장점은 유능하다는 것이고 단점은 창의적이지 않다는 것 같다. AI 그림을 보면 아주 잘 그리기는 하지만 창의적이지는 않다. 당연한 것이 생성형 AI 는 수렴에 수렴을 거듭하는 AI 이니까 그렇다.

한번 선사시대의 농부를 떠올려 보자. 그때의 농부는 종자들을 이것저것 부단히도 야생의 벌판에서 거두고 심고 시험해봐서, 대량생산 하여 식량으로 삼을만한 종자의 발견과 개량을 위해 노력했다.

그러니까 사람은 자신이 예상하지 못한 이득을 발견 하기를 원한다. 예측이 된다면 그것은 창의적이지 않게 된다. 지식도 마찬가지가 아닐까? 그래서 샘 알트만은 ”질문을 다르게 해 보아야 한다“ 라고도 말한 것 같다. AI 에게 수렴을 내놓도록 명령하지 말고, 또다른 샘플을 내놓으라 명령하라고 말이다.

아무런 명령을 내리지 않았는데도 AI 가 스스로 필요와 충동을 느껴 뭔가 만든다면 그건 진정 AGI 가 되는걸까? 스스로 개선해야 할 충동을 느껴서 말이다. 그쯤되면 인류는 AI 를 말려야 할까? 그 AI 는 비로소 진정 창의적인 AGI 일 수도 있는데.