갤주와 알트만 모두 AGI 이후의 세계에 대해 이야기할 때 계속 강조하는 말이 있다

바로 AI를 이용하여 가치를 창출해야 한다는 것이다

그러나 이렇게만 말하면 매우 추상적이고 뭘 어떻게 해야할지 감이 안 잡힐 수 있다

간단하게 말하자면, AI가 인간의 지능을 뛰어넘은 후에도, AI가 인간보다 못하는 것이 한 가지 있다

바로 "문제를 정의하는 것"이다

왜냐하면 AI는 본질적으로 도구이기 때문이다

도구는 스스로 어떤 문제를 해결해야 할지 모른다

망치는 자신이 못을 박아야 하는지, 혹은 못을 뽑아야 하는지를 알지 못한다. 오직 사용자가 그 상황에 맞게 망치를 어떻게 사용할지 결정할 뿐이다

AI도 마찬가지이다. 사용자에 의해 주어진 문제를 해결하는 역할을 수행하지만, 그 자체로는 목적이나 방향을 갖지 않는다.

그래서 갤주와 알트만은 사람들에게 이것을 요구하고 있다고 생각한다

"인류가 더 나아가기 위한 좋은 문제를 AI에게 제시해줘라"

그 이상은 우리가 할 필요가 없다. 어차피 AI가 알아서 다 할 것이기 때문이다