ChatGPT의 위대함은 이전 AI 모델들과 맥을 같이 함.
여태까지 인간들이 쌓아놓은 수많은 데이터들이 있고 거기서 진리를 발견할 수 있었음에도 너무나 많은 데이터가 누적되어
어느 인간도 감히 분석할 시도조차 하지 못 했다는건데
ChatGPT는 해당 문제를 키워드 집중이라는 아주 단순한 문제로 해결해버림.
여기까지는 아주 좋음. 미래가 정말 장밋빛에 낙관적으로 보여.
하지만 ChatGPT의 명백한 단점은 결국에 인간이 만들어둔 데이터를 앵무새 마냥 반복한다는 점에 있음.
개개인이 보기에는 얘가 정말 무언가를 만들어낸다는 생각이 들 정도지만 실상은 엄청난 컴퓨팅 파-워를 동반한 엄청나게 정교한 앵무새라는 점임.
만약 AI로 인해 너무 섣부른 타이밍에 인간이라는 원천 소스의 공급을 중단한다면?
정말 누가 봐도 AI가 똑똑해보이고 무언가를 만들어내는 것처럼 보이는 시대가 언젠가 오면, 모든 기업가는 앞다투어 인간을 AI로 대체하려고 할 것임.
그렇게 해서 인간이라는 자원이 끊겼고 한동안은 모두가 행복하게 살다가 몇 십 년 후에 AI 모델에 크나큰 한계가 발견된다면?
인간의 수준은 수 십 년 전으로 퇴보 (혹은 정체)하고 있다가 AI에 결함이 발견되는 순간
인류는 다시 걸음마를 시작해야 되는 순간이 오는 것임.
만약에 극소수의 인간은 계속해서 AI를 관리해오고 있다고 하면 이쪽이 위보다 훨씬 더 끔찍한 디스토피아임..
어느 누구도 감히 이해할 생각도 이해할 수도 없는 상황에서 그들만이 자의든 타의든 AI 관리를 독점한다?
말뿐인 빅브라더가 아닌 진정한 빅브라더 시대가 당도하는 것..
근데 보통 연구 분야 같은 최전선은, 아직도 GPT가 틀리는 경우가 많아서 '협업'이 되지 '대체'되진 않을 거란 예상이 많잖아? 수학 1티어 타오도 그렇게 말했어. AI랑 협업하는 게 당연하게 될 거다. 하지만, 수학자를 '대체'하는 건 수십년 남은 것 같다. 그럼 인간의 연구 데이터는, 연구 분야에서 한동안 계속 생산될 것 같은데.
결국엔 매우 훌륭한 앵무새라는 구조를 변경하지 못 하면 언제 대체되든 어떻게 대체되든 그이후에 언젠가는 한계점이 보일 수 밖에 없다고 생각함 AI가 계속해서 이런 구조라면 미래에 태어날 타오가 빅브라더 시대의 최정점을 찍게되는거임
빅 브라더 문제는 agi이상의 인공지능에 의해 인간이 대체 되었을 때부터 일어나는 문제이므로 빅 브라더이든 더한 빅 브라더이든 큰 문제는 없을 것 같은데?