얼마 전(하이퍼 클로바)에 글쓴 현역 개발자다.
드론 업체 근무했고 인공지능 부분 담당함.
소개는 전 글에도 했던거 같고

트위터에서 AGI 실마리를 찾은거 같음
아니면 트레이닝을 테스트 셋에 하는 실수를 했거나

라고 하는데 이게 뭔 소리냐면

인공지능을 학습시킬때 학습시키는 데이터를 데이터셋이라고 부른다


이 데이터셋을 두개 혹은 세개로 분리해서 쓰는데
트레인 셋. 테스트 셋임
가끔 트레인 셋에 발리데이션셋이라고 해서 검증용 데이터셋을 하나 추가하기도 함
트레인셋과 테스트셋으로 나눠서 학습시키면
트레인셋으로 학습하고
테스트샛으로 잘 맞추나 결과를 보는 거임.


트레인셋이 학습지로 공부하는 거면
테스트셋은 실제로 시험을 보는 거다.


여기서 테스트셋으로 트레이닝을 했다는건
힉습을 테스트셋으로 하고 예측도 테스트셋으로 했다는 의미고


이게 뭔 소리냐면 시험에 출제될 문제와 정답을 미리 보여주고 공부시킨 뒤 실제 시험에서도 같은 문제를 썼다는 의미임.


이렇게 예측하면 당연히 정답과 문제를 외웠으니까 의미없는 모델이 나온다. 문제만 보고 답을 맞춰야하는데 답을 통째로 외운거.


동료 연구자가 그럼 트레인셋을 테스트셋으로 쓰면 된다는건 트레인셋으로 학습 안 했으니까 테스트셋으로 예측을 해서 결과를 볼 수 있다는 거고
모델이 학습을 잘 했냐 보는게 테스트셋이고


트레인셋을 학습시켜서 트레인셋은 잘 맞추는데
테스트셋을 전혀 못 맞추는 걸 오버피팅 문제라고 해서


보통 학습용 트레인 데이터가 너무 많거나 적어서
혹은 신경망 레이어 층이 너무 많아서
혹은 통계학적으로 예측이 가능한 모델을 만들 수 없는 경우(데이터 평균 편차가 큰 nonstationaly data같은 것)를 말함.


모델을 어떻게 만들었는지.
데이터 전처리는 어떻게 했는지
데이터 모양은 어떤지..


다 확인해봐야해서 AGI 떡밥 나왔다고 너무 설레지마라. 트위터에서 언급한 것만으로는 인공지능 모델을 만드는 인간이 실수했을 가능성이 큼..


알고리즘적인 부분보다 데이터셋. 전처리 쪽 문제일 가능성이 높고.
  
인공지능 모델에서 혁신이 일어나려면 알고리즘적인 부분에서 혁신이 일어나야하는데 데이터셋을 언급하는 것 자체가 AGI 얘기 꺼낸건 자조적인 드립에 가깝다고 보면 된다.


기대가 크면 실망도 큰 법이니까 확실히 확인하고 논문으로 발표하기 전까지는 기대 품지마라.


논문 내놓으면 확실히 검증된 떡밥이다 생각하고 흥분해도 됨.


당장 나도 모델 만지다가 한숨 나오면 멍청한 인공지능 새x.라고 욕하면서 일일히 데이터 만지면서 라벨링해주고 작업하면서 머리 쥐어뜯는데..


AGI 나오려면 사람이 일일히 데이터셋 만져서 넣어주는게 아니라 데이터셋을 넣어주면 그 데이터셋에 맞춰서 최적의 모델을 만들어주는 인공지능이 필요할 거임..(그래서 적대적 생성 신경망같은 기법들 많이 나오잖아.?)

지금은 진화 알고리즘으로 신경망의 초기구성을 찾는 정도라서..

트위터만 보면 AGI는 그냥 드립치는 정도라 본다.