https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=396389&s_type=search_subject_memo&s_keyword=xot&page=1

념글 XOT 논문 겉핡기 해봤음이 논문의 핵심개념은Penrose Triangle 얘를 벗어낫다는거임저 삼각형은 메이플 주사위돌리는거랑 비슷함 힘, 민첩, 지능 이런거 주사위해서 12,12,4,4 총합 32를 넘지못하는것처럼모델의 성능도 성능 + 효gall.dcinside.com


https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=402805&s_type=search_subject_memo&s_keyword=.ED.81.90.EC.8A.A4.ED.83.80&page=1

큐스타기법으로 만든 내놓은 합성데이터도 결국 인간이 검수해야함큐스타가 자신이 만든 데이터를 다시 자신에게 넘기고 평가 추론 하는방식으로 정답까지 수렴시키는 자가평가재귀개선 방법이라고 지금 거의 기정사실화 되어있는데 이렇게 자가 평가 루프를 돌려서 내놓은 답은 분명히 '실제 정답gall.dcinside.com



재귀개선 안되는건 아님


자신이 아는 지식내에서 더 나은 지식을 만들 수 있는건 현재도 가능함


근데 그게 '맞냐 아니냐' 를 판단하는게 문제란 거임


그리고 인간 조차도 인공지능이 만든 합성데이터의 지식이 맞냐 아니냐를 판단하는것이 어려운 현실임


내가 인문학 관련해서 굉장히 많은 글을 읽었는데도


지금 gpt4 1106 의 인문학 수준이 너무 높아서 내가 이걸로 실험삼아 글 집필할때 '아니다' 라고 판단한 문장이 다시 읽어보니까 굉장히 짜임새 있고 빌드업된 문장 이었던 거임


이런 문제가 또 있음


인간의 판단도 환각문제를 벗어날 수 없고 인공지능 자체도 환각문제를 벗어날 수 없다는 것임


다만 여기서 가장 큰 문제는 잘못된 합성데이터가 쌓이면 쌓일수록 이게 나비효과 처럼 번져서 잘못된 답을 무조건적으로 내놓는 학습모델이 탄생될 수 있다는 것