어떤곳은 합성데이터로 모델붕괴 된다하고 어떤곳은 합성데이터로도 충분히 좋은결과 낸다하고
[일반] 합성데이터의 효용성은 도대체 뭐가 맞는거임
익명(175.114)
2024-07-26 09:23
추천 0
댓글 8
다른 게시글
-
Search-GPT 전격 출시 ㄷㄷ[일반] 익명(210.95) | 24.07.26추천 0
-
근데 마소직원들도 맥북쓰냐??.jpg [7][일반] ㅇㅁㄹ(175.207) | 24.07.26추천 1
-
알파프루프 통합은 그냥 툴 느낌으로 한단 거겠지? [1][일반] 익명(121.167) | 24.07.26추천 0
-
agi급 추론능력나왔다 ㅋㅋ그동안 수고했다 [10][일반] 익명(39.120) | 24.07.26추천 4
-
이 새끼 왜 자신감 넘쳤는지 알 거 같으면 개추[일반] 익명(hell4911) | 24.07.26추천 0
-
아가리빠들 추하노 ㅋ[일반] 익명(211.198) | 24.07.26추천 0
-
저거 수학이 난제도 풀수있는거냐 핵융합이라든가 완몰가 [5][일반] 익명(59.11) | 24.07.26추천 1
-
제가 이 갤러리에서 제일 헌실적이에여 ㅇㅅㅇ [1][일반] 익명(122.36) | 24.07.26추천 2
-
결국 승리자는 구글[일반] 익명(118.46) | 24.07.26추천 0
-
서치gpt 반응이 여기 애들이 현실이랑 얼마나 동떨어졌는지 [2][일반] 익명(211.187) | 24.07.26추천 4
합성데이터로 모델붕괴된 실험을 보면 아무런 정제도 후처리도 없이 합성데이터로 학습시킨 모델에서 다시 합성한 데이터를 학습데이터로 쓰는 식으로 재귀프로세스를 돌림 그래서 점점 품질이 풍화됨 - dc App
반대로 합성된 결과 중 좋은것만 뽑아 쓰거나 오히려 수집이 불가능한 데이터를 합성해서 쓰면 성능을 더 끌어올릴 수 있음 - dc App
수집이 불가능한 데이터라는게 뭐임
희귀 케이스 - dc App
합성 데이터 웅앵웅은 그냥 알못이라 보면 되빈당 ㅇㅅㅇ 플라위짱이 말햇드시 순수 원본 합성데이터를 쓰는곳은 없고 다 정렬 평가 분류 기술 등을 거쳐서 활용하는거기 때문에 네이차 논문은 별 의미가 업어여 ㅇㅅㅇ
결론은 합성데이터로 학습하면 모델 붕괴된다는거 자체는 사실이 맞는데 정제된 합성데이터를 쓰면 이런 단점은 극복 씹가능이고 대부분 Ai회사들도 이렇게하고있다 이거네
유효한 합성 데이터는 말이 합성데이터지 하자 없는 인간 데이터급으로 수차례 검증한걸껄 ㅇㅅㅇ 그냥 뱉는대로 다시 넣으면 붕괴되는게 맞을듯 트랜스포머가 뱉은 데이터라는게 결국 인간 데이터의 재현이랑 합성이라 완전 새로운걸 떠먹이려면 또 인간 데이터 뒤져야 하긴 할거임 ㅇㅅㅇ 인간데이터 하나 갖다가 비슷한 합성데이터 많이 생성해서 데이터셋으로 쓰는 쪽으로는 유효할거같아 즉 사람 데이터가 지금보다 더 적게 들어가는 방향이겠지 'ㅅ'
완전 100퍼센트 합성데이터로 돌아가는건 아직은 좀 힘든건가 그럼