https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-collapse-as-ai-trains-on-ai-generated-content/
AI가 생성한 콘텐츠가 인터넷에서 확산되고 AI 모델이 인간이 생성한 콘텐츠가 아닌 콘텐츠를 훈련하기 시작하면 어떻게 될까요?
영국과 캐나다의 연구자 그룹이 바로 이 문제를 조사했고 최근 오픈 액세스 저널 arXiv에 그들의 작업에 대한 논문을 발표했습니다 .
그들이 발견한 것은 현재의 제너레이티브 AI 기술과 그 미래에 대한 우려입니다.
AI피드백 루프로 모델 붕괴가 일어날수도 있다고함
멀티모달로 학습시작하면 해결됨. - dc App
특이점 도달 못할수도 있다고해서 특들갑떨면서 들어왔잖아 ㅅㅂ
제목만은 레딧에 있던거 그대로라서 어그로성이 짙긴함
제목 어그로랑 내용이랑 아무 상관 없음
그냥 ai가 생성한 이미지를 다시 학습데이터로 무식하게 재사용하면 성능 떨어진단 연구
오염된 데이터를 인간이 다시 필터링하고 레이블링하면 문제 없음. 단 이 연구에서 말하고 싶은건 그 과정에 인력소모가 심하단 점을 지적하고 싶은 거임
기사만 읽은 바로는 불균형 데이터셋으로 학습할 때마다 편향이 생겨서 이걸 반복하다보면 생성모델이 붕괴된다는 걸 실험으로 증명한 부분에 기여가 있는 것 같은데 아마 논문엔 자기들 나름의 해결책을 제시했을 것 같은데 관심분야랑 겹쳐서 나중에 찬찬히 읽어봐야겠음
레딧에 We may not get to singularity at all... 이라는 내용 그대로 해석한거인디
저 기사엔 그런 소린 일절 없음
이거 ai 자료로 학습하는게 더 효과 좋다 그러지 않았나?
평가 에이전트를 인간이 하면 상관없음
ㅇㅇ 특이점은 아직 멀었지
제목이랑 내용 차이가 너무 심하노
일본 연구소도 발표했던 내용이고 특이점하고는 상관없음