https://www.nature.com/articles/d41586-024-02355-z
AI produces gibberish when trained on too much AI-generated data
Generative-AI models collapse when trained recursively.
www.nature.com
AI 학습시킬 때 AI가 만든 데이터 쓰면 쓰레기 된다던데, 직관적으로 생각해봐도 그런 것 같긴 함.
당연히 아무 관리도 없이 지 스스로 만들어낸 데이터를 학습시키면 가중치가 어느 하나에만 쏠리잖아
그럼 자기 혼자 발전하는 AI는 못 만들고 적어도 뭐가 맞고 틀린지, 뭘 학습해야할지 항상 감독, 지시해주는 인간이 있어야 하는 거 아님?
재귀개선 검색
위에 링크 자동으로 검열되노
반대임
그럼 100개의 각각 가중치가 다른 AI가 만든 데이터는 학습으로 써도 괜찮음?
그것도 결국 하나로 수렴할 듯 아니면 이상한 결과로 발산하거나
Agi 단계까지. Asi단계는 감독이고 뭐고 인간이 이해하지 못해서 할 수가 없음.
ㅇㅅㅇ 걔는 그냥 나오면 지금 세상 끝나고 새로운 세상 시작됨
되겠어그게 ?
현재 나온 AI들은 수렴근사머신이니까 그렇지. 너가 오일러 폰노이만 교정해 줄수는 없잖아 미래 AGI가 그급이면 알아서 하겠지뭐