Ai가 어떤 파괴력을 가지는지 여기 특슬람들도 잘 알텐데
나이트쉐이드란 기술은 그 ai 학습을 오염시키는거임
이게 무얼 뜻하는가? 악질적인 기술 "테러 행위"라는것임
비단 그림뿐 아니라 각종 분야의 학습데이터에 교묘하게 오염정보를 섞어서 ai학습을 망치는건 크게 보면 국가에 대한 테러행위라 볼 수 있는거임
저 법안은 그러할 가능성을 미리 차단할 단초라고 생각하면 될 듯
나이트쉐이드란 기술은 그 ai 학습을 오염시키는거임
이게 무얼 뜻하는가? 악질적인 기술 "테러 행위"라는것임
비단 그림뿐 아니라 각종 분야의 학습데이터에 교묘하게 오염정보를 섞어서 ai학습을 망치는건 크게 보면 국가에 대한 테러행위라 볼 수 있는거임
저 법안은 그러할 가능성을 미리 차단할 단초라고 생각하면 될 듯
오히려 데이터 오염이 정렬을 무너뜨려 인류를 멸망시키는 과정일 수도 있지 - dc App
이미 q스타 나와서 나이트쉐이드 알빠노임 ㅋㅋㅋㅋㅋㅋㅋㅋ - dc App
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
q스타는 수학적 부분 증명하는거 아니었음? 합성데이터는 다른이야기일건데 - dc App
둘다 비슷한 원리 아님? - dc App
q스타가 합성데이터 위주의 재귀학습인거는 나는 못봤는데 수학적 추론 향상인데 이게 재귀개선으로 볼 수는 있겠다 - dc App
뭐 어쨌든 이제 합성 데이터로 이미지 생성기 품질 향상가능한 건 팩트니까, 나이트쉐이드 ㅈ도 쓸모없어진 건 맞다고봄 - dc App
이미지 합성데이터 나는 조금 부정적으로 보는게 이게 전체적인 퀄리티는 굿인데 디테일이 무너지는 경우가 너무많음 예를들어 체인이나 각종 끈, 옷등 nai3도 이문제가 있어가지고 본격 합성데이터 쓰려면 내년 하반기쯤 문제점 다 해결되고 쓸 수있지 않을까 싶다 - dc App
근데 합성데이터 아니면 저작권 규제 엄청 때릴 것 같은데.. 그건 어떡하지?
애초 결과물 자체가 저작권 문제 없으면 단순히 ai 생성물이라고 저작권으로 문제가 될 수 없음 ㅋㅋㅋㅋ 지금 소송 거는 애들 싹다 패소할 거임. 이미 패소한 애들도 있고. - dc App
소송은 모르겠다 승소할지 패소할지 한가지 걸리는건 판사가 학습관련해서 소송 이어갈수있게 고소인들에게 기회를 따로주고 ai기업들 기각신청을 거부해버렸음 소송관련은 솔직히 나는 누가이길지는 모르겠음 - dc App
유나바머인지 유하바하인지 걔가 했던짓이네 반기술테러
걘 진짜 폭탄이야
이게 사람눈에 안보이는 문자 학습 맞나?
나이트쉐이드 그거 별로 의미 없는 기술임. 인공신경망이 universal approximator라고 불리는건 데이터만 있으면 뭐든지 할 수 있기 때문임. 이렇게 접근하면 나이트쉐이드 바로 무력화됨. 1. 나이트쉐이트 적용하는 프로그램 혹은 인공신경망 준비. 2. 멀쩡한 그림에 나이트쉐이드 적용시켜서 학습 데이터 많이 만들기. 3. 나이트쉐이드가 적용된 그림을 넣으면 나이트쉐이트가 없어진 그림을 뱉어주는 인공신경망 훈련. 4. 앞으로 훈련시키지 전에 3에서 훈련시킨 인공신경망으로 데이터베이스 전처리 한 번 싹 하면 됨.
근데 상상력을 조금만 발휘해보면 AI가 발전함에 따라서 역으로 붕괴시키는 기술도 발전할텐데 말이지