[📪정보] 요즘 핫한 실사체 모델ai의 위험성?

[익명(211.108)]

사실 커뮤니티에 올라오는 사진들은 약과일뿐, 픽시브나 AI 커뮤니티에 가면 노골적인 사진들도 굉장히 많이 나오는 중인데

혹자는 이것을 보고 'AI 그림 기술은 실사 데이터셋을 가지고 만들어졌으니 어찌보면 당연한 것'이라고 반응할 수도 있지만...

https://techcrunch.com/2022/12/21/kickstarter-shut-down-the-campaign-for-ai-porn-group-unstable-diffusion-amid-changing-guidelines/

정작 원본 Stable Diffusion이 학습한 Lion 5B 데이터셋에는 NSFW (후방주의) 컨텐츠는 2.9%밖에 들어있지 않다.

그러니까 원본 Stable Diffusion 만으로는 대유쾌 마운틴 짤들을 뽑아내는 것이 거의 불가능하다는 것이다.

그렇다면 지금 양산되고 있는 짤들은 어디서 온 것일까?

바로 'Automatic111' 이라는 개발자가 만든 'Stable Diffusion Web Ui'라는 프로그램에 커스텀 모델을 결합해서 만들어낸다.

쉽게 말하면 원본 프로그램에 모드질을 해서 만들어내는 거라고 보면 된다. (스카이림에 야스모드 까는 것처럼)

Stable Diffusion 기술 자체가 오픈 소스라서 가능한 일이다.

당연히도 이런 '유저 모델'이 무슨 데이터를 학습했는 지는 알 길이 없다.

그러나 현재 수준의 아웃풋을 내놓으려면 당연히 인풋이 있어야 하기 때문에

누드 모델, 더 나아가 일반인 사진의 학습은 필연적일 수 밖에 없다.

예를 들어 흔히 '인스타 모델'이라고 불리는 동양 실사체 모델은 인스타그램에 올라온 14만장 이상의 일반인 + 코스어 사진을 통해 만들어졌다.

Stable Diffusion Web UI는 모델 병합이 가능하기 때문에, 이러한 모델을 이용해 'F222'등의 실사 누드 데이터를 학습한 모델과 병합하면 인스타풍의 야짤을 만들어낼 수 있는 것이다.

요즘 들어 인기를 끌고 있는 Basil mix 모델도 이런 식으로 모델 병합을 통해 만들어진 모델.

물론 그 과정에서 어떤 데이터 셋이 더 추가된건지는 알려주지 않는다

참고로 많은 실사 야짤 모델의 베이스로 쓰이는 'F111', 'F222'를 만든 'Zeipher AI'는 데이터셋이 문제가 되자 모델 배포를 종료하고 런을 쳤다.

물론 그들이 만든 모델 자체는 지금도 토렌트 등을 이용해 암암리에 배포되고 있으므로 별 의미는 없다.

요약

1. AI 대유쾌 마운틴 짤은 원본 프로그램을 이용해서 나온게 아님

2. 원본 프로그램에 '모델'이라는 것들을 병합시켜서 만들어낸 거.

3. 현재 핫한 실사체 모델들은 '일반인 모델을 학습시킨 모델'이랑 '야동, 누드모델을 학습시킨 모델'이랑 병합시켜서 만들어낸 마개조 모델.

현재 법 체계로서는 딱히 불법은 아닌데 그림이랑 딥페이크의 중간에 있는 기술이라 향후 어떻게 될 지는 아무도 모를듯?

적어도 떳떳하게 쓸만한 물건은 아닌 것 같다는 게 개인적 의견.

이글들 토대로 작성함 :

https://techcrunch.com/2022/12/21/kickstarter-shut-down-the-campaign-for-ai-porn-group-unstable-diffusion-amid-changing-guidelines

https://www.washingtonpost.com/technology/2023/02/13/ai-porn-deepfakes-women-consent

[익명(125.183)]

결국 자료가 있어야되니까 필연적이긴함

[익명(211.108)]

[나마리。(fuyucat)]

[익명(219.248)]

[익명(182.218)]

어차피 수백수천명 융합 시킨 거라 특정 안될텐데 문제가 될까 싶다

[익명(3zfuabvv2gecq)]

이루다처럼 아닌 경우가 생길 수도 있으니 문제

[익명(119.193)]

알빠노?

[익명(221.141)]

그냥 ai 도둑질이야 말하고 싶은것 같은데 논리적인척 하러니 내용이 뇌피셜로 가득이네 ㅋㅋ

[익명(122.34)]

특정 인물 아예 학습시킬수도 있던데 그건 빼박...

[익명(122.36)]

애쓰네 그림쟁이

[익명(39.119)]

이런애들 보면 답답하다 진짜.. 그럼 사람이 지금까지 창작해온 모든것도 모두 다 현실 기반인데 창작 하는애들은 다 떳떳하지 못한거냐? ㅋㅋㅋㅋ 예술 자체가 도둑질이였네 ㅋ

[쥬(14.56)]

글에서 뭐가 문젠지 모르면 ai쓰지마라..

[익명(180.66)]

여기애들은 뭘 제시해도 "암튼 인간학습 방식이랑 같다고!!!!" 이소리밖에 안하니까 설득할려고 하지마라 ㅇㅇ ai전문가들 조차 지금 그림ai라고 불리는 애들은 인간학습방법과 동일하지않다는데ㅋㅋㅋㅋ

[익명(39.119)]

학습방식이 동일하다는게 아니고 현실 세계를 재해석해서 새로운걸 만드는 과정이 다를 바 없다는거임

[익명(125.191)]

오히려좋놐ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[익명(59.27)]

그러면 인스타에 사진을 올리지 말았어야지. 인스타 사진 3개 4개 보고 적당히 섞어서 사람이 야짤 찍어내면 명백히 합법인데 ai는 안된다가 말이 된다고 생각하냐? 해킹해서 개인사진 훔쳤으면 정보보안관련 법으로 다스리면 될일이고 그냥 하급 그림쟁이들 몸비틀면서 윽엒거리는 소리지.

[익명(59.27)]

상급 그림쟁이가 인간의 한계 때문에 일을 감당하지 못하니깐 하급 그림쟁이들도 먹고사는건데 ai결합해서 한시간 걸릴거 5분 컷 해버리면 상급 그림쟁이들이 일감 다 독식할수 있음. 이런 똥글은 그냥 하급 그림쟁이들 몸비트는 소리임

[익명(211.108)]

서비스 쓸거면 알고리즘 이용 동의해라)가 FTC 5a 조항인 '합리적으로 피할 수 없고 소비자 또는 경쟁에 대한 더 큰 이익으로 상쇄되지 않는 상당한 피해를 소비자에게 유발하거나 유발할 가능성이 있는 경우'를 위한하는 지라 이미 '에버노트'가 해당 방식으로 수집한 알고리즘을 모두 삭제하라고 명령받은 적이 있었습니다.

[익명(211.108)]

프라이버시에 관해서는 의외로 대부분의 국가가 신중한 방향으로 접근중이기 때문에 (그 중국조차도) 좀더 지켜봐야 할거같습니다

[익명(211.108)]

https://wp.nyu.edu/compliance_enforcement/2022/03/30/model-destruction-the-ftcs-powerful-new-ai-and-privacy-enforcement-tool/

[익명(211.108)]

알고리즘을 만드는 데 사용되는 데이터의 투명성과 프라이버시 보호는 2018년 유럽위원회 (EC) 제시되었을 정도로 기본적인 윤리입니다. SB 기술이 소유주가 불분명한 오픈소스라 지금은 그냥 넘어가는 거지 DALL E처럼 특정 기업에 종속된 기술이었으면 굉장히 문제가 되었을 부분이예요.

[익명(211.219)]

확실한건 막을 방법이 없다는 거. 기술이랑 데이터가 둘 다 공공에 존재하는데