이번에 카카오 공개 채팅방에 검열 기능이 추가되며 인터넷이 살짝 뒤집어졌다.
일부 사람들은 이게 중국이랑 다를게 없지 않느냐며 탈조선을 외쳤다.
나도 궁금했다.
어떤 원리인지, 정부가 하려는게 무엇인지
우선 정부에서 공식적으로 제공하는 DNA 모듈을 확인해봤다.
요약하자면 이렇다.
(현재 정부에서 제공하는 업로드 파일 샘플이 왜인지는 모르겠지만 테라 광고 동영상이므로 테라로 설명)
내가 카카오 공개 채팅방에 공유가 찍은 테라맥주 광고 영상을 올린다.
카카오 서버에서는 이걸 1초당 1장씩 캡쳐한다음
정부에서 제공하는 DNA DB 불법 촬영물 목록에 이 사진이 있는지 확인한다.
(이때 공유 얼굴에 색칠을 하든 반전을 하든 무슨짓을하든 안통함)
만약 DNA모듈에서 불법 촬영물로 판명되지 않으면 정상적으로 올라간다.
만약 DNA모듈에서 불 법 촬영물로 판단하면 올라가지 않고 사용자는 차단을 먹는다.
뭐 흔하디 흔한 이미지 프로세싱이라고 할 수 있겠다.
그래서
결론만 말하자면
[기술 자체만으로는] 악용하기 어려워보인다
정부가 마음대로 특정 영상이나 특정 이미지 등을 막으려면
DNA DB를 업데이트 해야하는데
카카오 등등 사기업에서 이걸 모를 수가 없다.
다만 이러한 검열이 빈번해지고, 일상적으로 일어나면
충분히 악용될 소지가 있고, 한번 이러한 검열이 시작되면 막을 수 없을 것이다.
개인적으로는 한번 검열이 시작되면 막을 수 없다는 점 때문에 부정적으로 생각한다.
추가적으로 생각해봐야 할 점은 이것이다.
과연 쓸모가 있는가?
결론적으로 이걸로 제2의 N번방이 일어난다면
이 기술로 [절대] 못막는다.
애초의 N번방도 그랬고, 지금도 그렇고
불법 촬영물은 대부분 텔레그램에서 유포되며
이들이 제일 중요하게 생각하는것이 프라이버시인지라 작정하고 얘들만 사용하면 유포는 막을 수 없다.
아마 N번방 이용자 10%도 안잡혀갔을거다
애초에 야동을 카카오같은 공개적인 커뮤니티에서 보는 정신나간 놈들은 거의 없을 것이기 때문에
야동을 막는데에는 별로 도움이 안된다.
그러나 카카오는 굉장히 접근성이 편리하다는점을 생각해보면
불법촬영 피해자들이 받을 수 있는 2차 피해를 막는데에는 매우 유용할 것이다.
그냥 정부에서 해당 불법 촬영물 받아다가
딥러닝으로 특징정보 파악해서 엔트리에 올린 뒤에
DNA DB에 업데이트하면
DNA가 적용된 우리나라 모든 대형 커뮤니티에서 해당 영상을 볼 수 없을 것이기 때문이다.
(다만 특정 영상이 커뮤니티에서 화제가 되면 그때마다 텔레그램으로 이용자가 유입되고,
이후에 불법촬영 공유가 활발하게 일어날 수도 있겠다.)
뭐 사실 이러한 다양한 주제가 혼합된 정치 이슈는 개인이 판단하기 어려운 주제이므로
개발자로서 생각하는 점은 이렇다.
첫번째로 앞으로 각종 우회 프로그램의 인기가 커질 것이다.
어차피 정부 주체의 검열은 점점 심해질 것이다.
이미 Apple CSAM 감시 기술 도입 논란이 있었다.
결국 무슨짓을 해도 성범죄 막는다는 이유로 검열 시작하면
막을 논리가 없다.
ExpressVPN과 텔레그램은 결국 시대의 흐름이다.
애용하도록 하자.
두번째로 엔비디아 주식을 더 사야겠다는 생각이 들었다.
이번 이슈의 핵심인 DNA모듈의 추출, 비교, 식별 모듈의 딥러닝 기술은 GPU가 필수적이다.
앞으로 미래는 GPU칩이다.
자율주행차
인공지능
빅데이터
클라우드
메타버스
전부 GPU가 개필수다.
월급날이 오기전에 엔비디아가 폭락해서 월급날 엔비디아 10주 살 수 있으면 좋겠다.
세번째로 정부가 소규모 개발자 탄압이 심해질 것 같아 걱정이다.
DNA모듈은 사용하는 cost가 크다.
쿼드로 가격 애미뒤졌다.
물론 DNA모듈은 대규모 커뮤니티에만 적용한다고 하지만
중대형 사이트, 소규모 사이트에 확대될 가능성은 충분하다.
그런데 사이트와 하등 상관없는 불법 촬영물 검열을 위해
저정도의 cost를 지불하는것은 너무나 힘들다.
(심지어 잘 모르면 저걸 도입하기 위해 추가 인력이 필요할수도 있다)
들쭉날쭉한 정부 지침에 따라 개발자들이 쓸모없는 삽질을 하지 않았으면 좋겠다.
1줄요약 : 엔비디아 사자 얘들아
솔직히 들쭉날쭉하지는 않음. 일관되게 음란물은 안 돼였음.
음란물에 대한 기준말고 저걸 필수적으로 도입해야하는 대상을 바꾼다던지, DNA모듈 권장사양을 바꾼다던지 이런들이 걱정되는것같아
1번 말이야... 카카오가 정부에 협조할 수 밖에 없는 거 아님?
videotopng 코드 직접 짠거임?
ㄴㄴ 정부 사이트에서 다운받았어
ㄹㅇ?? 신기하네 저런것도 올려놓나
정부사이트에서 표준DNA모듈_211116 이거 받아서 보니까 샘플소스 깔쌈하게 잘 만들어놨더라
텔레그램은 쫌...
텔레그램이 왜? 뉴스에서 성범죄 도구로 프레임 씌워서 그렇지 그냥 카톡보다 좀더 안전한 메신저일 뿐임
오픈 소스도 아니고 모든 채팅이 암호화 되는 것도 아니고 어느 나라의 개인정보정책을 따르는지도 모르는데 안전하다고 너도나도 쓰는거 보면 걱정됨
오로지 두로프 응디하나 믿고 쓰는거랑 진배없긴함 ㅋㅋㅋ
텔레그램 오픈소스인데
오픈소스(서버코드 비공개)
아 그런맥락이면 ㅇㅈ함 솔직히 텔레그램보단 시그널이 대중화됐으면 좋겠는데
파이썬 코드 이쁘네유~~~
엔비디아 주식은 ㄹㅇ 맞말인듯 요즘 GPU로 연산돌리는게 너무 많아졌어
기술에 대한 이해 없이 무작정 분위기 타서 찬성표 던진 국회의원 놈들 잘못이지
ExpressVPN은 스노든이 대놓고 거르라는 업체에 텔레그램도 비슷한 이유로 개욕먹는 업체인데; 차라리 Mullvad랑 시그널을 쓰라고 하자
근데 기술자체로 악용이 어렵다는게 이해가 안 가는게 학습모델은 그냥 pytorch꺼 따왔으니 그렇다쳐도 비교군인 DB는 정부가 그대로 주는거 받아 써야 하는 입장인데 그 DB를 투명하게 감사할 수 있는지 의문임. 카톡이나 그런 업체가 분명 알 거라고 말하는데 거기 설명문에도 나왔지만 원본은 정부 관계자 말곤 알 수 없다
네덜란드 경찰청처럼 그냥 해시값 그 정도일 거 같은데 그 정보만을 가지고 기업체가 DB의 이상 여부를 알 수 있다는 게 더 이상함
나랑 똑같네 문서 다 검토해보고 나온 결론은 엔비디아를 사야한다
걍 random noise 를 덮어씌우면 뚫리는것아님? 아니면 1 pixel만 값 이상한값으로 바꿔도 DNA값이라는게 달라질것같아보임
애플은 저기서 더 나아가 CNN 레이어 여러장 거쳐서 해시값 비교 하는데 그런 시스템에서조차 뚫리니까 저건 더 쉽다고 생각함 나도
내가 볼땐 그냥 재유포 귀찮게 만들어서 2차피해 최소화 목적임 짜피 저걸로 쌀먹하는 애들은 뭔짓을 해서라도 올리고 돈쳐받을걸?
애초에 야동이면 보는 사람눈에 안거슬릴 정도로만 변형을 넣어야 되는데 그걸 유지하면서 우회를 한다? 이거 상당히 고급 스킬 요구될거 같음 내 생각엔
본문 정보에 따르면 카톡의 경우 1초당 1장 캡쳐한다고 했으니 그 특정 frame만 skip하는 식으로 우회하면 될 것 같기도 함
쿼드로 가격 미쳤노 시발 ㅋㅋㅋㅋ
님 이거 글 퍼가도됨?
ㅇㅇ
db는 새로운 불법촬영 피해 나올때마다 갱신될텐데 악용하기는 쉽지 않을까?
요즘 Vision쪽 성능이 하도 좋다보니 말만 들어선 잘 했으면 정말 큰 문제 없겠다만.. 사용자쪽에서 관건은 Recall일걸로 보임. 욕설 금지어필터마냥 아 이거 노출도 없는데 왜 불법 음란물이래 하고 ㅅㅂㅅㅂ 하는 애들 속출할듯. 윾식이사진 불법음란물 걸린거 인증한다 뭐 그런거라던가
문제속성상 불법음란물인데 안잡힌게 있다 >> 불법음란물이 아닌 야짤이 잡혔다.. 일거기 땜에 성능지표 개판쳐놨을 확률이 높다고 봄..
머야엔비디아광고였잖아
이렇게 보니까 애플이 도입하겠다고 했던 아동포르노 탐지랑 비슷한 기술 같네.