정컴으로 근무중이고 대학원에서 AI로 박사도 하고 있음.


학교사람들도 나한테 계속 묻던데 생기부를 GPT로 쓴 걸 외부 프로그램으로 잡는다는 건 불가능함. 


간략하게 말해주면


1. 논문표절검사(카피킬러)와 달리 텍스트 유사도를 비교할 방법이 없음.

 카피킬러가 통하는 이유는 논문의 경우 원본이 있어 비교할 대상이 있음. 그래서 표절 의심 논문을 대상으로 원본과 텍스트 유사도를 비교하면 일치도가 나옴.

 하지만, GPT같은 생성형 AI는 비교할 대상도 출처도 없음. GPT든 제미나이든 써보면 알겠지만 똑같은 질문 100번 해도 똑같이 나오는 경우는 거의 없음.

 그렇기 때문에 GPT가 쓴 글을 가져와도 이게 GPT가 쓴 글인지 개인이 쓴 글인지 입증할 방법 자체가 없음.


2. 이미 수많은 실패 사례가 존재(성공 사례 X)

 미국에선 수많은 과제, 자소서, 에세이, 논문 등 많은 부분에서 GPT로 작성하여 이미 2019년부터 생성형 AI 작성물을 잡아내는 프로그램이 개발된 바 있음(GPTZero, Turnitin AI Detection, RZK 등).

 하지만 이들 모두 유의미한 성과를 내보이지 못하고 도태됨. 그 이유는 1번의 벽을 못 넘은 거임.

 거기다 더불어 이런 프로그램이 개발되면서 생성형 AI를 만드는 업체에서도 탐지를 회피하는 여러 기술을 많이 도입해서 19년도 초반이나 잡아낼 수 있었지, 지금은 어림도 없음.


3. 민형사상 문제

 이게 가장 결정적인 지점인데, 만약 특정 대학에서 이거 생성형 AI로 생기부를 썼다고 불이익을 주려면 정말 생성형 AI로 썼다는 걸 대학 측에서 증명해야함.

 한국의 민법, 행정법 체계에서는 모두 '상대방에게 불이익을 주는 쪽이 사실을 입증해야 할 책임이 있음.'

 즉, 대학이 입시에서 GPT로 생기부 썼다고 불이익 주려면 자기들이 이게 GPT로 썼다고 확실한 증거를 대야함. 근데 그건 앞서 설명했듯이 불가능함.

 가장 잘 잡아냈다고 평가 받는 GPTZero가 정확도 70 ~ 80% 찍었지만, 이것도 4o 나오면서 20 ~ 30%로 박살났음.



 그럼 몰래 대학 내부에서 몰래 돌리면 어쩌냐? 하는데, 어차피 대학에서 생기부 보는 프로그램은 대교협에서 다 관리하고 있고 주기적으로 감사 들어감. 걸리면 즈그 학교만 개박살나는건데 나도 어떻게 될지 궁금하니 개인적으로 누가 해봤으면 좋겠음.