'OPEN' AI가 닉값 못하고 클로즈드소스로 꽁꽁 싸맨걸 오픈소스로 우려내버리는 오만가지 탈옥아닌 탈옥같은 기법이 요번 딥식 논문과 인용 논문들에서 많이 나왔음
읽어보면서 느끼는건 LLM의 클로즈드 소스화는 창과 방패의 싸움같아서 불가능하고 자신을 드러낼수록 강해지는 LLM을 우려낼 방법은 의외로 많다는거였음
ai탈옥이나 증류기법 보면서 사람한테 사기치는것과 의외로 별다르지 않다는 생각까지 듦
판도라의 상자는 열렸고 특정 국가의 LLM독점은 불가능함
LLM에 해자를 만드는게 쉽지 않은것 같다는 느낌은 듬 오픈소스화가 필연일지는 잘 모르겠지만 그래서 항상 경계는 해야함
딥식 연구진들도 뚫어보면서 깨닳음 얻어버린거같음
어짜피 지들이 OAI나 클로드 뚫은거처럼 뚫릴수밖엔 없으니까 오픈소스로 풀어버린다 딱 이 마인드
지금은 그렇지만 인공지능이 인간보다 뛰어나지는 시점에서부턴 못 뚫을거같은데. 멍청한 사람이 대가리 존나게 굴려서 속여먹으려고 해도 똑똑한 사람은 금방 간파해서 안 당해주니까. - dc App
거기까진 생각 못해봤네