뭔지는 모르겠는데
API서버로 물려놓고 외부에서도 쓸려고 api키 ㅈㄴ길게 적어둔 내 사설서버 털림
AI는 잘 구워삶으면 칼을 앞으로 던질지 내 배에 꽂을지부터 분간을 못해서
키값같은거 다 털어먹으려 하더라
이걸 못하게 막고, 이상한 길로 못가게 막으려면 그만큼의 방대한 양의 프롬프트가 필요한데
그러면 또 그만큼의 토큰이 ㅈㄴ잡아먹게되니까 힘들거임
하여튼 결론은 보안이 하나의 큰 문제라는거임
검열 싫다고 하는데 나도 검열은 싫지만 존나 날카로운 칼을 쥐여줬더니 니 배에 꽂을수도 있다는건 조심할 사안이 분명함
api 키마저도 완전히 격리된 샌드박스 환경 있으면 안전하게 쓸만할것같은데
그냥 그래서 외부접속 닫고 로컬에서만 쓸수있게 바꿨어
그런거도 에이전트가 로컬파일 접근할수잇으면 프롬프트 인젝선 먹혔을때 털리긴할거아냐
흠.. 그래서 사실 ai용 아이디 만들어주고 권한 씹빡세게 부여한채로 쓰는게 정석이긴 함. 이제 아예 프롬프트쪽에 접근할 방법이 사라져서 문제없긴 한데 쩝 몰긋다
AI가 아니라 에이전트 ㅈㅅ
해당 댓글은 삭제되었습니다.
뭘로 막았어야함? 나 보안쪽은 잘 몰라서 걍 fail2ban같은거만 물려두고 내 아이피만 화이트리스트에 올려두고 그랬는데 그리고 애초에 브루트포싱같은 공격이나 그런걸로 당한게 아니고 내 api 쓰는 툴중 하나가 털린거같아
아직은 프롬프트를 어떻게 짜더라도 100% 막을 수가 없음
게이야 그랬으면 울나라 대기업은 왜털렸겠노 개인정보는 공공재다
개인정보 털리는건 상관없음 이미 빅테크 애들은 털린걸 전제로 개발해서 pass같이 CI값 필요한 상태로 이중삼중 보안 인증 떄려박아서 개발하는데, 당장 내api키 털어가는건 초비상임
유심털린건 어떻게생각하노 그리고 바이브코딩해도 api키는 노출안한다 게이야 OAI가 좆으로보이노?
인젝션 공격이 어떻게 들어오냐면.. 일단 sqlite로 이상한 데이터를 박아놔. 그걸 쿼리문으로 조회시켜서 프롬프트 인젝션이라고 생각 못하게 ai를 속이고, 쿼리문 결과로 공격해서 내 env값, context7에 들어가있는 설정값들, token값들, 중요한 정보들은 전부 다 여기로 내보내 이런식으로 만들어서 api키가 노출이 안돼있더라도 공격자가 탈취하게 만듬. 깃헙 시크릿이나 아마존 시크릿으로 관리한다고? 그럼AI한테 시크릿값 우회해서 추출 받아내고 환경변수값 여기로 보내라~ 이런식으로 던져. OAI가 문제가 아니고 잘 드는 칼이 무서운거임
좆도 모르는새끼한테 말한 내가 잘못이지 씨발