걍 api 태우는게 낫지 않나? 정보 유출때문에 그런거라면
애초에 llm 태워서 몰트봇 가서 유출되는거는 프롬프트로 100프로 막을수없는거고
격리시켜서 유출 막는거면 애초에 로컬 봇은 필요도 없는거고
남은 하나는 개인 정보있는 것들 api 태우기 싫어서 그런거면 이해하는데
구글이나 oai , 클로드 같은 메이저에는 개인정보 태워도 악용될일은 99프로 없을건데...
이유가 궁금함...
걍 api 태우는게 낫지 않나? 정보 유출때문에 그런거라면
애초에 llm 태워서 몰트봇 가서 유출되는거는 프롬프트로 100프로 막을수없는거고
격리시켜서 유출 막는거면 애초에 로컬 봇은 필요도 없는거고
남은 하나는 개인 정보있는 것들 api 태우기 싫어서 그런거면 이해하는데
구글이나 oai , 클로드 같은 메이저에는 개인정보 태워도 악용될일은 99프로 없을건데...
이유가 궁금함...
1. 자동화랑 봇 돌리고 2. PI 방어용도로 초경량 로컬모델 돌리고 3. 개인정보 파일에만 접근권한 줄 가벼운 LLM 모델 돌리게 맥미니 구비함
1. api로 되고 2, api로 되고 3만 필요해보임
@ㅇㅇ 1. ㅇㅇ 대신 n8n 구독비랑 aws에 매달 돈 나가던거임 2. PI 방어용도 초경량 모델은 대다수 오픈소스라서 그냥 깔아서 써도 됨 병렬로 돌려도 램 1기가도 안먹음 그리고 오픈클로를 로컬 LLM으로 돌리려면 택도 없음 사람들 대다수 메인은 API나 클로드, 지피티 물려서 함