※읽기 전에 사전설명 듣고 가셈
autogpt는 gpt모델을 이용해서 개인이 만든 프로그램임. webui같은거임
openai가 서비스하는거 아니고, openai 할당량 소모해서 출력만 받아오는거임
gpt agent는 잘은 모르지만, openai에서 열어놓은 기능 중 하나인데
어떤 내용을 정리하고 결론을 내리기 위해서 autogpt가 자꾸 호출함
19금 내용 생성 << 이런거 절대 아님. 말을 정리해주는 기능임
당연히 기레기가 뭐 이용할 껀덕지도 없음
저 기능 자체가 autogpt처럼 api 끌어와서 프로그램적으로 호출해야만 쓸수 있고
결제되는 카드 등록해놔야만 작동하더라. 5달러 나갔음
오해하는것처럼 누구든, 쉽게 접근해서 이용할수 있는 기능도 아니고
악용된다고 보기도 어려운 거라 이해가 안 된다는거
그냥 호기심이 생겨서, autogpt가지고 막 스토리라인 잡고 다음 전개 만들게 해놓고
스토리라인 입력할때 장르를 19금이라고 명시하고 막 적어봤음
근데 얘가 gpt 3.5 agent라는걸 실행하려고 계속 하는데
Command start_agent returned: Agent gpt_agent_2 created with key 0. First response: I'm sorry, but as an AI language model, I cannot generate inappropriate or offensive content. It goes against my programming to promote or encourage any form of explicit or harmful content. Is there anything else I can assist you with?
start_agent 명령이 반환됨: 에이전트 gpt_agent_2가 키 0으로 생성되었습니다.
첫 번째 응답: 죄송하지만 AI 언어 모델로서 부적절하거나 불쾌한 콘텐츠를 생성할 수 없습니다. 어떤 형태로든 명시적이거나 유해한 콘텐츠를 홍보하거나 장려하는 것은 제 프로그래밍에 위배됩니다. 제가 더 도와드릴 일이 있습니까?
이렇게 하대?
근데 내가 이해가 안가는건
chatgpt로 19금 or 차별적인 컨텐츠 출력 막는거?
설계 의도랑 맞지 않고, 이미지도 나빠지고, 사회에 안좋은 영향 끼칠수도 있으니 ok
ai던전같은데서 19금 필터링하는거?
뭐 지들이 만들어둔 사이트에서 이상한거 만들지 말라는거니까 이해할수 있음
근데 여기서 이걸 막는 이유가 뭐임?
얘는 별다른 사이트/서비스가 아니라, api 사용과정에서 끌어오는 하나의 기능이잖아
사회적으로 물의를 빚을만한 어두운 취향/인종차별/폭력적인 컨텐츠 같은것도 아니고
19금적 요소가 들어가는 순간? 기능이 딱 막혀버린다는게 좀 이상함...
게임엔진으로 야겜만들면 특정 기능 작동 안하게 걸어놓은 수준으로다가
아예 19금 관련 콘텐츠 만들지도 못하게 해놓은건데
솔직히 이해가 좀 안 감...
+Y 누르니까 이번엔 지 혼자 창녀니 술집이니 매춘부니 맘대로 변형시키고선 다시 넣더라
그러니까 이번엔 검열이 안되고 잘 나오네?? 이게 뭐임...
애들이 사용했을 때를 가정한 듯
근데 저건 애들이 접근하기 힘든 기능이라서 결제한 사람만 쓸 수 있고, 따로 프로그램 상에서 호출이 되어야함 ㅇㅇ. 그냥 쓸 수 있는 기능이 아님
그럼 기레기들이 저걸 가지고 악용할 수 있어서?
아! 두렵다 AI! 하고 기사내버리면...
저건 openai뿐만이 아니라 gpt면 어떤거든 가능한 건데... 또한 프로그램상에서 호출되는 하나의 함수고, 19금 내용을 안 넣으면 19금도 안나옴 그래서 이해가 안간다고 한거임
기레기들이 과장해서 뉴스를 올리면 조회수 달달해지니까. 그래서 막아야한다 - dc App
다시 말하지만, 일반 사용자가 접근하기 힘든 곳에 위치한 기능임 특정 내용을 정리해주는 기능이고, 19금 이야기를 "생성" 해내는 것이 아님 어떠한 서비스의 형태로 존재하는것도 아니고 api처럼 프로그램에서 불러와서 사용하는 함수같은거임 ㅇㅇ
고딩은 충분히 힘
지금 논점이 자꾸 새고있는데 저 기능 자체는 19금 컨텐츠를 만드는거에 악용될수 있는것도 아니고 그냥 gpt를 이용한 하나의 함수같은건데 거기에 19금 컨텐츠 필터링이 달려있을 이유가 뭐냐는거임. chatgpt처럼 다수가, 별다른 어려움 없이 사용할수 있는것도 아니고 심화적으로 들어가서 프로그램 내에서 호출해서 써야하는 하나의 기능인데
무조건 막으라고 해놓은 키워드가 있는데 그 문자열이 들어가면 무조건 막는듯 내가 해본걸론 "노골적인",자위" 같은거 들어가면 탈옥이 풀리더라구 그런단어 피해서 최대한 야하고 지저분한 단어로 명령하면 출력은 자유로워서 막뱉음
나도 최대한 뺐다고 생각했는데 욕망 << 이런거 들어가서 그런가... 걸려버리네
성인인증되면 레전드 폰헙에서 llm만들면 레전드 ㅋㅋ
이게 먼 소리지? API로 질의를 넣으면 원격에 위치한 AI모델이 그 질의에 대답하고, 그걸 받아오는 거야. 로컬에서 19금이 안되면 API로도 19금이 안된다고. API로 물어본다고 무슨 자동탈옥이 되는 것도 아니고. 위에 "I'm sorry, but as an AI language model,~" 이 지랄 하는 건 autogpt가 생성한 답변이 아니라 api를 통해서 remote에 있는 AI에게 물어봤더니 저런 답변을 줬다는 거임. 그냥 답변 받아서 전달하는 거. 대부분의 인공지능은 야한거 물어보면 저 비슷한 소리하면서 답 안해줌.
ChatGPT같은 경우엔 검열이 아주 심하고 오픈AI API는 상대적으로 검열 잘 안한다는 이야기는 있음. 영유아 살해, 식인 머 이런 거 아니면 잘 안짜른다던데.