스레드같은데 보다보면 그런거 많이 올라오잖슴
“챗gpt한테 이렇게 질문하면 지금 10%도 못쓰고 있는겁니다”
이렇게 어그로끌고 “너는 10년차 베테랑 광고 디자이너야. 아래 규칙과 지시사항을 준수하며 답변을 생성해줘. 1번. ~~”
이런식의 글들
나는 귀찮아서 이렇게 절대 안쓰고 인스트럭션 기능도 그냥 문체 조절하거나 아님 차라리 프로젝트를 따로 만들고 그 안에 인스트럭션에 지금 하고 있는 프로젝트 개요정도만 써놓는데 저런게 효과가 있다고봄?
예전 모델이면 모르겠는데 o1급이면 이미 언어능력이 충분히 올라와서 굳이싶은데 토큰만 잡아먹고
난 그냥 호들갑 + 해골물이라 생각하는데 어떻게 생각함
이 내용으로 o1이랑 얘기해봤는데 이런 프롬프트 엔지니어링이 100% 허상은 아니지만 과장된 측면이 있다고 여기는듯
- dc official App
모델 기본 능지가 올라서 자기가 이해하기 쉬운 말투나 출력 양식 지정해주는것 이상의 효과 없다고 봄 캐릭터 챗봇같은데선 상태창 기능 같은걸 위해서 잘 써먹는거 같긴 한데 모르겠음
캐릭터 챗봇에서는 확실히 의미가 있음 어떠한 문체로 대답해야하고 성격도 지정해야하고 스토리도 있어야 하니까 trpg 성격의 봇도 마찬가지 근데 일반적인 상황에서는 인스트럭션만으로 극단적인 퀄리티 상승은 불가능하고 문체 조절 정도가 한계인것같음 - dc App
왜 역할 프롬프트를 사용하나요?
향상된 정확성: 법적 분석이나 재무 모델링과 같은 복잡한 시나리오에서 역할 프롬프트는 클로드의 성과를 크게 향상시킬 수 있습니다.
맞춤형 톤: CFO의 간결함이나 카피라이터의 재능이 필요한지 여부에 관계없이 역할 촉구는 클로드의 커뮤니케이션 스타일을 조정합니다.
향상된 집중력: 역할 맥락을 설정함으로써 클로드는 작업의 특정 요구 사항 범위 내에서 더욱 집중할 수 있습니다.
https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/system-prompts
한 번에 완성된 형태로 가지고 있다가 출력하는 것이 아니라, 출력하면서 동시에 다음 Output을 생각하고 생성합니다 출력 과정 자체가 추론 과정의 일부라고 하구요
프롬프트는 일종의 지침이자 가스라이팅이고 효과는 있습니다 다만 모델의 한계는 못뚫는거죠. 제가 올린 글 확인하시면 아시겠지만 생각 루틴이 내부 독백으로 인해 틀어지기 때문에 다양한 결과를 내놓아요
결과적으로 추론을 하라는 프롬프트가 있고 해당 내부 독백을 강제적으로 출력시키면 해당 독백을 통해 2차적인 추론을 하는겁니다.
수 많은 테스트를 해봤는데 게시글의 예시 같은 부분들은 의미가 없을거라고 봅니다 XML 태그를 적극적으로 이용해서 명확하게 지침을 내려줘야해요. 물론 예시처럼 지시한대로는 말투를 따라하겠지만 별 효과는 없을겁니다
념글에 잼띵2.0 커스텀프롬 하신분이시구나 효과가 있다는걸 부정하는건 아닌데 가끔 너무 오바떨면서 올라오는 글들이 의아해가지고 올렸어요 내부 독백을 유도하고 CoT 만들어내서 결과값을 한번에 출력해내는게 아니라 안에서 계속 질의를 하게 한 다음 신중한 답변을 이끌어내는게 그런 시스템 프롬프트의 역할 아닌가여? 념글 올린것도 글코 이건 gpt3.5 쓸때도 아카에 ai챗하는 사람들이 프롬 깎는것도 많이 봤고 저도 깎아봐서 의미가 있다는건 분명하지만 말을 무슨 모델 한계 이상으로 끌어올리는 뉘앙스라 진짜 그정돈가? 싶어서 암튼 답변 감사합니다 - dc App
말씀하신대로 사람들이 "한계 이상으로 끌어올린다" 라는 생각은 개인적으로 생각하기에 반은 맞고 반은 틀리다고 생각드네요 자주 틀리는 "빵 문제" 와 같은 논리적 퀴즈들을 아예 못 맞추는 모델들이 있는데 (클로드, 제미나이 등) 해당 문제의 정답을 따로 지침해두지 않은 프롬프트를 통해 신중함을 갖추고 새로운 계산을 통해 정답으로 이끌고 있음을 확인했다면 사람에 따라 프롬프트로 모델의 한계를 넘어섰다고 얘기 할 수도 있겠네요 다만 수 많은 프롬프팅을 테스트하며 느끼기에 확실히 그냥 멍청한 애들은 그대로 계속 멍청합니다 지능 자체를 올릴 수 있는건 아니라고 생각해요
말씀 하신것도 일부 맞다고 생각하지만 아래 한번 확인해보시면 무슨 느낌인지 금방 이해하실겁니다
고급: 자체 교정 체인
Claude가 자신의 작업을 검토하도록 프롬프트를 체인으로 연결할 수 있습니다! 이렇게 하면 오류를 포착하고 출력을 정제할 수 있으며, 특히 고위험 작업의 경우 그렇습니다.
https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/chain-prompts#example-self-correcting-research-summary