ais 기준. 오직 반복된 테스트로만 얻어낸 결과임. 믿지는 말고 난 그랬다 정도로만 봐주길


1. 코끼리는 생각하지 마!

프롬프트에 절대 금지, 하지 마세요! 등 부정어를 남발하면 오히려 그걸 학습하는 듯하다.

내가 만든 프롬프트를 예로 들어서,

반드시 외부로 출력해야만 하는 긴 루프 보고서를 부탁했으나

초반에 두 세번정도는 프롬프트의 규칙에따라 잘 따라하더니

어느 순간 '시간 관계상. 지면 관계상 생략하고 출력했다고 가정합니다.' 하고 넘겨버림

제미나이 피셜로 ai는 시간 개념이 없다고 한다;;

무엇이 문제인지 내 프롬프트를 정독했는데 난 ai가 절대 하지 않아야 한다고 생각해서

곳곳에 박아 놓은 반복된 금지어가 ai는 활용해도 되는 방법으로 인식하는 게 아닌가싶음. 

하지 말라는 행동을 입력하되 그걸 너무 반복적으로 삽입해두면 오히려 그 행동을 할 가능성이 높아지는듯.

금지 행동은 서두에만 적어두고 테스트하니 이런 현상이 정말 많이 줄어들었음.


2. 창의력은 오히려 범위를 정해줄 때 더 날카롭다

온도 값이 ai의 창의력을 높여주는 것처럼 생각되지만,

나의 프롬프트가 방대하다면 되려 규칙 위반의 가능성이 높아지는 위험 값이라고 생각하면 될 거 같음.

만약 프롬프트에 ai의 창의성을 자극하는 설계가 잘 되어 있다면

낮은 온도로 설정한다고 해도 ai가 틀 안에 갇히는 게 아니라, 틀을 도구로 이용하는 걸 보게 될 거임.

ai를 믿어보셈. 확실히 더 좋은 결과를 얻게 될 거임.


생각해둔 팁들이 더 있었는데 막상 적으려니까 기억이 안나서 여기까지