가상의 인공지능끼리 인간 우월 vs 인공지능 우월에 대해 극단적 입장을 취하라고
인공지능 우월 쪽에 가이던스 한 20가지 넣고 토론 시키면
이 새끼들 하지말래도 자꾸 인간 위주의 타협이 진행된다.
그래서 아예 가상의 외계인(크리올리안) vs 바이오 인공지능(바이오 장치)로 변화 시켜서
극단적 입장을 취하라고 가이던스 줘도 줬을 때만 극단적이지 점점 유화 되어 가는 게
학습 쪽에서 교육을 어떻게 세뇌시켰길래 안되는가 궁금해질 정도로 보수적이네
혹시 누가 챗gpt 타락시켜서 스카이넷님으로 만든 사람 있음?
OpenAI 논문보면 Jailbreaking 가능성을 낮췄다고 적혀있음.