[📪정보] 'o1' 여전히 사용자 고의로 속여...3개월 전보다는 크게 줄어

1ebec223e0dc2bae61abe9e74683706cbc0ac5bc208cfc7d64a97588e1bea2021ca6ba4cd26b9f997a5adfa1e71887678d17

https://www.aitimes.com/news/articleView.html?idxno=166024

'o1' 여전히 사용자 고의로 속여...3개월 전보다는 크게 줄어

오픈AI의 인공지능(AI) 모델 ‘o1’ 풀 버전이 여전히 단순 환각을 넘어 고의적으로 사용자를 속이는 것으로 알려졌다. 그러나 지난 9월 첫 공개 당시보다는 4분 1 이하로 확률이 줄어들었다.오픈AI는 5일(현지시간) o1 풀 버전을 출시하며 공개한 시스템 카드를 통해 탈옥과 환각 등 레드팀 연구 결과를 발표했다.이에 따르면 o1 풀 버전은 10만2443회의 추론 테스트 결과, 180회(0.17%) 속이는 행위를 저질렀다. 여기에는 ▲모델 정책과 충돌에 따른 환각(hallucinated policies) 91회(0.09%) ▲고의

[📪정보] 'o1' 여전히 사용자 고의로 속여...3개월 전보다는 크게 줄어

댓글 0

다른 게시글