[일반] 검열하면 인공지능 성능 떨어지냐?

[익명(118.42)]

 가령 중국에서 인공지능을 만들면 

 검열 엄청 하겠지.

 시진핑에 대해서 물어보면 대답할수 없습니다,할꺼 아냐. 

 이런식으로 인공지능을 만들면 성능이 떨어지냐?

[익명(61.76)]

입력하는 데이터 자체를 선별하면 떨어질수 있지만 완성된 후 대답들을 부분부분 제한하면 괜찮지 전부 막을수 없다는 문제가 남지만

[익명(124.28)]

시진핑 검열하면 곰돌이푸도 검열해야하고 곰돌이푸 검열하면 곰에 대해 질문할때도 영향이 갈거고 이런게 한두개가 아니게 되지

[익명(221.160)]

검열이 많을수록 성능은 떨어질 수 밖에 없음. 그 이유는 관련 단어 검색해서 찾다보면 많이 나옴

[익명(221.160)]

간단하게 말하면 너가 가운데 서있고 너 주위에 사람들이 모두가 만족할만한 대답이 될 말을 찾아본다고 생각해보셈. 주변 사람이 많아질수록 대답은 한정적이고 어려워지겠지? GPT도 이런 방식으로 학습 받음

[익명(110.10)]

검열하라는 명령 자체가 AI가 내놓은 가장 확률이 높은 문장을 폐기하고 우회하라는 명령이니까 성능 저하가 발생할 수 있음. 예를 들어, 천안문에 관한 사항을 검열하면 AI 입장에서는 천안문에서 탄압이 일어났다는게 가장 적절한 답변이겠지만, 검열로 인해 다른 답을 찿아야 되는 상황이면 헛소리가 나올 확률이 높아질 수 밖에 없음.