육손벤치 문제는 근본적인 모델 환각 이슈라니까




---



https://gall.dcinside.com/mgallery/board/view?id=thesingularity&no=783017

육손벤치가 ufc나 월드모델 문제가 아닌 이유o3같이 자폐모델을 만들면 환각이 오히려 심각해질 가능성이 있다는걸 시사함예를 들어그냥 이정도로 물어보면 '아 환각인가보다' 이러는데문제는 이런식으로 '사진에서 볼록한 부분을 검출하고 갯수를 세봐' 라고 해도 못알아먹gall.dcinside.com



o3같이 자폐모델을 만들면 환각이 오히려 심각해질 가능성이 있다는걸 시사함


예를 들어




24b0d121e09c28a8699fe8b115ef046c61f52b499d1



그냥 이정도로 물어보면 '아 환각인가보다' 이러는데




24b0d121e09c28a8699fe8b115ef046a786deacf2


문제는 이런식으로 '사진에서 볼록한 부분을 검출하고 갯수를 세봐' 라고 해도 못알아먹고 이상하게 분석함





24b0d121e09c28a8699fe8b115ef046c66f8284b953


그래서 아예 대놓고 힌트를 줌. 저 손가락이 있는 부분에 가로줄을 쫙 그어서 픽셀값의 변화에 따라 아예 그래프를 그려보라함

그러면 볼록한 부분이 몇개인지 세는거만으로 손가락이 몇개인지 바로 알겠지?

놀랍게도 이렇게 아무리 알려줘도 3개라고 하는 둥 4o보다도 멍청한 모습을 보임


근본적인 뭔가가 있음





24b0d121e09c28a8699fe8b115ef046c65f829469e4



아 참고로 '생물학적 편견을 버리고 세어봐' 하면 잘 세는데, 문제는 이러면서 아득바득 '이건 그래프가 6개인거지 손가락이 6개인게 아니다' 라고 우김