백조는 대부분 모두 하얗잖음

백조 사진 백만장 있는데 백만마리 백조가 모두 하얘


지금의 AI는 그 백만장을 보면서 백조는 하얗다고 이해해

사람은 몇장 보고 백조는 하얗다고 이해해


그러다가 검은색 백조를 보여주면 사람은 검은 백조도 있구나 알게되고 이 백조는 검은 백조라고 말해

그런데 AI는 검은색 백조를 보여줘도 백조는 99.9999% 하얀색이니까 당연히 이 백조도 하얀색이라고 말해


이게 결국 얀버지가 말하는 확률성단어예측기라 말하는 한계 아닐까 싶음


지금 SOTA라 불리는 모델도 명명백백 손가락 6개인 육손을 힌트까지 주는데도 무조건 5개라고 우기는건 이런 이유지 않을까 싶은데 이런건 브레이크스루 안나오면 앞으로 한동안 많이 암울할듯...