[일반] 언어모델이 어떻게 지능이된다는 말이냐

[익명(49.166)]

언어모델 구조가 문장 뒤에나올확률 높은 말이 나오는건데

이것이 어떻게지능이됌??

[익명(221.150)]

경계선

[익명(49.166)]

그게뭔데

[익명(175.202)]

말을 하려면 세상에 대한 이해가 있어야 하기 때문임. 예를 들어 '사과의 색깔은?'이라고 질문하면 인공지능은 '빨갛습니다' 대답을 하는데, 이 대답과 세상을 알고 있는 것 사이의 차이가 없다는 거지.

[익명(49.166)]

빨갛다는게 그냥 사과뒤에올 확률높은 말을하는지 이해를해서하는지 어케암?

[익명(175.202)]

이렇게만 보면 '단순히 외워서 대답하는 거 아님?'하는 생각이 들 수 있는데 '이번 정부 정책에 대해 어떻게 생각해?'에 제대로 대답하는 인공지능이라면 아무리 입력을 재처리하는 프로그램일지라 하더라도 세상을 이해했다 볼 수 있겠지. 그 크기에 따라서 정도의 차이일 뿐 지능이라고 볼 수도 있다는거임.

[익명(49.166)]

정부정책뒤에 자주쓰인 복지 경제 기획 이런말들이 자주나오니까 그거그냥 말하는거아님?

[익명(175.202)]

그럴수도 있지. 하지만 인공지능이 내놓은 답이 사람이 봐도 인정할 만큼 합리적이라면? 그것도 모든 질문에 대해서? 그렇게 되는 순간 지능과 프로그램을 나누는 기준은 무의미해지는게 아닐까? 라는 말이지. 내가 그렇다고 주장하는 건 아니고.

[익명(221.150)]

거기에 대한 궁극적인 해답은 "해당 인공지능이 진짜 지능을 가진 사람처럼(앵무새가 아니라) 대답" 한다면, 확률적으로 볼 때 진짜 지능을 가진 것과 구별할 수 없다는 거야 예를들어서 이차방정식만 알려준 언어모델이 지혼자 미분 발명하면 그게 언어모델이라한들 다른 창조적인 일에 적용할 수 있지 않을까?

[익명(49.166)]

아직까지는 지혼자 미분 발명하지는 못하지?

[익명(175.202)]

ㅇㅇ 아직 무리

[익명(175.202)]

근데 나는 부정적으로 보는 게, 모든 케이스에 대해서 테스트해볼 수 없잖아. 인공지능에게 앵무새 사진 보여줬더니 피자로 인식한 것 처럼 모든 방면에서 지능이라고 볼 수는 없지 않을까?

[익명(49.166)]

그게 무슨뜻?

[익명(175.202)]

예전에 모든 방면에서 이미지를 잘 분류하는 인공지능이 있었는데, 누가 평범한 앵무새 사진을 보여줬는데 피자라고 인식했었음. 모든 입력을 테스트해볼 수는 없으니까 학습된 언어모델을 지능이라고 볼 수 없지 않을까 하는 생각임.

[익명(221.150)]

그건 인간도 마찬가지임. 단순히 현실세상이라고 하는 엄청나게 많은 케이스에서 진1화라는 과정을 통해 걸러졌을 뿐이지, 생존에 직접적으로 관련없는 오류는 인간도 자주 일으킴. 착시, 확증편항, 인지부조화 등등등....

[익명(221.150)]

하지만 그럼에도 불구하고 너말처럼 가장 확실한 방법은 실제 내부구조가 지능을 가지고 있는 지 분석해서 판별하는 거고, 그 부분은 설명 가능한 AI라고 해서 연구되고있는 부분임( 최근에 성과가 좀 있다고 지나가다 들었는데 확실하게는 모르겠다)

[익명(175.202)]

ㅇㅎ