[일반] 생성형 ai 헛소리 너무 많이 하는데...

[익명(116.36)]

말 그대로 그냥 뭔가 문장을 생성해 주는데,

그게 사실이나 진실인지는 검증 안하고 

지가 수집하는 데이터를 진실이라고 가정하고 말을 만들어 내는 듯.. 

[익명(59.9)]

대체 1년 반 전에 실컷 나오던 얘기를 지금 하는 이유가 뭐임

[익명(125.191)]

gpt4 나온 시점에서부터 이야기된 문제점이 추론력이 약한 것. 근데 최근 gpt4 터보 업데이트가 추론력 증가이기도 했어서, 그 문제가 생성형 ai의 근본적 문제점은 아닌가 봄.

[익명(125.191)]

근본적 -> 근원적

[익명(39.117)]

llm은 다음 단어를 예측할 뿐이지 팩트체크를 목적으로 하진 않음. 그래서 rag같은걸 결합하는 거임

[익명(219.241)]

그걸 알아채다니 심상치 않은 특붕이로군 - dc App

[익명(175.206)]

생성AI의 단점이긴한데, 적어놓은 설명을 보면 AI를 전혀 모르는 것 같아서(비하가 아님) 조금 얕게 설명하면 얘네가 데이터를 학습한다고 할 땐, 이걸 사람처럼 읽고 '아하 이거구나.' 저장. 이런 방식이 아님. 그래서, 학습한 데이터를 들여다보고 대답하고, 학습한 데이터를 진실로 생각한다. 이런 건 아님. 뭐랄까. 무식하게 말하면, 네가 전혀 모르는 외국어를 쓰는 나라에 감. 아무 말이나 하길래 따라해봤는데 그 반응을 언어를 이해한다기 보다, 반응을 보고 이런 말은 이런 상황에 쓰는구나....를 한다고 보면 됨. A에 대해 물으면, B라고 대답해주면 좋아하던데? 인거지, A를 이해해서 B를 대답하는 건 아님. 물론 이걸 더 잘 하면 이해의 단계로 가는진 모르겠지만, 작은 모델은 이렇게 작동할걸.