[📪정보] '환각'은 AI의 숙명..."AI는 진실 말해주는 기계 아니야"

[익명(both6480)]

구글 ms 등 많은 전문가들이 비판적 사고 중요하다고 하는 이유가 있음 

[et(evgz6v8f9z)]

근데 사실이아니면 말하지말라고해도 걍 뱉어버림 - dc App

[익명(210.121)]

대답을 안하는 옵션이 없잖아 ㅋㅋ

[et(evgz6v8f9z)]

모른다고 하면 되는데 이게 아쉬움 - dc App

[ㅇㅇ 1(221.154)]

자기가 모른다는 사실을 모르는데 어떻게 대답 안 함?(진짜 모름)

[ㅇㅇ 2(180.224)]

결과론적으로 대답하게되있으니...

[익명(haircut2819)]

그건 이제 프롬프트 단위에서 통제하려고 해서 그럴듯? 우선순위가 밀리잖아 정렬보다 - dc App

[익명(haircut2819)]

@ㅇㅇ1(221.154) 그리고 이것도 맞는듯 사실 알고 모르고 자체가 어려운 개념같음 - dc App

[ㅇㅇ 4(221.165)]

ai가 가진 지식은 본인이 스스로 경험하거나 보고 터득한 게 아니라 주입된 거임 자폐치매시각장애 환자한테 세상 인터넷 정보 다 집어넣으면 얘가 옳고 그름을 어케 판단함?

[Qry(dryer4913)]

학습내용에 현실과의 접점없이 표류해서 그래. 멀티모달이나 로봇센서로 체험하면됨

[익명(61.75)]

이건 진짜 개소린게 법률상담 해본 사람은 알거임. 판례를 개허구로 뱉어대서 하나하나 검색해서 검증해야함 ㅋㅋ

[익명(subtle8490)]

ㅇㄱㄹㅇ 적어도 인간은 판례를 허구로 지어내진 않음. 어차피 들통나기도 쉽고, 그 자체로 손해니까.. 이걸 ai가 사람처럼 이해해야 할텐데

[ㅇㅇ 3(180.70)]

환각이 없어야된다기보다는 교차검증 능력을 갖추는게 중요하지. 인간도 그게 없으면 모르는것도 아는체하고 가짜뉴스에 뇌가 절여져서 구제불능이 됨

[익명(121.177)]

그냥 ai 레이어 중첩시켜서 오류정정 크로스체크 기능 넣으면 끝임