[📪정보] 골칫거리 AI 환각, 과학 연구에서는 혁신적 아이디어 제공

[니지카엘(eltldd001)]

https://m.dongascience.com/news.php?idx=69171

[Asi(worship5388)]

인간도 환각이 있다. 이 세상에 자기가 하는 말이 100퍼센트 팩트라고 확신할 수 있는 사람이 몇이나 될까. 대부분 어렴풋이 보고 들은걸 말하는게 절대다순데. 저명한 연구 논문을 레퍼런스로 들고 오는 사람은 소수고 내가 어디서 들었는데 이렇다더라 카더라가 세상 사람 대부분이다

[Asi(worship5388)]

그마저도 사실 출처를 밝히고 거기에 나온 내용을 그대로 옮겨 읊을 뿐이지, 본인이 추론해낸 사실도 아니다. 인간조차 이렇게 감히 무언가를 확실히 안다고 말할 수 없는데 ai에게 너무 잣대가 강하게 들어가는듯. 물론 개선해야하는건 맞지만 환각 하나만으로 과소평가하는 사람들은 큰코다칠거야

[ㅇㅋ(ijh2005)]

블박해독도 같은맥락으로 응용될수있지

[지수주의자(hurt8115)]

창의력 조차 패배한 인간 - dc App

[익명(spoiler6984)]

근데 대다수 영역에서 환각 보다는 정확성이 우선시 될 수 밖에 없지않나? 신약, 신소재처럼 환각이 도움이 되는 분야도 분명 존재하지만 절대로 발생해서는 안되는 분야도 존재하는거라

[Asi(worship5388)]

정확성도 0이나 1이 아니라 확률개념으로 신뢰도 99.999 이런식으로 뽑는 방식으로 가는듯. 금 순도 99.999 처럼. Ai의 신뢰도는 수율 개념으로 들어가는 것 같음.

[익명(114.200)]

인간도 하드에서 기억 꺼내오는게 아니라 재조립하는거라며. 검증은 추론이나 에이전트가 하면 되는거고 더이상 환각논란은 별 문제가 안될듯