[일반] 인간도 환각 있는데 + 인공지능 어케믿음? 을 극복한게

[익명(prison9540)]

현대의 기업문화임

"집단지성 / 책임소재 / 자유경쟁"

3가지 요소들을 통해 인간 종 평균에 비해

극단적으로 환각을 줄인 형태임

LLM 환각에 대해 논하며 AGI / ASI 가 불가능하다고 말하는건 위 사례로만 봐도 

반박 가능함

만에하나 걱정대로 정말로 미래의 AGI 가 환각이 극복되지 않았다 하더라도

이미 자본주의 사회에서 적용하며 호용성이 검증된 그룹 모델 (위에서 설명한)이 있으니

그냥 적당히 수정해서 LLM 기업체를 만들면 되는 문제임

[제프리힌튼(faucet7834)]

삼성전자도 환각일으켜서 hbm 버렷잔아

[익명(prison9540)]

으에에....

[익명(prison9540)]

근데 그것도 삼성전자를 한 개체로 두고 자본주의 기업 전체를 그룹으로 본다면 자유경쟁을 통해 잘못된 선택을 한 기업이 도태되는거니 글로벌 기업 전체로 보면 모순된 결과는 아님

[제프리힌튼(faucet7834)]

[익명(right7955)]

맞는 말이긴한데, llm이 그냥 확률적 단어생성기라는 사실을 너무 적나라 하게 보여줘서. 논리적 의사결정은 어려운게 아닌가 라는 생각이 듦.

[Twink(regular6398)]

확률적 단어생성기 아니라는거 일리야랑 힌튼이 이미 설명해줬는디

[Twink(regular6398)]

수능국어 푼다는 자체가 맥락을 이해한다는거임

[익명(prison9540)]

아 음 너가 말한 의도는 그거제? 그 샘플의 수가 극단적으로 적은 상태에서도 추론을 통해 일반화(확산) 시킬 수 있겠는가? 는 걱정 안해도 될듯 결국 그게 AGI 의 목표니까 연구도 그쪽으로 초점을 맞추고있고

[익명(sguyff)]

저러고도 사건사고 존나 터짐 감시자 역설은 애초에 특이점 와도 해결될까 말까임 ㅋㅋ

[익명(prison9540)]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 그렇긴함 그래도 인류 전체로 보면 발전은 계속되고 있으니 .....