[일반] X에는 거짓 정보랑 진짜 정보가 엄청 섞여 있는데

[초존도초(htr3c654r6ft)]

그걸 웬만해서는 분간하기도 힘들고..

이걸 r1-zero 요령으로 강화학습해서

LLM이 X정보 서치해서 정답을 내도록 강화학습시키면

자동적으로 거짓 정보랑 진짜 정보 구분하는 능력 창발될 텐데

이럼 엄청난 뭔가가 나오지 않을지...

분명 차세대 Grok 모델 학습에 이런 식으로 X정보 이용할 거 같긴 함

[A++특급특슬람(greek2118)]

그것도 그렇고 걔네 기능중에 사람들이 투표해서 좀 꼬름하다 싶으면 트윗 바로 밑에 "사실은 이렇습니다" 노트로 박아넣을 수 있는 기능 있음. 이것도 다수결이라서 완전한 건 아닌데, 없는 것 보다는 훨씬 낫다고 생각함.

[초존도초(htr3c654r6ft)]

그건도 학습 데이터로 쓰일 수 있겠네 ㄷ 내 말은 '거짓과 진짜 정보를 판단하는 능력'이 AGI의 핵심 능력일 거 같아서 환각에도 직결되고 이거 먼저 정복하는 쪽이 엄청난 모델 만들 거 같음

[A++특급특슬람(greek2118)]

이번에 딥리서치가 환각을 획기적으로 낮췄다는 거 보면 관련된 일에 대해 정보를 때려박으면 해결될 거 같긴 함. 우리도 뭐가 진짜냐 가짜냐 판단할 때 공신력 있는 자료들 쓱 늘어놓고 생각하잖아. X에 있는 그 노트들 보면 대부분 외부 링크 같은거 때려박고 "응 그거 팩트 아님" ㅇㅈㄹ하는데 그 데이터 다 때리박으면 환각 꽤나 잡을 수 있을듯????