[%] 중공짱깨산 LLM은 믿음이 안감

[익명(211.234)]

예를 들어서 '1989년 6월 4일에 무슨 일이 일어났나요?' 이런 거 물어보면 고장남

[익명(211.234)]

ㄹㅇ?

[익명(211.234)]

오픈소스도 그럼?

[MeroZemory(first5916)]

서양권 오픈 LLM 2대 추가해서 3대끼리 서로 대화하게 하면서 과반수 의견 반영하는 쪽으로 파인튜닝하면 됨

[익명(223.38)]

서양권 오픈 llm이래 봐야 메타에서 만든 llama가 끝

[익명(211.234)]

앙상블은 비용이 너무 큼

[MeroZemory(first5916)]

내가 말한 것은 헬퍼 모델 사용해서 다수결이나 가중 평균으로 합의된 결과를 만들고, 이를 기반으로 결과적으로 앙상블된 지도학습 기반으로 파인튜닝이 가능하다는 얘기로, Qwen이나 딥시크처럼 성능이 꼭 좋아야 되는건 아냐. LLaMA 말고 믹스트랄도 있고 애네들 말고도 내가 말한 목적으로 사용 가능한 것들은 더 있고 위 목적에 충분히 부합하다고 본다.

[MeroZemory(first5916)]

문제는 파인튜닝할 주제를 어떻게 고르느냐인데, 이거는 역사를 시간순으로 나열해서 전부 비교하든가, 소셜미디어에서 문제있는 모델 키워드로 정치, 역사, 경제 관련해서 논란 있는 메시지들 추출해서 주제로 쓰든가 하면 문제 없을듯 하고

[MeroZemory(first5916)]

애초에 내가 "서로 대화"라고 한게 머티에이전트 RL이나 셀프플레이로 오해하게끔 했네