일단 직렬 구조라는 점에서 전력(자원)은 지금보다도 더 많이 쓰겠지만
1번째 단계는 무차별 대입
그냥 아무말 대잔치를 하는 llm
2번째 단계는 검증
지금처럼 트렌스포머 모델로 확률적 검증
이러면 그 중에 가능성 있는 지식이란걸 추가로 생성할 수 있는거 아닌가
1번째 단계는 무차별 대입
그냥 아무말 대잔치를 하는 llm
2번째 단계는 검증
지금처럼 트렌스포머 모델로 확률적 검증
이러면 그 중에 가능성 있는 지식이란걸 추가로 생성할 수 있는거 아닌가
triv..........
이미 GPT는 여러개의 모델들의 출력 중 선택하는 앙상블 방식임
각 역할을 담당하는 모델들은 따로있고
그럼 지금도 저 아무말 대잔치는 하고 거기서 검증하는 형태라고? 그럼 gpt로 agi는 답이 없는데
Gpt가 출력 못하는걸 사람이 유도해주면 검증은 가능해서 꺼내본 말임
그래서 한 모델은 그냥 아무말대잔치만 해서 확률적 가능성을 높이고자 한 사고 실험인데 안되나보네
아무말 대잔치를 하면 그 모델은 필요가 없지... 지금도 특정 도메인의 결과만 출력하는 역할 모델이 있는데도 이정도인데;;
아무말 대잔치 llm 이 어디있노 이미 llm 으로서 기능하는 순간 학습되어있는 지식내에서의 데이터 통계조합 일뿐인데 ㅋㅋㅋㅋ
그 지식의 범주를 넘을 수 없음 절대로
그리거 데이터 검증기 역할을 하는 LLM 자체가 그것이 참인지 거짓인지에 대해서 판단하는거 조차도 참데이터가 필요한거기때문애 이미 있는데이터를 판별하기위해서 굳이 저 두개를 보상설계방식으로 연결할 필요는없겠지?
클로드가 LLM이 내놓은 답변을 다른 LLM이 검증하고 평가하게 해서 만든거라 한 것 같음. GPT의 나이지리아 RFHL를 대체해서 저리 했다는 것 같긴한데. 아무튼 비슷한 이야기 같아서 써봄.
지금 원래 그렇게 하고있음