SBC에 로컬 인공지능 돌리려고 경량 모델인 라마3 8b 모델 데탑에서 실험중임 질문빌런이라 그만 좀 질문하라고 했는데 가기전에 하나만 더 질문해도 돼요 이 지랄 - dc official App
기싸움하네 ㅋㅋㅋ
크기가 작은 모델은 행동이나 문장 반복 못하도록 프롬프트에 써놔야함
근데 라마는 70b도 질문 빌런이더라 다른 인공지능 모델들은 안그럼 - dc App
100b 이하 모델들중 추론능력 높인 모델들이 사실 전반적으로 비슷한 반복현상 있음 네가 테스트한 다른 인공지능 모델들이 안그런다면 대신 환각이 엄청 심할거임
이번 4o도 이 반복현상이 어마어마해서 사람들이 그걸로 100b이하 모델이라고 추측하더라
고럼 컴 새로 맞추고 라마 다음 모델도 노려본다 - dc App
잘되길 바람 나도 아마추어로서 이것저것 해보는중임