gpt 3.5 정도 지능이라는 믹스트랄 8x7b 모델 설치해서 2일째 써봤음
지능은 분명히 있다고 느낌
기껏 300만원짜리 rtx4090에서 느리게 나마 돌아가는거 엄청난 축복이라곤 하더라
스케일?을 줄이고 해서 그렇다고 함
근데 치명적 단점이 정보에 디테일이 1도 없음.
예를들어.
질문)
서울에서 가까운데 직접 굴따먹기 가장 좋은 장소 추천 해줘
답변)
굴을 채취하시려면 갯벌에 가셔야 하고 안전에 유의하셔야 하며 더 자세한 정보는 인터넷 검색을 하셔도 됩니다
시발 아주
조오오오온나 포괄적인 답변만 함.
질문)
갯바위에서 굴을 직접 따먹을 최고의 도구 추천해줘
답변)
현지 어민들에게 물어보는게 좋습니다. 대안으로서 근처 어시장에서 굴을 사먹는것이 더 위생적일 수 있습니다.
지능은 있어 보이는데 지식이 없음.
멍청한놈이 아니라 똑똑한 놈이 사람 무시하는 기분이 듦
작은 모델의 한계인가?
구체적으로 물어보면될듯
구체적으로 물어보면 구체적으로 모호하게 대답함. 지금 당장 하나 물어본다. '저렴한 인터넷 방송에 있어서 최고의 카메라 스위쳐 모델은 무엇인가? 이유는? 특히 한국에서 구하기 쉬워야 한다.'
블랙매직사의 제품들은 인터넷 방송 분야에서 합리적인 가격의 카메라 전환을 위한 인기 있는 선택입니다. 주요 제품들은 클린 피드, 원격 제어 및 다중 출력 옵션과 같은 고급 기능을 제공하여 다양한 프로덕션 설정에 매우 유용하고 적응력이 뛰어납니다. 또한 한국을 포함한 많은 지역에서 비교적 쉽게 구입할 수 있습니다. 최종 결정을 내리기 전에 여러 카메라 스위처 모델을 조사하고 비교하는 것이 좋습니다.
내가 원한 디테일 답변이 전혀 아님
머리는 좋은데 아는것이 별로 없는 느낌?
gpt도 기본 프롬프트로 자세하게 답변하라고 돼있음 설정안하면 최대한 포괄적으로 에둘러 표현하는건 언어모델의 특징임
나도 미스트럴 써보니까 a 질문하다가 b질문하면 상관도 없는 a질문범위에서 답하는거 보고 qt라고 느낌.
아직 사람이 기계에게 맞춰야 되는 부분이 많나보네. 당장 쓰려면 어쩔 수 없지
질문) 한국과 미국의 굴 가격을 자세히 비교해줘. 지역마다 다르겠지만 일반적으로. 예를들어 서울 vs 뉴욕. 답변) 일반적으로 굴은 한국에 비해 미국에서 더 비싼 경향이 있습니다. 해당 지역의 굴 가격에 대한 가장 정확한 최신 정보를 얻으려면 온라인으로 조사하거나 현지 해산물 시장이나 레스토랑에 직접 문의하는 것이 좋습니다.
아니 씹련아 원단위 까지 자세히 비교하라고 왤케 모호하게 대답해 자꾸.
생성ai는 원래 지식검색 용도로는 적합하지 않음. 이건 gpt-4도 마찬가지임.
1. ChatGPT 같은 모델이 검색이 가능한건, 검색만 담당하는 별도의 모델이 있기에 가능한 것 2. 물론 영어로 질문했을 거라고 생각하지만, 한국어는 사용할 생각을 안하는게 좋다
3. gpt가 검색하고, 대답하는 것처럼 보이는건 별도의 모델이 제공하는 정보를 짜집기해서 보여주기 때문이다