요즘은 어떤지 잘 모르지만 예전 우주선에는 동일사양의 컴퓨터 6대가 탑재되어있었대
우주에선 지구의 대기가 없어서 우주방사선 등 에너지파장에 의해 메모리가 바뀔 수 있어서
컴퓨터 서로서로가 계속 비교하면서 바로잡는 시스템이었대
ai도 이런느낌으로
예를들면 1/6수준으로 경량화한다음
본ai1개와 팩트체커5개를 두면(개수는 어디까지나 예시고 더 적거나 많아도 되겠지) 환각을 거의 없앨수있지않을까?
사실 방식자체는 경량화도 필요없다만
무한한 칩과 자원이 있는게 아니니까 경량화가 되어야 가능하겟지싶우
팩트는 경량화하면 환각 더 심하고 반복 확률 오른단거임
해당 댓글은 삭제되었습니다.
그얘기하는건데 애매하게 아는 빡통은 너 아님?ㅋㅋ 아만보네 3.5터보, 4o만 봐도 엄청나게 경량화했지만 경량화로 남게된 리소스를 리던던시로 활용하지 않고 o1,o3같은 신모델개발에 써야하는 실정임. 신모델은 당연히 경량화 안된 풀로드모델이고 agi이후 만족할만한 모델 나오고나면 충분한 수준의 경량화 이후 잉여리소스로 환각잡을수있다는 의미로 쓴건데
칩부족얘기를 본문에 써놔도 그냥 쌩까고 ㅋㅋ 무한한 자원과 칩이 있는게 아니어서 풀로드로 써먹는상황을 인지를 못하는거 자체가 본인이 반의반도 모르는거임
리던던시와 AI환각은 전혀 다른 성질아님? '정답'에 해당하는 데이터의 물리적 변형을 보완하기위한 복제 데이터 리던던시랑 '정답일 확률이 높은 답을' 찾는 Ai의 학습 패턴, 데이터 편향은 연관이 없어보임.
게다가 경량화 모델은 모델 파라미터 수를 줄여서 추론 비용을 낮추는건데 오히려 정확도를 떨어뜨릴 가능성이 높아지는거아님? 정확성을 떨어뜨린 모델을 여러대두어도 학습 방식이 같으면 의미도 없어지는 것 같고
ai모델에게 '다시 한 번 생각해봐'라고 요청하거나, 추론 모델이 하는 일 자체가 Ai환각을 줄이기 위해서 너가 생각한 구조보다 훨씬 더 나은 일을 이미 하고 있는 것 같은데?
사실 위의 리던던시 사례는 이해를 돕기위한거였고 실제로 생각한건 팩트체크모델과 메인모델에 차이를 두는것임 동성능수준의 ai 여러대를 체크 전용모델로 두면 훨씬 낫지 않을까 하는 아이디어임 그리고 경량화로 파라미터 수가 줄어들면 정확도가 떨어진다는것도 요즘 발전속도보면 의미없는얘기지 3.5터보가 3보다 환각 심했음? 4o가 4보다 환각 심했음?
요즘 경량화모델이라는게 그냥 파라미터만 줄여 압축해낸 모델도 아니고 수개월간의 발전도 때려박히는건데 "경량화면 정확도 떨어지는데" 얘기하는거 자체가 너무 선형적사고같음
또한 "다시한번생각해봐" 를 유저가 입력해야하는 상황 자체가 agi이후 난도높은 질문의 환각에선 불가능하고 검증불가니까 어떤방식으로든 패러다임적으로 환각을 줄이는게 맞지 거의 뭐 손으로먹으면 되는데 포크가 왜필요하냐는 발상임 그건
그냥 간단히 생각해서 o1만 봐도 정답 신뢰도가 80%정도 된다고생각하는데(동일질문을 여러번했을때 종종 다른 대답이 나오는 경우가 있음) 이런 부류의 질문을 병렬적으로 연산시켜서 다수쪽 정답을 채택, 이 정답에 대한 검증 재연산. 이정도 알고리즘만 거쳐도 99%신뢰도는 뽑아낼 수 있지 않을까 하는것임 물론 100대한테 물어봐도 다같이 틀리는문제는 좆박겠지 근데 환각 대부분은 이런경우가 아니잖음. 세종대왕 맥북 물어보면 팩트체커모델은 다 틀렸다하겠지
"학습방식이 같으면 의미도 없어지는것같고"라는건 뭔소린지 모르겠음 아직도 확률론적 앵무새라고 생각하는건지..
ㅋㅋ 동일시점에서 비교해야지 뒤에 출시한걸 가져와서 경량화했는데 환각 안심해졌다고 하는건 너무 반박을 위한 반박인 것 같은데? 특정 시점에서 비경량화 모델에 비해 해당 모델의 경량화 모델혹은 그 이전 모델의 경량화 모델은 오답률, 환각률이 높아지는게 맞잖아? 경량화 모델이 이후에 출시되면서 추가 학습, 알고리즘 개선한게 도움이 된거면 추가 학습이랑 알고리즘 개선이 효과적인거지. 경량화는 환각률 개선, 성능 향상과 정 반대로 최대한 성능을 덜 떨어뜨리면서 비용을 낮추는게 목적이고.
메인모델 보다 펙트체크 능력이 뛰어나고 환각률이 적은 전용 모델이 있다면 그걸 메인 모델에 적용하지 않은 이유가 뭐지? 큰 차이 없이 동일한 데이터와 학습구조를 공유한 모델이면 유사하거나 동일한 지점에서 환각을 보일 확률이 높아지는거 아닌가? 그렇다면 효과적인 추론모델에 o1 pro 처럼 리소스를 더 먹인다는 판단보다 나은게 뭐지?
그리고 현재 모델에는 이미 답변 재검토, 재연산하는 과정이 포함되어있음. o1 신뢰도가 80%라는건 임의 추정 뇌피셜인거지? 잘못된 예시에, 근거도 임의추정이나 가정, 구체적인 근거나 실험 데이터도 없고.. 우주선 리던던시, AGI 처럼 거창한 예시를 드는데 정작 현실적으로 어떤 의미가 있다고 보긴 어렵네.
동일시점에서 비교해야지< 애초에 니가 잘못전제한거아님? 본글에서 이야기한 경량화된 모델은 원본모델과 성능차가 없지만 경량화만 된걸 전제한걸로밖에 안보이지않음? 걍 까기위한 까기를 하고있는거임 니가
메인모델 보다 펙트체크 능력이 뛰어나고 환각률이 적은 전용 모델이 있다면 그걸 메인 모델에 적용하지 않은 이유가 뭐지?< 메인모델 강화보다 경량화가 훨씬 쉽기때문임. 최소한 지금까진 그래왔음. 그리고 메인모델보다 환각률이 적은게 아님. llm기능에 쓸 자원을 팩트체크로 전부 돌렸다는것이지 걍 윗댓애처럼 기초도 없는데 까기위한 뇌피셜 까기만 계속 이어가는거같음 동일인이 통피로 온건가? 걍 헛소리 그만하고 꺼져주면좋겠음. 말하는 꼬라지가 gpt딸깍해온거같음
그리고 현재 모델에는 이미 답변 재검토, 재연산하는 과정이 포함되어있음.<br>o1 신뢰도가 80%라는건 임의 추정 뇌피셜인거지?<br>잘못된 예시에, 근거도 임의추정이나 가정, 구체적인 근거나 실험 데이터도 없고..< 구체적인 근거 이지랄 ㅋㅋ 지가모르면 근거가 없는거지? 그리고 패러다임제시에 어떻게 실험데이터가 있을수있음? 개빡통이네 신뢰도 80%는 88%벤치마크를 제곱한 수치임. 인간 체감상 보수적으로 잡아서 대충 적은 수치고 누가 써봐도 체감상 그쯤이라고 느낄 수치임
왜 제곱했는지는 통계공부해봤으면 알거고.. ㅋㅋ
위에도 적었지만 현모델 재검토는 이미 있는데? 하는건 손으로먹으면 되는데 포크 왜쓰냐는수준의 저능아 답변임 걍 말하는 꼬라지가 딱 본인 지능딸려서 gpt도움받은수준인데 계속 복붙해올거면 걍 차단함
1. 내가 우주선 리던던시 예를 들었지만 반박이 들어오니 사실 하고 싶던 얘기는 이게 아니었다. 2. 경량화하면 환각이 심해진다는 주장에 3.5터보가 3보다 환각 심하냐, 4o가 4보다 환각 심했냐고 반박한건 나지만, 동일 시점에서 비교하지 않은것은 잘못이 아니고 실은 성능저하 없는 1/6경량화라는 공상과학 얘기를 했을 뿐이다. 3. 메인모델보다 환각률이 적다는건 아니다, 펙트체크모델이므로 환각률 개선 신뢰도 99%결과를 가져올 것이라는 말은 내가 동시에 한것이다.
그래서 동시점 경량화모델은 가능한얘기고? ㅋㅋ 지가 더 공상과학쓰는걸 모르노
오히려 4o,3.5터보가 현실이고 니가말하는게 공상과학아님? 본글자체도 미래에대한 이야기인데?
팩트체크모델이므로 99%라고 말한적이 없는데? 신뢰도 51%모델만 무한병렬 무한뺑뺑이시켜도 99퍼에 달할것이라는걸 생각을 못하나? 걍 이해력 존나딸리네
우주선 리던던시얘기는 누가봐도 뉘앙스를 위한 예시아님? 세상에 100%일치하는 예시가 어디있음? 그건 그시점에서 예시가아니라 동치지
4. '신뢰도가 80%정도 된다고생각하는데(동일질문을 여러번했을때 종종 다른 대답이 나오는 경우가 있음)' 라고 근거 없이 얘기했지만, 벤치마크(출처없음)기반 추산이라고 이제서야 얘기했으니 근거가 빈약하다고 해선 안됐다. 5. 현모델에 이미 재검토가 있다는건 손으로 먹으면 되는데 포크 왜쓰냐는 허무맹랑한 주장이다. 근거는 말하지 안겠다. 하지만 저능아는 너다.
애초에 신뢰도 51% 무한뺑뺑이<이게 가능해진 그 순간 탄생한게 그림모델임. 그 아이디어를 llm이 충분히 경량화되고나면 가능하지않을까? 라는 글이고 그냥 개멍청하면 댓글 ㄴ
벤치마크(출처없음)이라고 하는 시점에서 특갤 좆도안한거지 그냥 념글 주구장창 올라온건데 뭐 이런글에서 레퍼 하나하나 들고오는게 더 병신아님? llm별 벤치수치 대략적으로라도 죄다 알고있는게 특갤럼인데?
근거는 말하지 않겠다..<1에서 근거없다고 비난하던애가 하니까 걍 저능아인거 알겠네 ㅋㅋ 기어들어온 실베충인가 당당하게 집피건 고닉이건으로 와라 차단하게
6. 경량화 모델로 환각을 개선하겠다. 경량화 모델은 환각이 더 심해질 수 밖에 없다고? 환각이 더 심해지지 않는 경량화 모델을 가정한 것이다!. 동시점 경량화 모델이 공상과학인건 인정하지만 어쩄든 성능 저하없은 1/6경량화 모델을 6대 돌리면 본모델을 앞지를 것. 1/6 경량화 했지만 성능저하는 없을 것. 6대 돌렸더니 신뢰도가 올라갈 것. 후.. 새로운 패러다임을 제시하며 이성적으로 대화를 이끌어 주시고, 메신저에대한 순수비난을 하지 않은 당신의 승리입니다.
경량화 모델과 그냥 모델의 차이점을 비교하려면 다른요인은 다 변화가 없다고 가정하고 비교해야지. 경량화 6개월 하는동안 발전해서 성능이 올라간걸 가지고 경량화 해도 그냥 모델과 성능 차이가 없다고 하는게 무슨 개소리임?
ㄴ 그건 얘가 경량화모델은 성능이 떨어지는데~ 라고 시작해서 실질적으로 그 조건 자체도 말이 안된다고한얘기임. 애초에 본글부터가 동성능 경량화모델이 완성되면~ 을 기준으로 얘기하고있는데 핀트못잡고 "경량화는 동성능 안되는데" 라고 말하고있으니 ㅋㅋ 본글부터 동성능기준이라고 "동성능"기준 경량화됐는데 동성능은 절대 못나온다는 명제를 부수려고 3.5,4o예시든거고
좀 단어하나 문장하나에 꽂혀서 논리펴지말고 전체 맥락을 읽어 특정단어에만 꽂혀서 헛소리파는 맥락맹 존나많아 진짜
너무 날세우고 대화를 할 필요가 없다고 느낍니다. 솔직히 익명 커뮤 댓글로 대화를 해서 그렇지, 실제로 만나서 웃으면서 악수하고 따뜻한 커피 한잔 하며 대화했으면 "동일성능 경량화" 라는 단어의 의미가 가지는 상충된 모순과, "동일성능 1/6경량화 * 6 -> 99%신뢰도"라는 엄청난 패러다임? 주장?을 지키기 위해 지금처럼 날선 태도로 개빡통이라면서 긴대화를 이어가지 않았을거 3와 3.5터보, 4와 4o 예시도 추가 학습, 아키텍처 개선 등이 이루어진 채로 본 모델보다 시간이 지난 뒤에 발표되었기 때문에 경량화와 동시에 동성능이 가능하다는 주장에 전혀 뒷받침이 되지 못한다는 사실도 가볍게 웃어넘기며 인정하지 않았을까. 익명 대화가 가지는 특성으로 보고 조금 더 서로에게 따뜻한 시선을 보내야 한다고 생각함.