난 그냥 기계공학과 전공한 공대생이고
현업 플랜트 엔지니어임
GPT로 가끔 공학적인 사고를 요하는 상황에 대해서 물어볼때가있는데,
근데 애가 계산을 시켜놓으면 사람한테서 볼수없는 부분에서 자꾸 오류를 내더라고..
사람은 실수하는 위치가 사실 정해져있어서 어디가 틀렸는지 찾기도 쉬운데 GPT는 그냥 애초에 불러온 정보 자체가 잘못된 느낌?
근본이 문제가 있는데, 삼인성호라고 하잖아
사람들이 단체로 뭐에 씌인듯이 잘못된 지식을 공유하고,
GPT가 잘못된 정보를 학습해서 말도안되는 답변을 해주는 경우가 굉장히 잦은데
정보에 대한 신뢰성을 어떻게 보장할수있어?
난 공학분야라서 신뢰성이 굉장히 중요하거든..
잘못된 답변으로 인해서 건물이 무너질수도있고, 기계에서 소음이 발생할수도있음
결국 근본이 되는 정보의 신뢰성을 어떻게 보장하냐는건데,
이렇게되면 사람이 다 수작업으로 정보의 신뢰성을 이중삼중으로 승인해야한다고 생각하거든
이러면 결국 모든 정보의 신뢰성을 보장할수있을때까진 상용화 될수없다고 판단하고있는데,
이거 그냥 말도안되는 노가다잖아
AI기술을 근미래에 현실에서 쓸수있는게 확실해?
여기다 묻지 말고 gpt 앱이라도 깔아서 물어봐라
물어봤는데 본인도 상용화되기 힘들대. RLHF나 데이터선별을 통해서 해결할수있다는데 결국 그게 노가다라는거잖아
그냥 발전 방향만 말해주자면 데이터의 환각을 줄일 수 있는 연구들과 기술들이 많이 발전 중이고 특히 이번에 나온 o1 모델은 높아진 추론 능력을 바탕으로 모델의 환각을 굉장히 줄일 수 있는 데이터 생성 능력을 지녔고 이 데이터들을 학습 시켜서 내년 초쯤에 훨씬 좋아진 모델이 나올거야.
일단 지금은 아직 환각이 100% 잡힌게 아니지만 예전 gpt 3.5나 4 보다 환각이 사라지고 있고 그 속도는 갈수록 훨씬 빨라지고 있으니 너가 원하는 믿고 맡길 수 있는 수준의 ai는 늦어도 3년 내로는 무조건 나온다고 보면 된다
답변 고마워. 근데 내가 생각했을땐 o1 모델은 똑같은놈이 똑같은짓을 한번 더하는걸로만 보임.. 결국 추론과정에 대한 신뢰성 검토가 추가되어야만 하는건데 이러면 그냥 관리를 위한 관리가 추가될뿐이잖아..
추론 자체의 결과물에 대한 신뢰성은 벤치마크나 오픈ai에서 공개한 시스템 카드등을 보면 이해갈거임 그리고 지금 모델에서 보여주는 추론 과정은 전체가 아니라 요약되서 보여주는거고 너가 궁금한것들 o1이랑 gpt4o랑 비교해 가면서 활용해봐 차이가 크게 날거임
그래서 추론으로 신뢰성 검증을 스스로 하게 만든 모델이 o1임 환각이 줄고 시뮬레이션을 돌려서 실패확률을 줄임
토큰화때문에 오류가많음 오리온을 기대해봐야지
여기에 이런거 물어봐도 의미없어 얘내 뭐 아는것도 없거든
선형님 욕먹고 여기서 화풀이 하세요? 전공자가 올린 글은 장식 눈깔이라 안보이노?
유입새끼들 기어와서 선형충 타령하는거 보면 진짜 대가리 부수고싶네ㅋㅋㅋㅋㅋ
이게 왜 선형임?ㅋㅋㅋㅋ
일베 16년 과기게 유입도 유입이노? 병신새끼ㅋ
보기 싫으면 꺼지세요 어머년아~
맞는말인데 뭐가 선형이라는거지 정작 125 너도 이 본문 답변 못하고있잖아
125.133 이새끼 조현병있냐?
어제도 니 글 봐서 쓴건데? 특갤은 비전문가 뇌피셜충들 많다.지금 특갤은 과기게 때 비해 유입 경계선 조현병 천지다. 이런 글들은 영양가 있는 학부생 정보글이라 쓰고있냐? 나라고 아무 근거없이 특갤 홍위병들 마냥 선형충으로 몰아간게 아니라 자기도 지가 말하는 그치들하고 같은 수준으로 비판 글 싸는 특갤 유동이면서 뭔 자격으로 선민마냥 그런 하냐는거지
나도 내 근거도 이야기안하고 무작정 선형충이라고 몰아가서 미안하다고 생각하는데 전부터 특갤 글 눈팅 하다보면 자기도 수준 낮은 논평이나 비판 하면서 익명 뻘글 사이트에서 뭔 학부 교수 연구원급 정보,토론이 올라오길 바라는 애들 때문에 그럼 그나마 사원증 인증하는 블라인드같은곳 조차도 익명이니 개뻘글 올라오는판에...
갤에 이렇게 과몰입하는 새끼가 있구나
최신 모델들 벤치 보면 알 텐데, 수학 성적이 유독 처참하지 인문학 사회학 과학 등 지식은 인간 전문가 수준에 근접함(적어도 영어 문답의 경우). 번역 시켜보면 전문 번역가들도 헷갈릴 만한 부분 아니면 대부분 정확히 번역하고. 무슨 뉴스에서 떠드는 것처럼 걸핏하면 세종대왕 맥북프로 던짐 같은 환각 튀어나올까 걱정할 수준은 아님. 그리고 약점이었던 수학마저 며칠 전 출시된 o1에서 크게 개선되었음. GPT-3.5에서 4로의 성능 개선이 다음 모델에서 다시 한번 반복되면 정보의 신뢰성을 걱정할 필요는 없을 거라고 충분히 기대할 만함
여기도 99.9%가 비전공자임
아가리로는 전문가 행세하고 다니자너ㅋㅋ 최소 학부생이라도 되는것마냥 행동하는거 보면 하 진짜ㅋㅋ
4o 써보면서 느낀건데 가끔씩 환각같은거 발생하긴함.. 걍 아직까진 gpt가 하는 말중 진실인지 의심가는 부분 인터넷에 일일이 쳐봐야됨 o1은 아직 안써봄
llm 즉 gpt 같은것들의 작동원리는 다음에 올단어를 예측하는거임. 논리적인 사고회로를 통해 1+1 = 2 가아니라. 1+ 1 = -> 다음에는 2가 나올 확률이 높기에 2가 많이 나오는것. 환각은 구조적으로 발생? 할수밖에없음. 환각이라고 하는것도 사실 이상하지
원래 책임을 과도하게 지을수록 인간도 하기 싫어서 안하는 법 사람이 안하면 ai가 할 수 밖에 없는 것이여 응급실 하기싫다고 나오면 ai가 해야지 방법 없지