[일반] gpt-4 망한거 아님?

[익명(14.48)]

ai 생성 데이터로 학습 계속 하다보면 성능이 더 떨어지는 경우가 있다고 하던데 그거 아님?

[익명(121.170)]

그런것보다 뭔가 컴퓨팅파워를 다른 모델 개발에 빼돌리는거 같기도하고...이번 소송건때문에 그 관련 학습데이터 조져놓느라 병신된거일수도 있고...여튼 유료결제할 가치가 현재로선 없다

[익명(175.206)]

생성으로 성능 떨어지는 건 옛날 이야기일걸.... 일단 옛날에 슈츠케버 인터뷰에서 그거 별로 문제 안 된다고 했음. 점점 쓸만해지고 있다고. 그리고, 우리나라에서도 AI 데이터 제공하는 거 챗봇이 생성한 데이터 공개하고 있음. 이미 올초였나. 데이터 레이블링 비용 너무 비싸서 레이블링 없는 데이터를 레이블링 해서 학습 시키거나, 뭐 암튼 많음. 그리고 AI가 인간과 거의 비슷한 데이터를 내놓을수록 임베딩 했을 때 차이도 없지 않을까.

[익명(175.206)]

물론 지금 캐글 대회에서 LLM이 생성한 에세이랑 인간이 쓴 에세이 구별하는 대회 있는데 순위권 사람들 96,97점이긴 함. 근데 웃기는 건, 트랜스포머 모델한테 분류 시키면 75점 정도 나오나본데 옛날 방식인 TFIDF 쓰고 ML으로 분석하는 게 상위권임. 아직 AI가 생성하는 데이터가 단어 선택에 있어서 어떤 경향을 지니고 있다는 말 같긴 함.