viewimage.php?id=39b5d535ecdc3fb362bec4bc02c8&no=24b0d769e1d32ca73dec8efa11d02831b210072811d995369f4ff09c9fd44d841b1b3fc9ce8a9b2d9f0f8eea8c37a513e9ac35949967579e944627131b53f61b75381808e97fd9f7b9fc



언어모델 : 1.96 테라바이트 (뉴스 50년치, 블로그 9년치)


GPT-3의 한국어 대비 6,500배


단, 하이퍼클로바는 97%가 한국어이고 GPT-3는 대부분 영어를 사용했다는걸 생각하면..



파라미터 : 2040억 개를 '개발 중'


GPT-3는 1750억 개



하드웨어 : GPGPU 클러스터 기반의 슈퍼컴퓨터 병렬학습 ( 700페타플롭 )


세계 최상위권의 AI 인프라임


인텔, 페이스북의 성능을 압도한다고 함


=======


학습방법 : 비지도 학습


근데 언어모델의 규모를 생각하면 당연히 비지도학습이긴함


자세한 알고리즘은 안나와있어서 뭐썼는지 모르겠네


======


챗봇:


자연스러운 대화를 보여줌


20회 이상의 대화 맥락을 이해할 수 있음



글쓰기:


글쓰기라 애매한게 상품 소개 문구 작성이라..


신조어, 축약어 사용하고, 노출적합도 99%의 높은 완성도를 보여줌



정보요약:


기존보다 자연스러워졌다.



데이터 생성:


클로바 AiCall 이라는 서비스에 사용할


데이터셋을 만들어 줄 수 있음