https://www.etnews.com/20230921000345

퀄컴 “스마트폰에서 생성형 AI 특화 100억 파라미터 지원”퀄컴테크놀로지가 거대언어모델(LLM)·거대비전모델(LVM) 등 생성형 인공지능(AI) 활용을 극대화할 수 있는 AI반도체 ‘헥사곤 프로세서’를 엣지 디바이스에서 제공한다. 이 프로세서는 100억개 파라미터를 지원한다. 파라미터는 소프트웨어(SW)나 시스템상 작동에 영향www.etnews.com


"스냅드래곤 8 3세대는 최대 100억 파라미터를 지원 가능하다. 토큰 레이트가 핵심으로, 스냅드래곤 8 3세대는 최대 20 토큰 지원 가능하며 이는 업계 최고 수준이라는 게 퀄컴의 설명이다. 스테이블 디퓨전, 스냅드래곤에 최적화됐다."



진짜 AI 쪽 발전속도는 미쳐돌아가는 듯