챗GPT는 애플이 원하는 목적에 애초에 안 맞아.
이거 API 써서 뭐 만들어보려고 했다면 알겠지만...
WWDC2024에서 보여준 시리가 사용자 명령 알아듣고 파일을 찾아서 누구한테 보낸다거나, 수정한다거나, 여러개의 작업을 알아서 진행한다거나
메세지 앱에 온 내용을 읽고 알아서 일정을 추가하고 네비를 켠다거나
알림, 메일 내용을 요약해서 보여준다거나
이런 디지털 어시스턴트 기능들은 전부 자체 LLM으로 돌아감
생성형 언어, 이미지 모델이 모두 있음
그리고 서드파티앱에서도 지원할 수 있도록 App intent 라는 프레임워크를 발표했고,
이걸 개발자가 자기 앱에 적용하면, 애플의 앱이 아니라도 시리가 인식하고 작업들을 수행할 수 있음.
아이폰/패드의 칩에 탑재된 뉴럴 엔진으로 가속하는 온디바이스에서 직접 돌아가는 소형 LLM이 있고
애플 서버에도 애플이 만든 서버용 대형 모델이 있음, 이건 애플이 직접 만든 M2 Ultra 칩 사양의 서버에서 직접 구동되는 LLM이야
개인정보에 민감한 부분은 소형 LLM이 맡고, 좀더 강력한 성능이 필요한건 서버 모델이 맡으면서 하이브리드로 구동되는 방식
그럼 챗GPT는 언제 쓰이냐?
지금도 시리한테 웹 검색결과나, 특정 정보를 요청하면
이미지 : 빙
인터넷 검색결과 : 구글
각종 정보 : 위키피디아/울프람알파
등에서 정보를 긁어오는데,
이 중에 챗GPT가 추가되는거야
그리고 챗GPT로 생성된 정보라는걸 표시함
요약하면, 애플이 만드는 LLM은 질문에 답하는 AI가 아니라 사용자가 요청한 작업을 수행하는 AI에 가까움
그래서 LoRA 어댑터를 만들어둬서 요약, 첨삭, 작업수행, 쿼리 핸들링 그때그때 특정 목적에 맞게 쓰는데 초점을 맞추고 있음
댓글 0