[일반] 4o가 정말로 작은 모델이라 M4에서 로컬로 구동가능하다면?

[익명(59.17)]

애플과 OAI가 협의해서 시리에 탑재하는게 로컬모델이라면 진짜 혁신일듯

가능성 있으려나

애플 M칩이 유독 AI를 로컬로 돌리는데 최적화되어있다고 본거같은데

[익명(googlegay5)]

파라미터 예상치가 70B정도던데 좀 어렵지 않을까..

[익명(59.17)]

보이스만 따로 떼서 시리용으로 최적화하면 가능할수도 있지않으려나?

[익명(googlegay5)]

얘네 토큰수준에서 멀티모달로 통합했다던데 따로 땔 수는 없을 듯..?

[익명(211.214)]

걍 애플용으로 따로 개발해주는 듯

[익명(instinct6404)]

아무리 작아 봤자 4090 두장은 필요하다