지금의 LLM은 달성률 5%도 많이 쳐준건데
무제한확장 = 무한상승 공식은 4.5때 확실히 빨간약먹고 큰손들이 거리두기 들어가는 상태
하드웨어쪽은 물리적인 전성비 한계에 부딪혀서 소프트웨어 최적화로 끌어올리는 상황이라 예전같은 초격차는 현재 사라짐
양자컴퓨팅 + 전력소모량을 기존의 10분의1 미만으로 줄이면서 성능을 유지~상승시킬 시대를 바꿀 혁신이 있어야함
지금은 공룡기업 3대장이 하나로 연결되도 장기기억 조차 불가능
(시설,전력량 감당 못함)
학습데이터도 어느정도 고갈상태에 이르렀는데 합성데이터로 채우기엔 결함율 높아서 매우 제한적
지금 이게 갑자기 마법처럼 해결되고 뚫리는게 가능한가?
GPT-4에서 GPT-4.5 까지의 성능 차이를 말하는거라면 스케일링 법칙 유지된거 맞음 3.5에서 4로 발전한 수준으로 좋아짐 - dc App
4o랑 비교해서 4.5가 크게 좋아보이지 않을 순 있는데, 4o는 경량화 모델이고 내부적으론 4.5보다 이후에 개발된 모델임 - dc App
ㄴㄴ 기준점을 요즘 띄우는 agi 도달이 가능하냐로 말하는거 단순히 늘리기만 하는걸로는 4.5에서 몇천배이상 해야하는데 전력 수급이 물리적으로 불가능이고 가정한다고해도 넣을 데이터조차 없음. 당장에 하드웨어 혁신이 있어야됨
너가 제한적 이라 선언한다고 제한적이게 되는 게 아님
제한적맞지 알파고처럼 자가학습이 인간 뛰어넘는 수준까지가면 이런 돈먹는 챗봇은 운영안함
구글이 투자를 왜 받냐 돈 남아서 배당하는데 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
필요하면 증자하면 되는데
구글 시총이 얼만데 증자도 천문학적으로 가능하다
그게 제일 극적인 반례예시 아님? agi 벽이 열리면 특이점 골인지점 코앞이랑 마찬가지고 저거 먹는놈이 인류패권 가지는건데 진짜 n년내 가능한게 현실적이다 전망하는거면 지금처럼 안하고 가용자산 총동원하지
차세대 gpu+국가 단위 전력지원+휴머노이드로 현실 학습=가속