1. 연산력 2. 학습데이터 3. 효율성


1. 패러미터 올려봐야 연산력이 안되면 학습시간도 오래걸리고 비용도 천문학적으로 나옴


2. 패러미터가 있으면 그만큼 학습데이터가 확보되야 하는데 인터넷에서 학습에 필요한 데이터 수집하고 분류하는 능력이 없으면 양질의 데이터 확보가 어려움


3. 지금 하드웨어 수준에서 패러미터 연결하면 그만큼 더 많은 컴퓨터를 연결해야 하는데 손실이 발생할 수 밖에 없음 초반 그래픽카드로 병렬 연결할 때 연결하는 것을 염두하지 않아서 연결할 수록 효율성이 떨어지는 문제가 있었음. 그래서 요즘에는 여러 카드를 효율적으로 연결하고 관리하는 것이 중요하다. 그게 엔비디아에서 모듈화하는 이유이고.. 결론적으로 무조건 돈으로 때려박아서 연결하는 것이 아니라 그걸 효율적으로 컨트롤 할 수 있는 하드웨어가 따라줘야함


따라서 중국은 항상 1위를 위해서 돈으로 때려박아 빅모델 만든건데 아마 결과가 안좋을 것임 10조 수준의 AI가 만들어지려면 앞으로 2~3년은 필요할 듯