아무리 그정도 기술력이 있다한들 openai가 그런돈이 어딨음? 애초에 비영리기관이고 아무리 마소랑 제휴관계라해도 마소가 그런거금을 댈거같지도않은데.
구글도 딥마인드 몇천억단위 누적적자때문에 최근에 서로 사이가 안좋다는데 딱히 수익성이 안보이는 언어 모델에 마소가 몇조를 대준다?흠..
내가 openai나 마소였으면 몇년뒤에 하드웨어 성능 더발전하고 학습비용 내려가면 발표할것 같은데 굳이 openai가 근시일에 gpt4낼 명분이 있음?
- dc official App
그래서 내 생각엔 미국 대통령한테 완몰가 정보를 흘리고 완몰가에서 죽은 아들을 창조해서 만날 수 있으니까 특이점을 하루라도 빨리오게 해야 합니다라고 하면 아들보고 싶어서 암정복에서 agi로 노선을 바꾸지 않을까? 싶긴해
마소가 오픈ai에 agi구축하라고 슈퍼컴퓨터 컴퓨팅 비용 1조 2천억 지원함 여기에 구글 1월에 발표한 스위치 트랜스포머라는 파라미터 1.6조짜리 모델을 효율성 개선시켜서 기존보다 저렴한 비용으로 학습시간도 더 빠르게 구현할 수 있었다고 하니 OpenAI GPT-4는 수 조~수십 조 모델로도 구축 충분히 가능하다고 봄
마소통크네 - dc App
역시 마소 구글이니 애플이니 해도 마소가 역시 최고임
제로 인피니티 발표한거 보면 32조 파라미터 돌리기 위한 하드웨어 비용은 5백만달러 내외임. 근데 이미 GPT3때 돌리던 하드웨어도 있을테니 하드웨어 비용은 그보다 적을거고 인건비나 데이터는 GPT4를 하든 안하든 발생하는 고정비용이니 32~100조 파라미터 규모의 모델은 충분히 가시권안에 들어와있음.