물리적인 데이터센터 GPU 개수만 단순히 생각해도
OpenAI는 얼마갖고있는지 몰겠음 H100 10만대 언저리 수준인가 들었는데 확실히 모름
XAI (Grok)은 H100 20만대
제미나이는 자기들끼리 알아서 TPU 보유해서 하드웨어 자원땜에 답변이 제대로 안나오거나 말썽인 현상 없음
이거땜에 ChatGPT는 시간따라 답변이랑 추론용 GPU 사용량 싹다 달라져서 품질 달라지고 컨텍스트 윈도우 128K밖에 안되는 안좋은 시너지만 합쳐져서 물리적인 GPU개수 안늘리는 이상 계속 모델 새거 내놓아도 앞으로 좋아질거란 기대가 안됨
+ 덩달아 실제 코딩경험도 Grok이랑 제미나이는 어느정도 컨텍스트 3~5만되는 내 프로젝트 솔루션 내용 다 훓어보면서 알잘딱깐센 답변 잘해주는데 ChatGPT의 O3mh만 답변 대충 건성해주고 실제 문제해결도 안되는 코드만 내놨음 이뭐병임
늘리잖아 그래서
방금 글내용 추가했는데 저 추가한 내용대로 지금 o3랑 그 이후의 고질병은 그대로임
물론 OpenAI도 부랴부랴 컨텍스트 128K 늘려줬단것도 잘알고있음
그렇게 컨텍스트 윈도우 늘려줬는데도 문제 그대로라는게 나그의 요지
데이터센터 얘기임 스타게이트 1차 완공이 올해 2분기 즈음인 걸로 아는데 그럼 좀 낫겠지
아 그걸로 뭐 신축 하고있긴 하나보네
ide는 커서 씀?
ㄴㄴ 웹 프로그래밍 용도가 아니라 커서활용하기 어려움 Visual Studio
글쿤 커서는 웹용인가 어쩐지 나도 웹 안하는데 커서 잘 못 쓰겠더라
visual studio에서 빌드후에 나오는 모든 코드를 텍스트화시키게 별도의 스크립트(bat이나 shell 스크립트용 ps1) 파일 실행시켜서 솔루션 코드 내용 싹다 txt로 나온거 AI 모델한테 주입시켜주고 문제 해결이나 자기계발용으로 갖다씀
ㅇㅇ 내 상식 안에서 생각하기에 커서는 웹이나 안드로이드 개발자용 IDE에 최적화된 물건이라 그쪽분야 아닌 나한텐 접목시키진 못하겠더라고
글쿤 ㄱㅅㄱㅅ
스타게이트가 그래서 중요함 ㅇㅇ
괜히 소뱅 끌어들여서 판 키운게 아니지
올커니 더빨리 진행시켜
이제 경량화에 목숨걸기는 로컬에만 읍읍 - dc App