어차피 하드웨어 싸움 아님?
파라미터 존나 많이 때려박을 수 있는 자원을 가지고 있는 기업이 고성능 낼 수 있는게 딥러닝 분야 아닌가??
뭐 딥러닝을 활용한 참신한 어떤 프로그램을 만들어도
결국에는 하드웨어 자원을 가진 대기업이 성능면에서 압도적인 프로그램을 만들어 내는거 아니야?
어차피 하드웨어 싸움 아님?
파라미터 존나 많이 때려박을 수 있는 자원을 가지고 있는 기업이 고성능 낼 수 있는게 딥러닝 분야 아닌가??
뭐 딥러닝을 활용한 참신한 어떤 프로그램을 만들어도
결국에는 하드웨어 자원을 가진 대기업이 성능면에서 압도적인 프로그램을 만들어 내는거 아니야?
뭐 대체로 맞는말인데 누가 뭐라 함?
데이터셋 퀄리티도 중요하지
모델 튜닝 잘하는 것도 의미 있지… 인공지능 모델 개발하는 것도 의미있고… GPT-1 GPT-2 GPT-3 성능향상은 누가 거저 주노?
아닌데? 그럼 대기업 ai 연구소들은 죄다 딥마인드, 오픈ai 됐게?
AI 하드웨어 전용 컴파일러도 있음
미친거야?? 그정도로 큰걸 다루는데 자료구조, 알고리즘을 뭘 쓰냐에따라 효율이 몇십배씩 차이가 날텐데??
얘는 뭐 모르면서 글쓰는 놈이네 ㅋㅋㅋㅋ 모델짜는데 뭔 자구알고여 ㅋㅋㅋㅋㅋㅋㅋㅋ 진짜 컴파일러를 짜는 극소수가 아니고서야 대부분은 윗댓들 말대로 데이터셋과 모델튜닝에서 판가름나는데
그 백엔드 코드 짜는건 딥러닝 모델링이랑은 상관 없는 분야임. 고속 병렬 처리의 영역이지
좋은 하드웨어야말로 수고를 더 들이면 보상도 더 클거 아니냐
트랜스포머 O(n^2)라 느려