오픈AI가 AI 응답 속도를 대폭 높이기 위해 AI 전용 칩 제조사 세레브라스(Cerebras)와 파트너십을 맺었다. 이번 협력을 통해 750MW 규모의 초고속 AI 컴퓨팅 성능을 확보한다고 오픈AI가 14일(현지 시각) 공식 발표했다.
세레브라스는 AI가 긴 답변을 빠르게 생성할 수 있도록 돕는 전용 칩을 만드는 기업이다. 이 회사의 칩이 빠른 이유는 방대한 계산 능력과 메모리, 데이터 전송 속도를 하나의 거대한 칩에 모두 담았기 때문이다. 일반 하드웨어에서 AI 속도를 늦추는 문제들을 원천적으로 없앤 것이 특징이다.
오픈AI에 따르면, 세레브라스 칩을 도입하는 목적은 AI 응답 속도를 훨씬 빠르게 만들기 위해서다. 사용자가 어려운 질문을 하거나 코드를 생성하고, 이미지를 만들거나 AI 에이전트를 실행할 때, 뒤에서는 요청 전송→AI 처리→결과 전송 과정이 일어난다. AI가 실시간으로 응답하면 사용자들은 더 많은 작업을 하고, 더 오래 사용하며, 더 복잡한 작업도 맡길 수 있다.
오픈AI는 이 초고속 성능을 시스템에 단계적으로 통합하고, 다양한 작업으로 확대할 계획이다.
컴퓨팅 인프라를 담당하는 오픈AI의 사친 카티(Sachin Katti)는 "오픈AI의 컴퓨팅 전략은 각 작업에 가장 적합한 시스템을 매칭하는 것"이라며 "세레브라스는 우리 플랫폼에 빠른 응답 전용 시스템을 추가한다. 더 빠른 답변과 자연스러운 대화가 가능해지고, 실시간 AI를 더 많은 사람에게 제공할 수 있는 기반이 마련됐다"고 밝혔다.
세레브라스의 공동 창업자이자 CEO인 앤드류 펠드먼(Andrew Feldman)은 "세계 최고의 AI 모델을 세계에서 가장 빠른 AI 프로세서에 제공하는 오픈AI와 파트너십을 맺게 되어 기쁘다"며 "실시간 AI는 완전히 새로운 방식의 AI 활용을 가능하게 할 것"이라고 말했다.
이번 파트너십을 통한 컴퓨팅 성능은 2028년까지 여러 차례에 걸쳐 단계적으로 투입될 예정이다.
해당 서비스에 대한 자세한 사항은 오픈AI 뉴스룸 에서 확인 가능하다.
이미지 출처: 오픈 AI
그러면 뭐함? 램이 없는데
세레브라스 특징이 칩 대부분이 SRAM 메모리임... 즉 온 칩메모리 형태로 만든거라 빠른거임... HBM 메모라 따윈 필요 없는 시스템..
어쩌라고
사지나찢겨라볼라드로후장자위하는애미디진새끼
영포티들이 인식 다 곱창내놓은 GPT
지금도 답변 븅신같이 하는데 응답속도를 늘릴게 아니라 정확도를 늘려야하는 거 아닌가
그건 니가 무료모델 써서 그런거임
답변은 gpt가 최고임. 검색능력이 1황이라. 이미지나 이런건 제미나이가 좋고 ㅇㅇ
@A갤러3(211.105) 답변은 gpt가 개병신임 검열 존나 심함
사지나찢겨라볼라드로후장자위하는애미디진새끼
딴 곳은 agi 만드느라 조뺑이 치는데 이 새낀 속도 신경 쓰는 거 보면 경쟁 탈락 우회적으로 말하는 거네, 차라리 안 될 것 같으니 노선 정리 빨리 하는게 낫다