본문 바로가기
숨터 가볍게 읽는 공간
이미지 차단
전체 베스트 최근
← thesingularity 게시판

[일반] groq이 LLM 추론을 20배쯤 빠르게 만들었다던데

디시콘발사대(fcbjsjmu1t9f) 2024-02-22 06:37 추천 2

https://www.dplus.kr/groq/

https://youtu.be/HHlDuZW5zTg

AI, 또 혁명이 일어났습니다... 챗GPT 20배 속도 ㄷㄷㄷ 1초에 400단어 쏟아지는 LLM 등장! 지금 바로 쓸 수 있습니다Google의 TPU를 설계했던 Jonathan Ross가 설립한, AI 반도체 스타트업 Groq에서, Meta의 LLaMa2와 Mistral의 Mixtral8x7B 모델을 1초에 400~500단어 출력하는 속도의 어마무시한 서비스를 공개했습니다. 클릭하자마자 수 페이지가 터져 나...youtu.be



영상AI도 어떻게든 개선되지 않을까?


제대로 쓰려면 시행착오를 많이 거쳐야 될텐데, 영상 한번에 몇시간씩 소모되면 사용법을 익히는 것도 꽤 힘들겠다


하드웨어든 소프트웨어든 해결이 돼야 함

댓글 4

  • 특갤에선 별거 아니다가 중론인듯한데 저 유튜버는 개쩐다고 해서 누가 맞는지 모르겠네.

    Zoltraak(thor2018) 2024-02-22 07:39
  • 답글

    출력물 자체는 AI 모델이 내는 수준 그대로고 속도만 딱 20배로 빠르게 해준다면 상당히 괜찮은 물건 아님?

    디시콘발사대(fcbjsjmu1t9f) 2024-02-22 07:53
  • 답글

    나도 잘은 모르겠는데 내가 듣기로는 저거 존나 비싸고 거기다가 비싸서 그런건지 사실상 작은 모델에 밖에 못쓴다고함.

    Zoltraak(thor2018) 2024-02-22 07:55
  • 답글 dccon
    디시콘발사대(fcbjsjmu1t9f) 2024-02-22 07:56

다른 게시글

  • 브리또 먹으러 가는게 1시간이든 3분이든 [2]
    [일반] 익명(spdfklmn) | 24.02.22
    추천 3
  • 근데 바둑 카타고 좆버그나서 진거 뭘까 [1]
    [일반] 124(xq31587k1ghj) | 24.02.22
    추천 0
  • 사실 실사용 단계에선 시간 단위로 걸리는게 맞긴 함 [1]
    [일반] 익명(58.127) | 24.02.22
    추천 2
  • 갑자기 야짤이나 만들다 가상현실 구현이 말이됨? [7]
    [일반] 익명(112.153) | 24.02.22
    추천 0
  • ai위험하다소리 나올때까지 발전해야됨 [1]
    [일반] 익명(112.153) | 24.02.22
    추천 0
  • 아니 ㅅㅂ 10초만에 만드는 거 아니었음? [6]
    [일반] 익명(124.59) | 24.02.22
    추천 0
  • 확실한건 oai 연구원은 브리또 먹는데 걸리는 시간이 1시간은 아님 [3]
    [일반] 익명(sky0204) | 24.02.22
    추천 3
  • 특이점이 온다... [SBS 뉴스]
    [📪정보] 초존도초(htr3c654r6ft) | 24.02.22
    추천 1
  • 브리또 얘기 하니깐
    [일반] 율떡(nuance187) | 24.02.22
    추천 0
  • 정확하게 공개하지 않고 애매하게 둘러대니 이젠 부리또가 몇분인지로 싸우네 [1]
    [일반] 디시콘발사..(fcbjsjmu1t9f) | 24.02.22
    추천 1
목록으로
읽기 전용 미러