https://groq.com/


여기도 딥식 추론모델 있는데 증류버젼이라 좀 작긴함


그래도 속도보면 추론모델도 실시간 음성대화가 가능할거란 생각이 들거임


모든 대화에 긴추론이 필요한게 아닐테고 또 2,3초 정도 추론이 필요한거면 모델이 음~ 하는식으로 답변간격을 약간 줄수도 있고