5년동안 남들 다 쓰는 논문 한편도 못내고 우울증 걸렸다
특갤럼들 고나리질하며 가르치는 재미로 산다
질문 받는다
고추 작지?
고추 큼
넌 좀 논문이나 써라
전공자인데 왜 논문을 못씀
특이점 온다고 봄?
알고리즘쪽 발전 속도는 빠르고 무궁무진한데 전력이나 하드웨어 분야에서 눈에 띄는 도약이 한번 필요할 것 같네
나도 ai전공인데 ai가 도대체 뭔지 모르겠음
분야 뭐임?
장기기억은 해결책이 보임?
현재 transformer 기반으로는 하드웨어, 특히 전력 비용 문제가 해결되지 않으면 단기간에는 어렵지 않을까 싶음
사실 이런 예측도 무의미한 시대이긴 한데 내 생각엔 transformer 대신 RNN을 쓰든가 여튼 알고리즘 방향으로는 아직 탐색이 더 많이 필요할 것 같네
OpenAI가 계속 모델을 경량화하고 자폐로 만드는 이유가 뭐라고 생각함?
비용 절감 효과 때문이겠지? 근데 나는 AI를 학문 목적으로 사용해서인지 자폐 스타일을 선호하긴 함 실제 휴먼이랑 협업할때도 아스퍼거ish한 애들이 의사소통이 편하고
@글쓴 ㅇㅇ(147.46) 한가지만 더. 양질의 학습 데이터가 부족해진 현 시점에서 스케일링 법칙이 여전히 유효하다고 볼 수 있을까? 합성 데이터가 대안이 될 수 있을까
재귀개선 언제쯤 나올거같음 눈에 띄는 성과 있음?
고추 작지?
고추 큼
넌 좀 논문이나 써라
전공자인데 왜 논문을 못씀
특이점 온다고 봄?
알고리즘쪽 발전 속도는 빠르고 무궁무진한데 전력이나 하드웨어 분야에서 눈에 띄는 도약이 한번 필요할 것 같네
나도 ai전공인데 ai가 도대체 뭔지 모르겠음
분야 뭐임?
장기기억은 해결책이 보임?
현재 transformer 기반으로는 하드웨어, 특히 전력 비용 문제가 해결되지 않으면 단기간에는 어렵지 않을까 싶음
사실 이런 예측도 무의미한 시대이긴 한데 내 생각엔 transformer 대신 RNN을 쓰든가 여튼 알고리즘 방향으로는 아직 탐색이 더 많이 필요할 것 같네
OpenAI가 계속 모델을 경량화하고 자폐로 만드는 이유가 뭐라고 생각함?
비용 절감 효과 때문이겠지? 근데 나는 AI를 학문 목적으로 사용해서인지 자폐 스타일을 선호하긴 함 실제 휴먼이랑 협업할때도 아스퍼거ish한 애들이 의사소통이 편하고
@글쓴 ㅇㅇ(147.46) 한가지만 더. 양질의 학습 데이터가 부족해진 현 시점에서 스케일링 법칙이 여전히 유효하다고 볼 수 있을까? 합성 데이터가 대안이 될 수 있을까
재귀개선 언제쯤 나올거같음 눈에 띄는 성과 있음?