[📪정보] 강화학습의 확장성 부족에 관한 논문-추론 연산량 10배=강화학습 100배

[천상열차(annoy6122)]

링크: https://www.tobyord.com/writing/inference-scaling-reshapes-ai-governance

어느 고마우신 분이 주신 최신 링크: https://www.tobyord.com/writing/how-well-does-rl-scale

[익명(bam9398)]

[천상열차(annoy6122)]

[익명(sled7161)]

이대남은 역대급 쓰레기 세대맞네

[솔담비(rty1x21s8nhq)]

그래서 강화학습의 부작용을 줄이고 다시 창발성을 회복시키는 버벌라이즈 기법이라는 것도 있어!

[천상열차(annoy6122)]

[룰누냔냐(remark7724)]

[천상열차(annoy6122)]

[이세이미야케(jkwarawara)]

[천상열차(annoy6122)]

[레알팜(lottohelp)]

[천상열차(annoy6122)]

[멘토스(gblzvhbddpj2)]

[천상열차(annoy6122)]

[ㅇㅇ 1(183.108)]

그니까, 사전학습 때도 '벽에 막혔다.'고 했더니 추론이 있던거고, 추론이 '벽에 막혔다.'고 했더니 강화학습이 있던거고 강화학습이 '벽에 막혔다.'라고 하는거지? 벽에 막혔다 같은 게 신기술 부르는 소환술 같은 거 아닐까.

[천상열차(annoy6122)]

이제 1년있으면 또 새로운 돌파구가 나올 것..

[예레미야(watch5549)]

그게 아니라 저 맥락에서 ‘추론’이란 단어를 사전학습 후 모델을 바로 돌렸을 때의 추론의 의미로 사용한듯

[ㅇㅇ 2(114.70)]

혹시 이거 본문 링크에 넣어줄 수 있음? 너가 올린거 2월달거고 이게 10월에 쓰인 글임
https://www.tobyord.com/writing/how-well-does-rl-scale

[천상열차(annoy6122)]

[ㅇㅇ 2(114.70)]

@천상열차 고마우신 분이라니 감동이네,, 고생많아 고맙다 항상

[천상열차(annoy6122)]

[ㅇㅇ 3(218.39)]

사전학습이 벽이라고 하기엔 아닌 거 같은데?

[익명(airline7102)]

[익명(wanted7407)]

이거 오픈ai연구진들 반응보면 별거아닌듯