스케일파)
스케일만으론 부족하다더니 스케일 키우니까 AI가 창발성을 띄고 전에 없던 능력들이 생겨났다.
인간 뇌의 최소 단위 또한 동물 뇌의 최소 단위 시냅스와 본질적으로 다르지 않다. 현재의 낮은 스케일 AI가 동물 뇌라면
스케일이 높아지며 복잡도가 증가할수록 인간 지능처럼 특정 시점을 맞이할 것이다.
얀 르쿤파) 그런건 불가능하다 아무튼 불가능하다 스케일만 키워서 지금의 AI들 능력이 나타날거라 생각 못했지만 불가능하다
인간 뇌와 동물 뇌가 본질적으로 다르지 않지만 아무튼 스케일 업만으로는 불가능하다
+ 데미스 하사비스는 얀 르쿤에 가까운 돌파구가 중요하다 파였으나 스케일 업에 따른 지금의 AI 능력 발현을 보며
스케일의 한계가 어디일지 모르겠다고 견해를 수정함
엇 이제껏 봤던 특붕이들 중에 가장 제대로 알고 있네?
혹시 너 누가 써놓은 노션 정리 같은거 봤냐
ㅆㅇㅈ
개팩트긴함
둘중에 누가 맞는지 확인하려면 결국 한계까지 스케일을 올려봐야 승부가 가려질것
얀르쿤!!
llm으로만 될수도 있지. 무조건 안된다가 어디있음. 인간 아기가 입력받은 데이터 량이 월등히 적은데도 학습이 되는걸 보면 뭔가가 있으니 그걸 도입해야한다라는 느낌이지. 트렌스포머 보다 좋은 뭔가가 있긴 하겠지.