본문 바로가기
숨터 가볍게 읽는 공간
전체 베스트 최근
← thesingularity 게시판

[일반] 사전학습 모델은 확실히 한계효용의 벽에 부딫힌거 아님?

Invaria..(command1270) 2025-02-18 19:34 추천 0

수츠케버 창립자는 13일(현지시간) 캐나다 밴쿠버에서 열린 '뉴립스(NeurIPS)' 컨퍼런스에서 "우리가 아는 사전 훈련은 의심할 여지 없이 끝날 것"이라고 말했다.


https://www.aitimes.com/news/articleView.html?idxno=166231
수츠케버 "스케일링 막 내려...추론으로 AI 자의식 생길 것"오픈AI의 추론 모델의 기반을 만든 일리야 수츠케버 SSI 창립자가 데이터 고갈로 인해 대형언어모델(LLM)의 사전 훈련에 따른 '스케일링 법칙' 시대는 끝났다고 선언했다. 대신, 추론이 새로운 인공시대(AI)를 열 것이며, 특히 이로 인해 인간의 예상을 뛰어넘는 자의식을 갖춘 초지능(super intelligence)이 등장할 것이라고 예고했다.수츠케버 창립자는 13일(현지시간) 캐나다 밴쿠버에서 열린 '뉴립스(NeurIPS)' 컨퍼런스에서 "우리가 아는 사전 훈련은 의심할 여지 없이 끝날 것"이라고 말했다.그는 이유로 석유처럼www.aitimes.com


사전학습 스케일링이 끝나도 스케일링 할수 있는것들은 무수히 많음

이미 수백조의 자본과 수십만명의 천재들이 달라붙어있는 이상 병목은 없다고 본다


댓글 4

  • 수츠케버는 걍 데이터가 없어서라고

    빙냥이ㄱㅇㅇ(6zd2cxvc44h4) 2025-02-18 19:35
  • O시리즈의 개선은 본질적으로 같은 스케일링의 스펙트럼

    ㅇㅇㅇㅇㅇ(lsh0320jpgpw) 2025-02-18 19:36
  • 일리야 말에 따르면 추론모델로 합성데이터 양산하는 방법만 성공하면 다시 한계 뚫릴거임 이게 과연 먹힐지 gpt4.5가 보여줄거라 생각함

    익명(shore1232) 2025-02-18 19:37
  • 지금 존나 무지성으로 학습 시키니까 그런거지 결국 나중에 정제하거나 가공해서 먹이면 끝도 없지 않나

    ㅇㅇ 1(61.254) 2025-02-18 19:42

다른 게시글

  • 딥시크 vs 그록3 띵킹 퀄리티 차이 [5]
    [일반] 김에릭(kit7209) | 25.02.18
    추천 6
  • 스케일링 멸망이라는 글이 개씹소리인 이유 [11]
    [일반] 한가운데(centerofworld) | 25.02.18
    추천 2
  • 근데 볼수록 LLM 은 신기하다 [5]
    [일반] 익명(175.198) | 25.02.18
    추천 1
  • 그록3 가 어떤 충격적인 결과를 보여주지 못하면 오히려 그게더 충격임 [3]
    [일반] 익명(124.49) | 25.02.18
    추천 1
  • 그록3는 x.com에서 써야 하는거지? grok.com은 유료계정이 없네 [2]
    [일반] 익명(case7332) | 25.02.18
    추천 0
  • 딥식 h800 2천개는 ㅈ능아들, 짱깨들이나 믿지 [13]
    [일반] 익명(transmit7510) | 25.02.18
    추천 4
  • 그록이새기 좆병신인데? [1]
    [일반] 딩둘딩(when9290) | 25.02.18
    추천 1
  • 그록3 H100 10만대 맞을걸? [2]
    [일반] gpt교주(pomcro) | 25.02.18
    추천 5
  • 검열없으면 저작권 좆까고 다긁어온다는거임? [1]
    [일반] 딩둘딩(when9290) | 25.02.18
    추천 0
  • 스케일링 법칙 한계에 대한 정확한 정의가 필요함 [4]
    [일반] 익명(nephew8666) | 25.02.18
    추천 0
목록으로
읽기 전용 미러