본문 바로가기
숨터 가볍게 읽는 공간
이미지 차단
전체 베스트 최근
← thesingularity 게시판

[일반] 딥마인드의 언어모델 친칠라가 Gopher와 GPT-3를 뛰어넘었다.

익명(121.128) 2022-03-30 16:55 추천 7

[2203.15556] Training Compute-Optimal Large Language Models (arxiv.org)


Chinchilla 700억 패러미터

Gopher 2800억 패래미터

GPT-3 1750억 패러미터

댓글 3

  • 일정한 데이터 양에 대해서 모델크기 증가가 영원히 성능향상을 가져오지는 않는다는 거네. 데이터양과 모델크기를 같이 늘려야하는게 맞긴하지 ㅇㅇ

    익명(thor2018) 2022-03-30 17:50
  • 이게 왜 추천을 안 받지?

    익명(218.235) 2022-03-30 18:54
  • dccon
    ㅇㅇㅇ(14.38) 2022-03-31 01:00

다른 게시글

  • 대학원생 및 전문가 특붕이들아 질문이 있어 [12]
    [일반] ㅏ(220.83) | 22.03.30
    추천 1
  • 역노화 상용화되면 노인혐오도 당연히 사라짐? [5]
    [일반] 익명(116.42) | 22.03.30
    추천 0
  • 그래서 gflownet이 뭐임 [5]
    [일반] 익명(49.166) | 22.03.30
    추천 1
  • 특이점 대비는 무슨 직업이 좋음? [3]
    [일반] 익명(61.83) | 22.03.30
    추천 0
  • 시뮬레이션우주론 주장할때
    [일반] 익명(121.140) | 22.03.30
    추천 0
  • 근데 코로나 보면 역노화 개발은 필수적이긴 해...
    [일반] 익명(116.42) | 22.03.30
    추천 3
  • 머스크가 2045년 보다 더 빨리 특이점이 온다고 했구나
    [일반] 익명(211.59) | 22.03.30
    추천 0
  • 미래 청정에너지, 핵융합발전.youtube
    [📪정보] 007빵(118.176) | 22.03.30
    추천 0
  • 2025 AGI 믿습니다 ㅋㅋㅋㅋㅋ [4]
    [일반] 익명(182.218) | 22.03.30
    추천 4
  • 2030년 이시간에 내가 하고있을 일 [2]
    [일반] 익명(218.50) | 22.03.30
    추천 8
목록으로
읽기 전용 미러