본문 바로가기
숨터 가볍게 읽는 공간
이미지 차단
전체 베스트 최근
← thesingularity 게시판

[일반] 백만 컨텍스트 돌리는 장비 ㄷㄷㄷ

익명(106.248) 2024-02-21 12:28 추천 1

uc버클리 모델기준으로 

https://github.com/LargeWorldModel/LWM/issues/7

Memory requirements · Issue #7 · LargeWorldModel/LWMIt would be worth to provide the measured memory requirements for inference Text Models at 32K, 128K,256K,512K and 1M tokens context window in both PyTorch and JAX.github.com



a100 16대 필요 아마 ㄷㄷㄷ


1ebec223e0dc2bae61ab96e74683707026f14afc811be72e495a8dc63a752c47b980998479cbeba063228353a9dc20350c69978c86


댓글 0

  • 아직 댓글이 없습니다.

다른 게시글

  • 항상 agi를 느낀다는 oai 직원 [11]
    [일반] 익명(sky0204) | 24.02.21
    추천 34
  • 프로그래머가 사라지는 이유 [5]
    [일반] 익명(121.143) | 24.02.21
    추천 1
  • 현 ai 다음 세대들이 진짜 기대되지않냐 [3]
    [일반] 익명(58.29) | 24.02.21
    추천 3
  • 유토피아!!!!!!!!!!!!!!!!! [1]
    [일반] 익명(symphony5198) | 24.02.21
    추천 0
  • 렉스 영상을 알트만이 찍는다는건 곧 gpt5가 나온다는 말 아님? [2]
    [일반] 익명(211.59) | 24.02.21
    추천 2
  • 유토피아가 오지 않는다는건 지극히 인간다운 발상인듯 [1]
    [일반] 익명(112.149) | 24.02.21
    추천 5
  • 근데 5가 모든 방면에서 똑똑하다는게 [4]
    [일반] 익명(49.143) | 24.02.21
    추천 0
  • Gemini 1.5 깃헙 이슈 우선순위 파악 후 패치 코드까지 제시 ㄷㄷ [11]
    [일반] 특붕(223.38) | 24.02.21
    추천 32
  • 느껴짐? [5]
    [일반] 익명(218.39) | 24.02.21
    추천 2
  • 일론머스크 진짜 대단하다 노벨상 후보올랐네 ㅋㅋ [1]
    [일반] 조조조(221.141) | 24.02.21
    추천 5
목록으로
읽기 전용 미러