본문 바로가기
숨터 가볍게 읽는 공간
전체 베스트 최근
← deeplearning 게시판

[❓질문] restormer 짜본 사람? 구현 관련 질문좀

익명(222.103) 2022-08-07 17:03 추천 0

https://github.com/swz30/Restormer/blob/main/basicsr/models/archs/restormer_arch.py


원본 코드 보고 있는대 도대체 layernorm이 어느 방향으로 먹히는 거임?


dim 을 봐선 channel 수인데,


B * C * W * H를 

B * C * WH 로 한다음에 transpose 조저서

B * WH * C 로 만든 후에 

이미지 상에서 위치는 같은데 channel이 서로 다른 애들끼리 정규화 때리는 거임...?

댓글 2

  • 그냥 channel로 정규화 때리네

    익명(211.36) 2022-08-07 17:16
  • 답글

    ㄳㄳ 픽셀 방향으로만 정규화 때려봤어서 잘못본줄

    익명(222.103) 2022-08-07 17:20

다른 게시글

  • scikit-learn 1.2부터 boston 데이터셋 빠지는구나 [1]
    [💩] 익명(220.94) | 22.08.06
    추천 0
  • 우리 뇌 뉴런의 활성화함수는 어케 생김? [5]
    [❓질문] 망한인생(dconly36) | 22.08.05
    추천 2
  • 딥러닝 기초 수학 뭐뭐에요? [4]
    [❓질문] 익명(223.38) | 22.08.03
    추천 0
  • 노베 머신러닝 공부순서 질문 [3]
    [❓질문] 익명(223.33) | 22.08.02
    추천 0
  • conv2d padding지정 안하면 1임? [3]
    [❓질문] 익명(39.7) | 22.08.02
    추천 0
  • 어텐션의 정확한 정의가 어케 되나요? [3]
    [❓질문] 익명(104.28) | 22.08.02
    추천 0
  • 메타포머 벌써 인용 41이네
    [일반] 익명(147.46) | 22.08.02
    추천 0
  • 딥러닝 초보인데 이 문 super resolution 논문 보면 되나?? [2]
    [일반] 익명(121.165) | 22.08.01
    추천 0
  • gradient vanishing 문제 질문 [4]
    [❓질문] 익명(211.49) | 22.08.01
    추천 0
  • 명제를 신경망으로 나타낼수 있나요? [2]
    [일반] 익명(211.228) | 22.08.01
    추천 0
목록으로
읽기 전용 미러