https://github.com/swz30/Restormer/blob/main/basicsr/models/archs/restormer_arch.py
원본 코드 보고 있는대 도대체 layernorm이 어느 방향으로 먹히는 거임?
dim 을 봐선 channel 수인데,
B * C * W * H를
B * C * WH 로 한다음에 transpose 조저서
B * WH * C 로 만든 후에
이미지 상에서 위치는 같은데 channel이 서로 다른 애들끼리 정규화 때리는 거임...?
그냥 channel로 정규화 때리네
ㄳㄳ 픽셀 방향으로만 정규화 때려봤어서 잘못본줄