구글에서 트랜스포머 갖고 심심풀이로 놀다가 발견한게 ViT인데
위치 인코딩을 1차원으로 하나 2차원으로 하나 트랜스포머 들어가면 성능차이가 없음
모델 추론능력이 너무 강해서 그냥 1차원으로 던져줘도 알아서 2차원 정보를 유추해버림ㅇㅇ
이걸 개발하고 공짜로 풀어준 구글님 오늘도 경배ㄱ
구글에서 트랜스포머 갖고 심심풀이로 놀다가 발견한게 ViT인데
위치 인코딩을 1차원으로 하나 2차원으로 하나 트랜스포머 들어가면 성능차이가 없음
모델 추론능력이 너무 강해서 그냥 1차원으로 던져줘도 알아서 2차원 정보를 유추해버림ㅇㅇ
이걸 개발하고 공짜로 풀어준 구글님 오늘도 경배ㄱ
댓글 0