https://arxiv.org/abs/2203.08130
그.. 이거 이해가 잘 안되서 물어볼려고 왔어.
1. "시나리오 전체에서 일관되게 잘 수행되는 단일 네트워크가 없음을 보여줍니다. 이를 기반으로 SSL 체제에서 네트워크 가중치뿐만 아니라 아키텍처 토폴로지를 학습할 것을 제안합니다"
라고 써있는데 여기서 "일관되게 잘 수행되는 단일 네트워크가 없음을 보여준다." 에서 이게 agi하고 관련이 있는 걸까?
그리고 "아키텍쳐 토폴로지를 학습할 것을 제안한다." 가 도대체 무슨 뜻이야?
2. "우리의 결과는 SSL에서 손으로 만든 아키텍처를 넘어 아키텍처 검색을 자체 지도 학습 목표에 통합하는 것에 대해 생각하기 시작할 때임을 시사합니다."
여기서 "아키텍처 검색을 자체 지도 학습 목표에 통합하는 것"이 무슨 뜻인지 모르겠어..
미안하다..ㅠㅠ 내가 인공지능 분야를 진짜 잘 모른다ㅠㅠ
Ssl에서의 nas페이퍼인가보네 뭐
일단번역기를써서논문을읽지마세요
영어를 못하는 것도 있고 공부하거나 연구하려고 읽는 목적도 아니라서 그건 좀 어려울 것 같아요
그 모냐...그렇다면 논문을 이해하기도 좀 어려울 것 같긴 해요
architecture topologies는 모델 스트럭쳐랑 비슷한 말인데요, 본문 안읽어봐서 모르겠는데 머 weight/width나 layer 구성/activation도 내가 정해주는게 아니라 모델이 학습하게 만들겠다는 얘기인 것 같애요
답변 정말 감사합니다!
1.일관되게 다른 종류의 하위 작업으로 전이 학습해을때 좋은성능을 내는 네트워크가 없다 2.네트워크 구조(토폴로지)를 학습 즉 찾게다는 소리임 자세한것은 nas(neural architecture search) 찾아보셈 3.네트워크 구조를 찾을때 목표가 성능이 좋은거 찾는건데 성능이 좋은거의 기준을 ssl로 하자임
ssl은 self supervised learning 찾아보셈
땡큐 덕분에 이 논문을 이해해야하는지 알려줘서 고맙다