[📪정보] AI 모델은 실제 작업과 관련 없는 데이터로 더 좋아집니다.

[익명(125.191)]

https://the-decoder.com/ai-models-get-better-with-data-unrelated-to-their-actual-tasks/

AI models get better with data unrelated to their actual tasks

우리는 다른 양식의 관련 없는 데이터로 특정 양식의 트랜스포머를 개선할 것을 제안합니다(예: 오디오 또는 포인트 클라우드 데이터 세트를 사용하여 ImageNet 모델 개선). 우리는 대상 양식의 데이터 샘플이 다른 양식과 관련이 없다는 점을 강조하고 싶습니다. 이는 다른 양식의 쌍을 이루는(예: CLIP) 또는 인터리브된 데이터를 사용하는 다른 작업과 우리의 방법을 구별합니다. 우리는 Multimodal Pathway라는 방법론을 제안합니다. 목표 양식과 이를 위해 설계된 트랜스포머가 주어지면 다른 양식의 데이터로 훈련된 보조 트랜스포머를 사용하고 목표 양식의 데이터가 처리될 수 있도록 두 모델의 구성 요소를 연결하는 경로를 구성합니다. 두 모델 모두에서. 이러한 방식으로 우리는 두 가지 양식에서 얻은 트랜스포머의 범용 시퀀스-시퀀스 모델링 기능을 활용합니다. 구체적인 구현으로 우리는 평소와 같이 양식별 토크나이저와 작업별 헤드를 사용하지만 추론 비용 없이 보조 가중치를 활용하는 Cross-Modal Re-parameterization이라는 제안된 방법을 통해 보조 모델의 트랜스포머 블록을 활용합니다. 이미지, 포인트 클라우드, 비디오 및 오디오 인식 작업에서 다른 양식의 관련 없는 데이터를 사용하여 중요하고 일관된 성능 향상을 관찰했습니다. 코드와 모델은 https URL 에서 사용할 수 있습니다 .

왜 작동합니까? 

연구원들은 한 양식의 데이터에 대해 훈련된 모델이 입력 시퀀스가 다른 양식에서 나온 다른 모델의 프로세스에 도움이 될 수 있는 인코딩된 지식을 가지고 있다고 제안합니다. 이러한 "양식 보완 지식"은 양식 간의 데이터가 관련이 없더라도 존재하고 이전 가능한 것으로 보인다고 팀은 말합니다.

그럼에도 불구하고 관찰된 개선에 대한 이론적 기반은 여전히 열려 있습니다. 이는 일반적으로 메커니즘과 신경망에 대한 더 깊은 이해로 이어질 수 있으며, 팀에 따르면 이는 향후 연구 주제입니다.

[익명(59.11)]

텐센트랩꺼노
https://arxiv.org/pdf/2401.14405.pdf

[익명(gpt2030)]

OpenAI는 훨씬 일찍 알고 있었음 어서 GPT-5를 궁금해하셈