어짜피 언어모델이건 뭐건 지금ai는 대부분 입력정보를 가공하는 방식이 다른거지 가공물 나오면 결국 밀집신경망으로 추론하잖아?



멀티모달이면 다양한형태의 정보를 동일사이즈의 의미벡터로 가공해서 밀집신경망에 보내는거 아님?
그 의미벡터는 기능적으로 다양한형태의 정보들로 디코딩 될수있는거지?
예를들어 사과라는 텍스트를 의미벡터화 했을때 사과 그림으로 디코딩될수있는거잖아?


그렇다면
1.해석하고자하는 ai모델의 은닉층속 뉴런정보들을 이미지화하고
2.cnn거쳐서 의미벡터사이즈로 가공한뒤
3.언어모델의 밀집신경망에 연결하여 해석대상모델의 입출력값을 기반으로 추론망을 제외한채 학습하면
4.그 과정에서 나오는 의미벡터는 입력값에서 출력값이 나오기위한 판단과정이 담겨져있을것이고

5.이를 텍스트로 디코딩하면 그게 ai의 사고전개를 언어로 표현한것 아님?


예를들어
체스ai의 사고과정을 알고1싶다면 해당모델의 입출력값을 기반으로 "따라서 이러한 논리절차에 따라 [입력값]에대한 가장 적절한 수는 [출력값]입니다." <<<< 이런식으로 마치 이전 문맥에 사고과정이 적혀있는듯이 라벨링한뒤 추론망은 학습잠궈놓고 은닉층정보에서 의미벡터를 생성하는부분만 학습하면 의미벡터에 ai의 사고과정이 텍스트로 변환가능한 형태로 담겨있는거 아닐까?


그럼 거기서 해독해낸 사고구조를 토대로 체스ai를 충분히 통제가능한 소형모델(이미지분류수준의 모델은 통제가 충분히될거아냐?)들과 휴리스틱들로 효율적으로 재구성할수있지 않을까?
그렇다면 그걸 '정렬됬다' 라고 해도 되지않을까?
이런방식을 agi에도 적용시킬수 있지 않을까?