a와 b로 이진분류하는 문제에서 은닉층은 실제 분류대상이 위치한 평탄한 공간을 나타냄. 즉 a라는 분류에 대한 가장 표준적인 전형이 은닉층노드들의 어떤 상태집합에 대응됨. 이를 key라고하자.

입력에서 은닉층으로 가는건 데이터표현이 어떤의미로 해석되는지를나타냄. 모든 가중치는 1이며 은닉층노드개수를 많이 사용함으로써 큰가중치를 표현함. 기존모델에서 가중치내적으로 표현된건 각각의 입력층노드에 여러개의 은닉층노드를 연결한 모습으로 대체됨. 은닉층노드 각각은 하나의 입력층노드하고만 연결됨.

출력층으로갈땐 은닉층 각 노드의 값이 key의 각 자리와 xor된 후 그들의 총합이 입력값과 a간의 오차로서 반환됨. 오차는 은닉층공간상에서 분류대상과의 거리(경로길이)와같음.

그러면 분류 a에대한 입력을 랜덤하게추출했을 때 그로부터 계산된 실제 a와의 오차는 정규분포를 그릴거임.

따라서 다음과같은 기준에 맞도록 찾는다면 가장 적절할 것으로 보임

1. 충분한 수의 은닉층(1층이면충분)노드들로 보내는 적절한 가중치 맵핑(모든 가중치의 값은 1이며 단지 어떤 은닉층노드들로 flooding되는지만 나타냄)
2. a로 분류된 것들에 대해 오차가 정규분포가 되도록 만드는 key1
3. b로 분류된 것들에 대해 오차가 정규분포가 되도록 만드는 key2

실제 분류시에는 key1로계산한오차와 key2로계산한오차 중 더 작은곳을 택함.
2,3을 잘 맞췄는데 학습셋에대해 제대로 안나온다면 1에서 잘못한거거나 2,3의 해가 여러개일때 순서쌍을 잘못고른경우.
2,3을 잘 맞췄을때 학습셋에대해 제대로 나온다면, 정말 전체데이터셋에서 각 분류를 랜덤하게 추출한게 맞다면 테스트셋에서 오버피팅은 거의 없을거임

3가지 조건을 동시에 맞추는게 정말어렵겠지만 우연히라도 저 조건이 맞아떨어진다면 아주 좋은 모델이 될 것 같은 느낌임
ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ
생성모델은 은닉층의상태로부터 입력층의상태를 복원가능하게 해야할듯함. 학습시에는 (a의이미지,a의명칭)들을입력으로받는데 이미지는다양하고 명칭은하나로줌.

a라는이미지들을통합하는하나의의미와 a라는명칭에서풍기는하나의의미가 서로의 상태로 상호전이되도록 해야하며, 한번 전이된 후에는 그 상태를 만드는 입력층을 묘사하는 층으로 전이되어야함.
즉 입력층=>은닉층1(1번째인자의의미해석)=>은닉층2(2번째인자의의미연상)=>출력층(연상한의미를부르는입력층상태추측) 으로구성됨.
(참고로 이진분류만하는모델에서는 입력층 은닉층1(의미해석) 출력층(가정한표준의미와의오차추측) 으로구성됨)

이걸로 이진분류를 대신하려면 은닉층2의상태가 각분류의명칭에대응되는의미와 얼마나 적은오차를 갖고있냐로 비교하면 될수도있겠는데, 근데 어떤 대상의 본질적인 의미를 아는거랑 그를 표현하는 문자열이 가지는 의미를 연상가능한거랑은 또 다를거기에 완전히 대신할순없을듯함

일단여기까지하고 계속수정해나갈것임