신경망이 출력을 내면 그 출력신호를 내기 바로 전단계에서 신호들이 모여서 역치를 넘으면 발화하는데 이 모인 신호들의 크기값을 비교해서 큰 크기의 신호를 가진것을 출력에 기여한 정도가 크다고 보고 다시 그 신호의 근원에서 다시 어느 큰 신호가 개입됬나를 보고 이러면 안되냐 - dc official App
모델이 커질수록 그게 안된대
그거는 GPT3.5 터보같이 불필요한 매개변수를 경량화 시키는 과정에서 이용되는 방식임. 인공지능 출력을 모르는건 도출 과정에 대한 내용을 모르는거
추론하는 과정 자체가 엄청나게 복잡함
그걸 본들 해석이 안됨 - dc App