[📪정보] 신경망이 잊어 버리는 이유와 뇌의 교훈

https://numenta.com/blog/2021/02/04/why-neural-networks-forget-and-lessons-from-the-brain

인간은 어렸을 때 먼저 걷는 법을 배우고 몇 년 후 자전거를 타는 법을 배우고 마지막으로 젊은 성인이되면 자동차 운전을 배웁니다. 각각의 새로운 작업을 수행하는 방법을 배울 때 인간은 이전 작업을 잊지 않습니다. 반면에 인공 신경망은 지속적으로 학습하기 위해 고군분투하고 결과적으로 치명적인 망각 으로 고통받습니다 . 새로운 것을 배우려고 할 때 이전에 학습 한 작업에 대한 거의 모든 정보를 잃는 경향이 있습니다.

이 게시물에서는 신경망이 지속적으로 학습하지 않는 이유에 대한 기술을 설명하고, 두뇌가 과제마다 학습하는 데 성공하는 방법에 대해 간략히 논의하고, 마지막으로 다음의 기본 원칙을 기반으로하는 머신 러닝 커뮤니티의 흥미로운 작업을 강조합니다. 치명적인 망각을 완화하기위한 신경 계산.

신경망에서 치명적인 망각

신경망이 새로운 것을 배운 후에 이전에 배운 작업을 그렇게 쉽게 잊어 버리는 이유는 무엇입니까? 신경망이 수행하는 방법을 학습하는 각 작업에는 다른 작업의 오류에 관계없이 네트워크가 최소화하려는 단일 오류 함수가 있습니다. 더 구체적으로 말하면, 일반적인 신경망에는 매개 변수 인 가중치와 편향 세트가 있습니다. 네트워크가 동작을 변경하거나 작업을 수행하는 방법을 배우려면 매개 변수를 변경해야하며, 이것이 바로 훈련 중에 발생하는 일입니다. 아래 그림은 신경망의 가중치 공간을 보여줍니다. 각 축은 단일 매개 변수의 값에 해당합니다 (설명을 위해 매개 변수가 두 개 뿐이지 만 실제로는 수백만 차원이있을 수 있음을 가정 해보십시오). 어느 시점에서든 일반적인 신경망은 매개 변수 값을 기준으로 가중치 공간의 단일 위치에 있습니다. 그런 다음 학습은 학습중인 과제에서 오류가 적은 곳으로 체중 공간을 이동하는 것과 같습니다.

순서대로 배워야 할 두 가지 작업이 있다고 가정 해 보겠습니다. 서로 다른 종의 새를 구별하고 다양한 손으로 쓴 그리스 문자를 식별하는 것입니다. 무작위로 초기화 된 신경망이 여러 종의 새를 분류하는 방법을 배우면 무게 공간을 통해이 작업의 오류가 낮은 곳으로 이동합니다. 그런 다음 그리스 문자를 배우려고 시도합니다. 이전과 마찬가지로이 새 작업에서 오류가 낮은 곳으로 이동합니다. 네트워크가 다른 손으로 쓴 그리스 문자를 안정적으로 식별 할 수있는 가중치 공간의 위치는 이전에 새 유형을 분류하는 데 성공한 위치와 분리 될 가능성이 높습니다. 특히 가중치 공간은 일반적으로 수백만 차원이기 때문입니다.
아래 다이어그램에서 주황색 원은 가중치 공간의 한 위치에있는 신경망을 나타내며 녹색과 보라색으로 음영 처리 된 영역은 각각 다양한 조류와 그리스 문자를 학습 할 때의 오류가 충분히 작은 부분에 해당합니다.

그래서 무슨 일이 일어 났습니까? 네트워크가 손으로 쓴 그리스 문자를 배우려고 할 때 무게 공간의 어떤 위치가 이전 작업과 관련이 있는지 완전히 무시했기 때문에 다른 종의 새를 구별하는 방법을 잊어 버렸습니다. 참고로 신경망이 각 작업에서 잘 수행되는 두 영역이 겹칠 수 있지만 일반적으로 가중치 공간의 차원 수가 많기 때문에 그렇지 않습니다. 또한 두 영역이 일치하더라도 신경망이 후자의 작업을 분리하여 학습하면 두 번째 작업에만 적합한 장소를 찾을 수 있습니다.
두뇌가 지속적으로 학습하는 방법에 대한 몇 가지 이론

신경 과학자들은 피질에 피라미드 뉴런의 존재에 대해 오랫동안 알고 있었으며 이 뉴런은 현대 신경망에서 사용하는 인공 뉴런과는 상당히 다릅니다. 각 피라미드 뉴런에는 수백 개의 수상 돌기가 있으며 다른 뉴런에서 들어오는 시냅스를 따라 신호를받습니다. 각 수상 돌기의 역할은 뉴런에 대한 서로 다른 입력 패턴을 감지하는 것이며, 특정 패턴이 감지되면 뉴런이 탈분극되어 활성화 될 가능성이 높아집니다. 들어오는 시냅스를 따라 뉴런이 수신 한 입력 신호의 일부만이 해당 뉴런을 활성화 할 수 있으며 수상 돌기는 기본적으로 뉴런에 영향을 미치는 신호를 결정합니다.

또한 수상 돌기에 의해 감지 된 패턴은 매우 드물고 (일반적으로 신경 활성화가 드물기 때문에) 서로 간섭 할 가능성이 적습니다. Thousand Brains 지능 이론에 따르면, 이것은 인간이 치명적인 망각없이 지속적으로 학습 할 수있는 이유를 설명합니다 . 사람이 새로운 경험을 할 때 수상 돌기는 들어오는 시냅스의 하위 집합 만 학습 목적으로 수정되도록합니다 (정확히 희소 활동 패턴을 생성 한 시냅스). 이전 경험의 결과로 설정된 다른 시냅스 연결은 대체로 그대로 유지되므로 덮어 쓰지 않습니다. 이것은 모든 매개 변수가 오류의 역 전파를 통해 업데이트되는 신경망과는 다릅니다.

인공 두뇌와 같은 지속적인 학습을 향하여

지난 몇 년 동안 연구자들은 신경망의 지속적인 학습을 해결하기 위해 뇌에서 영감을 얻었습니다. 상당한 주목을받은 두 가지 방법 인 Elastic Weight Consolidation 및 Intelligent Synapses 는 이전 작업을 수행하는 데 중요하다고 간주되는 항목이 많이 변경되지 않도록 새 작업을 학습 할 때 각 매개 변수가 가중치 공간을 통해 얼마나 자유롭게 이동할 수 있는지를 제한합니다. 이것은 정신적으로 피라미드 뉴런에 들어오는 시냅스가 새로운 경험을 통해 수정되지 않는 것과 비슷합니다. 그러나이 접근 방식의 한 가지 분명한 단점은 신경망의 매개 변수가 새로운 작업을 학습 할 때마다 더 제한되어 나중에 시퀀스에서 작업을 배우기가 더 어려워지기 때문에 더 긴 작업 시퀀스로 잘 확장되지 않는다는 것입니다.

매개 변수 제한 방법과는 달리, 뇌가 수상 돌기를 사용하여 신호를 전송하기 위해 시냅스의 하위 집합 만 사용하는 것처럼 매개 변수의 하위 집합 만 사용하여 각 작업을 수행하는 모델을 만들 수 있습니다. 위의 오류 목표 다이어그램의 맥락에서이 아이디어는 호출되는 매개 변수의 하위 집합에 따라 가중치 공간의 여러 위치에서 활성화되는 단일 모델에 해당합니다 (기술적으로 모델은 여전히 가중치 공간에서 한 위치를 차지하지만 매개 변수의 다른 하위 집합을 호출하면 본질적으로 별개의 부분 공간에서 작동하며 모든 작업에 유익한 방식으로 수행 할 수 있습니다. 이제 연속 학습자가 다양한 작업을 순서대로 학습하려고 할 때 각 개별 작업에 대해 다른 매개 변수 하위 집합이 호출됩니다. 서로 다른 들어오는 시냅스를 따라 수신 된 신호가 피질의 뉴런과 더 관련이있게되는 방법입니다. 이론적으로 이것은 치명적인 망각을 해결합니다.

흥미로운 소식은이 새로운 접근 방식이 이미 머신 러닝 커뮤니티에 나타나기 시작했다는 것입니다. 슈퍼 마스크 의 기본 개념 은 표준 신경망에서 인공 뉴런의 하위 집합을 선택하여 각각의 고유 한 작업을 학습하고 수행하는 것입니다. 이것은 일부 작업에서 매우 잘 작동하며 네트워크의 인공 뉴런 수에서 기하 급수적 인 수의 작업으로 확장되어 Elastic Weight Consolidation에 비해 엄청난 계산 향상입니다.또 다른 관련 아이디어는 각 인공 뉴런이 여러 매개 변수를 갖고 작업에 대한 정보를 기반으로 입력에 적용 할 매개 변수를 선택하는 신경망 인 Gated Linear Network 입니다. 언급했듯이 뇌의 뉴런은 일반 신경망의 뉴런보다 훨씬 정교하며 Gated Linear Networks에서 사용하는 인공 뉴런은 더 자세한 정보를 포착하고 수상 돌기의 역할을 다소 복제합니다. 또한 치명적인 망각에 대한 개선 된 탄력성을 보여줍니다

뇌는 매우 희박하며 연구자들은 희소성을 모델링하고 신경망에서 효율적인 계산을 가능하게하는 막대한 노력을 투자했습니다. 이 게시물에서 우리는 신경망의 연속 학습이 일반적으로 실패하는 이유와 희소성 테마가 생물학적 및 인공 시스템 모두에서 치명적인 망각을 극복하는 데 필수적인 역할을하는 방법을 탐구했습니다. 비극적 인 망각이없는 지속적인 학습으로가는 길은 일종의 희소성에 의존 할 것입니다.

thousand brains theory점이 온다

[📪정보] 신경망이 잊어 버리는 이유와 뇌의 교훈

댓글 4

다른 게시글