https://www.nature.com/articles/s43588-021-00132-w


DARPAμ—μ„œ XAIλΌλŠ”, λ‚΄λΆ€μ—μ„œ μ–΄λ–»κ²Œ 정보가 μ²˜λ¦¬λ˜λŠ”μ§€ μ•Œ 수 있고

μ™œ 인곡지λŠ₯이 λ¬Έμ œμ— λŒ€ν•΄ 어떀닡변을 λ‚΄λ†¨λŠ”μ§€ μ•Œμ•„λ‚Ό 수 μžˆλŠ” 인곡지λŠ₯을 연ꡬ μ€‘μ΄μ—ˆμŒ


μ΄λŠ” μ§€κΈˆκΉŒμ§€μ˜ 인곡지λŠ₯이 μ™œ 뭘 ν–ˆλŠ”μ§€ μ•Œ μˆ˜κ°€ μ—†μ–΄μ„œ λ¬΄μž‘μ • μ‹ λ’°ν•˜κΈ°κ°€ μ–΄λ ΅λ‹€λŠ” 약점을 ν•΄κ²°ν•΄

μ˜ν•™μš©, μ •λΆ€μš©, μ •λ³΄κΈ°κ΄€μš©, κ΅°μ‚¬μš© 인곡지λŠ₯을 보닀 μ‹ λ’°μ„±μžˆκ²Œ λ§Œλ“€κΈ° μœ„ν•¨μ΄μ—ˆμŒ


그런데 μ΄λ²ˆμ— 해결됨

이제 인곡지λŠ₯이 μ™œ μ–΄λ–€ νŒλ‹¨μ„ λ‚΄λ ΈλŠ”μ§€ μ „λΆ€ μ•Œ 수 있게 됨



Explainable neural networks that simulate reasoning

The success of deep neural networks suggests that cognition may emerge from indecipherable patterns of distributed neural activity. Yet these networks are pattern-matching black boxes that cannot simulate higher cognitive functions and lack numerous neurobiological features. Accordingly, they are currently insufficient computational models for understanding neural information processing. Here, we show how neural circuits can directly encode cognitive processes via simple neurobiological principles. To illustrate, we implemented this model in a non-gradient-based machine learning algorithm to train deep neural networks called essence neural networks (ENNs). Neural information processing in ENNs is intrinsically explainable, even on benchmark computer vision tasks. ENNs can also simulate higher cognitive functions such as deliberation, symbolic reasoning and out-of-distribution generalization. ENNs display network properties associated with the brain, such as modularity, distributed and localist firing, and adversarial robustness. ENNs establish a broad computational framework to decipher the neural basis of cognition and pursue artificial general intelligence.


μ—μ„ΌμŠ€ λ‰΄λŸ΄ λ„€νŠΈμ›Œν¬(ENN)λΌλŠ” μƒˆ μ•Œκ³ λ¦¬μ¦˜μ΄ λ‚˜μ™”λŠ”λ° 이건 ꡬ쑰적으둜 근본적으둜 λ‚΄λΆ€κ°€ μ–΄μ°Œ λŒμ•„κ°€λŠ”μ§€ μ„€λͺ…κ°€λŠ₯ν–ˆκ³ ,

컴퓨터 μ‹œκ°μ μœΌλ‘œ 자료 μ•Œμ•„λ³΄λŠ” λ²€μΉ˜λ§ˆν¬λ„ ν…ŒμŠ€νŠΈ ν•΄λ΄€λ”λ‹ˆ μ „λΆ€ μ™œ 무언가λ₯Ό μ–΄λ–»κ²Œ μ•Œμ•„λ΄€λŠ”μ§€ μ„€λͺ… κ°€λŠ₯함


λ˜ν•œ κΈ°μ‘΄ 인곡지λŠ₯은 κ·Έλƒ₯ ν›ˆλ ¨λœ λŒ€λ‘œ λ‚΄λ±‰λŠ” 것밖에 μ•ˆλ˜μ—ˆλŠ”λ° μ–˜λŠ” μ‹¬μ‚¬μˆ™κ³ ν•˜λŠ” 것과 μœ μ‚¬ν•œ λͺ¨μŠ΅λ„ λ³΄μ—¬μ£Όμ—ˆκ³ 

상징을 μ΄μš©ν•΄μ„œ 사고 ν•  μˆ˜λ„ 있으며, ν›ˆλ ¨ 받은 λ°μ΄ν„°λ‘œλΆ€ν„° 크게 λ²—μ–΄λ‚˜λŠ” λ¬Έμ œλ„ κΈ°μ‘΄ ν•™μŠ΅ 데이터 κΈ°λ°˜ν•˜μ—¬ μΌλ°˜ν™”ν•΄μ„œ ν’€ 수 μžˆμ—ˆμŒ


λ˜ν•œ ENN은 λ‡Œμ˜ μ‹ ν”Όμ§ˆμ²˜λŸΌ λͺ¨λ“ˆμ„±μ„ λ³΄μ˜€κ³ , λΆ„μ‚°λ˜μ–΄μžˆμœΌλ©° λ˜ν•œ ꡭ지적이기도 ν•œ λ°œν™” νŒ¨ν„΄λ„ λ³΄μ˜€μœΌλ©°, μ λŒ€μ  μ•ˆμ •μ„±λ„ λ³΄μž„


그리고 μΈκ°„μ˜ λ‡Œμ— μ—­μ „νŒŒ μ•Œκ³ λ¦¬μ¦˜μ΄ μžˆλ‹€ μ—†λ‹€ 말이 λ§Žμ•˜λŠ”λ° μ–˜λŠ” κΈ°μ‘΄ AIλ“€κ³ΌλŠ” 달리 μ—­μ „νŒŒλ₯Ό μ•ˆμ¨μ„œ 인간 λ‡Œμ— 보닀 가깝닀고 μ£Όμž₯λ˜κΈ°λ„ 함


ENN은 인지에 λŒ€ν•œ λ‡Œμ˜ κΈ°λ°˜μ„ ν•΄λ…ν•˜λŠ” 데에 λŒ€ν•œ 컴퓨터곡학적 ν”„λ ˆμž„μ›Œν¬κ°€ 될 것이며 AGI에 큰 도움이 될 거라고 함





https://venturebeat.com/2021/12/10/how-neural-networks-simulate-symbolic-reasoning/


이 인곡지λŠ₯이 ν•  수 μžˆλŠ” 일 5κ°€μ§€


1.인지과학 = 인간 인지에 λŒ€ν•œ 이해λ₯Ό ν™•μž₯μ‹œν‚¬ 수 있음

2.μ•Œκ³ λ¦¬μ¦˜ 개발 = ENN은 CODEX처럼 μ—¬λŸ¬κ°€μ§€ 정보λ₯Ό λ³Έ ν›„ μ•Œκ³ λ¦¬μ¦˜μ„ λ§Œλ“€μ–΄λ‚΄ ν”„λ‘œκ·Έλž¨μ„ λ§Œλ“€ 수 μžˆμ—ˆμŒ

3.μ€‘μš” μž‘μ—… = λ‚΄λΆ€ ꡬ쑰가 μ„€λͺ…될 수 있고 μ™œ λ­”κ°€λ₯Ό ν–ˆλŠ”μ§€ 사후에 μ•Œμ•„λ‚΄ κ°œμ„ ν•  수 μžˆμœΌλ―€λ‘œ μ€‘μš”ν•œ μž‘μ—…μ— μ‚¬μš© κ°€λŠ₯

4.약점이 적음 = κΈ°μ‘΄ 인곡지λŠ₯은 1ν”½μ…€μ§œλ¦¬ 점 ν•˜λ‚˜λ§Œ 찍어도 μ‹¬κ°ν•œ μ—λŸ¬κ°€ λ‚˜μ™”λŠ”λ° 이건 그런 일이 적음

5.μ œν•œλœ μ •λ³΄λ‘œ ν•™μŠ΅ = κΈ°μ‘΄ 정보가 적어도 μΌλ°˜ν™”λ₯Ό μž˜ν•΄μ„œ 정보가 적어도 됨



ENN 개발의 기반이 된 방식은 λ‡Œμ— λŒ€ν•œ ν•˜λ‚˜μ˜ κ°€μ„€μ—μ„œ μΆœλ°œν•¨

그건 λ°”λ‘œ κ°œλ³„ λ‰΄λŸ°λ“€μ΄ 'ν•˜λ‚˜μ˜ 컨셉을 ν™•κ³ νžˆ' ν•˜κ±°λ‚˜, '두가지 컨셉을 ꡬ별' ν•œλ‹€λŠ” κ°€μ„€μž„


예λ₯Ό λ“€μ–΄ A와 Aμ•„λ‹˜μ„ κ΅¬λ³„ν•˜λŠ” λ‰΄λŸ°μ΄ 있고 A λΉ„μŠ·ν•¨κ³Ό B λΉ„μŠ·ν•¨μ„ κ΅¬λ³„ν•˜λŠ” λ‰΄λŸ°μ΄ μžˆλ‹€λŠ” κ±°μž„

이런 λ‰΄λŸ°λ“€μ„ μ μ ˆν•œ ꡬ쑰둜 ν•©μ³λ„£μž λ³΅μž‘ν•œ 결정도 내릴 수 μžˆλŠ” ENN이 됨


ENN은 μ² ν•™μžλ“€μ΄ 우리의 μ΄μ„±μ˜ μž‘μš©μ„ λ¬˜μ‚¬ν•˜λŠ” 것과 μ •ν™•νžˆ 같은 λ°©μ‹μœΌλ‘œ μž‘μš©ν•œλ‹€κ³  함





2029 μ˜¨λ‹€!!!!!!!!!!!!!!!!!!!!!!!