[📪정보] [프리드먼] 얀르쿤

[Informa..(59.6)]

출처 : https://cafe.naver.com/futuresci

https://youtu.be/SGzMElJ11Cc

자기지도학습

현재의 지도학습과 강화학습은 너무 비효율적

사람은 배경 지식을 이용해 빠르게 배울 수 있음 AI는 시뮬레이션상에서 수백만 시간을 쏟아도 자동차 운전을 못함

사람은 아기 때부터 세계를 관찰하며 세계가 작동하는 방식과 상식을 배우게 됨 이를 기계로 재현하려는 시도가 자기지도학습

기계에게 영상을 보여주고 다음 영상을 예측하게 하는 식으로 할 수 있음

이런 식으로 비어있는 정보를 채워넣게 하는 방식이 최선이라고 생각

언어에선 잘 통했는데 이미지나 비디오에선 아직 진전이 필요함

언어 vs 시각

언어와 시각을 같은 케이크로 만들어줄 방법을 찾고 있지만 아직 같지 않음 (전에 지능을 케이크로 비유한 적 있습니다)

예측하는 방식의 문제는 세계가 완벽히 예측가능하지 않다는 것

이 불확실성을 어떻게 표현할지, 다양한 결과를 어떻게 나타낼지 등의 문제가 있음

언어라면 그나마 결과가 정해져 있는데 영상은 가짓수도 너무 많고 해서 어려움

통계

AI는 지능이 아니라 통계일 뿐이다 이런 논쟁은 무의미하다 생각

지능은 단지 특정한 종류의 통계일수도 있음

계산신경과학에는 자기지도학습과 연관된 예측 부호화라는 아이디어를 좋아하는 학파가 있음

지능의 본질은 예측이고 뇌가 하는 일은 모든 것에서 모든 것을 예측한다는 것

기계학습의 3가지 과제

지금의 기계학습은 고양이 수준의 세계 모델 구축이나 인과관계 파악도 못함

기계학습의 3가지 과제는 세계를 표현하는 법을 배우는 것, 경사하강법과 양립 가능한 방법으로 사고하는 것, 행동 계획의 계층적 표현을 배우는 것 마지막은 해결책을 전혀 모름

다음 10년간의 과제는 어떻게 기계가 세계의 예측 모델을 배우고 실제 세계의 복잡성과 불확실성을 대처해야 하는지가 될 것

동물과 지능

고양이가 가지는 지적 능력들은 뉴런 8억개 안에 다 들어가 있음 대부분 자기지도학습으로 지식들을 배운다고 생각

기계는 사회적이지 못해서 지능을 가지지 못한다는 건 틀린 말 오랑우탄과 문어는 혼자 다니지만 지능적임

사람들은 지능에서 언어의 중요성을 과대평가함

멀티모달 학습

단기적으론 흥미롭지만 중요한 문제를 다룬다고 생각하진 않음

다중 과제 학습, 연속 학습, 능동 학습 등도, 심지어 어느 정도 강화학습도 단기적으론 실용적이지만 근본적이진 않음

자기지도 표현 학습이나 예측적 세계 모델을 갖추게 되면 구식이 되거나 쓸모없어질 것

물론 빠르게 엔지니어링을 수행해야 하면 그런 단기적으로 실용적인 것들이 필요함

역사를 보면 딥러닝이 발전하기 전엔 많은 기술들이 난립했었고 현재는 딥러닝으로 통일됐음 같은 전철을 밟을 것

기계가 세계의 인과관계 모델을 구축하려면 관찰도 하지만 직접 세계에 뛰어드는 것도 필요

호기심을 가지면 과정을 빠르게 하는데 도움이 되겠지만 없다고 못하는건 아님

의식

난 의식이 뭔지 모름

의식에 대한 의문은 17, 18세기 사람들이 눈의 구조상으론 상이 거꾸로 맺히는데 왜 우리가 똑바로 보는지 의문을 가졌던 걸 생각나게 함 지금은 다소 황당하게 느껴질 수 있는 의문이었음

전전두엽 피질이 세계 모델의 엔진

우리는 하나의 세계 모델 엔진을 갖고 있어서 어떤 상황에 집중하면 다른 것은 신경 못씀 

그래서 상황에 따라 세계 모델을 조정하고 일이 익숙해지면 잠재 의식적으로 함

의식은 일종의 감독관으로 이런 세계 모델을 설정하는 모듈이 아닐까 함

그렇다면 의식은 마음의 힘에서 나오는 것이 아니라 두뇌의 한계에서 나오는 것

상황별로 다른 수많은 세계 모델을 갖췄다면 이런 설정도 의식도 필요없을 것

인공 지능

AI가 인간이 가졌던 능력을 가지게 되어 인간 본질에 대해 탐구할 수 있게 되는 일이 생긴다면 기쁠 것

그래서 인간의 위상이 떨어진다 하여도 개의치 않음

어느 정도의 세계 모델, 인지 기관, 행동에 동기를 부여할 목적 함수 등을 갖춘 자율적 지능 시스템이 있다고 친다면 감정을 가질 것

감정이 자율적인 지능에 필수적이라 생각

나쁜 결과를 예측하면 공포를 느끼고 좋은 결과를 예측하면 기쁨을 느낌 사람과 엮인다면 애착을 가질 수 있음

SF 영화 속 로봇이 감정 칩이 있어서 그걸 껐다 켰다 하는건 웃기는 설정

로봇의 권리에 대해선 사람과 다를 것

로봇은 언제나 백업을 가질 수 있기 때문

중국어 방은 말이 안됨

어떤 메카니즘을 따르는 것은 지능이 아니라는 중국어 방 논지에 동의하지 않음

지능은 생물학적 하드웨어 외의 하드웨어에서도 구현될 수 있음

기계는 언젠간 모든 영역에서 인간보다 지능적일 것

생각보다 달성하기 굉장히 어려운 목표라 시간이 꽤나 걸릴 것임

[익명(118.39)]

르쿤도 개추