https://arxiv.org/abs/2203.01928

보통 딥러닝같은 인공지능들은 블랙박스라고 해.

즉 인공지능 속에서 도대체 무슨 일이 일어나고 있는지 모른다는 거야.

이 문제는 많은 인공지능 연구자들이 중요하게 생각하는 문제인 것 같아. 안에서 무슨 일이 일어나는지 모른다는 것은 인공지능에 대해 이해하는 것이 전혀 없다는 말과 똑같으니까.

따라서 이걸 해결하기 위해서 어떤 인공지능 안에서 결과가 나온다면 레이블로 그 결과의 구성 요소들을 잘 선택을 해야한다고 하더라.

그런데 이걸 잘 선택하는 문제는 아직까지도 해결되지 않는 문제라고 하네.

따라서 이 과학자들은 이것을 해결하기 위해서 두 가지 중요한 확장을 제시한다고 한다.

이 확장이 지닌 효과를 보면 꽤 대단한데

"우리는 우리의 확장이 기존의 많은 기능과 예제 중요도 메소드에 대한 간단한 래퍼로 성공적으로 구현될 수 있음을 보여줍니다. 별도의 감독되지 않은 작업에 대해 훈련된 다양한 자동 인코더가 학습한 표현 공간의 질적 및 양적 비교를 통해 레이블이 없는 설명 가능성 패러다임의 유용성을 설명합니다."

라고 하더라.


점점 이 문제도 해결될 기미가 보이기 시작한 것 같네. 만약 우리가 딥러닝이나 머신 러닝의 안쪽에서 일어나는 일을 모두 이해한다면 무슨 일이 일어날까? 어쩌면 agi의 이론적 기반을 다질 수 있을 것 같다..