https://arxiv.org/abs/2203.02481
RL 인공지능이 흥미롭고 유용한 기술을 배울 수 있는 환경의 분포를 설계하는 것은 정말로 어렵다고 하네.
그리고 이게 다중 인공지능으로 가면 그 환경 자체를 더욱 악화시킬 수 있다고 하네.
여기서 한가지 접근방식이 있는데 바로 학습 인공지능과 교사 인공지능을 같이 두는 거래. 즉 교사 인공지능은 학생 인공지능에게 더욱 쉽게 배울 수 있게 도와주는 역할을 하는 인공지능이라고 하네. 여기서 이 교사 인공지능을 훈련시키는 것이 그 설계를 할 수 있는 방법이라고 하더라.
그런데 여기서 또 문제는 이런 교사 인공지능의 보상은 다중 인공지능으로 일반화가 되지 않는다고 하네.
따라서 이 과학자들은 다중 인공지능에 적용할 수 있는 교사 인공지능의 보상을 조사하고 그것을 평가할 수 있게 했데.
그렇게 한 결과 가치 불일치가 일반적으로 나왔다고 하더라.
따라서 이 과학자들은 가치 불일치가 이런 흥미롭고 유용한 기술을 배울 수 있는 환경 설계를 자동화하기 위한 좋은 접근 방식이라는 것을 알아냈다고 하네!
이 과학자들이 이 문제를 해결하면서 분명 인공지능은 더 여러가지 분야들을 손쉽게 학습할 것 같다. 거기다가 교사 인공지능이 학생 인공지능의 학습에 영향을 끼치니 슬슬 인공지능이 인공지능을 발전할 수 있는 토대가 마련된 것 같네ㅎㅎ
agi는 온다..
RL 인공지능이 흥미롭고 유용한 기술을 배울 수 있는 환경의 분포를 설계하는 것은 정말로 어렵다고 하네.
그리고 이게 다중 인공지능으로 가면 그 환경 자체를 더욱 악화시킬 수 있다고 하네.
여기서 한가지 접근방식이 있는데 바로 학습 인공지능과 교사 인공지능을 같이 두는 거래. 즉 교사 인공지능은 학생 인공지능에게 더욱 쉽게 배울 수 있게 도와주는 역할을 하는 인공지능이라고 하네. 여기서 이 교사 인공지능을 훈련시키는 것이 그 설계를 할 수 있는 방법이라고 하더라.
그런데 여기서 또 문제는 이런 교사 인공지능의 보상은 다중 인공지능으로 일반화가 되지 않는다고 하네.
따라서 이 과학자들은 다중 인공지능에 적용할 수 있는 교사 인공지능의 보상을 조사하고 그것을 평가할 수 있게 했데.
그렇게 한 결과 가치 불일치가 일반적으로 나왔다고 하더라.
따라서 이 과학자들은 가치 불일치가 이런 흥미롭고 유용한 기술을 배울 수 있는 환경 설계를 자동화하기 위한 좋은 접근 방식이라는 것을 알아냈다고 하네!
이 과학자들이 이 문제를 해결하면서 분명 인공지능은 더 여러가지 분야들을 손쉽게 학습할 것 같다. 거기다가 교사 인공지능이 학생 인공지능의 학습에 영향을 끼치니 슬슬 인공지능이 인공지능을 발전할 수 있는 토대가 마련된 것 같네ㅎㅎ
agi는 온다..
댓글 0