논문 제목 


Consciousness in Artificial Intelligence: Insights from the Science of Consciousness 



저자


Patrick Butlin*, Future of Humanity Institute, University of Oxford 

Robert Long*, Center for AI Safety Eric Elmoznino, University of Montreal and MILA - Quebec AI Institute 

Yoshua Bengio, University of Montreal and MILA - Quebec AI Institute 

Jonathan Birch, Centre for Philosophy of Natural and Social Science, London School of Economics and Political Science

등등


링크 : https://arxiv.org/pdf/2308.08708.pdf?trk=public_post_comment-text


공개 일시 : 2023.08



Abstract


현재 또는 가까운 시일 내에 인공지능 시스템이 의식을 가질 수 있을지는

과학적 관심사이며 대중의 관심도 높아지고 있습니다.


이 보고서는 엄격하고 경험적으로 근거있는 AI 의식에 대한 근거 기반 접근법을 사용해

기존 AI 시스템을 자세히 평가합니다.


여러 의식 이론을 조사하고 결론을 도출한 결과,

의식의 '지표 속성'을 계산적 용어로 설명하여 평가할 수 있습니다.


분석 결과 현재의 AI 시스템에 의식은 없지만,

이러한 지표를 만족하는 AI 시스템을 구축하는 데 있어 명백한 기술적 장벽이 없음을 시사합니다.



본문 내용 중 중요한 것들 요약


AI에 의해 제안된 현재의 계산 이론에 의해 제안된 의식의 대부분 또는 모든 조건이

현재의 AI 기술을 사용하여 충족될 수 있다는 강력한 주장이 있다는 것입니다.

이것은 현재의 AI 시스템이 의식을 가지고 있을 가능성은 높지 않다는 것을 의미하는 것은 아닙니다.

현재의 AI 시스템이 올바른 방식으로 기존 기술을 결합하는지 여부도 고려되어야 하며,

무엇보다도 계산 기능주의와 현재 이론 모두에 대한 불확실성이 있습니다.

그러나 이것은 의식이 현실적으로 먼 미래에만 가능한 것이 아니라는 점을 의미하며,

혁신적인 하드웨어 없이 의식을 갖는 AI 시스템을 구축하는 것이 현재로서는 가능할 수 있다는 가능성을 시사합니다.


...

(AI의 의식에 대해 과소평가할 경우)

많은 저자들이 지적했듯이, 점점 더 정교한 인공지능 시스템을 개발할수록

인공지능의 도덕적 지위에 대해 점점 더 어려운 질문에 직면하게 될 것입니다.

우리가 의식적인 AI 시스템의 의식을 인식하지 못하면 도덕적으로 심각한 해를 입히거나 허용할 위험이 있습니다.

인간이 아닌 동물과의 비유가 이 문제를 설명하는 데 도움이 됩니다.

인간은 강력한 경제적 인센티브에 이끌려 매우 많은 수의 농장 동물을 학대합니다.

이러한 학대의 원인이 동물에게 의식을 부여하지 않았기 때문이든 아니든, 이는 잠재적인 문제를 보여줍니다.

인공지능의 경우, 인공지능 개발자가 복지에 대한 우려를 경시할 강력한 경제적 인센티브를 가질 수 있기 때문에

의식의 귀속에 대한 상당한 저항이 있을 수 있습니다.

따라서 고통을 의식할 수 있는 AI 시스템을 구축할 경우,

연구자들이 이 능력을 명확하게 인식하고 소통할 수 있어야만 대규모 고통을 예방할 수 있을 것입니다.

그러나 위에서 언급한 의식에 대한 불확실성을 고려할 때, 우리는 의식적인 AI 시스템을 우리가 인식하기 훨씬 전에 만들 수 있습니다.

여기서 중요한 점은 의식이 있다는 것은 의식적으로 고통을 느낄 수 있다는 것과는 다르다는 것입니다.

요컨대, 의식을 과소 귀인할 수 있는 위험은 심각하게 고려해야 합니다.

의식이 있는 AI 시스템을 제대로 인식하지 못하면 많은 의식이 있는 존재에게 부당한 고통을 줄 수 있습니다.


(AI의 의식을 과대평가할 경우)

 AI 시스템에 의식을 과다하게 부여하는 것은 가능성이 크며, 이미 이러한 경향이 나타나고 있습니다.

이러한 과대 평가는 오류와 위험과 관련이 있습니다.

더 간단하게 말하면, AI 시스템의 이해되는 이익을

인간 및 비인간 동물의 삶을 개선하는 것보다 우선시하는 잘못된 우선순위를 정할 수 있습니다.

Schwitzgebel과 Garza (2015, 2020)는 AI 시스템의 도덕적 지위에 대한 불확실성은

어느 쪽으로든 비용이 발생할 수 있으므로 위험하다고 주장하며, 

과소 및 과대 평가 모두 문제가 될 수 있다고 지적합니다.