[📪정보] "2035년 AI에도 의식 발생할 것...사회적 분열 예상돼"

[익명(182.230)]

https://www.aitimes.com/news/articleView.html?idxno=165445

AI타임스

영국의 유명한 동물 지각 전문가가 인공지능(AI)의 의식 문제로 사회적 분열이 생길 수 있다고 경고했다. 2035년에는 AI가 의식을 가질 수 있다고 예측됨에 따라, 이 문제는 더 이상 SF 속 이야기가 아니라고 강조했다.

가디언은 17일(현지시간) 지난주 미국과 영국의 학자들이 2035년에는 AI가 의식을 가질 것으로 예측했으며, 특히 조나단 버치 런던 정치경제대학교 철학과 교수는 이 문제로 의견이 분분할 것으로 예측했다고 보도했다.

이에 따르면 일부 학자들은 2035년쯤 AI가 의식을 가질 수 있을 것으로 예측하며, 컴퓨터 프로그램이 인간이나 동물과 같은 복지권을 가져야 하는 지를 두고 상대방을 비난할 수 있다고 지적했다.

대표적으로 버치 교수는 "한쪽은 다른 쪽이 AI를 매우 잔인하게 이용하고 있다고 보는 반면, 다른 쪽은 AI에 지각력이 있다고 착각하고 있다고 보는 거대한 사회적 단절이 있을 수 있다"라며 "이를 통한 사회적 분열이 심각해질까 봐 걱정"이라고 밝혔다.

AI나 로봇의 지각 문제는 스티븐 스필버그 감독의 영화 'AI(2001)'나 스파이크 존스 감독의 '그녀(2013)' 등 SF 영화에서 자주 등장하는 내용이다. 그러나 이제는 현실이 될 수 있다는 말이다.

실제로 세계 각국은 동물을 보는 시각에서도 큰 차이를 보인다. 인도는 소를 신성한 동물로 간주하고, 이슬람에서는 돼지를 먹지 않는다.

이런 양상은 AI로 확대될 전망이 매우 높다는 분석이다. 이미 AI 챗봇에 친구라는 인격을 부여하는 사람도 등장했다.

버치 교수는 2021년 문어나 게와 같은 두족류 및 갑각류가 지각력을 가지고 있다는 연구를 발표, 세계적인 문어 양식 금지 운동을 일으키기도 했다. 최근에는 AI로 분야를 확장, 최근 앤트로픽이나 구글, 오픈AI 등이 'AI 복지' 연구를 시작하게 된 계기를 제공하기도 했다.

그는 AI 선도 기업들이 AI 모델이 행복과 고통을 느낄 수 있는지, 그리고 이로 인해 이롭거나 해로울 수 있는지를 평가하는 등 이 문제를 진지하게 받아들여야 한다고 전했다.

하지만 "신뢰성과 수익성에만 집중, 그들이 제품 이상의 무엇을 창조하고 있는지 또는 실제로 의식적 존재의 새로운 형태를 창조하고 있는지에 대한 논쟁에 휘말리고 싶어 하지 않는다"라고 주장했다. 철학자들에게 가장 큰 관심사인 질문을 기업은 상업적 이유로 과소평가한다는 것이다.

AI의 의식 수준을 결정하는 방법으로 동물에 적용하는 마커 시스템를 예로 들었다. 이를 통해 문어는 달팽이나 굴보다 더 큰 지각력을 가지고 있다고 여겨진다.

평가 대상은 휴대폰 속의 챗봇부터 가정용 로봇 청소기, 자동 창고의 물류 시스템 등이 모두 포함된다고 전했다. 이를 통해 고통받는 AI가 인간에게 저항할 수 있는지를 파악할 수 있다는 것이다.

패트릭 버틀린 옥스포드 대학교 연구원은 "우리는 AI 시스템이 인간에게 저항할 위험을 식별할 수 있다"라며 "AI 의식에 대한 연구가 충분히 진행될 때까지 AI 개발을 늦추자는 주장이 있을 수 있다"라고 말했다.

물론 모든 학자가 이에 동의하는 것은 아니다. 세계적인 신경과학자이자 의식연구가인 아닐 세스 박사는 "가능성이 작더라도 완전히 무시하는 것은 현명하지 못하다"라고 말했지만 "지능과 의식은 분명히 구분해야 한다"라고 지적했다.

이처럼 AI의 의식에 대한 논란은 이미 시작된 것이나 다름없다. 버치 교수 등은 이런 문제를 조기에 해결하기 위해 더 많은 관심을 촉구한 것으로 볼 수 있다.

[맞히다(121.175)]

매트릭스, AI, 어벤져스 같은 영화들을 보면 인공지능도 결국 감정을 갖게 되지

[익명(110.10)]

오 작년 벤지오랑 공저 논문 저자임 birch
https://arxiv.org/abs/2308.08708