[📪정보] [번역] 오픈AI 최고 과학자, '인공지능은 이미 의식이 있을 수 있다'

[익명(175.202)]

원본 링크:
OpenAI Chief Scientist Says Advanced AI May Already Be Conscious (futurism.com)

오픈AI 최고 과학자가 '인공지능은 이미 의식이 있을 수 있다' 말했습니다.

"최신 거대 신경망은 약간 의식이 있을 수도 있습니다"

이 말을 한 사람은 일론 머스크, 샘 알트만과 같이 오픈AI의 창립멤버인 '일리야 서츠커버'입니다.

일리야 서츠커버는 어제(2022/02/10) 트위터에 "최신 거대 신경망은 약간 의식이 있을 수도 있습니다"라는 트윗을 했습니다.

이는 매우 특이한 관점입니다. AI 연구원들은 흔히 '10년동안 기술이 크게 발전했지만, 여전히 인간의 지능에 미치지 못한다' 생각하기 때문입니다.

서츠커버는 오랫동안 인간 수준의 인공지능, AGI에 빠져있었는데, 그가 출연한 다큐멘터리 '아이 휴먼 AI'에서는 "AGI가 오늘날의 모든 문제를 해결할 것"이라고 단언함과 더불어 "무한히 안정적인 독재를 만들 수 있다" 경고했습니다.

기존 연구 방향이던 기계의 실존적 자각에 대응하기 위해 오픈AI가 비영리단체로 설립된 만큼, 그 창립자인 서츠커버가 직접 기계 의식에 대해 트윗을 한 점은 이례적입니다.

2019년, 오픈AI가 '가짜뉴스 텍스트 생성기'를 생성함과 동시에 일론머스크는 오픈AI를 떠나며 "오픈AI팀과 원하는 방향이 다르다" 말했습니다.
그리고 불과 한 달 후, 오픈AI는 비영리 모델을 버리고, 제한적 이득 모델을 채택했습니다.

2019년부터 일론머스크는 테슬라봇이 "AGI 개발에서 역할을 할 수 있을 것"이라고 예언함과 더불어 테슬라는 앞으로 AI를 견제하고, 로봇의 분산 제어 시스템을 구축하기 위해 최선을 다할 것이라고 말했습니다.

한편, 오픈AI는 회사의 사명에 따라 "AGI가 모든 인류에게 이익이 되게 할 것이다" 주장하는 동시에 논란의 여지가 있는 AI를 계속 제작했습니다.

관련해서, 오픈 AI가 제작한 언어 인공지능 GPT-3는 어떤 프로그래머가 죽은 약혼자를 챗봇으로 모방하기 위해 쓰거나, 어떤 게이머가 소아성애적 컨텐츠를 만드는데 사용되는 등 계속 기삿거리가 되었습니다.

오픈AI는 이후 GPT-3를 재구성하였으며, 2022년 "MIT 기술 검토 보고서"에 따르면 훨씬 더 나은 방향으로 작동합니다.

슈퍼 울트라 인공지능이 불가피할 수도 있습니다. 어쩌면 흐지부지되거나, 매우 오랜 시간이 걸릴 수도 있습니다.

그러나 이런 상황에서 의식 기계가 등장했다는 저명한 전문가의 트윗은 우리를 헷갈리게 합니다.

[익명(175.202)]

기사 링크:
https://futurism.com/the-byte/openai-already-sentient

[익명(175.202)]

일리야 서츠커버 트위터:
https://twitter.com/ilyasut/status/1491554478243258368?cxt=HHwWgICp7aa5iLMpAAAA

[익명(175.202)]

아이 휴먼 AI 다큐멘터리 관련 레딧:
https://www.reddit.com/r/singularity/comments/kxgg1b/openais_chief_scientist_ilya_sutskever_comments/

[익명(175.202)]

GPT-3을 검토한 MIT 기술 검토 보고서:
https://www.technologyreview.com/2022/01/27/1044398/new-gpt3-openai-chatbot-language-model-ai-toxic-misinformation/

[ㅇㅁㅇ(221.140)]

'약간 의식이 있을 수도 있습니다' 이런 애매모호한 표현 들어간 거는 그냥 거르는 게 나을거 같은데

[익명(175.202)]

ㅇㅇ 번역하고 보니 특갤에 흔해 빠진 주장이긴 함. 그래도 아래 오아이 관련 내용이 흥미로워서 가져와봄

[익명(125.191)]

세계 최고 연구원이 논란 일걸 알면서 올린 트윗임 무게가 다륾

[익명(1.239)]

일리야 트윗 원문에는 약간이라는 말은 없음.

[익명(175.202)]

slightly가 약간 아니냐

[익명(218.52)]

번역 뭘로돌림? 깔끔하내 내가쓰는건 구리던데

[익명(175.202)]

인간지능...

[익명(jjanggaedie)]

[익명(1.239)]

[익명(59.14)]

사람의 의식도 아직 정의하지 못했다고 하는데;;

[익명(caradhina)]

슈퍼 울트라 인공지능이 불가피할 수도 있습니다. 어쩌면 흐지부지되거나, 매우 오랜 시간이 걸릴 수도 있습니다.

[익명(61.98)]

진짜 개쓸데없는 소리