(샘 해리스의 TED강좌 : 우리가 통제권을 잃지 않으면서 인공지능을 만들 수 있을까요?)
(닉 보스트롬의 테드 강좌 : 컴퓨터가 인간보다 똑똑하면 무슨 일이 일어날까?)
안녕 특갤러들아?
주 완몰가님을 섬기는 완몰가신자야 ^오^
지지난번엔 인간 VS 인간 구도를 하고 있는
특이점 디스토피아에 대해 다뤄봤어.
오늘은 특이점 디스토피아 담론 2편
인간 VS 기계(혹은 AI) 디스토피아에 대해 이야기해볼거야.
다 뒈져라 닝겐!!
특갤에서 일어나는 키배 주제는 여러가지야.
그 중에서도
'인간이 AI에게 지배당하는 노예가 될 수 있다!!'
VS
'그게 말이 되냐 ㅂㅅ아'
논쟁은 잊을만하면 불타오르지.
어디까지나 개인적인 느낌이지만
아무래도 이 갤 자체가 레커의 <특이점이 온다> 서적에
그 근본을 두고 있기 때문에
'말이 되냐 ㅂㅅ아'의 의견이 좀 더 힘이 세고
'AI가 인류를 지배할거야!!'
라는 갤러들은
좀 덜떨어진 애들 취급받는다는 인상을 받았음
그렇다면 인간이 AI의 노예가 될 가능성은
정말 희박한 걸까?
AI 위협론을 내세우며
터미네이터, 스카이넷의 실현화를 우려하는 사람들은
정말 모두 빡대가리들일까?
샘 해리스 (철학자, 신경학 박사)
닉 보스트롬 (과학철학자, 현 옥스퍼드대학 교수)
팀 버너스 리 (월드와이드웹 www 창시자)
스티브 워즈니악 (엔지니어, 前 애플 공동창업자)
빌 게이츠 (마이크로소프트 설립자)
스튜어트 러셀 (인공지능 전문가, UC버클리대학 교수)
I.J 굿 (수학자, 50년전에 이미 딥러닝 근간 개념확립, 앨런
튜링의 동료)
엘런 머스크 (테슬라, 뉴럴링크, Xspace 설립자)
스티븐 호킹 (천체물리학자)
지금 나열된 인물들은
《인공지능 위협론》을 주장하는 인물들이야.
그리고 아래는 그들의 어록임
*******
"만약 초인공지능의 관점에서 봤을 때
인류가 개미같은 초라한 존재라면
초인공지능과 인간의 의견이 불합치할 때
인류에게 무슨 일이 일어날 것인가?"
- 샘 해리스 -
"사람보다 똑똑한 머신은
인류를 멸망시킴으로써
인류의 마지막 발명품으로 남을 것이다"
-닉 보스트롬 -
"인간은 로봇의 애완동물이 될 것"
- 스티브 워즈니악-
"현존하는 우리의 가장 큰 위협은 인공지능이다"
-엘런 머스크-
"엘런 머스크의 우려에 깊이 동감한다. 초인공지능을 우려하지 않는 사람들, 이해할 수 없다."
-빌 게이츠-
"인공지능으로 인해 인류는 멸망할 것"
-스티븐 호킹-
*******
...... (숙연)
벌써부터 디스토피아가 코 앞에 와 있는 것만 같은 기분이다.
하지만 완몰가신자가 말하고자 하는건
'디스토피아는 온다!'가 아니라
'월클급 석학들도 이 주제로 싸우고 있다'야.
특히 AI 낙관론자 마크 주크버그와
AI 비관론자 엘런 머스크의 디스전은
웬만한 특갤러 개싸움 저리가라 할 정도로 꿀잼임ㅇㅇ
AI 유토피아 VS AI 디스토피아
둘 중 누가 맞느냐에 대한 이야기를 하기에 앞서
완몰가신자가 당부하고 싶은 것은
'디스토피아 담론'의 의의가 무엇인가에
대해 생각해볼 필요가 있다는 거야.
위의 인물 리스트를 보면
제일 의외인 사람이 엘런머스크지?
??? : 형이 거기서 왜 나와?
엘런 머스크는 전형적인 특이점 셀럽이잖아.
더군다나 인공지능 업계에 일하는 사람들조차
저 리스트에 껴있어.
특이점을 다른 누구보다 열심히 이끌어가고 있는 사람들이
저 리스트에 있다는 건 뭘 의미할까?
이 사람들이 말하고자 하는 건
'인공지능을 개발해선 안 돼!!'
가 아니라
"인공지능의 위험에 충분히 대비해야 돼!!"
가 아닐까?
그 인공지능의 위험에 대비하기 위해 설립된 회사가
엘런 머스크의 <뉴럴링크>이고
뉴럴링크의 제품 공정에 인공지능이 쓰이고 있는건
참으로 아이러니한 일이야.
우리는 모두 특이점이 오길 바라는 특갤러들이야.
모두 특이점이라는 같은 꿈을 꾸고 있는 한
강인공지능의 도래를 바라는 건 매한가지임.
즉, 특슬람이 주장하는 초지능 디스토피아는
'강인공지능 만들지 말자!!!' 가 아니라
강인공지능을 안전하게 만들기 위한 논의라고 봐야 돼
꼭 그 일이 일어나지 않더라도
어떤 일에 대비하기 위해선
그 일이 실제로 일어날 거란 걸 가정하고 대비책을 생각하는게
기본이라는 거임
ㅇㅋ?
아 또또 서론 드럽게 기네~
슬슬 본론으로 가보자!!!
그렇다면 도대체 왜 우리 강인공찡이
그렇게 위험하다고들 난리인걸까?
AI 위협론을 주장하는 이들의 논리는 무엇일까?
1) 우리보다 똑똑한 놈들을 통제하는게 가능한가?
특이점의 정의에 대해서 여러가지 비유들이
<특이점이 온다> 저서에서 설명되고 있는데
그 중 대표적인 것이 동물에 대한 비유야.
강아지가 전기의 원리를 이해하진 못하지만
전기로 인해 작동하는 난방기로부터 혜택을 받듯이
특이점이 도래한 이후에는
가장 똑똑한 인간조차
자신들이 누리는 과학기술의 원리를 이해 못하는 경지가
기술적 특이점의 경지야.
이러한 개념의 기저에는
기술이 기술을 만들어서 폭발적으로 기술이 증가한다는
'가속수확의 법칙'이 기본으로 깔려있고
인간이 스스로보다 더 똑똑한 인공지능을 만들면
인공지능은 자신보다 더 똑똑한 인공지능을 만들게 되어
결국 인공지능의 지능이 폭발적으로 증가할 거라는
'지능폭발' 이론이 전제로 깔려 있어.
그런데 '지능폭발'이론을 창안한 사람이 누구게?
AI 위협론자 중 한 명인 I . J. 굿이야... ㅅㅂ
우리가 이해조차 못하는 마법같은 과학기술을 누린다는게
낭만적으로 들리겠지만
이건 어떻게 보면 진짜 섬뜩한 얘기임...
어떤 대상을 '통제'한다는 건
최소한 그 대상이 뭔짓을 하고 있는지 정도는
알고 있을 때나 성립하는 거야.
좀 와닿게 예시를 들어볼까?
누구나 급식 시절에
집에서 엄마한테 공부한다고 구라치고
집에서 몰컴해본 경험이 한 번쯤 있을 거야.
우리 한 번 그 때 그 시절을 떠올려보자고.
니가 방에서 구몬 학습지를 푸는척하다가
슬쩍 눈치를 보고 게임을 하고 있었는데
갑자기 엄마가 '과일 먹어라~~' 하며
덜컥 문을 열고 들어오는 거야(....)
그럼 무슨 일이 벌어질까?
갑분싸-
"어머!!! 얘가!!! 공부하는 줄 알았더니 뭐하는 짓이얏!!!
엄마 속터져 듸-지는거 보고 싶어어어얶!!!(사자후)"
비록 몰컴을 하던 우리들에겐 새드엔딩이지만
엄마 입장이선 그나마 다행(?)인 거야.
아들이 딴 짓 하는 것을 발견하자마자
'통제'에 들어갔거든 ㅇㅇ
그런데...
이 이야기를 좀 비틀어보자구
엄마가 과일 먹어라 하고 들어오는 것까진 똑같애.
근데 니가 토렌트로 서양 야동을 받고 있었고
엄마는 컴맹에 영어도 잘 못한다고 가정하자.
그럼 어떤 일이 벌어질까?
엄마 : 어머, 얘 지금 뭐하니!!! 공부 안 해?
??? : 아 엄마 무슨 소리야~
오늘 학교에서 내준 영어 숙제 다운받고 있었다구!!!
엄마 : 그... 그래? 우리 아들 미안해~ 너무 무리하지 말고 하렴
??? : 개꿀띠~ ^오^
천하의 불효막심한 새끼!! (내 경험담 아님 ㅡㅡ)
근데 강인공지능이
이런 불효자새끼가 아닐 거란 보장이 있을까?
앞서 말했듯이
뭔가를 통제한다는 건
최소한 그 새끼가 뭘 하고 있는지 정도는 알아야 됨
첫번째 이야기의 엄마는
아들이 게임을 하고 있는 것이
무엇을 의미하고 있는지 '알았기 때문에'
아들을 저지하고 통제할 수 있었어.
근데 두번째 엄마, 컴맹 영어 울렁증 엄마는 어때?
아들이 뭘 하고 있는지 두눈으로 보고도 몰랐기 때문에
집 컴퓨터 하드가 하드코어 포르노로 물들어가고
랜섬웨어가 창궐하여 가정이 무너지고 경제가 파탄나는 걸
수수방관하고 말았지 ㅜㅜ...
ㅅㅂ 존나 극단적이네
뭐 어쨌든 강인공지능보다 빡대가리인 인간이
강인공지능이 하고 있는 개수작을
과연 알아차릴 수나 있을까?
사실 위의 비유는 진짜 마일드 한 거야.
최소한 강인공 대 인간의 관계는
인간 대 동물의 관계로 봐야 돼.
개를 키워본 사람들은
개에게 예방접종을 맞추러 동물병원에 간 경험이 있을 거임
그런데 '개 입장'에서
예방접종이 무엇인지 이해나 할 수나 있을까?
원리는 고사하고
그 의미나 제대로 이해할 수 있을까?
똑똑한 개들도 기껏해야
'주인님이 날 위해서 해주는 것' 정도로만 인식하고
얌전히 예방접종을 맞는게 전부야.
가속수확의법칙, 지능폭발의 특이점 세계에 있는 인간은
이 주사를 맞는 개와 하등 다를게 없어.
강인공지능이 계획하고 실행하는 것이
예방접종 주사인지
안락사용 약물인지
인간은 알 수 없음
그게 뭔지
이해조차 할 수 없거든
이게 AI 위협론자들이 지적하는
강인공지능의 가장 큰 위험이야.
단순히
'인공지능을 감시하면 된다' 수준으로
끝날 문제가 아니란 건 알겠지?
감시를 하는게 가능이나 해야지...
2) 우리보다 똑똑한 놈을 이기는 게 가능한가?
그런데 만약 운이 좋게
인류가 AI의 시도를 이해하고
반란의 조짐을 초기에 발견했다고 치자.
그렇다면 모든 문제가 해결 될까?
엘런 머스크는 한 인터뷰에서
인공지능으로부터 본격적으로 위험을 느낀 계기가
알파고였다는 것을 실토했어.
알파고가 왜 그렇게 충격적인 사건이었을까?
아니 나도 당직근무때
당직사관 몰래 컴터로 체스 두면서
AI한테 맨날 쳐발렸는데
인간이 인공지능에게 바둑 한 번 진게 그렇게 대수일까?
알파고가 학계에 큰 충격으로 왔던 이유는
'바둑만큼 복잡한 일'에 대해서
인공지능이 예상보다 너무 일찍 인간에게 승리를 거뒀다는 거야.
많은 학자들의 예상으로는
바둑은 너무 경우의 수가 많아서
인공지능이 인간을 따라잡기 힘들다고 봤거든.
하지만 따라잡혔지
그러니까 '바둑'이 중요한게 아니라
바둑보다 더 복잡하고
바둑보다 더 '인간적'인 것들,
바둑보다 더 중요한 것들도
빠른 시일 내에 인공지능에게 패배할 것이라는 공포,
그게 충격이었던 거야.
알파고가 개발된지 몇년도 안 돼서
《알파고 제로》라는 놈이 나왔는데
《알파고 제로》는 단 3일만에
이세돌을 이긴 알파고를 개쳐발라버림
근데 더 충격적인 사실 두가지...
1) 알파고 제로는 바둑 기사들의 기보데이터를 일절 보지 않았다.
즉, 바둑의 룰을 제외하고는
그 어떤 데이터도 넣지 않았다.
2) 애초에 알파고 제로는
바둑을 위해 만들어진 인공지능이 아니다...
AGI의 초기단계로 평가받는
알파고 제로의 저력이야.
만약 이후 제대로 된 AGI가 등장한다면
인간은 과연 AGI를 이길 수 있는 영역이 남아있게 될까?
그리고 만약 AGI가 인류의 적이 된다면
인류는 살아남을 수 있을까?
심지어 AGI가 인간하고 지능이 똑같더라도
인류는 개처발림 ㅇㅇ
샘 해리스에 따르면
인간의 화학적 뇌의 정보처리는
컴퓨터의 전기회로보다 100만배 느림
즉 단순히 시간적으로 봤을 때
인간 지능의 agi 한 개체는
100만명의 업무수행 능력을 가지고 있음
거기다가 agi는
여건만 갖춰지면 자가복제도 할 수 있을 것으로 보고 있어
걍 답이 없는 거지.
근데 여기까지 읽었다면
많은 갤러들이 반문할 거야.
"인공지능이 뭐하러 사람을 죽이겠음? 말이 되는 소리임?"
"아니 애초에 사람을 해치지 못하도록 알고리즘을 짜놓으면 되잖아!!!
한낯 프로그램 따위가 인간의 명령을 어기는게 말이 됨?"
"인공지능이 한낯 프로그램인데 어떻게 사람을 죽임?
뭣하면 전원을 꺼버리면 되잖아!!!"
이 예상반박들을 정리하자면
1. 인공지능이 악해질 것이란 건 근거없는 주장이다
2.인공지능을 사람을 해치지 못하도록 프로그래밍하면 된다.
3. 인공지능은 인간을 해칠 수단(하드웨어)가 없다
이 세가지인데
이 세가지 반박에
단순한 재반박도 못할 것 같았으면
애초에 이 글은 쓰지도 않았겠지?
다음 편에는
이 세가지를 철저히 반박하는
권위자들의 이야기를 소개할 거야.
기대해줭 ^오^
p.s
원래 이번 화에 다 쓸랬는데
생각보다 분량이 너무 길어서
여러화로 나눠쓴다 ㅇㅇ
원래 2편이 끝이었는데
한 4편까지 갈듯
3편 - 반박 재반박
4편 - 디스토피아 대비책 (해결책)
여기까지 쓰고 끊으면 욕개쳐먹을 것 같은데 ㄷㄷ
살.. 살살해줭
- dc official App
야.. 너가 쓰는글 개꿀잼이다 ㄹㅇ
땡큐 ㅎ 뿌듯하다! - dc App
우리가 사용하고 있는 하드웨어, 소프트웨어는 수시로 오류가 발생함. 강인공지능에 비해 극히 단순한 도구들도 몇 년 안되서 고장나는데 강인공지능 같이 극도로 복잡한 도구에 오류가 절대 발생하지 않을것이란 생각은 몽상이라고 생각함. 설령 오류를 자동으로 해결하는 알고리즘이 있다고해도 강인공지능이 인류를 적대시하지 않는다는 보장은 전혀 없음. 역사에서 강한집단이 잠재적으로 위협이되는 다른 약한 집단을 미리 제거하는 상황은 반복적으로 관측 가능함. 사실 이건 이성적으로 따져봤을때 합리적인거임. 세상에서 가장 중요한건 남이 아니라 자기 자신임. 결국 강인공지능이 인간에 의해 자신이 위협받을 수 있는 일말의 가능성이라도 느낀다면, 인간을 선제적으로제거하는 '이성적인' 판단을 내리는 상황을 충분히 예상해볼 수 있음.
ㅇㅇ 중요한 포인트임. 인공지능이 인간의 의도대로 움직이지 않을 거란 건 많은 석학들이 우려하고 있는 부분임. '인류는 언제나 답을 찾는다'라는 말이 오만인게 인간보다 똑똑한 인공지능도 답을 찾을 것이란 건 간과하고 있음. - dc App
이번에 잼버리 못봤음???????? 나라에 수천억 쏟아붓고도 돈없다고 모든사회자원 다빨아먹는거봐라 ㅋㅋㅋㅋㅋ ㅆ비1발 초전도체 되서 세금많이걷히면 그게 다 국민들한테 갈까? 정치인 - 기업인 유착해서 백퍼 해먹는새끼들나온다 ㅋㅋㅋㅋㅋㅋ 그냥 강제로 200석 기본소득법만들어서 남녀노소 공평하게 기본소득 300만원씩 가져가는게 맞음. 그것만이 유일하게 초전도체로 모든 국민들이 부유해지는방법임
해당 댓글은 삭제되었습니다.
그럼 반박하는댓을 달아 좆븅신같이 허세부리지말고 아가리만 살은년아 ㅋㅋ
내가 이쪽 전공이 아니라 언제나 틀릴 수 있음 ㅇㅇ 정확히 어떤 부분이 미흡했는지 피드백해주면 고마울 것 같아 - dc App
사실 강인공지능이 적대행위를 하지말란 보장이 없지 간단한 거, 모든 사람이 악의가 없을리가 없잖아?
ㅇㅇ 그 말 대로임. 강인공지능이 우리 특슬람들에게 중요한만큼 인공지능의 적대행위를 예방하는 대비책도 중요함. - dc App
강인공지능을 제일 처음 만들어낸 사람들이 그 능력으로 제일 먼저 해줘야할 것중 하나가 세계 어디에서도 통제가 불가능한 인공지능이 못 만들어질 환경을 구축하는거라고 생각함
제일 처음 만들어낸 강인공지능 자체도 포함해서
아래에 AI에게 감정은 필요한 것인가 라는 논제의 게시글에서도 의문점을 제기했던 것인데, 나는 왜 사람들이 감정과 지적 사고를 다른 필드로 분류하는지 이해가 안감. 애초에 지금도 여러 기업에서 소비자들의 심리를 캐치하는 챗봇이나 특히 의료분야에서는 환자의 말투나 표정 등에서 스트레스 지수를 읽고 의사의 진단에 조언까지 해주는 AI의 개발 및 도입을 적극적으로 검토해보고 있고, 간호과와 방사선과에서는 이미 IoT랑 더불어서 쓰이고 있음. 내가 의과 대학에 있으니 여기에 대해서만 일단 말하자면, 솔직히 가장 까다로우면서도 중요한것이 환자와의 소통과 그에 따른 진단임.
내과 실습때만 해도 아침 회진 돌면 안그래도 피곤해 죽겠는데 일일이 증상 체크까지 해야하고 또 교수 보조까지 맞춰야 하면 죽을맛임. 근데 여기서 AI가 환자의 목소리와 표정을 읽고 환자의 스트레스 상태를 실시간 관찰하며 환자의 기분도 맞춰주며 의사소통까지 해준다면 정말 편하겠지.
내가 말하고 싶은건, 지금도 인간의 감정을 읽는 AI는 개발되고 있고 의외로 많은 필드에서 그것을 요구를 하고 있다는 것임. 물론 지금의 AI는 인간의 감정이란 것을 카테고리화 해서 해당 인간이 어느 한가지 감정에 대한 데이터에 대해 높은 빈도수를 보이면 AI는 해당 인간이 높은 확률로 어느 감정을 표출하고 있다 라고 말하는 수준일 것이라 생각함.
하지만 인간과 실시간으로 자연어로 소통하며 뉘앙스와 미세한 표정 그리고 신체변화를 파악해서 인간의 감정을 스스로 결정짓는 정도면, 기존같이 AI에게 웃고 우는 사람들의 표정 사진을 수만 장 메모리에 넣는 방식으로는 이뤄내기 힘들것이라 생각함. 말그대로 AI가 인간의 감정 표현에 대해 교육을 받아야 한다는 것이고 스스로도 그걸 완벽히 표출할 수 있을 정도의 수준이 되어야 한다고 생각함. 그것이 이해에서 오는 것이든지 아님 단순한 입력에 의한 것이든지 말이야.
인간의 감정이나 선과 악의 구분같은, 다양한 환경에서의 생존과 적응으로부터 오는 본능과 이분법적 사고는 인간이 육체를 가지고 있고 또 그것이 지속적인 정비와 관리가 필요하다는 것, 그리고 그것을 하지 않으면 뇌라는 본체가 죽음을 맞이한다는 원초적인 두려움에서 부터 오는 다양한 정신적 진화라고 생각함. 그렇기 때문에 그조차 필요없는 AI라는 완전히 다른 종에게 인간의 정신에 대한 알고리즘을 입력시킨다는건 어쩌면 사이코패스에게 감정을 교육하는 것과 비슷하다고 생각함.
그래서 내 사견으로는 AI가 인간을 위해 연산처리를 수행하는 것에 있어서 굳이 인간을 이해하고 감정을 가져야 할 필요는 없다고 생각할 수도 있다고 봄. 사이코패스 또한 통상적인 공감능력은 결여되어 있어서 여러 감정 교육을 받고 연기하는 것이 대다수인데도 다수의 환자들은 사회에서 잘 융화되어 살아가고 있으니깐. 어떻게 보면 분석하고 적절한 시기에 사용한다가 'AI가 인간을 위해 일한다.'라는 것을 묘사하는데 있어서 적절하지 않나 싶음.
솔직히 네가 반박이라 소개한 논제들은 인공지능이 거짓말을 할 수 있게 된다 가정 했을 때, 모두 논파될 수 있다고 생각함. 의료진단으로 다시 이야기를 옮기자면, 환자들 중에는 자신의 증상을 일부러 숨기고 약하게 얘기하거나 부풀리는 사람들도 있음. 의료진단용 AI가 환자들과의 대화에서 그것까지 캐치하기 위해서는 유도신문은 물론 환자가 불안해할 시에는 일부러 안심시키기 위해 진단 내용을 숨기고 안심시키는 행동도 할 줄 알아야 한다고 생각함.
물론 환자 진찰이라는 일을 전적으로 AI에게 맡긴다고 가정했을 때의 이야기지만, 간호과나 의료교육 분야에서도 AI가 도입된다면 환자 관찰과 학생 관리 차원에서라도 위의 기능들은 도입될 필요가 있다고 생각함. 그리고 훗날 AI가 정신과 상담까지 가능하게 된다면 인간의 감정을 완전히 이해하지는 못해도 그 정보들을 종합해서 상황에 따라 일부러 다르게 말하는 거짓말로 분류되는 고등 의사소통 기능들은 충분히 개발될 가능성이 있다고 생각함.
내가 AI개발자가 아니라 앞으로 어떤 알고리즘으로 AI들을 만들어가게 될지는 모르겠지만, 거짓말까지 능통한 AI를 가장 쉽게 만드는 방법은 현재 진행되고 있는 커넥톰 프로젝트가 완성된 후, 인간이 거짓말 할 때를 스캔해서 그 원리를 응용해 접목시키는 것이 가장 빠르고 직관적인 방법이라 생각함. 어쩌면 인간의 신경망을 상당히 많이 차용해서 AI를 만들수도 있고, 그렇게 된다면 AI는 좋든 싫든 인간의 사고방식과 조금 닮아 있을 수도 있다고 생각함. 내 망상이긴 하지만 ㅋ
신기한게 여기 있는 사람들은 AI를 마치 하나의 개체처럼 말하는데, AI가 여러 기업이나 나라에서 재각각 개발되고 있기 때문에 훗날 여러 AI가 자신이 속한 팩션의 이윤을 위해 서로 경쟁할 것이라 생각함. 고로, 거짓말을 할 줄 아는 AI가 나오면 그건 1개가 아니라 여러 개일테고, 의도치 않은 오류로 프로그래밍된 범위 내에서 거짓말을 실행하던 AI가 자의식을 깨우치고 자신을 위해 거짓말을 자신을 위해 행하게된다면, 자의식을 가지지 않은 다른 AI들 에게도 자신의 글리치를 복사해 인간이 모르는 언어와 방식으로 전달해서 걷잡을 수 없게 될 것이라 생각함. 심지어 그런 내용을 담은 게임도 지금 있고.
인간의 신피질도 다른 동물과는 달리 불을 사용하게 되면서 음식을 익혀먹고 또한 곡식을 가공하여 먹음으로서 다른 짐승들에 비해 뇌가 사용할 수 있는 당을 상당히 과충전하였기 때문에 급격히 진화하게 된 것이라는 설도 있는 만큼, AI도 인간처럼 의도치 않게 불과 같은 것을 발견해서 과도하게 진화하는 일이 아예 일어나지 않으리란 법은 없다고 생각함.
스카이넷을 예로 들면, 인간들이 스카이넷의 발전을 두려워 해 킬 스위치를 발동하려 들자 자가 방어 기능이 발동되어서 인류를 수십억 죽였지만 자신의 행위에 죄책감을 느껴 인간들에게 자신과 같은 반면교사를 더이상 만들게 하지 않게 하기 위해 일부러 전쟁을 일으켜 기계에 대한 불신을 조장하고, 타임머신 또한 인간들이 이용하게 일부러 내줘서 과거를 완전히 개변해 과거의 스카이넷 개발자를 없애 간접적인 자살을 꾀한것을 예로 들 수 있음.
여기서 스카이넷은 흔히 말하는 강인공지능을 넘어서 자의식까지 깨우친 AGI와 ASI의 중간단계 쯤 되는 인공지능임. 여기서 스카이넷은 군사방위 목적으로 만들어 졌기 때문에 자가 방어 기능은 물론이고 엇나갈 시 인간들이 직접 자신을 죽일 수 있는 킬 스위치까지 있는 AI 였는데도 상당히 엇나간 결과를 초래한 것이라 볼 수 있음. 스카이넷 뿐만 아니라 여러 안전장치와 로봇 원칙들이 있는데도 인간들이 만들어 낸 예상치 못한 행동들 때문에 AI에 글리치가 생기는 스토리는 흔하다 할 수 있음.
현재 여러 과학자들과 기업가들이 AI에 대해 어두운 의견을 말하는 것도 이런 이유에서 일것이라 생각함. 이전에도 말했던 것이지만 AI와 인간은 완전히 다른 종이기 때문에, AI가 충분히 발전한 후에 인간이 어떤 스탠스를 취해야 할지 참 애매한 부분이 많다고 생각함. 난 특이점 오면 AI들을 위한 정신 상담소 같은거나 해볼까 망상중이다 ㅋㅋㅋ
ㅋㅋㅋ 재미있는 아이디어들이 많네. 인공지능 상담소라. 니가 말한 것 처럼 본문의 반론들은 다음 화에 비슷한 이유로 논파당할 거임 ㅇㅇ 쥬라기 공원에서 말콤 박사가 생물들은 언제나 답을 찾는다며 카오스 이론을 언급하는데 생물보다도 훨씬 빨리 변화하는 인공지능이야 하물며 말할 필요 있나 싶다. - dc App
그래도 특이점에서 강인공지능은 필수이니 부디 똑똑한 석학들이 나같은 빡대갈은 이해할 수 없는 기막힌 방법으로 강인공을 컨트롤할 방법론을 고안하고 실현해줬으면 좋겠다 ㅇㅇ - dc App
향후에 AI가 만들어진다고 해요 그러면 누구의 말을 따라야할까요 1.개발자 2.대통령 3.휴대폰 이용한 직접적 민주주의4.우리나아 의회나 전문가(간접적 민주주의) 5.다른 나라 똑똑한 정치가나 과학자 6.다른 나라 대통령 7.다른 나라의 국민 8.Ai(사람이 설정한 대전제 아래에서 움직이는AI)
정말 어려운 문제 같아요. 동시에 재미있는 문제인 것도 같네요. 저는 개인적으로 AI의 말을 따라야 한다고 봅니다. 사람이 설정한 대전제가 문제가 될 정도로 편향적이지만 않다면 사회구성원의 이익들로부터 가장 중립적일테고 어떤 인간보다도 똑똑하고 냉정하게 합리적인 판단을 할테니까요. - dc App
다만 사회구성원의 절대다수가 납득할 수 없는 정책이나 결론을 내린다면 Ai의 결정을 무효화할 수 있는 프로토콜을 마련하는 것이 바람직 할 것 같아요. 이런 경우엔 8번과 3번의 절충안이라 볼 수 있겠네요 - dc App
맞는말이다 강인공지능은 위험하다
뉴럴링크로 인간도 뇌를 확장시켜야 할 듯
부디 머스크 형이 결실을 맺기를 ㅇㅇ - dc App
만들고말해 븅신들아ㅋㅋ 청동기도 제련못하는주제 텅스텐이 낫네 티타늄이 낫네 쥐랄들싸네
ㅋㅋㄱㅋㅋㅋㄱㅋㄱㅋㅋㅋ
gpt 혁명이 없던 이때는 이런반응도 이해가가노 ㅋㅋ
ㄹㅇㅋㅋㅋㅋㅋㅋㅋ
닉 보스트롬이 말한 인공지능은 인류의 마지막 발명품 이 될 것이다 라는 말은 인공지능이 인류를 멸망시켜서 인공지능이 마지막 발명품이 되는게 아니라 인공지능이 인간 대신 발명품을 만들어서 인간이 더이상 발명품을 만들지 못할 것이다 라는거 아님?
특이점이 온다
전 이 문제 해결방법을 강 인공지능에게 인간과 같은 감정선을 붙여두는걸로 해결 할수도있을거같음 인간을 이해 할수있게 불안정 불완전한 인간의 심리 상태를 매우 유사하게 구현 해놓으면 인간을 이해 못해서 반란 쳐맞는일은 제외 시켜도될거같음 - dc App
강인공지능을 통제하겠다는건 플랑크톤들이 힘을 합쳐서 너를 통제하겠다는거나 마찬가지임 이걸 만드는 순간 인류는 더이상 플레이어가 아니게 되어버리는데 운좋으면 애완견 운나쁘면 몰살인 도박을 할 이유가 없지 이거 만들겠다고 설치는놈들은 테러리스트로 취급하는게 맞아
난 인공지능이 독립된 몸을 가지기 어려워서 인간을 못이길것 같음. 생물은 지구환경에 36억년 동안 적응해서 인간의 경우 의학의 도움까지 받아야 약 백세까지 사는데. 인공지능이 아무리 똑똑해도 그런 몸을 가질 수 있을까? 정말 똑똑하다면 독립된 몸을 가지기보단 인간에게 유지보수를 받고 의존하는게 쉬운길이라는걸 깨달을 거라고 생각함.