인간보다 뛰어난 AI가 혼자 다 캐리하는 것
vs
인간이랑 AI가 공생해서 발전하는 것
님들은 뭐가 좋아 보이나용?
저는 솔직히 후자임
- dc official App
[일반] 인간 < AI vs 인간 + AI
개써여(ksy0716)
2022-05-21 16:00
추천 3
댓글 47
다른 게시글
-
근데 게리마커스 주장이 틀렸다면 어케 코너케이스까지 학습시킬거임? [22][일반] 와우놀라워(zq933l8aj13q) | 22.05.21추천 0
-
8년안에 특이점 올 수 밖에 없는 이유 [1][일반] 익명(58.231) | 22.05.21추천 4
-
근데 150세 넘는건 불가능하지 않음? [2][일반] 와우놀라워(zq933l8aj13q) | 22.05.21추천 0
-
자꾸 지구인구문제로 주접대는 애들 있는데... [4][일반] 익명(116.42) | 22.05.21추천 0
-
데이터과학자 현업인의 현 학계의 인공지능 흐름에 대하여..video [21][일반] 와우놀라워(zq933l8aj13q) | 22.05.21추천 6
-
솔직히 세계가 더 불안정해 졌으면 생각 안드냐? [21][일반] 익명(222.112) | 22.05.21추천 7
-
AGI는 인생이다 [3][일반] 익명(49.165) | 22.05.21추천 3
-
말이 씨가 된다.[일반] 익명(124.52) | 22.05.21추천 1
-
테슬라 자율주행 이런거 피해가는 거 가능? [4][일반] 익명(125.181) | 22.05.21추천 3
-
2050년은 1990년보다 가깝다[일반] 익명(1.229) | 22.05.21추천 1
그래서 레이 커즈와일이 2030년대가 되면 인간의 뇌를 클라우드에 연결하게 될 거라 함
후자이긴 한데 결국 실용적인 측면에서 인간은 병목에 불과할거라고 생각함. 인간의 가치는 유용성보다는 방향성에 있다고 봄.
나도 그렇게 생각함 - dc App
그래서 bci로 지능증강을 계획중인데 생물학자 입장에서 bci는 어케 생각함?
사실 bci 잘 모르긴한데 인간 2.0 이라던지 그런거 들었을땐 거부감이 좀 있음 - dc App
사실 리버럴이라면 후자 쪽이 본능적으로 끌릴 수 밖에 없다고 생각함... 그래서 현실적으로든 이념적으로든 미국을 중심으로 후자의 방향성이 먼저 시도될 것으로 생각하고 있는거고... 그런데 결국에는 전자로 귀결될 거라 생각함... 그 무렵 즈음에는 1.0을 탈피한 인류가 자신의 기능성에 대한 강박에서 좀 벗어나 있지 않을까 생각도 들고
이새끼 왜 자꾸 오타쿠짤 올림? ...... 맘에들게..
딜레마에는 2가지 종류가 있음. 기술이나 능력이 부족해서 생기는 딜레마 → 전자처럼 AI가 해결해 줄 수 있음. 구조적인 딜레마 → 트롤리의 딜레마 같이 객관적으로 더 나은 선택이라는 게 없거나 물리적으로 불가능해서 가치 판단 같은게 들어가야하는데, 이건 인간이 AI에게 절대 내주지 않을 영역이라 후자로 간다고 봄
트롤리 딜레마의 상황은, 가령 도로 위에서도 얼마든지 일어날 수 있는 일입니다 그 경우의 판단 및 대처에 대한 위임을 AI에 맡길 수 없다는 건, 결국 완전한 의미의 자율주행은 불가하다는 의미가 될 것 같은데 어떻게 생각을 하시는지...
마이너리티 리포트나 자율주행차 사고 책임 문제에서 많이 다뤄졌던 문제니까 잘 알거야. 폰 노이만 살리기 vs 일반인 1000명 살리기 양자택일 상황에서 AI가 아무리 객관적인 시각으로 폰 노이만을 살린다고 해도 그게 '더 나은' 결정이었는지 물으면 사람들의 의견은 크게 갈릴 수 밖에 없음
이런 일에서는 지금 법정에서도 많이 그러는 것처럼 인간적 가치 판단이 들어가게 될 거임. 획일적인 규칙에 따르는 게 아니라, 어디서는 관대한 기준을 적용하고, 어디서는 말도 안 되게 빡빡한 기준을 적용하고. 그 기준은 객관적 기준보다는 가치 판단이 들어간 주관적 기준이 되기 때문에 자율주행차에서는 트롤리 딜레마 같은 상황에 관대해져도 범죄 예방 같은 다른 분야에서는 훨씬 빡빡한 기준이 적용될 수 있음
'사람의 의견이 크게 갈린다≠AI의 판단에 위임하자는 사회적 합의가 불가능' 이지 않을까...... 라는 이야기입니다... 말씀하신대로 자율주행차 사고와 관련해서 초기부터 꾸준히 나오고 있는 문제제기지요... 그러나 어느 시점에 이걸 풀지 못 하면(정확히는 합의하지 못 하면) 결국 완전자율주행은 영원히 불가능한 일이 됩니다... 도로 위의 트롤리 딜레마의 AI 위임에 대한 사회적 합의가 가능하다면.... 다른 분야로 확산도 가능하겠지요
말씀하신대로 도로 위 상황의 위임 정도만 합의가 되어도 어지간한 영역에의 확대적용이 어렵지 않을거라 생각합니다만... 범죄 예방 등의 분야에서는 좀 더 빡빡할 수 있겠네요... 상당기간동안 시끄러울 거 같습니다
말씀하신 "자율주행에서 트롤리 딜레마에 합의하지 않으면 다른 분야에서 AI의 가치판단이 허용되는 것도 어려울 것이다." 라는 의견에 대한 제 생각은 "인간 사회의 다양한 영역에서 획일적인 잣대가 광범위하게 적용된 전례는 별로 없는 것 같다." 입니다.
글솜씨가 없어서 죄송합니다만, 제 의견은 "자율주행에서 트롤리 딜레마에 합의가 가능하다면, 다른 분야에서 AI의 가치판단이 허용되는 것 또한 가능할 것이다" 입니다. 인간 사회에 획일적 잣대가 광범위하게 적용되는 일이 잘 없었던 건 사실입니다만, 어떤 분야에서 이뤄진 합의가 다른 분야로 확대적용되는 것은 흔한 일이지요
예를 들어 선정성 심의만 해도 공영 방송과 유튜브에서 허용하는 선정성 기준이 다릅니다. 같은 영상물인데도 플랫폼에 따라 이렇게 차이가 나고 게임, 공연 등 매체가 달라져도 기준이 달라지는데다 국경을 넘으면 그 차이는 더욱 심해집니다.
아, 아닙니다. 획일적 잣대가 적용되지 않는 이유가 인간 뇌의 제한적 연산능력으로 인한 휴리스틱이라는 걸 이해하신다면, 자율주행에서 트롤리 딜레마가 합의 가능한가? 에 대해 "트롤리 딜레마 문제는 사라질 수 없으나, 사회적 득실 및 국가/기업의 이해관계에 따라 자율주행 분야에서 그 문제를 눈 감아줄 수도, 아닐 수도 있다"가 답이 될 수 있을 듯 합니다.
첫댓을 다시 보니 '내줄 수 없는'이 아닌 '내주지 않을'이라고 하셨네요 확실히 기능성 합리성과 별개의 이유로 마지막까지 붙들고 있고 싶어할 영역이라고는 생각합니다ㅎㅎㅎ 사실 제가 후자가 일단 먼저 시도될 거라 보는 이유 중 하나에도 들어가고요... 휴리스틱을 언급하셨는데, 그렇다면 휴리스틱이 말하자면 진화적 땜빵의 결과물, cludge의 일종이라는 것도 아실겁니다
모든 문화권에서 반대하거나 모든 문화권에서 받아들이기 보다는 동아시아와 유럽에서 CCTV, 확진자 동선 추적에 대한 호불호의 정도가 다르듯, 자율주행차의 가치 판단에 대한 호불호도 여러 국가, 여러 분야별로 갈릴 것 같습니다. 그런데 만약 자본주의 vs 공산주의의 경쟁에서 처럼 이를 받아들인 문화권과 받아들이지 않은 문화권 간의 '격차'가 극심하다면 사회 경쟁의 관점에서 받아들이지 않는 문화가 도태될 겁니다. 아직은 어떨지 모르겠습니다.
네ㅋㅋ 내줄 수 없다기 보다는 사람들이 내주지 않으려고 할 것 같다고 생각해서 그렇게 썼습니다. kludge라고 하나요? 용어는 처음 들어보는데 땜빵 맞죠. 생물의 진화 방식은 컴퓨터 알고리즘 중에서 단일 게임 최적해를 내놓는 그리디 알고리즘이 반복 게임에서의 최적해를 보장하지 못하는 것과 비슷한 문제가 있으니까 땜빵이라는 표현이 딱 맞네요.
저는 사실 '답없는 문제는 결국 인간이 판단해야 한다'도 결국 현재의 사회적 합의의 결과물에 불과하다 생각하기에... AI가 지금보다 훨씬 발달하고 또 그 긍정적 결과물들이 광범위하게 퍼진다면 그 합의도 바뀔 수 있다고 생각합니다. 가령 당장 재판만해도 인간 판사가 내린 판결에 대해 허구한 날 논쟁이 일어나고 합니다... AI가 크게 발달한다면 그에 맡기는 게 낫지 않냐는 주장도 소수지만 이미 존재하고 미래사회에는 주류가 될 가능성도 배제할 수는 없겠지요... 지금 당장 감정적 거부감이 최대한 덜한 중간점을 찾자면 지능 증강을 이뤄낸 인간 판사에게 맡기는 것인데...
문제는 지능 증강이 일어날수록 판결에서 휴리스틱의 비중이 낮아질 것이기에... 똑똑해지면 똑똑해질수록 결국 초지능의 판결에 근접해가게 될 거라는 코미디가 일어나게 되겠지요... 암튼 그래서 단기적~중기적으로 후자 시도, 장기적으로는 전자 수렴... 정도로 생각하고 있었습니다. 물론 전자로 수렴한 시대의 인류는 더 이상 지금 생각하는 그 인류는 아니겠지만요... 아마 타임프레임의 차이가 있었던 것 같네요ㅎㅎㅎ
cludge, kludge는 원래 코딩업계에서 쓰던 jargon인데... 개리 마커스가 자기 저서에서 이걸 인간 진화 설명하는 데 끌어쓰면서 용법이 확대되었습니다... 마커스의 갤에서의 악명과 별개로 책 자체는 재미있기땜에 기회 되시면 일독을 권합니다
책 추천 감사합니다! 선택과 딜레마에 대해 연구해온 마이클 젠슨, 에릭 매스킨, 케네스 애로 같은 학자들의 연구를 하나씩 뜯어보면 아무리 뛰어난 초지능체라고 해도 모든 사회구성원이 만족할 결정을 내릴 수 없어 사회적 결정은 흔히 말하는 '정치적/경제적 게임'의 성격을 띄게 됩니다. 개인들의 서로 다른 선호를 만족시킬 수 있는 하나의 사회적 선호를 만드는 게 수학적으로 불가능하기 때문입니다.
그래서 개인의 이익과 사회적 이익을 합치시킬 필요가 없는 패러다임 쉬프트가 오지 않는 한 아무리 뛰어난 초지능체의 결정이라도 누군가의 희생을 필요로 하고, 희생당하는 누군가는 그게 공리주의적인 결정이라 해도 용납하지 못하고 정치적으로 저항하는 일이 계속될 것 같습니다. 소수자들의 PC 운동과 거기에 대항하는 백래쉬 같은 사회 현상이 그런 AI에게 맡길 수 없는 딜레마 중 유명한 예시가 아닐까 합니다.
하지만 어디까지나 "개인의 이익과 사회적 이익을 합치시켜야 할 필요가 있는" 단일 세계를 공유하는 현재의 패러다임이 유지될 때까지의 얘기고, 만약 완몰가가 같은 게 고도로 발전해 '선호체계가 서로 다른 사람들'이 하나의 세계를 공유하지 않는 다중 유토피아형 세계가 실현되면 이런 제약이 깨져서 "AI 판단 위임 문제"에 관한 논의도 달라질 것 같습니다.
책 보니까 행동 경제학쪽이네요? 재밌을 거 같아요ㅎㅎ 제가 읽어본 책 중 Thinking, Fast and Slow랑 비슷한 거 같내요
말씀대로 인류가 서로 완전히 격리되거나, 완전히 하나가 되지 않는 이상 수학적으로 해결이 불가능한 문제지요... 저는 양극단의 세계가 오기 전의 과도기의 세상은, 각 국가의 AI에 대한 입장이 곧 해당 국가의 아이덴티티를 결정지을 거라 생각합니다... 그런 다양한 스펙트럼의 새로운 체제경쟁 속에서 생각지도 못했던 신개념의 대두와 도태가 일어날 수 있겠고... 생각보다 길 수도 짧을 수도 있을 그 세상이 심심할 걱정은 없을 듯 하네요
사실 연식이 좀 된 책이라 old fashioned 한 면이 있는데 재미나게 읽으신다면 좋겠습니다
아니 인간이 ai가 되는거라니까 특갤 할만큼 했잖아 너
ㄹㅇ 돈만버는듯
난 그거 긍정적으로 안봄 - dc App
역노화랑 완몰가만 만들어주면 후자가 더 좋아보임 전자는 통제가 안될까봐 무섭다
해당 댓글은 삭제되었습니다.
아인슈타인 폰노이만 스티븐 호킹 다윈 가우스 아르키데메스 수만명을 만들 수 있는데 굳이 공생을? 이유라도 알려주면 좋을텐데
저는 그거 긍정적이지가 않음 - dc App
한 몇 년간은 후자일 거 같은데 결국엔 전자로 변할 거라고 봄. 그러다가 서로 통합하는 거고