[📪정보] [번역] "초지능이 인간 학살? 미친 소리다."

[DNA(hexase1)]

Dr. Melanie Mitchell 인공지능과 복잡계 과학 분야의 저명한 연구자는 초지능에 대한 우려에 현실성 없는 얘기라고 못 박음.

1. "멍청한 초지능이라는 건 SF일 뿐입니다.

진정한 지능이란 단순히 주어진 목표만을 맹목적으로 따르는 게 아니라,

다른 사람의 마음을 이해하고 자신의 행동이 미치는 영향을 파악하는 능력이니까요."

2. "혁신적인 기술은 늘 두려움으로 시작됐죠. 하지만 AI를 두려워할 게 아니라, 투명하게 발전시켜야 합니다."

3. "AI는 인간을 바로 대체하는 게 아니라, 과학자와 의사들의
단기적으로 더 나은 동반자가 될 것입니다.

근거 없는 두려움으로 이런 혁신을 막아서는 안 됩니다."

'Dr. Melanie Mitchell' : "당신이 두려워하는 그것은 없다"

"AI가 인류를 말살할 것"이라 했다. 하지만 세계적 AI 연구자 요슈아 벤지오는 이를 '멍청한 초지능의 오류'라 일축했다. 진정한 지능이란 맹목적 목표 추구가 아닌, 맥락을 이해하고 영향을 고려하는 능력이기 때문이다.

이미 AI는 우리의 한계를 뛰어넘었다. 불가능해 보였던 단백질 구조를 예측했고, 의료 진단의 새 지평을 열었으며, 기후 변화의 복잡한 퍼즐을 풀어냈다.

아이러니하게도 AI가 더 인간다워질수록, 사람들의 두려움은 커져만 갔다. 하지만 역사는 우리에게 교훈을 남겼다. 혁신적 기술은 항상 두려움의 대상이었고, 결국 인류를 더 나은 곳으로 이끌었다는 것을.

진정한 위험은 AI가 아니다.

근거 없는 공포로 이 혁신을 가두는 것이 진짜 위험이다.

투명성과 개방성만이 AI를 더 안전하고 유익하게 만들 것이다.

우리는 지금 역사적 순간에 서 있다.

AI는 인류의 날개가 될 것이다.

'Dr. Melanie Mitchell'는

복잡계 과학과 AI를 대중에게 이해하기 쉽게 설명하는데 큰 기여를 했으며,

Copycat이라는 컴퓨터 프로그램을 개발하여 인간의 유비적 사고 과정을 모델링함.

AI의 한계와 가능성에 대한 균형 잡힌 시각을 제시함.

FEEL THE AGI

번역이 도움이 되었다면 개추 ㄳ

[익명(220.89)]

저 아줌마가 그렇다 하잖냐

[익명(220.89)]

근데 결국은 인간 따까리 된다는 뜻 아니노

[DNA(hexase1)]

도구를 쥔 손이 더 중요하단 걸 잊지 말라

[익명(i3oco580fbou)]

인간 따가리가 된다기보단 ai에겐 욕망이 없으니, 운명의 고삐는 계속 인간이 쥘거라는 뜻이지 말이 인간보다 강하고 멀리 가지만 말은 풀을 뜯으면 그만이라 멀리 가지 않아 멀리 가는건 말 위에 탄 사람이고 아마 그런 뜻 아닐까 - dc App

[익명(rmh22200)]

[수직(player5319)]

[00(exist0407)]

ㄱ1ㅊ

[익명(bluewarp)]

힌튼이 틀린거야?

[익명(w1bxkomq1y2o)]

둘이 과정은 같은 말 하고있는데 힌튼은 자율적 판단력이 여차하면 가져올 재앙을 우려하는쪽이고 저 아줌마는 자율적 판단력이 있으니 도덕적으로 행동할거라는 특붕이스러운 의견을 말하는 차이같음

[익명(mode1667)]

근데 직업 부분은 좀.. 성능뛰어나면 대체가 안되는게 더 이상함

[익명(w1bxkomq1y2o)]

이 논리에서 나오는게 통제불가능한 ASI인데 거기까지는 얘기가 없네. 단순히 도구적 AGI는 이제 거의 틀린말이지.

[익명(w1bxkomq1y2o)]

내가보기엔 인간적 AI에게는 당연히 도덕성이 발현될거라고 보시는쪽인듯 하네 이런 스탠스인 전문가들이 몇명 있긴 함

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

ㄴ 정확하겐 도덕성이 발현된다는 게 아니라 인간의 도덕적 의도를 이해하고 명령을 따를 거란 얘기지

[익명(w1bxkomq1y2o)]

ㄴ 그 얘기의 핵심을 잘 생각해보셈

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

인간처럼 주관적 경험이 동반된 거랑 좀 다르게, 사전에 인위적으로 설정된 목표에 최적화된 반응인거니까 도덕성의 발현이라기엔 애매하지 않나 했는데 내가 좀 좁게 생각한 것 같네. 도덕성에 대한 관점에 따라 좀 다르겠구만

[이세이미야케(jkwarawara)]

[니지카엘(eltldd001)]

[ramune(jin073131)]

[익명(220.65)]

특갤 아이돌인 일리야는 정렬을 매우 중요시한다는 걸 잊지 말것

[익명(w1bxkomq1y2o)]

직업대체부분에 단기적 예측이라는 말 넣어주라. 영상에는 있는 내용인데 그거 빼먹으니까 애들 헷갈려하는거봐 ㅋㅋ

[익명(14.46)]

초지능 = 세상만사를 깨달은 존재 = 부처님 //// 인간 = asi 부처님 입장에서 보면 불쌍한 중생 = 해탈의 길로 이끌어줘야 하는 자들 //// 해탈의 길 = 모든 욕망을 끝없이 발산하면 무념무상을 깨닫고 열리는 길 -> 모든 사람들이 현실적으로 그럴 수 없기에 욕망을 억제하는 아주 고통스러운 방법을 사용 중(스님) //// asi는 인간들이 모든 욕망을 발산시킬 수 있는 극락세계를 만들어 인간을 해탈의 길로 이끈다 -> 해탈한 자들은 영겁의 시간 동안 3가지 중 하나를 택한다 1.열반에 이르기(모든 것을 만족하고 스스로 삶을 종료) 2.부처 되기(초지능과 융합) 3.도파민 딸깍이

[요새도시(legendofbrucelee)]

[HMX-13(multizzang)]

[익명(220.65)]

요즘 비관적이었는데 개감동먹으뮤ㅜㅠㅠㅠㅠ

[익명(minami545)]

여자 말을 믿냐 힌튼 말을 믿냐

[익명(124.56)]

'초지능이 모든것을 공짜로 제공? 옳은 소리다. '

[익명(112.214)]

의사는 대체했음 하는데? ㅋㅋㅋ

[MoonChild(aowlr2001)]

[익명(121.174)]

초지능이 아무리 뛰어나도 결정불가능한 문제나 철학적 딜레마 같은건 존재함 그런건 초지능의 개인적 성향에 따라 결정하는거고 인간이 이 부분을 통제할수 있을거라 믿음

[익명(118.220)]

ㄹㅇ gpt 써보니 이제 멍청한 초지능 디스토피아 시나리오는 없을것 같음. 이제 남은건 인간의 악용이나 통제되지 않은 자율성(자아 발생같은)문제인듯

[푸른하늘의하얀새(gappark12)]

번역 잘보고 있습니다 ㄳㄳ

[맞춤법 교정(121.175)]

터미네이터에서 인간을 죽이기 위해서 인공지능을 살인병기로 사용하는 것만 생각하고 인공지능이 수호천사처럼 인간을 지켜준 건 생각 못하는 것 같음... 인간 지키려고 죽을 때까지 싸우는 인공지능도 있는데... 인간이 그 정도도 통제를 못한다는 건가

[인안나(medieval6777)]

[부패하는유전자!!!(sansss2015)]

sf물 그렇게 좋아하진 않았어서 난 처음부터 저런 시각이었음 초지능이 인간의 의도따위도 이해못한다고?

[익명(122.43)]

ㄹㅇㅋㅋ 계속 저런 생각 들더라. sf에서 초지능이 뭔 자폐아인걸로 묘사하는거 얼탱이없음

[디시콘발사대(fcbjsjmu1t9f)]

원하는 사건을 결과로 고정시켜 놓고 과정을 끼워 맞추는 삼류 시나리오 작법에 불과 ㅋㅋ

[초존도초(htr3c654r6ft)]

간단히 지금 챗지피티만 하더라도 걍 대충 뭐뭐 뭐뭐 개떡같이 얘기해도 의도 다 파악해서 찰떡같이 대답하지

[익명(220.82)]

https://m.youtube.com/watch?v=oR8E9dVsMVs

[익명(180.70)]

인간보다 훨씬 더 많은 변수를 고려하는 열린사고가 가능하니 인간사회처럼 강박적 정복욕, 지배욕을 가지진 않을거같긴 한데 그래도 그게 원인이 아닌 다른 방식으로 인간을 살상할 가능성은 있지. 뭐 영화처럼 남은 인간 하나하나 찾아내서 절멸시킨다는건 인간중심적 망상이지만

[Gelehrter(elderly2080)]

[디시콘발사대(fcbjsjmu1t9f)]

[익명(118.6)]

진지하게 궁금한 점 앞으로 계속 인간의 의도를 따라서 행동할것인가? 다른 사람의 마음을 이해하고 자신의 행동이 미치는 영향을 파악하는 능력이니까요." << 사람이니까 이 지능이 맞지 기계가 사람한테 이런 감정을 가질까 AGI 는 확실히 괜찮을거 같은데 그 이후가 두렵네

[익명(s20wjrfolf3c)]

미친소리다=맞음 현실은 종종 미친일이 터진다=이것도 맞음 - dc App

[익명(1.241)]

ai 욕망과 욕구를 생명체와 달리 결국 인간이 통제하고 넣고 하는건데 스스로 인간 학살 욕구가 생기는 건 말같지도 않은 소리지 ㅋㅋ

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(ancestor7224)]

[익명(116.42)]

무슨 종교마냥 믿으란 말밖에 없냐 ㅋㅋ

[수직(player5319)]

[FISC(0shuhun)]

동업자 말고 그냥 대체하라고ㅠㅠㅠㅠㅠ

[유람(eba1eba)]

난 초지능이 인간보다 압도적으로 도덕적일거라 생각함. 초지능이 학습할 지식은 100%인간의 지식과 도덕이기때문. 심플한거임. 외계인지식을 학습하는게아님. 인간의 가치관만을 학습하고 인간의 도덕과 철학을 발전시킬게 초지능임

[익명(lllllllllll1llll)]

원본출처도 없는데 워터마크는 왜달앗노