[📪정보] 2043년까지 혁신적인 AGI가 발생할 가능성 1% 미만

[익명(125.191)]

https://arxiv.org/abs/2306.02519?s=09

Transformative AGI by 2043 is <1% likely

이 논문은 Open Philanthropy AI Worldviews Contest에 제출된 논문입니다. 여기에서 우리는 2043년까지 혁신적인 인공 일반 지능(AGI)이 발생할 가능성을 추정하고 이를 1% 미만으로 확인했습니다.
구체적으로 우리는 다음과 같이 주장합니다.
대회에서 정의한 AGI(인적 비용 이하로 거의 모든 가치 있는 작업을 수행할 수 있는 AI와 같은 것)를 변혁적 AGI라고 부르겠습니다.
이는 단순히 AI의 엄청난 발전보다 훨씬 더 높은 기준입니다. 또는 값비싼 초인적 AGI 또는 값싸지만 고르지 못한 AGI의 명확한 달성도 있습니다.
많은 단계가 필요합니다. 2043년까지 혁신적인 AGI가 발생할 확률은 필요한 여러 단계의 결합 확률로 분해될 수 있으며, 이를 소프트웨어, 하드웨어 및 사회정치적 요인의 범주로 그룹화합니다.
어떤 단계도 보장되지 않습니다. 각 단계에 대해 우리는 이전 단계의 달성을 조건으로 2043년까지 성공 확률을 추정합니다. 짧은 일정으로 인해 많은 단계가 상당히 제한되어 있으며 추정치는 16%에서 95% 사이입니다.
따라서 확률은 낮습니다. 계단식 조건부 확률을 함께 곱하면 2043년까지 변형 AGI가 발생할 가능성이 0.4%인 것으로 추정됩니다.
>10%에 도달하려면 불합리하게 높은 확률이 필요한 것으로 보이며 심지어 3%도 가능성이 낮아 보입니다.
이 질문에 계단식 조건부 확률 접근법을 신중하게 적용하면 흔히 생각하는 것보다 낮은 확률 값이 생성됩니다.
이 프레임워크는 인류가 혁신적인 AGI를 향한 부분적이지만 불완전한 진전을 이루는 많은 미래 시나리오를 열거하는 데 도움이 됩니다.

[익명(fractal875)]

생각보다 높네

[익명(114.207)]

ㄹㅇㅋㅋ 2100년에나 1퍼 미만 찍을 거라고 생각했는데 생각보단 높노

[익명(210.106)]

안돼 ㅠㅠ

[익명(210.106)]

근데 본문 보니까 기준이 너무 엄격하긴 한듯 '또는 값비싼 초인적 AGI 또는 값싸지만 고르지 못한 AGI의 명확한 달성도 있습니다' 일단 비싸더라도 agi나오면 비용은 금방 줄어들지 않을까

[익명(125.191)]

[selbstmorde(technische)]

[익명(114.207)]

agi가 저 정도면 완몰가는커녕 근이점부터가 다음 세기에나 올까말까겠노

[익명(114.207)]

텄다 텄어

[익명(125.191)]

21세기에 특이점은 오지 않는다..

[익명(hyeongim264)]

허사비스나 알트만 같은 세계 최고의 인공지능 천재들은 몇년안에 와도 안이상하다는데 듣보잡들이 이래라 저래라노 - dc App

[익명(210.113)]

팩트)저 논문은 이래라 저래라 한 적이 없다.

[익명(125.191)]

업계종사자들은 직원도 모아야 하고 투자받아야 해서 어쩔 수 없음 AI 연구원들 평균 타임라인은 2060임

[익명(219.255)]

화가 잔뜩 났노

[익명(hyeongim264)]

듣보잡들 수백명 모아놓으면 천재 한두명 따라가는줄아노 국평오 열명 모아놓고 아이큐들 합치면 아인슈타인 넘겠네 아주 ㅋㅋㅋㅋ

[익명(gjtthf)]

ㄹㅇ agi 올라면 ㅈㄴ 오래걸리니깐 ai 개발에 더 많은 돈을 투자해야된다 ㅋㅋ

[익명(175.112)]

지금 이미 풀가속 밟고 있는데 저 모양임. 더 투자해봤자 과포화상태. 오히려 각종 규제 쳐맞고 앞으로 더 느려질 예정 ㅅㄱ

[익명(gjtthf)]

그니깐 더 가속을 해야지 그리고 agi가 오려면 저렇게 오래 걸리는데 규제를 왜 함?ㅋㅋㅋ

[익명(175.112)]

국가나 사회 운영이 ㅈ으로 보임? 그냥 좋아 빠르게 가! 하면 다 되는 줄 아노ㅋㅋㅋ 느린 속도라 할지라도 ai가 발전할수록 각종 이해관계에 얽히고설킨 직간접적 반대에 부딪힐 것이고 그 강도는 점점 더 심해질 거임. 이 사회적 합의를 모색하는 과정에서의 지체는 불가피함

[익명(gjtthf)]

어차피 agi도 아닌데 왜 반대를 함? 약인공지능으로는 절대 노동대체가 불가능한데? 애초에 gpt-4 이후로 개발 잠깐 쉬자는 것도 agi까지 얼마 안 남았다고 생각해서 그랬던 건데 agi가 개발되려면 수십년 남았다는 저 논문대로면 규제를 할 필요가 없어지는거지 ㅋㅋ

[익명(175.112)]

논리 자체가 전위적 비약이고 군데군데 미싱링크가 많은 듯. 무조건 agi만이 노동을 대체할 것이라는 레퍼와 agi가 다가오는 게 멀었다는 것만으로는 반대가 절대 안 일어날 거라는 레퍼, 이해관계에는 노동 대체만 해당된다는 레퍼를 제시해야겠노

[익명(gjtthf)]

당장 운송직 대체할 완전자율주행조차도 agi에 필적한 난이도고 ai는 자신의 생계에 위협만 안 되면 거부할 이유가 없으니깐? 기업은 원래부터 ai를 환영하는 입장이고 ㅋㅋ

[익명(175.112)]

아니 씹소리는 필요없고 레퍼 제시할 준비되면 불러라. 저능아 일일이 상대해주는 것도 시간 낭비니까

[익명(gjtthf)]

레퍼는 각종 규제 쳐맞고 느려진다고 주장한 너가 제시해야지 ㅋㅋㅋ

[익명(175.112)]

그건 이미 일어나고 있는 사실인데 굳이 레퍼 제시까지 필요함? 당장 eu부터가 ai 규제안을 내놓고 있는 실정인데ㅋㅋ

[익명(gjtthf)]

그야 agi 개발까지 얼마 안 남았으니깐 ㅋㅋ

[익명(175.112)]

주장은 니가 처음 했고 계속 이어지는 주장 속에서 씨부리는 논리 자체에 하자가 심하니까 그걸 보완할 책임은 니한테 있는 게 맞음

[익명(gjtthf)]

더 많은 투자를 해야된다는 말에 규제 쳐맞고 느려질거라고 한 너가 근거를 제시해야지 ㅋㅋ

[익명(gjtthf)]

대가리가 으깨진 건 지가 무슨 말을 하는 지도 이해를 못하는 분탕충인 너가 아닐까? ㅋㅅㅋㅋㅋ

[익명(175.112)]

그래서 제시했자너 이 이후로 레퍼 제시할 준비되면 불러라 대가리 으깨진 티 좀 그만 내고

[익명(175.112)]

레퍼를 제시해서 하자 있는 논리를 보완해야 할 당사자는 말을 돌리고 정작 제시할 필요도 없는 내가 레퍼를 제시하고 있는 꼴

[ㅁㅇ(106.241)]

내가 씹선형충인데도 이건 선슬람 수준이노

[익명(112.161)]

댓글에 저능아 드립치는 분 전부터 말투가 올드하다 싶었는데 이 글 마지막 댓글 케이스인듯 ㅋㅋ
https://m.dcinside.com/board/thesingularity/354962

[익명(222.108)]

보니까 정식 논문도 아니고 대회에서 상금타먹으려고 쓴거구만 ㅋㅋㅋ

[익명(211.178)]

엌ㅋㅋ

[익명(221.151)]

그런 말이 어딨는데 ㅋㅋㅋ 날조 오지노

[익명(222.108)]

떡하니 콘테스트 참가용이라는거 안보임? 들어가니까 그냥 한 단체에서 공모전느낌으로 상금걸고한거임 - dc App

[익명(222.108)]

그냥 논문을 한번보셈 그냥 어떻게든 짜집기한 느낌이고 제대로된 논문은 더더욱 아님 내가 AI 논문을 100편은 넘게읽었는데 - dc App

[익명(211.184)]

어쩐지 ㅋㅋ정식 논문인지 아닌지 확인도 안하노 얼마나 들고올게 없으면ㅠ

[거니바니(kkksu7ss7s)]

[익명(115.138)]

이딴 개소리 믿지마라 챗gpt 나오기전에 보수적이었던 학자들도 gpt나오고 죄다 돌아섰다

[익명(qwqttpw)]

43년이라 해도 특붕이들 아직 중년이다 ㅇㅇ 대부분 더 기다릴 수 있음