여기 갤러리 돌아다녀보면서 느낀건데 특이점에 대해 다들 너무 과하게 기대하고 있는거 같아 보여요
내가 아무리 생각해봐도 초지능급 AI가 등장해서 기술적 진보를 이룬다해도 그것이 현실세계에 도입되고 정치적으로나 사회적으로나 정착하려면 꽤 많은 시간이 걸릴거 같은데(진짜 최소한도로 잡아도 5년 이상)
여기에서는 다들 오늘 내일 유토피아가 올 것처럼 말하고 있어서 조금 괴리감이 들더라구요
다들 어떤 점에서 AI의 발전을 기대하고 있는 건지 궁금하네요
추가로 이건 제가 모르는 부분인데 여러분이 더 잘 알거 같아서 여쭤보는거에요
특이점에 대해서 기본적으로 전제되는 것이 어느 순간 AI가 끝없는 재귀개선을 통해 무한한 기술적 진보를 이룩한다 라는 것 같은데
AI가 재귀개선을 통해 스스로 발전할 수 있다는 게, 이론적으로 증명된 건지 아니면 그냥 현재 AI의 발전속도나 기술 발전의 역사를 볼 때 이럴 것 같다 라고 예측하는 건지?
나는 개인적으로 AI의 재귀개선에도 한계가 있을 것 같다고 보는 입장이라서 앞에 쓴 것 처럼 낙관주의적 입장이 잘 이해가 안되는 거라...
여기 갤러리를 보면서 궁금했던걸 두서없이 쓰다보니 이해가 안될 수도 있고, 얘가 뭔 소리를 하는 건가 싶을 수도 있는데 잘 봐주셨으면 좋겠어요
내용적으로
많은 비판 환영합니다
초지능급 ai를 ASI라 부르는데 ASI 정도면 이미 관련 제도가 사회적으로 정착하기 이전에 사회 자체를 뒤집어버릴 기술임
인간 한 명의 지능과 비슷한 AGI도 스스로 재귀개선이 가능한데, 상황이 좋으면 얘가 몇 시간만에 기하급수적으로 발전해서 여기 애들이 갈망하는 미래기술을 전부 뿌려댈 수 있음
그리고 초지능급 기술이 나와도 사회적, 정치적 적용에는 오랜 시간이 걸린다 << 이것도 초지능의 영향을 과소평가했다고 생각함 당장 단순 전염병인 코로나19도 몇 개월만에 거리두기 수칙, 마스크 착용이 법제화되고 사회적 거리두기 단계 체계까지 나눌 정도였는데 초지능 등장은 이것보다도 훨씬 빠르게 진행될 것이라고 생각
이 말은 본문에 못 썼는데, 저는 AI를 사회가 받아들이는 데 걸리는 시간보다, 기술적 발전이 물리적으로 현실세계의 많은 것을 대체하는 데 걸릴 시간이 훨씬 오래 걸릴거라고 생각해요 또한 AI의 재귀개선을 통한 기술발전의 한계가 있다면 그 마저도 제약이 될 거구요
저도 님 말에 공감 초지능이 등장해도 물리적으로 전부 갈아엎는 데는 아마 오래 걸리죠...그리고 재귀개선은 될지 안 될지 아무도 모르긴 함
뭐든 무조건적으로 믿지 말고 여러 관점에서 봐야 하는데 기대치가 너무 커서 그런 건 안중에도 없는 사람이 많지 않나 싶음
해당 댓글은 삭제되었습니다.
제가 잘 모를 수 있는 건데 우리는 물리법칙이 적용되는 곳에서 살아가고 있고, 이에 따라 엄연히 불가능한 기술적 한계가 분명히 존재할거라고 생각해요 당장 가장 빠른 빛의 속도만 해도 우주급 스케일에서는 매우 느리니까요
그래서 AI의 재귀개선에 관련된 내용을 찾아보려고 했는데 이 부분에 대한 정보는 잘 없더라구요
(나무위키 링크를 주며)
저도 링크에서 주신 것과 같이 기술발전의 여지는 우주스케일까지 확장할 수 있다고 생각해요 하지만 그걸 우리세대에서 경험하기에는 무리가 있다고 생각합니다
https://gall.dcinside.com/mgallery/board/view?id=thesingularity&no=352641
1. 현실 도입 시간, 사회 정착 시간은 어느정도 동의함. 하지만 5년은 사람 손을 탔을 때의 이야기고, AI와 관련된 일은 더 빨라질 수도 있음 2. 재귀개선은 이전까진 공상의 영역이었는데 GPT-4가 그나마 가능성을 보여줌. 내부적으로 더 뛰어난 모델을 이미 쓰고 있다는 소문도 돌고 있음. 그래서 믿는거임
재귀개선은 아직 초기단계라서 이론적으로 알려진 정보가 없는건가요? 관련된 내용을 찾아보고 싶은데 잘 안 보이더라구요
대부분 허탕이지만 시도는 계속 있었을텐데 설마 커뮤니티 글 검색으로만 찾아본거임?
개인적으로 여기가 접근성이 좋고 그나마 국내에서 잘 알려진 곳이다보니 그렇게 됬네요 ㅜㅜ
재귀개선이 agi의 최소조건임.그렇기때문에 agi이후의 인공지능은 계속 끊임없이 발전하는거고 추론을 생각해보면 편함. - dc App
그치만..... 재밌는걸 ㅋㅋㅋ
사실 여기 분위기는, 뭐랄까, 오길 바라는 사람들이 많으니까 더 그쪽으로 낙관적일 수 밖에 없음. 하지만, 여러 유명인들의 발언도 있었고. 사람은 원래 과거를 보고 미래를 예측하잖음? 근데 최근 AI 모델 발전이 매우 빠르고, 단순하게 빠른 것 이상으로, 생각하는 능력이라 여겨질 성능도 보이고 있음. 아예 관심 없는 일반인이라면, 시장에 나온 제품을 통해 느낄텐데 아직 그런 제품이 별로 없어서 체감을 못 하고 특붕이들은 정보라도 빠르게 듣긴 하니까(판단할 능력은 안 되더라도) 속도를 체감하고 더 낙관적으로 보게 되는 것 같음.
물론, 여기에서 다소 재밌는 포인트는, 일반인은 호들갑처럼 느끼고 있고, 특붕이들은 못 느끼는 걸 답답해하고 있는데 AI 연구자들도 극단적으로 반반으로 갈림. '걱정할 수준은 전혀 아니다.' vs '규제해야 한다. 핵무기급' 뭐, 아직은 언어모델이 크기가 커질수록 성능이 좋아지고 있고, 벽을 만난 적이 없어서 발전에 제약이 없을 거라는 게 대세인 듯. 물론, openAI도 AGI까지 가려면 새로운 아이디어가 몇개 더 필요하다곤 했지만. 시도를 다 해봤는데 안 돼. 이게 아니라, 시도 할 아이디어가 많은데 아직 못 해봄. 이쪽이라서.
기술적 특이점이 이론적인 이야기이긴 해. 하지만 난 꽤 합리적이라고 봄. // 인간정도의 지능을 가지는 AI가 개발된다. 그 AI를 A라고 하자. A는 인간의 지능을 가지고 있으므로 인간에 의해 제작된 자기 자신을 스스로 제작할 능력이 있다. 따라서 A는 스스로를 비판적으로 바라볼 능력이 있다. 따라서 A는 스스로를 개선할 능력이 있다. A는 매우 제한적이나마 자신을 개선한 버전 2의 A를 만들 능력이 있다. 버전 2를 B라고 하자. B는 스스로를 개선한 C를 만들 능력이 있다. C는 스스로를 개선한 D를 만들 능력이 있다. 이러한 개선은 해당 버전이 올라감에 따라 점점 가속화된다.
아직까지는 이론적인 이야기인 것 같네요, 그래도 말씀들어보니 크게 비합리적인 이야기는 아니라고 생각되네요
전문가들이 설레게 떡밥을 주잖아..
댓글에서 어떻게 말하고 주고받았는지는 못봐서 모르겠는데 asi가 등장한이후로의 사회변화는 상상을 초월하게 급진적일수 밖에 없어. asi에 대해 회의적이라면 그럴수도 있겠고 재귀개선의 한계에 대해서도 동의하는 부분이 있긴한데 asi는 그 정의에 부합하는 무언가가 세상에 탄생한다면 상상을 초월하는 개변이 일어날수 밖에 없어. 아마 인간과 초지능 사이의 지능격차를 어른과 아이정도로 착각해서 그렇게 생각하는거 같은데.. asi는 상상할수 없는 지능을 가진 무언가야. 적어도 정의상으로보자면 인류의 역사를 통틀은만큼의 기술발전을 순식간에 해치우고 그 적용에 있어서도 인간이 상상할수 없는 속도와 효율성으로 해낼수 있을테니 말이야.
정치적이나 법리적인문제도 의미가 상실될수 밖에 없지. 전세계의 네트워크를 순식간에 지배하고 인류 전체의 의사결정을 멋대로 왜곡하고 선동하는데 그러한 과정을 인간이 눈치채지도 못하게 할수 있을만큼 똑똑한 지능이 탄생한건데 정치가 무엇을 얼마나 할수 있을까
당장 초지능이 생겨난다고 해도 AI가 현실세계의 많은 것을 대체하는 데 많은 시간이 걸릴거라고 생각해요. 이 부분에 대해서는 어떻게 생각하시나요?
물리적인 기반시설을 바꾸는데는 시일이 걸릴수도 있겠지. 정확하게는 초지능이 어디까지 가능할지 우리는 망상밖에 할수 없어 그런데 적어도 정의에 부합하는 무언가를 상상해보자 양산 가능한 초1전도체를 개발했어. 이걸 인간이 산업에 적용할려면 10년은 걸리겠지? 상용화 가능하게 만들고 생산설비를 설계해서 만들고 그 과정에 인간끼리의 의사합의 법제화 등등.. 하지만 초지능이 있다면 저 대부분의 과정이 스킵될테고 공장을 건설하는거마저 가능한한 최소한의 시간으로 해치우겠지 뭐 로봇등이 건설과정을 진행할수도 있을테고
설명이 부족했던거 같은데 당장 발전된 기술을 알게되도 현실세계의 많은 것(예를 들어, 사람이 처리하던 일의 거의 대부분의 자동화)가 이루어지려면 지구상의 거의 모든 것을 로봇으로 대체해야 하고, 로봇을 생산해야 하고, 자원이 필요하는 등, 물리적으로 체감하려면 많은 시간이 걸릴것이라는 내용이었어요
변화라는게 물리적인 변화만을 말하지는 않으니까 학문, 경제등의 변화는 즉각적이겠지 좀 과장해서 보면 수십초만에 모든게 바뀔수도 있을테고 물론 현실세계의 변화의 속도는 한계가 있을수밖에 없다는건 이해해 그런데 그 변화과정의 속도가 인간이 상상하는정도는 아닐거라는거야 5년이나 감안할 만큼 말이야. 모든 과정을 인간이 상상하기 힘들만큼 병렬적이고 인과가 맞물리게 처리하고 생산한다고 생각해봐
어쩌면 제가 상상의 여지가 부족했던걸지도 모르겠네요 감사합니다
그냥 일반인이 그동안 깔짝 보고 들은거로 말하자면, 영장류에 한해서 보면 뇌는 커질수록 기능이 좋아졌음, 인간처럼. 그리고 ai의 파라미터 수도 마찬가지임. 'scale is all you need'란 말이 나왔을 정도니까. 그리고 이 스케일을 단순히 키우는 방법이 아직은 벽에 부딪혔단 신호가 비용문제만 빼면 하나도 없음. 그래서 기대해보는거지. 거기다 생화학적인 회로보다 전자회로가 100만배는 빠르다고 하잖아? 사람보다 동일한 지능에 100만배 빠른 agi가 나타났다고 치면, 1년만 지나도 인간이 100만년동안 생각할 수준의 양의 데이터를 처리할 수 있을거임.
그리고 그 agi는 인류가 가진 모든 지식을 알고 있음. 재귀개선이 한계가 있을 수 있을테지만, 사람이 보기엔 정말 어마어마한 수준의 지식까지 알게되지 않겠나 기대걸어보는중임.
박사라 하더라도, 한정된 좁은 분야에서만 최고전문가지 다른 수많은 분야는 두루뭉실 알거나 문외한임. 하지만 ai는 모든 지식을 알고있으니 학문 간 융합적인 생각으로 사람들이 미처 보지 못하고 지나친 부분도 개선되는 것도 클것같음
그리고 로봇생산에 시간 오래걸릴거라 하는데, 1년에 자동차가 몇대 생산되는지 아셈? 2022년 기준 8500만대임. 로봇 생산이 그와 비슷한 난이도라고 가정할때, 사람들이 진심으로 로봇생산에 전념한다고 치면 세계 길거리 어디에서나 로봇을 보는건 어렵지 않을거라생각함.
그말대로라면 당장 자동차급으로 로봇을 생산한다고 해도 10억명에게 로봇을 보급하는데에 5년이상 걸리는 걸요 물론 초지능이 존재한다면 훨씬 짧아지는 것도 가능하겠지만 그래도 연 단위로 걸릴거 같네요 따라서 제가 하고 싶었던 말은 기술발전이 현실세계로 접목되는게 하루이틀안에는 불가능하다는 뜻이었지, 막 50년안에 로봇이 집집마다 들어서는게 불가능하다는 뜻은 아니었습니다ㅜ
하루이틀컷은 agi가 등장한다면 학문이나 ai의 발전은 가능할것 같은데 물리적인 부분은 많이 힘들거라는데 동의함. 소설 수준의 물질제조기를 발명하지 않는 이상;; 여기서부턴 상상의 영역인듯. 근데 로봇도 만들어진 로봇이 바로 생산에 뛰어들면 10억대생산 5년컷 가능할듯. 사람처럼 쉬지도 휴가가지도 않을테니까
만약 ai가 사람보다 효율이 몇천배 난다고 하면 대체안하고 늦장부릴 수 있을까?
수많은 업계 최전선 전문가들이 그렇다고 하는데 그 이상의 말이 필요한가, 사실 우리 생각이 어떻든 중요하지 않음. 당장 2년 전 특갤만 해도 AGI 존재 여부에 대해 토론했고 AGI 등장 시기 자체가 지금으로부터 10년 이상 더 걸린다고 이야기했었음. 하지만 현실은 갑작스럽게 챗 GPT부터 달리, GPT-4 등등이 출시되었고 AGI를 부정적으로 전망하던 전문가들도 하나 둘씩 모두 AGI를 2030년 이내에 도래한다고 주장하게 만들었음. 정 이해가 안 된다면 특갤 개념글들 쭉 정주행 하면서 우리 생각의 근거를 알아보면 되는 거고, 그래도 동의 못하고 이해가 안 간다면 그냥 조용히 현생 살면 됨.
정확히는 우리 생각이 중요치 않다기보단 예측 자체가 의미가 없음. AGI 이후의 세상은 어떤 식으로든 우리 예상을 벗어날 거고, 그 방향을 최대한 긍정적이고 안전하게 만들기 위해 알트만이 오픈 ai 내부에서 초지능 정렬 팀을 만드는 거임.
저도 AI의 발전이 생각보다 훨씬 빠르다는 것을 알고 있고, AI가 어떤 발전을 이루어낼지 기대하고 있습니다. 다만 그럼에도 이런 글을 작성한 것은 특정 기술(완몰가, 역노화 등)에 관련해서는 사람들이 과하게 낙관적이라는 생각이 들더라구요
그렇게 될 수밖에 없는 게 여긴 특이점이 온다 갤러리고 그 존재의 근간은 레이 커즈와일의 "특이점이 온다"의 저서임 우리가 이야기 하는 내용들도 거기에서 발췌된 것들이랑 최근 기술 발전 동향들이 짬뽕된 거고. 그리고 마냥 낙관적이라고 보기엔 어려운 게 뭐가 어떤 식으로 전개되든 적어도 지금보다 더 많은 걸 누리게 될 거라는 것을 GPT-4나 달리 3 등을 사용해보면 느낄 수밖에 없음.
물론 악용될 수도 있겠지만 그렇게 따지면 총이나 핵도 똑같음. 그 위력의 차이만 다를 뿐이지.
개인적으로 마지막말에는 크게 동의하는 바입니다. 덕분에 조금 다르게 생각할 수 있을 것 같네요 답변 감사합니다.
ㅇㅇ 나도 건전하게 이야기하는 것 같아서 좋았음. 님 의견에 초점을 맞춰서 이야기하자면 이미 인공지능의 발전은 막을 수 없는 수준까지 가버렸고 사실상 AGI의 출현은 예정된 수순임. 그 이후의 일은 어쩌면 님 말대로 특붕이들이 너무 이상적인 것을 좇다가 디스토피아적인 현실을 맞이할 수도 있음. 그럼에도 막을 수 없이 필연적인 흐름이라면, 긍정적으로 생각하는 게 지금 이 순간을 살아가는 데 활력을 줘서 그렇게 비친 건 아닐까 함. 이게 내 희망사항이고 사실은 현실이 너무 각박해서 사람들이 종교를 믿는 것처럼 믿고 기댈 곳이 필요했던 건 아닐까? 거기다 특이점은 종교랑 달리 매우 실증적인 거니까 그 믿음의 강력함은 말해야 입 아프고.
다들 좋은 댓글 남겨주셔서 감사합니다. 여러 의견을 들어보니 제가 모르는 부분에 대해서도 알게 돼고 여러분들이 특이점에 대해서 어떻게 생각하는지도 조금 알게된 것 같습니다. 좋은 밤 되세요