보닌 진짜 다 걸고 특붕이임 ㄹㅇ
요즘 갑자기 드는 불안감? 의문 이런게 있음
초지능 나온다고 생명과학, 화학, 물리학 이런게 정말로 기하급수적으로 발전할수 있을지 의문이 생겼음
특이점 자체에 대한 의문이 든건 아님
만약에 agi를 몇년 이내에 달성할수 있다면 똑같은 원리로 단순히 들어가는 자원만 들려서도 더 강한 지능을 만들수 있을거고 애초에 재귀개선이라는게 있을테니깐 시스템적으로도 엄청나게 같은 자원으로 엄청난 지능을 만들수 있겠지
일단 그냥 생각하면 사람보다 훨씬 똑똑한 기계가 사람보다 훨씬 빠른 속도로 쉬지 않고 연구하면 엄청난 성과를 거둘수 있을거라 생각하지만
또 다르게 생각해보면 기술 발전이라는게 단순히 생각과 추론만으로 이루어지는건 아니잖아
관측이라던가 실험결과라던가 그런게 엄청 중요한 부분이기도 하잖아
나는 그래서 사실 아인슈타인 100명이 현시대에서 실험팀을 꾸리면 어떻게 될까?라는 질문에서 큰 의미가 없을수도 있다고 생각하는게 관측장비나 실험 데이터 이런게 크게 더 주어지지 않는데 그런 천재가 많이 있어봐야 뭔가 달라지는게 없을수도 있다고 생각함
또 재료공학 같은것들의 한계로 기술력을 구현할수 있는 한계가 있을수도 있고...
나 진심 다 걸고 선형 아니고 20년도부터 특갤하던 사람인데 작년쯔음부터 들던 생각임...
과연 실험결과나 이런것들이 추가로 더 제공되지 않는 상황에서 초지능이 추론만으로 급속한 ai 성장을 만들수 있을것인가...
이런 과학 발전 분야 잘 아는 특붕이들 있으면 의견 좀 주삼
요즘 갑자기 드는 불안감? 의문 이런게 있음
초지능 나온다고 생명과학, 화학, 물리학 이런게 정말로 기하급수적으로 발전할수 있을지 의문이 생겼음
특이점 자체에 대한 의문이 든건 아님
만약에 agi를 몇년 이내에 달성할수 있다면 똑같은 원리로 단순히 들어가는 자원만 들려서도 더 강한 지능을 만들수 있을거고 애초에 재귀개선이라는게 있을테니깐 시스템적으로도 엄청나게 같은 자원으로 엄청난 지능을 만들수 있겠지
일단 그냥 생각하면 사람보다 훨씬 똑똑한 기계가 사람보다 훨씬 빠른 속도로 쉬지 않고 연구하면 엄청난 성과를 거둘수 있을거라 생각하지만
또 다르게 생각해보면 기술 발전이라는게 단순히 생각과 추론만으로 이루어지는건 아니잖아
관측이라던가 실험결과라던가 그런게 엄청 중요한 부분이기도 하잖아
나는 그래서 사실 아인슈타인 100명이 현시대에서 실험팀을 꾸리면 어떻게 될까?라는 질문에서 큰 의미가 없을수도 있다고 생각하는게 관측장비나 실험 데이터 이런게 크게 더 주어지지 않는데 그런 천재가 많이 있어봐야 뭔가 달라지는게 없을수도 있다고 생각함
또 재료공학 같은것들의 한계로 기술력을 구현할수 있는 한계가 있을수도 있고...
나 진심 다 걸고 선형 아니고 20년도부터 특갤하던 사람인데 작년쯔음부터 들던 생각임...
과연 실험결과나 이런것들이 추가로 더 제공되지 않는 상황에서 초지능이 추론만으로 급속한 ai 성장을 만들수 있을것인가...
이런 과학 발전 분야 잘 아는 특붕이들 있으면 의견 좀 주삼
Agi도 아니고 초지능이면 개초딩처럼 뭐든지 가능한데 초지능 ai가 더 똑똑한 ai만듬 그 ai가 다시 더똑똑한애 만듬 미친 속도로 무한반복
초지능이 더 뛰어난 지능을 만들고 이런 흐름은 당연히 가능하다고 생각함 내말은 초지능이 아무리 뛰어나도 지능만으로 다른 실험결과나 관측장비가 필요한 분야들 뭐 천체물리학이나 생명과학, 화학 이런것들을 발전 시킬수 있을까? 이 얘기지 - dc App
그흐름이 가능한데 고작 생명과학 발전못할것같음?
그니깐 고작이 아니라 실험결과가 필요한 분야잖아 내말은.... 수학 같은거나 코딩 같은거야 실험결과 없이 바로바로 추론으로 가능할수 있어도 천체물리학, 핵물리학, 재료공학 이런건 관측 장비, 실험결과 이런게 근본적으로 있어야 발전이 가능하고 또 발전하는데 양자터널링처럼 물리적으로 한계가 있을수도 있는데 이걸 초지능이 어떻게 해결할까 라는 거잖어 - dc App
단순히 초지능은 졸라 똑똑하니깐 전부 다됨~~~~~ 이런 논리면 시간 여행도 되겠네 - dc App
초지능이라면 내부에 개쩌는 월드모델이 있어도 이상하지 않음. 초지능이라면 너가 우려하는 그러한 현실세계에서 확인이 필요한 작업들은 초지능 내부의 월드모델에서 이미 돌려서 연산을 끝내버릴거라고 생각함. 말하자면 초지능 안에 완묠가가 있고 그걸 초지능이 테스트베드 삼아서 실험을 눈 깜빡할 사이에 수십 수백만번을 시뮬레이션 돌려볼수도 있어야함 초지능이라면 - dc App
너가 말하는 부분은 agi와 asi사이가 더 가깝다고 봄 - dc App
시물레이션 생각을 못했네 쩝... 그러면 실험 결과 필요한 분야는 왠만하면 해결될듯... - dc App
그러면 기술 개발에 양자터널링 처럼 물리적으로 한계가 있을수 있다 이런건 어케 생각함? 나는 진지하게 나노봇이나 이런거 개발에 양자터널링 이런 문제가 영향을 미칠수 있다고 보거든 - dc App
@킥장인 asi 이전 agi에서 말하는건지 asi 이후를 말하는건지 모르겟슴. asi이후라면 말해놓은 완묠가 월드모델로 처리할수있을거라고 보고. agi라면 그 부분에 대해 니가 말한대로 실험과 같은 현실세계에서의 작업이 필요할거로 봄 - dc App
@킥장인 나노봇이 꼭 반도체가 들어간 로봇구조일 필요는 없음. 세포를 규명해서 생물학적 나노봇으로 갈 수도 있는거야. 체세포를 전부 강화된 슈퍼세포 바이오봇으로 교체하는거지. 기존 세포보다 훨씬 건강하고 외부공격에 강력하며 텔로미어도 스스로 복구할 수 있는 거지. 그런방향이면 나노단위 반도체 로봇이 문제가 아니지않을까
@킥장인 아니면 우리가 아예 모르는 제3의 개념을 발굴해서 우리가 예상치 못하게 해결해버릴 수도 있고. 지금 우리의 기준으로 이건 한계지 않을까 싶은 모든 것들은 인간의 한계지 재귀개선으로 전인류를 넘고 자기자신마저 계속해서 초월하는 asi의 한계로 볼 순 없음.
너가 몰라서 그렇지 학계 뒤지다보면 이미 아무도 안하는 분야의 최전선에서 혁신적인 연구하고있는 괴짜천재들이 많아. 패러다임 자체를 바꾸는 연구라 2-30년 걸려서 그렇지... agi가 나오면 그 시간이 획기적으로 단축되면서 금방 혁명이 찾아올거라고 생각함. 보이지 않는 곳에서 토대를 쌓아올리는 사람들은 항상 있다.
보이지 않는 곳에서 토대를 쌓아올린다 랑 본문이랑 상관 없지 않음? 본문은 초지능의 한계점 유무에 대해 얘기하는데 그거랑 별개로 agi 나오면 당연히 획기적으로 단축되겄지 - dc App