인공지능이 재귀적 구조 개선을 할 수 있게 되는 시점을
특이점이라고 하면
반드시 온다고 생각함
하지만
인간이 딸깍 버튼 누르지 않으면
실행에 옮기지 못하는 형태로 남을 거라고 생각함
인간이 스스로 스위치를 포기하고
인공지능에 넘길 거라는 상상을 하기 어려움
왜 지수적 발전이 안되냐면
인공지능에게 딸깍 눌러서 1시간만에
어마어마한 연구결과를 쌓아놓고
다시 stop 눌러서 멈춘다음
인간 전문가들이 달라붙어서 이해하고 문제없으니
다음단계로 넘어가는 시간이
1달 이상 걸리는 형식으로
그런 식의 검증을 통한 지연이 동반되지 않을까 싶음
이런 환경에선
레이 커즈와일이 제안한 개념에 해당하는 지수적 발전은 어렵지...
그래도 그렇게 딸깍 잠깐 켰다가 끄는 것만으로도
인간이 독자적으로 발전하는 거보단 훨씬 빠를 거임
왜 이렇게 생각하느냐면
그냥 그냥임
인류 역사 자체가 지수발전인데 이제 와서 뭔 소리냐
그런 표면적 의미 말고, 비유적인 의미로 이해해. 저 밑에서 상상하는 것처럼 막 미친듯이 제어 불가능한 속도로 발전해서, 무슨 정보 한계에 도달하고 시뮬레이션 우주를 붕괴시키고 이런 식으로 인간의 이해 속도를 벗어날 정도로 빨라지긴 어려울 거 같다는 말임
왤케 공지를 안볼까..
재귀개선은 ASI 이전이에요~
무슨 의미인지 알고 있는데, 본문에서 가정한 상황 자체가 이미 asi가 탄생한거임 1시간동안 인공지능이 연구개발한게 인간 전문가가 1달 달라붙어야 겨우 이해가 가능한 수준이라는게, 이미 그정도 속도를 돌파했다는 의미임. 근데 그런 asi를 잠깐 켰다가 끄는 방식으로 쓰게 될 거라고.
팩트는 인간 뇌과학도 지수적으로 발달시켜 과학자들이 ai가 도출한 막대한 연구성과도 곧바로 뇌에 때려박는 기술이 나와 결국 스탑 버튼을 누르는 일은 없어질 거라는 거임
진짜 그런 세상이 왔으면 너무 좋겠는데
AI가 멈춰줄까?
"이 버튼을 누르면 재귀개선 시작할 테니 안 눌러야겠군!" ㅋㅋㅋㅋㅋㅋㅋㅋㅋ