커즈와일의 특이점 담론에서 중요한 점은
기술이 기술을 개발하는 지경에 왔을 때의 기하급수적 발전인데
문제는 그 기술이 기술을 개발하는.. 아니 최소한 인공지능이 인간의 보조로 작용 가능한 레벨에 온게
진짜 잘 쳐주면 gpt 3.5 때 부터임.
즉 그 때부터 계산을 해야하는데 로켓기술의 발전처럼 그냥 자본이 몰리니까
물리적 한계점을 향해 빠르게 발전한 반도체 기술 예시를 들면서 말한게 그놈의 커즈와일식 특이점 논리인데
보면 알겠지만 그 근간이 되는 무어의 법칙도 2020 년 경에 이미 둔화 징조가 확실하게 보임.
사실 아직 물리적 한계 도달하려면 멀었음에도 그냥 경제적으로 채산성이 안나와서 ...
그리고 2024년 현재에 이르러선 슬슬 물리적 한계에 가까워졌음. 무슨 반도체를 층층이 쌓는다느니 하는 새로운 아이디어가 있긴 하지만
이미 둔화된 속도가 더 둔화될 거는 뻔하지.
즉 커즈와일식 특이점 논리가 제대로 돌아가냐 돌아가지 않느냐를 보려면
프로그래머. 특히 인공지능 개발을 하는 프로그래머들의 생산성이
gpt를 비롯한 프로그램으로 얼마나 느냐를 보아야 한다고 생각함.
글고 당연히 이제 막 시작한거고
설령 커즈와일 식 논증이 사실이라도 커즈와일은 특이점을 누리지 못한다는 결론임.
아니면 한 120살을 목표로 존버해 보던가.
세포생물학 발전으로 존버할 수 있는 시간이 늘어나서 버틸 수 있기를 기대하는 게 현재로서는 최선
또 거기에 대해서는 추가적인 혁신이 필요한 것이 기계지능의 증가와 그것의 자연과학적 발전과는 또 다른 이야기인게 자연과학 발전은 지속적인 피드백이 필요함. 즉 기계지능에게 자연과학 가령 너님이 예시들 예를 들면 생물학 분야에서의 관측 피드백을 지속적으로 주고 그것이 인간과 협력 가능함. 아니 사실 현제로써는 인간이 주가 되고 인간이 하기 뭣한 부분을 기계에게 짬때리는 체계가 좀더 발전해야하는데... 이건 뭐.... 누군가 짜고 있겠지 뭐.
"무슨 반도체를 층층이 쌓는다느니 하는 새로운 아이디어가 있긴 하지만 이미 둔화된 속도가 더 둔화될 거는 뻔하지." 기술적 돌파구가 발견돼서 (꼭 최근 나온 그 반도체 기술이 아니어도) 가속 성장이 유지, 최소한 둔화되진 않을 가능성이 있는데 둔화될 것이 뻔하다고 단정하는 근거가 빈약함
무어의 법칙이 트랜지스터 집적도로만 따지는게 아님. 패러다임의 변화나 알고리즘의 개선등으로 인한 실질적 성능 향상을 봐야 하는거임 비슷한 예로 레오폴드 글에도 나오는건데 AI 모델의 성능 향상이 컴퓨팅 향상과 알고리즘 향상을 같이 봐야하고, 알고리즘 향상으로 인한 비중이 무시못할정도로 어마어마함