특이점, 혹은 초지능 개발이 확실하다고 할 수 있는 최소한의 충분조건이 뭐냐고 물으면 나는 두 가지를 들고 싶음.

1. 어마어마하게, 압도적으로 강력한 컴퓨터(필요로하는 컴퓨팅 수준에 따라 상대적임)

2. 인간의 중간적 개입이 필요없는 완전자동화된 자기개선 AI(아마도 진화 알고리즘 기반) - 시작과 완료단계에서 개입하는 건 상관없음.



그런데 2번의 경우 딥마인드의 오토 ML 제로나 XLand Agents 연구결과로 볼때 조건을 만족하는 기술이 이미 있다고 생각됨.
구글 제프 딘이 말한 Pathways는 아직 공개된 정보가 별로 없어서 제외함.


이제 1번인데, 아래의 정보글 - 과학자들은 양자 오류 수정에 한 걸음 더 다가갔습니다 - 의 내용을 보면

충분한 돈과 인프라와 인력을 투자하면 대규모 범용양자컴퓨터를 구축하는 것이 빠르면 수년, 늦어도 10년 이내에 거의 확실히 가능할 것으로 보임.


인간지능은 전혀 지능적이지 않은, 매우 단순한 최초의 생명에서부터 진화해온 결과인데,

위의 두가지 조건을 활용하면 훨씬 빠르게 그와 유사하거나 더 우수한 결과를 달성할 수 있다는 것은 자명함.

대규모 범용양자컴퓨터는 필요한 연산이 어마어마하게 방대하고 복잡할수록 압도적인 양자우위를 가짐.

이런 양자컴퓨터가 있다면 진화의 역사를 상당히 짧은 시간 안에(1년 이내) 재연해볼 수 있고,
투박한 진화알고리즘보다 더 나은 자기개선 AI까지 있다면 훨씬 더 정교하고 효율적으로 발전을 가속화할 수 있다는 것도 명백해보임.

따라서 2020년대가 끝나기 전에 초지능을 개발할 가능성은 매우 높다고 생각함.


졷문가의 망상이라고 생각해도 무방하고 100% 확실하다고 단정지을 수는 없지만

나는 아무리 생각해도 달리 생각이 들지 않음.

범용양자컴이 없었다 하더라도 초지능을 구동할 하드웨어는 2020년대 후반 부터는 슬슬 확보 가능할거라고 봤지만

방대한 진화 실험을 구현하려면 그보다는 훨씬 더 강력한 컴퓨터가 필요하다고 생각했는데

대규모 범용양자컴퓨터가 상용화된다면 곧바로 그 수준을 훨씬 넘어서는 단계로 도약하는 것임.


적고 보니 tr*va 같지만, 무지성 진화알고리즘 도배질이 싫은거지

진화알고리즘 기반의 자기개선 AI와 그 잠재력을 충분히 발휘하고도 남아도는 강력한 하드웨어의 조합이 가진 위력을 무시하진 않음.