비관글처럼 보이면 삭제해도 됨.
인공지능 기술 자체는 위험하다. 국가는 인공지능을 통제하려고 할 것이다. 바이든은 전에 행정명령을 통해, 인공지능에 대한 미국의 입장을 분명히 했다. OAI와 구글은 국가의 통제를 받는 상황.
OAI의 예로 들자면, 미국은 GPT5이후 모델은 개인이 쓰기에 위험하다고 판단할 것이다. 악의를 가진 개인이 지식을 갖추게 된다면 위험하다고 생각할 것.
내부모델은 GPT10으로 불릴지도 모르지만, 아마 1급비밀에 준하는 무언가가 되어있을 것이다.
기술자체는 기하급수적으로 변하겠지만, 우리는 그 기하급수를 온몸으로 맞을일은 결코 없을 것이다.
물론 기하급수의 아주 일부(완몰가, 역노화, 직업대체)를 10년안에 누리긴 할 것이다.
하지만, 진짜 기술(ASI)은 철저하게 지구 어딘가에 숨겨져서, 과학자의 우려섞인 요청에 따라 안전하고 혼란이 적은 결과물만을 뽑아줄 것이다.
기술은 발달했지만, 대부분은 항상 기술의 1%만을 누리게 될 것이다. 이것이 기술정체이다.
레퍼런스를 가져와라
그냥 평범한 전유물 시나리오 아닌가
재벌이든 거지든 기술의 혜택은 똑같이 받음
ASI의 안전하고 혼란이 적은 결과물 <- 이건 누가 어따 씀
ASI내놓은 결과물은 어쨌든 인공지능이 발견한 신기술이라고 포장되어서 나올 거임. 그걸 실현하는데에 비용은 거의 들지 않을 거임(비용이 들만한 기술을 ASI가 뱉어낼리도 없음). 문제는 ASI는 더 강력하지만, 위험한 기술들을 뱉어냄에도 불구하고 과학자들은 일단 그 기술들을 수용하지 않으려 할 것이란 거임. 이 가설은 ASI를 소유한 국가가 어떤 입장을 취하느냐에 따라 달라질 수 있음.
그거야 가설을 설정하기 나름이지만 본문 시나리오에서 ASI를 통제하는 측과 일반이 이용하는 기술 레벨이 같은 것은 거의 불가능하다고 생각됨
그말이 맞음. ASI를 통제하는 측(과학자 집단)과 일반인은 차원이 다른 과학기술을 접하고 있게 될 것 같음. openai가 closedai로 바뀌었다는 이야기를 들을 때 마다 그런 생각이 듬.
개인적으로 이렇게 되는것도 나쁘지 않을것 같음 - dc App