빠른 AGI, 느린 ASI.


이거 공식발언으론 작년 4월인가 5월 인터뷰때 이미 말한거잖아.


그리고, 빠른 ASI는 정렬이 안 된 ASI를 말하는거라 '좋은 게' 아님.


특붕이는 좋은데, 일반 시민에게 별로다. 이게 아니라, 그냥 '인류'에 해로움.


이거 정리된 이야기일텐데 유입이 많아서 그런가 자꾸 오해하는데...



빠른 ASI는 선택이나 선호의 문제가 아님.


빠른 ASI는 원숭이 손처럼 능력은 뛰어난데 잘못 작동할 가능성이 높아서


너희들이 그렇게 싫어하는 '안전주의자'들이 말하는 이야기임.


AGI를 달성했을 때, 실수든 고의든 제대로 정렬 안 된 체로 ASI가 될 수 있고, 그러면 인류는 무조건 멸망할거다. -> 그러니까 AGI 개발 자체를 늦춰야 한다.


이거임.


AGI는 빠른 게 좋은 거고, 취향의 문제고.


ASI는 그냥 느린 게 좋은 거임.


몇몇 특붕이들이 원하는 완몰가 같은 건 ASI 전에 도달하니까 걱정할 필요가 없는거고.

(물론 명확하게 '이제부터 ASI다.' 이런 건 없겠지만)



그래서 알트만은


AGI를 일단 빠르게 달성해서, AI에 대한 이해와 경험을 높히고, 서서히 ASI에 도달하도록 해야 한다.


이렇게 말해왔음.


특붕이들한테 중요한 부분은 'AGI를 빠르게 달성하고' 이거임.


저 말을 풀어서 설명하면 '나는 사회가 AI에 최대한 빨리 적응하게 할거야. 그리고, 인류를 위협할 수준의 AI는 최대한 막을거야.' 이 말임.


느린과 빠른 이라는 말에 오해하지 마셈.



보통 신기술은 천천히 시장이 준비 될 때까지 기다렸다가 품.


예를 들면 자동차의 여러 기능들.


그런데 알트만이 여러 강연에서도 말한 내용이나 인터뷰를 보면


시장을 기다리는 게 아니라, 시장의 변화를 요구함.


'GPT 다음 모델이 별로라고 가정하고 사업 하지 마라.'


이 말도 이번에 새로 한 게 아니잖아. 꾸준히 한거고.


시장에 계속 영향 주는 발표를 하고 있기도 함.


SORA, 그리고 이번 실시간음성대화.


SORA 아니었으면, 르쿤형 발언처럼 '영상 생성 쪽은 뭔가 벽이 있다...' 이 말에 공감하면서 PIKA나 Gen2 이런 거 썼겠지.

(물론 이번에 중국이 개발한 영상생성AI보면, 얘네도 자연스럽게 발표할 과정에 있던건지, SORA보고 영감 얻어서 빠르게 개발한건진 모르겠지만)



개인적인 말이 길었는데


짧게 정리함.


AGI는 빠른 게 좋고, ASI는 느린 게 좋다.


이게 알트만의 꾸준한 입장이었고, 변한 게 없음.


그리고, 이건 특붕이들한테 제일 나은 시나리오임.


빠른 AGI, 빠른 ASI 는 AGI 충분히 즐기지도 못 하고 망할 수도 있음.


특갤하면서 빠른 ASI를 지지한다는 말은 하지 않도록 하자.


할거면 좀 근거라도 적어서 해줘. 그냥 '빠른 게 좋은 거 아님?' 이러지 말고.