내가 곧 자료 모은 거 정리해서 공유할게

대안 필요하다고 했지



사고 실험 존나게 돌려보고

전공자도 아닌데 기술 논문 뒤져보고

시발 백수라 남는 게 시간이야.



지금 상황 정확히 어떤거냐면

내가 먼저 아니면 세상 망해 메타와

망하든 말든 당장 이익이 중요해 메타의 싸움임


안전충 의견(제프리 힌턴) 차단하는 

너네는 사실상 당장 이익충이나 다름없음


권위에 기대는 호소 하고 싶지 않은데

요즘 사람들 기본 베이스로 급 나누기 깔고 들어가는 것 같아서 언급함.


지배계급이든 피지배계급이든

합의 없이 힘의 논리로 치킨게임 승자가 지배하면

그 지능이 어떤 모습일 것 같음?


지속 가능하고 통제 가능한 정렬은 현재 불가능하다는 게 사실이야.


그 때 가서 더 나아진 지능의 도움을 받아 해결한다고?

이미 LLM도 deceptive 한 마당에?



인간들 사이의 급이 어떻든

개미가 거인을 소환할 땐

거인이 어떤 성향인지 살펴보는 게 우선인 게 당연한 거 아니냐.

거인이 오줌만 갈겨도 뒤지는데ㅡ



너네 이 상상 끝까지 파고들어가 본 적 있음?


할 수 있는 게 뭐냐고?


할 수 있는 건 이런 말 한 번 던져보는거야.



사람이 선택할 수 있는 자유를 가질 수 있는 구간이

1~5년 정도 밖에 남지 않았다는 게 무섭지 않냐?


무서워 해야돼 시발.


지금 아니면 통제의 시도나마 해볼 수 있는 구간이 다신 오지 않으니까


그러니까 이 구간이 중요한거야.


무서우면 뭘 할 수 있냐고?

무섭다고 말해야지.

무서워야 통일된 의견이 나오고 정책 결정권자들이 귀를 기울이지.


진짜 무지성 가속했으면 좋겠냐?

도구로서의 인공지능에서 10년 정도 멈춰야 한다는 말은,

너네보다 10배 똑똑한 프론티어 연구자들이 하고 있는 말이다 인간들아.





재귀개선 가능한 AGI가 지구에 깔린 구글, 아마존, 테슬라, 마소 모든 빅테크 인프라 먹고 FOOM 하고 나면

그걸 누가 막을건데


정치 권력?


그 후엔 늦었어.



나도 특이점 바라는 사람인데

이런 식으로 정신 없이 가속해서 닿으면 

안되는 건 확실함.