어떤 행성이 AGI급 인공지능을 그냥 개인이 소유하고 활용하는 그런 사회였는데
어떤 새끼가 나노머신 잘못 만드는 바람에
모든것을 나노단위로 분해하고 나노머신으로 만드는게 반복되서 온 행성이 분해되버린 케이스가 있었음
이거말고 개인이 바이러스 만들거나 반물질 만드거나 이런 그레이구 만들거나 좀 무서울지도
어떤 새끼가 나노머신 잘못 만드는 바람에
모든것을 나노단위로 분해하고 나노머신으로 만드는게 반복되서 온 행성이 분해되버린 케이스가 있었음
이거말고 개인이 바이러스 만들거나 반물질 만드거나 이런 그레이구 만들거나 좀 무서울지도
몽총~ 몽총
그래서 안전주의자들은, AGI 개발이 인류를 무조건 파멸로 이끌거라고 해서 아예 개발을 막자는거고 알트만도 일정 크기 이상의 AI는 국가나 기관이 통제해서 관리해야 한다는 거긴 하지.
원자력 발전소의 전기가 우리의 목적일 뿐 원자력 발전에 쓰이는 우라늄이 개인의 손에 들어갈거 무서워서 agi 개발 늦추거나 중단하자는 주장은 구더기 무서워 장 못 담그는 격임. 그럴거였으면 911 이후 비행기도 전면 금지 때렸어야했음.
그러니까 그런 것들은 개인이 자유롭게 무검열로 휘두를 수 없도록 현재까지 규제하고 있는 거임.
개발을 아예 막자는 것까진 아닌데 그렇다고 오픈소스든 뭐든 아예 방임하는 것도 넌센스라는 거. 물론 현 수준의 ai는 찌끄레기 수준이라 아직은 괜찮다고 함.
결국엔 위와 비슷한 범죄가 일어난 후 경각심을 가진 국가들이 주도하에 강력한 감시체제가 필수적이게 될거임 24시간 뇌파를 잃어서 범죄행위 조짐이 보이면 경찰출동하는 미래밖에 없음
특이점 올때까지 범죄이력없이 살아야 특권을 누릴수 있다
그래서 ASI로 바로 걍! 달려버리면 인간이 아무리 병신같은 요구해도 ASI가 병먹금떄리니 만사오케이임
이래서 개인한텐 제한하고 규제때려야 함
나 제외한 다른 사람들한텐 agi 주면 안됨 나는 똑똑하게 잘 쓸 수 있기 때문에 써도 된다