https://zdnet.co.kr/view/?no=20240319024328
"AI, 자가 복제 엄격 제한…살상무기화 금지"
중국 베이징서 'AI 보안' 국제 합의...제프리 힌튼 등 참여
인공지능 자율 복제 및 진화'에 초점을 맞춘 이번 합의는 인간의 명시적인 승인과 지원없이 인공지능 시스템이 스스로 복제하거나 개선해서는 안된다는 것이 골자다.
ㅅㅂ
https://zdnet.co.kr/view/?no=20240319024328
"AI, 자가 복제 엄격 제한…살상무기화 금지"
힌튼옹은 원래 군사목적이나 나쁜 목적으로 AI 쓰는거 반대해서
"이번 합의는 인공지능 시스템이 스스로 복제하거나 개선해서는 안된다"
실효성 있는 내용인지는 모르겠는데 저것만 보면 재귀개선 막아서 특이점 물 건너 가는것 같노
"인간의 명시적인 승인과 지원없이" 그러니까 그냥 만들고 어떻게 될 지 모르는데 아몰랑 재귀개선 호로섹스 레츠고~~ 를 반대한다는 거잖아
인간의 명시적 승인과 지원이라는 일개 개인이나 기업을 말하는 건 아닐테니까 규제나 제약이 걸릴수도 있다는 건 맞잖아
저게 근데 핵 확산 금지 조약처럼 전세계가 같이 법적으로 규제하는 거 아닌 이상 큰 의미 없을걸
저것 때문에 특이점 막힘 ㅇㅇ 걍 ㅈ됐음
지배층들만 쓰고 서민들은 절대 못 씀
그래서 완몰가도 불가능함 검열 ㅈㄴ 넣고 실시간 모니터링 해서 자유도 ㅈ박음
참여한 나라 봐라 중국 캐나다 영국 ai기술 따라잡고 싶은데 못따라가는 나라들임 다 일론머스크식 발목잡기임
미국이 그걸 들을 먹을리 없쥬~
영국과 미국, 캐다나, 중국
ㅇㅇ ai뒤쳐진 나라들끼리 미국보고 기다리라고 절규하는거임
어이없긴함 물론 힌튼이 있긴하지만 범세계적인 동의나 협의가 있는것도 아니고 어떤 기준에서 제약을 하고 규제할껀지 구체적인 내용도 없이 일단 우리 허락없이는 안됨 ㅅㄱ 땅땅 하는 것 같아서 어이없음
개가 짖어도 기차는 달린다
강제력이 있는 조약인게 아니라 단순 컨퍼런스에서 합의본거라 실효성이 있을지는 글쎄...
만약 LLM이 자신을 복제할 수 있고, 복제된 애들이 또 챗을 치면서 여론 조작을 할 수도 있음. 뭐, 바이러스 처럼 작동할 수도 있고. 그런 걸 막자는 의논이니까 건강한 의논이라고 생각함. 뭐만하면 특이점 물건너갔네~ 이러는 건 분탕인거고. 알트만도 규제, 관리, 감독 이야기 했었는데.
허락없이 재귀개선에 관해서 금지하는 내용을 말하는거임 어떤 기준으로 허용하고 어떤 기준으로 금지할껀지 정확한 논의도 없이 지들끼리 임의로 규제하겠다는 선언으로 보여서 고깝다 물론 실효성은 없겠지만
ㅇㅎ 그건 고까운 게 맞지. .......솔직히 중국이 저런 말 할 처지인가. 남들은 못 하게 막고, 자기들은 할 삘인데.
나중엔 적정 인구만 유지하고 영생하면서 애 낳을라믄 국가 승인 받아야되는 시대 올듯