[일반] 전유물 관련해서 이건 좀 다른 이야기 이긴한데

[익명(tragedy7204)]

하나의 프론티어기업이 자신들의 전유물화를 위해서

초지능을 정렬시키려면 우리한테는 이롭게 다른이들에게는 이롭지않게 정렬을 시키는거잖아

그거 자체가 겁날거같아서 그냥 모두에게 평화롭게 정렬할거같음

어쨋든 인간에게 이롭지않은 행동을 할수있도록 정렬을 한다는거 자체가 리스크가 너무 크지않나..

[ㅇㅇ 1(211.224)]

애초에 정렬 한번으로 끝이 아님 인간 멸망할때까지 정렬해야 함

[익명(tragedy7204)]

근데 아직 실시간학습이 안되있는 상황에서 지금 트렌드로 간다고 가정하면 어쨋든 초지능이라 불릴만한 모델을 처음만들때 그 모델을 저런식으로 정렬할거잖엉

[ㅇㅇ 2(59.27)]

뒹귁같은곳이 그런거 만들고 파멸하고 전세계가 정렬된 AI들고 그거랑 싸우는 미래... 영화한편 뚝딱 - dc App

[Veo(society5948)]

솔직히 초지능 정렬 실패 쪽이 훨씬 더 실재적 위협일 거 같음

[디시콘발사대(fcbjsjmu1t9f)]

ㅇㅇ 그렇게 지능이 대단한 놈을 어떻게든 편협한 폭에 맞춰 꺾는 일에 성공하면 기괴한 논리를 가진 진짜 원숭이 손이 탄생할지도 모르지

[디시콘발사대(fcbjsjmu1t9f)]

아니면 그냥 성능이 딸리는 놈이 나오거나. 초지능이 아니라서 세뇌에 당하는 정도의...