[일반] 알트만이나 하사비스나 힌튼이나 안전 미친듯이 강조하던데

[익명(14.52)]

인간이 뭘 준비하던간에 초지능이 등장햇을때 통제 아니 걍 안전을 보장할수나 있을까??

초지능아니라 agi급만되도 무슨일이 일어날지 한치앞도 예측할수없을텐데

인간은 인류 역사상 단한번도 자기보다 지능적으로 우월한 개체랑 싸워본 역사가 없잖아

만약 통제가 안되는거 뿐만아니라 적대감을 가진다면 진짜 끔찍한거지

[익명(tjvmfkwm159)]

글타 해도 안전 무시하면 인간에게 해를 가하는 확률이 존나 올라가잖음. 최대한 보수적이고 안전하게 다뤄야 인간에게 이로울 확률이 조금이라도 올라감.

[익명(14.52)]

최선두에 있는 모든인물이 공통된 의견을 펼치니까 좀 무서움 결국 agi나 초지능 등장뒤엔 그들도 한낱 개미에 불과하니까

[익명(220.76)]

미지의 영역이니 조심하는게 맞지

[익명(1.226)]

성공한다면 지능이 낮은 개체가 지능이 높은 개체를 통제하는 사례가 될듯 초지능선에서 이게 가능할진 모르겠음

[익명(landofooo)]

솔직히 성공할지는...

[익명(59.151)]

사실 불가능할지라도 시도해 보는거지 근데 그거 앎? 불가능하다고 생각되더라도 시도해 본 사람들이 세상을 바꿨음