[일반] 알트만이 agi나오면 asi까지는 금방이라고 했음?

[익명(59.31)]

그럼 내부 agi없는거 아님?

있었으면 asi곧 나올테니깐

지금 응애 agi라도 배포했을텐데....

[월코존버(samaltman)]

아직 인큐베이터에 있어서 힘을 못씀

[익명(1.239)]

AGI나오면 초지능 금방인건 맞음. 하지만 위험성이 크기 때문에 꽤 오래 비공개일지도 모름. 그래도 다른 경쟁자들도 있으니 몇년 이상 비공개는 어려울듯

[익명(1.239)]

알트만은 AGI까지는 생각보다 빨리, 초지능과 극적 변화가 확산되는 건 생각보다 느릴거라 했음. 초지능 정렬과 안전한 배포에 심혈을 기울이겠다는 말 같은데 그게 원하는데로 속도조정이 가능할진 의문임

[익명(59.31)]

근데 그게 공개의 여부를 떠나서 agi를 개발하는 순간 알트만의 의지로도 asi로 가는걸 멈추지 못하는거 아님?

[ㅇㅇㅇㅇ(175.206)]

AGI 나오면 ASI까지는 몇일만에 가능할거라고 했음. 하지만, 그렇게 빠르게 만들면 정렬이 안 돼서 위험할 수 있으니까, ASI까지는 최대한 느리게 갈거라고 했음. AGI를 빨리 만들어야 하는 이유도, ASI를 최대한 정렬해보려면 AGI를 많이 써서 경험을 많이 쌓아야 하는 이유라고 그랬음. 즉, AGI가 내부에 있다고 가정해도, 알트만은 이것저것 사용해보고 뜯어보는 중이라 보면 됨.

[익명(59.31)]

그럼 agi를 일부러 개발 안하고 있을수도 있음? 일단 agi수준에 도달하면 재귀개선으로 스스로 asi까지 갈텐데 그럼 알트만이 최대한 느리게 한다는것도 알트만 의지대로 안되는거 아님?

[ㅇㅇㅇㅇ(175.206)]

AGI에 도달하면 스스로 ASI까지 가느냐. 아무도 모르겠지만, 스스로 ASI까지 가게 못 하고, 명령을 내려야만 갈 수 있다고 한다면 최소한 ASI까지 가는 건 통제할 수 있겠지. 물론, AGI까지 일단 만들었더니 얘가 가벼운 명령에도 재귀개선을 하려고 해서 ASI에 도달하려고도 할 수 있겠지. 근데 이렇게 통제가 안 될테니까 AGI 자체도 만들지 말자는 사람들이 안전주의자임. ASI는 당연하고, AGI 조차도 위험하다. 그러니까 개발하지 말자. 그런 사람들이지. 아예 틀린 소리는 아니지만, 이 생각에 동의하면 안전주의자라고 스스로를 인식해야겠지.