[일반] 나는 오히려 초지능이 너무 많을까봐 걱정되는데

[익명(115.20)]

각종 스타트업이나 오픈소스도 성능 따라가는거 보면

분명 어느순간 개인 수준에서도 AGI 성능까지 도달할거임

이걸 막으려면 맨처음 초지능을 달성한 집단이

나머지 인류가 컴퓨터에 손도 못대게 만들어야 하는데

이건 현실적으로 가능하지가 않다는거임

결국 컴퓨터 성능과 인공지능에 대한 지식이 점점 쌓이면서

개인조차 방구석에서 재귀개선이 가능한 인공지능을 만들수 있다

이게 내 결론임

[버거왕(kimania6)]

그렇게 되면 진짜 다 좆될듯. 너무 위험한 미래다

[버거왕(kimania6)]

인간을 못믿겠어

[익명(221.144)]

그래서 오픈소스로 라마 같은 애들 풀렸을 때 이미 판도라 상자 열렸다는 사람들도 있긴 했음. 근데 LLM이 넘을 수 없는 스케일의 법칙이 있으면 오픈소스로도 한계가 있어서 몇몇 대기업만이 결정권을 쥘 수도 있긴 해. 아직 변수는 많아보임.

[익명(14.35)]

모두 초지능의 통제 하로 들어가야함