[일반] 느린이륙 <- 이거 가능하긴 한거임?

[익명(119.206)]

인공지능 산업만큼 발전이 빠른 분야가 없는데

혼자 개발 좀 천천히 한다고 발전이 느리게 되는게 가능한가?

심지어 이 분야는 선두를 찍으면 얻는 이득도 엄청 큰데

이성적으로 생각하면 무조건 ASI 까지 달리는게 맞지 않아?

[익명(221.150)]

알트만 병신새끼의 비틱질 맞음ㅇㅇ

[익명(210.205)]

일단 일론머스크랑 태그마크는 위성으로 데이터센터 감시하는거 건의하긴 했대 정부에

[익명(218.144)]

AGI 만들면 ASI는 높은 확률로 만들 수 있음. 근데, ASI를 만들었는데, 얘가 통제 불능이면 더 위험하겠지? 그래서 일단 AGI를 빨리 만들고, 최대한 천천히 발전시키면서 각종 실험을 해보는 거임. 어떻게하면 정렬 시킬 수 있을까? 어떻게 해야 안전하게 쓸 수 있을까? 탈옥은 어떻게 막을까? 돌아이가 AGI를 건드리면 어떻게 차단할까? 등등등. 근데 오픈 소스로 풀리면 이게 안 되겠죠? 그래서 오픈AI가 공개를 안 하기 시작한거지. 알트만고 청문회에서 규제를 이야기한거고.

[익명(218.144)]

그리고, 대학원이나 연구소에서 논문이 어마어마하게 쏟아지는 건 맞는데, GPU 연산 능력도 중요하다보니까 대형 데이터 쓰는 건 대기업 밖에 못 함. 구글이나 openAI. 그래서 사실상 연구가 약간 갈린다고 볼 수 있음. 한 쪽은 제한된 데이터에서 최대한 효과적인 방법을 찾느 거. 한쪽은 일단 어마어마하게 때려넣어보고 결과를 보는 거. 근데 LLM 때도 그랬지만, 스케일이 크면 갑자기 성능이 좋아지는 게 있어서, 연구소에서 정답을 찾았어도 모델이 작아서 성능이 안 나올수도 있음. 반대로 대기업들은 찾은 걸 대학원에선 재현조차 못 할수도 있음.

[익명(112.171)]

AGI 자체가 빠른이륙할 능력은 될거같은데.. 좆간이 무서워서 느리게 이륙시킬거로 보임

[익명(211.254)]

근데 빨리 특이점이후에 대책 생각해야하긴함. 나는 세계정부 세워야한다고 봄