[📪정보] 前OAI 정책팀장 : "이제 제발 믿어줘"

[익명(121.178)]

거의 모든 인지 영역에서 인간의 성과를 능가하는 AI가 앞으로 몇 년 안에 개발되어 배포될 가능성이 매우 높습니다.

앞으로 몇 달 동안 내릴 AI 정책 결정은 해당 AI가 어떻게 거버넌스되는지 형성할 것입니다. 해당 AI를 거버넌스하기 위해 마련된 보안 및 안전 조치는 역사상 가장 중요한 조치 중 하나가 될 것입니다. 다가올 주요 이정표로는 트.럼.프 행정부의 첫 번째 행동, 차기 미국 의회의 첫 번째 행동, 영국 AI 법안, EU 일반 목적 AI 실행 강령이 있습니다.

이러한 국가와 다른 국가에서 AI 거버넌스를 개선하는 데 도움이 될 수 있는 방법이 있다면 지금 당장 또는 몇 달 안에 실행해야지, 몇 년 뒤에 영향을 미칠 방법을 계획해서는 안 됩니다.

오늘 o3가 발표됨에 따라 초인적인 코딩과 수학이 많은 사람들이 예상했던 것보다 훨씬 빨리 등장할 것이라는 점이 분명해졌으며, 우리는 이것의 의미에 대해 생각하거나 준비를 거의 시작하지 않았습니다. 초인적인 법적 추론, 의학적 추론 등의 의미나 컴퓨터에서 할 수 있는 거의 모든 작업을 빠르게 수행할 수 있는 자동화된 직원이 결국 등장한다는 의미는 더더욱 그렇습니다.

최첨단 AI 기업이 가지고 있는 비밀스러운 통찰력은 없으며, 그곳에서 일하는 사람들이 향후 몇 년 안에 AI 역량이 빠르게 개선될 것이라고 낙관하는 이유를 설명해줍니다.

증거는 이제 모두 공개되었습니다. 최첨단 회사 직원들처럼 외부인이 이 진실을 매일매일 경험하지 않고는 완전히 이해하기 어려울 수 있지만, 모든 사람의 미래는 이 새로운 현실에 대한 공유된 이해에 달려 있으므로 어쨌든 시도해야 합니다.

-> Miles는 2025년 말까지 수학/코딩에서 초인적인 AI가 등장할 가능성을 매우 높게 보고 있음 (다른 게시글에서)

-> 최첨단 AI 기업의 사람들이 무언가 특별한 능력이 있는게 아니라, 그냥 말 그대로 AGI가 다가오고 있음을 실시간으로 보고 있음. 그리고 오늘 o3로 증거를 모두 보여줌.

벽도 없고 천장도 없다

AI의 사회적 영향은 아직 "아직도" 많이 남아 있습니다. 하지만 그 개선은 곧 이루어질 것입니다.

조금 더 멀리(다시 말하지만, 몇 달에서 기껏해야 몇 년) 언어 모델에 대한 강화 학습의 진정한 확장, 이 패러다임을 "컴퓨터 사용 에이전트"와 통합, 훨씬 더 큰 데이터 센터, 그리고 AI를 통한 AI 연구 및 엔지니어링 자체의 자동화 증가를 보게 될 것입니다. 다시 말하지만, 여기에는 주요한 새로운 패러다임이 필요하지 않으며, 시간이 지남에 따라 수천 명의 사람들이 열심히 일하고, 그 과정에서 수많은 실험, 버그 수정 등이 필요합니다. 컴퓨팅 파워를 지능으로 전환하기 위한 아이디어는 부족하지 않습니다.

연구원들뿐만 아니라 이러한 회사의 CEO들도 이러한 진전 속도가 계속될 것이라고(또는 가속화될 것이라고) 말하고 있다는 점에 유의하세요. 

어떤 사람들은 이것이 과장이라고 생각하지만, 제발, 제발 저를 믿어주세요. 과장이 아닙니다.

-> 현재 패러다임하에서 AI 연구 자동화가 이루어질 것이며, 컴퓨팅 파워가 지능으로 전환되기 위한 아이디어가 부족하지 않음

현역 OAI 연구원의 말 + Noam Brown의 리트윗

링크

[MoonChild(aowlr2001)]

[Asi(worship5388)]

개추

[점심밥(yield0917)]

[ㅁㄱㅌㅊ(39.122)]

[익명(211.212)]

저리 말해도 안믿어주니 ㅠㅠ

[익명(124.55)]

진짜 다왔다는 확신이 든다

[익명(61.84)]

일단 모델 내놓고서 말하자..

[익명(rmh22200)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(220.89)]

나는 히토미 완몰가가 좋다

[수직(player5319)]

정부도 대처계획을 짜야하는데 지금당장 시작한다해도 늦은감이 2027년 혼란절정 예상 - dc App

[초존도초(htr3c654r6ft)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[ㅇ0oO(mojoroach)]

[니지카엘(eltldd001)]

[HMX-13(multizzang)]

[lIlIllIlIIlIlIllIlIl(kimfesu)]

[익명(attempt5444)]

[ㅁㅁ(mission1187)]

[익명(58.231)]

그니깐 내년말이면 게임끝이라는거지?

[익명(14.46)]

모 신지떼쿠레...

[익명(broad6196)]

[익명(amazonia)]

^^b