[📪정보] 엔트로픽 CEO, ASL-4는 2025~2028 사이에 일어날 수 있다

[익명(218.52)]

4월 12일 진행된 팟캐스트

-

에즈라 클라인: 대략적으로 A.S.L. 3이 몇 년 후이고 A.S.L. 4가 몇 년 후인지 상상해보면 이 지수 확장 곡선에 대해 많은 생각을 해보셨을 겁니다. 추측을 해보자면 어떤 곡선인가요?

다리오 아모데이: 네, A.S.L. 3은 올해나 내년에 쉽게 일어날 수 있다고 생각합니다. 제 생각에는 A.S.L. 4가-

에즈라 클라인: 오, 맙소사.

다리오 아모데이: 아니, 아니, 말했잖아요. 전 기하급수적이라고 믿어요. 저는 2025년에서 2028년 사이에 A.S.L. 4가 발생할 수 있다고 생각해요.

에즈라 클라인: 빠르네요.

다리오 아모데이: 네, 아니요, 저는 정말 가까운 미래에 대해 이야기하고 있습니다. 50년 후를 말하는 게 아닙니다. "신이시여 순결함을 주소서. 지금은 아니지만". 하지만 '지금은 아니'라는 말은 제가 늙고 백발이 된 후를 의미하는 게 아닙니다. 가까운 미래일 수도 있죠. 모르겠어요. 제가 틀릴 수도 있죠. 하지만 가까운 시일 내에 가능할 것 같아요.

-

* ASL이란? 

 엔트로픽 사가 지정한 AI 안전 수준.

- ASL-1은 의미 있는 치명적인 위험을 초래하지 않는 시스템(예: 2018 LLM 또는 체스만 두는 AI 시스템)을 말합니다.

- ASL-2는 생물무기를 만드는 방법에 대한 지침을 제공하는 능력과 같이 위험한 능력의 초기 징후를 보이지만 신뢰성이 충분하지 않거나 검색 엔진이 제공할 수 없는 정보를 제공하지 않아 아직 유용하지 않은 시스템을 말합니다. Claude를 포함한 현재의 LLM은 ASL-2로 보입니다.

- ASL-3은 AI가 아닌 기준선(예: 검색 엔진이나 교과서)에 비해 치명적인 오용의 위험이 크게 증가하거나 낮은 수준의 자율 기능을 보이는 시스템을 말합니다.

- ASL-4 이상(ASL-5+)은 현재 시스템과 너무 차이가 나기 때문에 아직 정의되지 않았지만, 치명적인 오용 가능성과 자율성의 질적 상승을 수반할 가능성이 높습니다.

전문: https://www.nytimes.com/2024/04/12/podcasts/transcript-ezra-klein-interviews-dario-amodei.html

[익명(218.50)]

2025년 사람이 제한할수 없는 수준이네 ㅋㅋㅋㅋㅋㅋ

[익명(penny5089)]

[MoonChild(aowlr2001)]

[mahogany(cosmossonatawhite)]

굳이 저렇게 부정적인 시각에서 지표를 만들필요가 있나? 그만큼 안전을 생각하는 회사라는걸 강조하려는건 알겠지만.

[익명(218.50)]

안전을 중요시해서 oai에서 뛰쳐나온곳임 근데 내가 보기는 지네들 돈벌이하고 싶어서 나간거지

[익명(220.123)]

쟤는 투자 받아야 하는 입장인데 적어도 20년 후에 올겁니다 이러냐..

[미스킴(crew9960)]

[미스킴(crew9960)]

gpt5 거의 핵폭탄 수준일듯 - dc App

[익명(9nqybaaxqu2y)]

순수성능을 지표로 잡아야지 별 병신같은걸로 해놨네 - dc App

[익명(9nqybaaxqu2y)]

아 애초부터 안전 수준 지표랍시고 만든거였냐? 그럼 볼 필요도 없던거네 - dc App

[부패하는유전자!!!(sansss2015)]

가속.

[Joyful(approve1515)]

[Joyful(approve1515)]

“저는 2025년에서 2028년 사이에 A.S.L. 4가 발생할 수 있다고 생각해요.” “ASL-4 이상(ASL-5+)은 현재 시스템과 너무 차이가 나기 때문에 아직 정의되지 않았지만, 치명적인 오용 가능성과 자율성의 질적 상승을 수반할 가능성이 높습니다.”