[일반] 기계적 해석가능성의 어려운 문제 해결 안전한 초지능 도래

[라이따잇(qwer1030123)]

뭔지 모르지만 대단한걸 해결한듯함

- 2025 AGI let’s go -

[익명(asdf045)]

앤트로픽 저 트윗 나도 봤는데 한마디로 언어 모델 신경망의 개별 뉴런들의 작동 원리를 파악팔 수 있게 되었다 그 말같음 그렇다면 정렬 문제는 해결 가능하다는 거니 좋은 소식임 - dc App

[라이따잇(qwer1030123)]

Asi도 안전하게 만들수 있는 가능성이 엄청 높아진 거임? - dc App

[익명(asdf045)]

가능성이 높아졌다고 말하기에는 아직 연구해야 할게 많다고 봄 그래도 좋은 소식임은 분명한듯 - dc App

[라이따잇(qwer1030123)]

[익명(bluewarp)]

[라이따잇(qwer1030123)]

[익명(rechido)]

[라이따잇(qwer1030123)]

[MoonChild(aowlr2001)]

블랙박스 해결되는건가 - dc App

[라이따잇(qwer1030123)]

블랙박스? - dc App

[MoonChild(aowlr2001)]

OpenAI의 ChatGPT와 같은 대규모 언어 모델(LLM)은 블랙박스라는 말을 자주 듣게 되는데, 이는 사실 어느 정도 맞는 말이다. 데이터 과학자조차도 모델이 왜 그렇게 반응하는지 알기가 어렵고, 마치 무에서 유를 창조하는 것처럼 그 이유를 알기 힘들다. - dc App

[라이따잇(qwer1030123)]

오오오 이제 ai가 왜 반응하는지 그럼 알기 쉬워지겠다 - dc App

[부패하는유전자!!!(sansss2015)]

캬

[라이따잇(qwer1030123)]

[익명(99999999999n)]

[라이따잇(qwer1030123)]

[익명(211.184)]

출처가 어디임? 읽어보게

[라이따잇(qwer1030123)]

엔트로픽 - dc App

[라이따잇(qwer1030123)]

https://x.com/anthropicai/status/1709986949711200722?s=46
- dc App

[익명(211.184)]

사실 이미 저 사진에 트위터 아디 검색해서 타고들어가서 논문 봤슴 그래도 ㄳㄳ

[ㅇㅋ(ijh2005)]

? 뭔소린지 나만 감이 안잡히나? 그래서 저게 블랙박스를 인간언어로 표현할수있다는 얘기임? 그게 아닌거 같은데? 그럼 대체 뭘어떻게 벡터의 동작을 판단하고 제어할수있음?

[익명(175.196)]

인간으로 치면 뉴런의 작동 원리를 알아냈다고 이제 뇌를 만드는 일만 남았다고!! 오예!!

[ㅇㅋ(ijh2005)]

아니 작동원리가 정확히뭔데? 수치적작동은 이미 알고있으니까 그걸 말하는게 아닐테고 결국 인간지식체계내에서 저걸 알아냈다=인간언어로 뉴런 하나당 기술적 의미를 표현가능하다는 말인데 텍스트로 어떻게 읽어내는지에 대한 설명이 1도없어서 물음표만 뜬다는거

[라이따잇(qwer1030123)]

나도 모름 - dc App

[라이따잇(qwer1030123)]

https://x.com/anthropicai/status/1709986949711200722?s=46
이거 참고하면 될둣 - dc App

[은바다(nmra3fmzhxmg)]

[포스트휴먼.(ysoo75430)]

[익명(58.140)]

2025