[📪정보] 양자 물리학자가 주장하는 초지능 정렬 문제

[익명(asdf045)]

https://michaelnotebook.com/xrisk/index.html

Notes on Existential Risk from Artificial Superintelligence

단기적으로는 차치하더라도(향후 몇 년) 저는 언어, 수학, 이미지, 비디오, 사운드, 액션을 혼합하는 다중 모드 기반 모델이 빠르게 개선될 뿐만 아니라 다양한 전문 분야의 전문화된 모델이 빠르게 개선될 것으로 기대합니다. 바이러스 및 단백질에 대한 유전 데이터, 입자 물리학 데이터, 차량, 해양 센서 데이터 등의 데이터 소스. 그러한 모델은 세계의 다양한 측면에 대해 엄청난 양을 "알게" 될 것이며, 언어나 수학과 같은 추상적인 추론을 위한 원시 기반도 갖게 될 것입니다.

그들은 이들 도메인 간에 최소한 어느 정도의 이전을 얻게 될 것이며 GPT-4와 같은 시스템보다 훨씬 더 강력해질 것입니다. 이것이 아직 진정한 AGI나 ASI가 될 것이라는 의미는 아닙니다! 거의 확실하게 다른 아이디어가 필요할 것입니다. 하지만 그 아이디어는 가능합니다. 이미 존재합니다. 어떤 일이 있어도 나는 그러한 모델이 강력한 신기술 발견에 도움이 되어 점점 더 강력해질 것이라고 기대합니다. 더욱이, 나는 부정적인 면을 얻지 못한 채 "긍정적인" 능력을 얻는 것이 매우 어려울 것이라고 예상합니다.

내용이 너무 길어서 시간나면 읽어보셈

- dc official App

[익명(lollolla)]

오늘 정보글 많아서 좋네

[익명(landofooo)]

ㅊㅊ 막문단 번역기오류인지 세번 복제된듯

[익명(asdf045)]

수정함 - dc App

[익명(landofooo)]

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

나는 점차 비관주의에도 일종의 오만함이 있다는 것을 믿게 되었다.: 어떤 큰 문제에 대해 "나(그리고 내 친구들)는 해결책을 모른다"와 "해결책이 없다"를 혼동하기 쉽습니다. 종종 문명 문제는 극소수의 사람들이 미리 예상한 방식으로 해결됩니다.

[부패하는유전자!!!(sansss2015)]

비관주의 믿는 애들은 대놓고 오만하고 깔봄 ㄹㅇ...