LeCun: 제트기가 안전하다는 것을 증명하는 유일한 방법은 제트기를 만들어 보는 것입니다. 그 이후 안정성을 위해 조심스럽게 다듬어 가야죠. 이건 AI도 마찬가지입니다.
Gertz: 그러면 당신은 제트기가 어떻게 인류를 말살할 수 있는지 논리적인 근거도 말할 수 있겠네요.
당신은 동의하지 않겠지만, 저는 누구든지 악당 초지능이 인류를 멸종시킬 수 있다는 것을 알고 있다고 생각합니다.
LeCun: 제트기는 괴물같은 핵폭.탄을 세계 어디든지 떨어뜨릴 수 있습니다. 그것은 현실이며, 우리는 제트기와 70년을 함께 살았습니다. 로켓도 마찬가지입니다.
하지만 AI 위험에 대한 주장은 매우 매우 매우 추측적이며 존재하지도 않는 기술을 가지고 걱정하고 있는 겁니다.
비약이 심함
주장을 했으면 근거를 말해야지
@ㅇㅇ3(175.199) 결국 제트기는 전쟁의 수단이 됐을뿐 인간에게 도움이 된 발명이 아님 핵같은거도 마찬가지고 저런걸 우려해서 힌튼이 서명한건데 거따대고 일단 만들어봐야 위험할지 알죠 이러는건 핀트를 잘못잡은거지
@ㅇㅇ(211.109) 일리가 있네...
그래도 얀르쿤이 힌튼처럼 근들갑은 안떨지
울컥울컥 - dc App
얀 르쿤은 LLM 까기 전에 JEPA나 완성시켜라.
이미 오픈소스로 공개되어있음. 능력만 있으면 언제든지 물고 뜯고 맛볼 수 있음 -
https://github.com/facebookresearch/jepa
속이 뻥~ BOOM!
비행기의 이름은 JEPA이며 조종사는 얀이다
얀르쾽님.... - dc App
이건 별로 동의가 안되는데...
터미네이터는?
@ㅇㅇ 아니 그니까 나는 AGI 나오기 전부터 안전을 더 신경써야한다는 말임. 나와봐야 안전 연구 시작하는거면 너무 늦음. 안전충보단 가속충 편이긴 하지만 무지성 가속은 리스크 발생하면 감당 불가임. 인간을 능가하는 지능은 인간지능으로는 이해할 수 없고 바로 전단계 AI와 인간의 긴밀한 협력, 활용으로만 이해할 수 있음. 그러니 AI개발도 단계적으로 올라가면서 대응책 노하우도 축적해가는게 맞음. 그게 오픈AI의 방향이고(진짜 속내야 어찌됐건)
초지능이 전투기 따위랑 비교가 안 될 위험인데 일단 만들고 아가리 털어 ㅋ ㅇㅈㄹ은 ㅋㅋㅋㅋ asi도 아니고 agi만 따져도 전투기는 우습게 볼 정도로 위험하구만