[📪정보] 얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ"

[익명(59.17)]

"우리보다 훨씬 똑똑한 AI 시스템을 제어하는 방법을 긴급히 알아내기"에 앞서 집 고양이보다 더 똑똑한 시스템을 위한 설계의 힌트를 얻는 것이 먼저인 것 같습니다.

이러한 긴박감은 현실에 대한 극도로 왜곡된 시각을 드러냅니다.

조직의 기반이 탄탄한 구성원일수록 슈퍼 얼라인먼트 그룹을 소외시키려 했던 것은 당연한 일입니다.

마치 1925년에 누군가 "바다 위를 음속에 가까운 속도로 수백 명의 승객을 수송할 수 있는 항공기를 어떻게 제어할지 시급히 알아내야 한다"고 말한 것과 같습니다.

터보제트기가 발명되기 전, 대서양을 논스톱으로 횡단하는 항공기가 나오기 전에는 장거리 여객기를 안전하게 운항하는 것이 어려웠을 것입니다.

하지만 이제 우리는 트윈엔진 제트기를 타고 지구 반 바퀴를 안전하게 비행할 수 있게 되었습니다.

안전을 위한 마법 같은 비결이 있었던 것은 아닙니다.

수십 년에 걸친 세심한 엔지니어링과 반복적인 개선이 필요했습니다.

지능형 시스템도 비슷한 과정을 거칠 것입니다.

고양이만큼 똑똑해지려면 몇 년이 걸리고, 인간만큼 똑똑해지려면 더 많은 시간이 걸릴 것입니다(현재 인공 지능의 초인적인 지식 축적 및 검색 능력을 실제 지능과 혼동하지 마세요).

점점 더 똑똑해지면서 효율성과 안전성을 위해 배치하고 미세 조정하는 데는 수년이 걸릴 것입니다.

요약: 우린 여전히 아주 기초적인 지능의 설계법에 대해서도 전혀모르는데 초지능? ㅋㅋ

병신같이 정렬 얘기하는거보니 니들 사내에서 왕따 당할만함

LLM으로 뽕찬건 알겠는데 근들갑 떨지말고 연구나해라

인간수준 지능까지 가려면 수십년은 남음 (지금LLM은 실제 지능이 아니라 초인적인 지식축적과 검색능력임)

아 그리고 안전은 그 과정에서 자연스럽게 해결될거임

[익명(14.35)]

개씹 선형이네그냥

[이세이미야케(jkwarawara)]

[익명(swc3fh4skc1t)]

지금이 1925년? 40년도 안 남았네 한잔해

[익명(180.65)]

얀르쿤은 유명한 일침가임

[익명(110.46)]

시발련아

[익명(9jna57f2n4ps)]

ㅋㅋㅋ

[익명(defense1888)]

진짜 지능이 뭔데 시발

[익명(defense1888)]

지능도 없는게 사람 말하는 거에 답하고 그러냐? 4o 보이스 못 들었냐?

[익명(defense1888)]

시발 고양이가 뭐가 지능이 높아.개는 시발 뭐하는데.뭐가 높은데

[익명(defense1888)]

고양이한테 시발 사과 문제 내봐 이해라도 할 수 있냐?

[익명(ek4li3ixxkv2)]

르쿤이 말하는 지능이란 근본적으로 실제세계에 대한 이해를 말하는거라고함. 개나 고양이는 LLM의 기반이되는 언어없이도 실제세계를 이해하고 행동한다는것.

[익명(222.96)]

축적된 지식이랑 지능은 다름

[익명(106.101)]

얀 르쿤은 지식과 지능은 다르다고 주장하는거임

[익명(tulip8721)]

중국어방 문제도 모르면 그냥 닥치죠

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[탈조선(reuse2097)]

ㅋㅋㅋ

[익명(115.139)]

ㅋㅋㅋㅋㅋㅋㅋ

[해삼이(jwp518048)]

ㅋㅋㅋㅋ

[익명(blacktailtiger)]

그니까 뭐 아직 실마리도 안보이는데 정렬이니 뭐니 난리야. 개발에 시간을 쏟아도 갤주가 제시한 타임라인으로 진행될지 안될지 모르는건데

[익명(125.191)]

[익명(awful1887)]

[익명(61.74)]

팩트는 얀평

[익명(180.230)]

르쿤아 좀 보여주고 입털어라 판 새로 짜인 뒤론 보여준게 없잖니..

[익명(219.248)]

속이뻥ㅋㅋ

[익명(39.116)]

지능이 어떻게 하면 만들어지는지도 모르는데 르쿤햄은 왜저렇게 까지 llm이 잘못된 방법이라고 확신하는거임???

[익명(landofooo)]

악역은,,, 익숙훠뉘꽈

[익명(211.213)]

llm으로 실제 지능이라는 게 구현되지 않고 전문가 입장에선 과대포장인 게 보이는데 그걸 연구자들이 이용하는 게 눈에 훤히 보이니까 좀 바람직하게 보이진 않겠지. 막상 수준낮은 수준의 개선만 가능하고 도약은 이뤄내지 못할것으로 예상되니까.

[익명(211.213)]

llm은 지능이라는 넓은 바다의 구글어스 지도 맵 항공촬영과 비슷한 거라고도 생각됨. 멀리서 바라보고 바다를 제대로 아는 것처럼 느껴지고 착각하지만 실제로 바다 내부 자체에 대해선 깊이 아는것이 없는 상태.

[익명(211.213)]

물론 인간이 이해 못해도 구현되고 우용하면 노상관임. llm도 분명 장점은 있음. 유용하기까지함. 그런데 실제로 생산성이 있다 느끼는 것은 무분별한 대규모 지식 모으기나 지능 흉내보다는 디테일하고 포커싱 맞춘 맞춤형 기계학습이나 엔지니어링을 통한 소프트웨어나 솔루션이라는데 공감하게됨.

[익명(landofooo)]

[익명(118.235)]

무언가를 만들기위해 모든 원리와 지식을 파악할 필요는 없음. 일례로 항공기가 뜨는 원리를 현대 유체역학으로 완벽하게 규명하지못하고있지만 그런거 몰라도 잘 만들고 날아다니고 있다는거임. ai를 만들기 위해 지능을 완벽하게 이해할 필요는 없음. 단지 많은 시행착오가 필요할 뿐.

[익명(106.101)]

시발 초비능 초정렬 한번에 채모

[갤럭시빠(zkgxjfsgkxjrzkhc648)]

ㅋㅋㅋㅋ - dc App

[익명(61.38)]

르쿤햄 그래도 ai가 위협시된다는 얘기는 절대안함

[Dall리신(121.157)]

씨발 딱 봐도 논리정연하고 설득력 있는 좆같은 내용인데 3줄로 더 추려 요약해주면 읽어볼 의향 있다

[익명(211.213)]

맞는 말이긴함. 초지능 설레발 떨기 전에 중학교 수준 논리 문제나 하나 제대로 풀어보라고해. 지식검색 흉내내기 말고. 지금 ai 대화들 수준이 딱 그정도임. 그냥 1:1 지식인 혹은 대화상대 보조용임. 코파일럿? ms에 합류해 오피스 업무 보조? 그것조차 현재 시기상조임. AGI? 큐스타? 환상종에 스캠이지 그걸 믿는 대중이 호구임.

[익명(211.213)]

실제로 llm도 초창기 붐 이후 숨고르기로 제품화와 서비스에 더 초점을 맞추고 있는듯. 그런데 계속 환상종에 유니콘 찾는다고 그러면 소외되고 특이점 온다고 우린 곧 화성 갈거라고 소설쓰는 과대망상 특붕이가 될뿐임. 유쳬역학 모르는데 항공기 뜬다는 거랑 비유하지만 그보다 다른게 이는 지식의 일반론을 ai가 추론하는 게 더 거시적이며 어럽다는 걸 간과하는 거임

[익명(211.213)]

ai로 인한 인간지능 모방은 유체역학 몰라도 항공기 띄우는 것의 엔지니어링 발전보다 수십배는 어려운 과제라고 보임. 어쩌면 지능과 뇌의 기원도 모르는데 모든 문제의 열쇠이자 마스터키를 찾으려 하는 거랑 같음. 너무 오만한 생각이고 기계의 무작위 확률 최적값 추론에 기대하는 게 큰 것...

[익명(61.97)]

ㄹㅇ 얀 르쿤 말이 맞음 지금의 llm으로는 agi까지 도달하는게 불가능하고 설령 가능하다 하더라도 수십년은 더 걸릴 듯 그냥 특붕이들만 설레발치는 거지

[익명(221.140)]

게이는 마소 얼마에 팔았노?

[익명(119.197)]

ㄹㅇ GPT 걍 럭키 검색엔진 아님? 지능이라면 학습 데이터에 없는 문제도 풀어내야지

[익명(116.36)]

팩폭추 ㅋㅋㅋㅋ

[익명(hoy6uf3c6v74)]

[noosphere(anxious8650)]

[agi2024(agi2024)]

[ㅁㄴㅇㄹ(121.169)]

겨울이... 온다...

[익명(good110)]

근데 최신 llm들보면 어이없이 ㅈㄴ 쉬운문제 틀리는경우 있잖아 그런거보면 우리가 흔히 생각하는 인간 침팬지 쥐 이런 단계중 쥐 지능에 가깝다고하는게 이해는감 분명 인간보다 훨씬 똑똑하고 아는거많지만 환각이란게 있는 이상 지능이라할수있나

[익명(218.38)]

컴퓨터 시스템적으로 지능의 정의조차 제대로 안 되어 있는데 구현하는 것 부터가 말이 안 되지 ㅋㅋㅋ 사실 환각이란것도 사람도 충분히 할 수 있는 행위긴 한데 그 환각을 일으키는 과정이 그냥 머신 러닝으로 인한 한계를 못 넘으니 문제

[익명(222.102)]

아가리 털지 말고 200년 동안 뇌 맵핑이나 하던지? 지도 정석대로 안하고 요행 부리려고 하면서 맨날 투덜대기만 하냐

[익명(lmbrevn7d667)]

지식이 많은 거랑 지능이 높은 건 별개란 소리잖음

[익명(9jna57f2n4ps)]

르쿤이 햄 저 특유의 조롱하는 말투는 여전히 골때리네 ㅋㅋㅋㅋ

[익명(125.180)]

그치.. 이게 현실이지.,.