최근 네이처에 LLM의 작동 방식과 사람의 뇌가 작동하는 방식을 비교하는 글이 올라왔는데 어제 얀르쿤이 이거랑 관련해서 발표를 했음
대충 현재 LLM의 '확률'에 기반한 예측 알고리즘은 5년 내에 사라질거라고 단언했다함
마소 gpt4 리포트에서도 현재 LLM이 지나치게 확률에 의존하고 있다는 한계를 지적하기도 함
아마도 5년내에 실제 인간의 뇌 처럼 예측하는 새로운 알고리즘이 등장하지 않을까?
대충 현재 LLM의 '확률'에 기반한 예측 알고리즘은 5년 내에 사라질거라고 단언했다함
마소 gpt4 리포트에서도 현재 LLM이 지나치게 확률에 의존하고 있다는 한계를 지적하기도 함
아마도 5년내에 실제 인간의 뇌 처럼 예측하는 새로운 알고리즘이 등장하지 않을까?
하지만 인간 뇌의 예측 알고리즘이 뭔지 밝혀내는게 우선이지 않음?
오늘도 여전히 개소리만 일삼고 계시는구만
특이점을 앞당기려면 얀 르쿤을 닥치게 해야 한다.
ㅋㅋㅋㅋㅋ 인간 뇌의 작동 원리를 최대한 베낀 신경망이야 지금도 많지 근데 왜 LLM이 유행하는데? 그 인간 뇌처럼 작동하는 신경망에 제대로된 학습법이 없어서 결과물이 다 씹창이니깐 아님? 5년 내로 LLM이 사라질 거면 지금 다음 돌파구가 무언가 윤곽이 보여야 되는데 있음? LLM이 망한다는 소리는 파이썬이 망하고 Rust가 흥한다는 소리랑 같은 급이다 ㅋㅋㅋㅋ
러슬람 러들러들
엌ㅋㅋㅋㅋ 러스트갘ㅋㅋㅋ 흥한댘ㅋㅋㅋㅋ
유동좌 팩폭 퍄
러슬람 ㅋㅋㅋ
아
물리를 설명하는 데 쓰이는 게 양자역학인데 이것도 확률로 설명하지 않음? 세상이 확률로 움직이는데 왜 뇌는 아니라는 걸까?
좆문가의 상상력이란
나는 저 말이 확률기반 알고리즘보다 더 나은 방법이 등장해서 그것들을 대체해서 없앨거라는 말처럼 들리는데 윗댓 애들은 저게 LLM 망할거란 의미로 받아들인거임? - dc App
돌파구는 제시 못 하면서 LLM이 사라질 거라 하는데 이러니깐 얀 르쿤이 모두까기 인형이란 소리를 듣는 거임 5년 내로 대체 당한다? 그럼 그 대체 할 기술은 대체 어디에 있는 거임? 당장 얀 르쿤이 소속해있는 메타 라마도 LLM인데? 난 이거 디딤돌 시즌 2라고 본다 ㅋㅋ
돌파구는 계속 연구되고 있고 조만간 찾을거라고 생각이 드니까 학계 권위자로서 예측을 해본거겠지. 저 말은 비관론적인 주장이 아닌것같은데? - dc App
작년 얀 르쿤 기사 찾아봐라 GPT-3가 깡통이라면서 대차게 까던 사람이다 그런 사람이 돌파구는 제시 못 하면서 LLM이 5년 안에 사라진다는데 이게 모두까기 인형이 아니면 대체 뭐임? 좋게 볼 수가 없는 사람임
하다못해 저런 주장을 하려고 했으면 자기가 속한 회사인 메타의 라마부터 다른 방식으로 시도를 해봤어야지 결국 라마도 LLM인데
일리야 서츠키버 (오픈AI 공동 창립자&수석 과학자) = 자세한 건 말할 수 없지만 예측 모델의 성능이 점점 향상해서 사람들을 놀라게 할 수 있을것 = 다음 2년동안 GPT의 많은 성능 향상들 ( 정확도 향상 , 이해력 향상, 신뢰도 향상 ) 등을 보게 될 것.
빌 게이츠 = 2년 안에 AI가 수학적 실수하거나 추상적인 추론 못하던게 아주 크게 개선될 것 = 인간은 문맥에 대한 깊은 이해가 가능한데 AGI는 이런 문맥 이해 능력이 더 필요할 것 추상적인 사고와 추론이 가능해야 할 것. 현재의 GPT는 그런 개선이 필요함. = 현재 이러한 오류들이 대부분 수정되기 까지는 6개월에서 2년 정도 걸릴것. 일부는 이미 개선됨. = 사람들은 아직도 인공지능이 할 수 있는 것에 대해 과소평가 하는 경향이 있다.
샘 알트만 = 우리는 그냥 암기하는 모델이 아니라 스스로 추론해서 뭐가 진실인지 판별하는 모델을 만들 것임.
"구글, 한판 붙자"…마이크로소프트, 오픈AI에 12조원 투자 베팅
https://news.mt.co.kr/mtview.php?no=2023012413370741545
자본주의
시장에서 돈은 거짓말 안 한다 제일 트렌드에 민감하게 반응하는게 돈인데
앞으로 최소 2년은 예측 모델이 큰 폭의 성능 향상이 있겠다는데 어케 5년 안에 LLM이 사라짐?
얀르쿤이 언제 LLM이 사라진다했음? 본문 다시 읽어봐라 - dc App
그리고 뭔놈의 대댓을 이렇게 장황하게 다노; - dc App
LLM이 아니라 확률 알고리즘에 대한 얘기를 한거고 사라진다는 말도, 성능이 쓰레기라서 사람들로부터 외면받아서 사라진단 맥락이 아니고 그것보다 나은 방법에 대체되어서 학계로부터 팽당한다는 맥락으로 읽히는게 맞아 보이는데? 확률 알고리즘은 개선되야할 여지가 있고 5년 내에 그것을 대체할 획기적인 성과를 볼것이다 라는 말을 수사학적으로 표현한거잖음 - dc App
Yann LeCun kicking off the debate with a bold prediction: nobody in their right mind will use autoregressive models 5 years from now
스파이크 뉴럴넷? 액체신경망? 누멘타의 HTM? 제프리 힌튼의 캡스넷? 아니면 최근에 만든 Forward-Forward Algorithm? 생물학적 신경망을 모방한 차세대 신경망들이 정말 돌파구라면 왜 투자를 못 받음? 아무리 비슷하게 베껴다 만들어도 결국 제대로 먹히는 학습법이 없어서 결과물이 쓰레기라서 아님? LLM이 사라지거나 망한다는 건 파이썬이 망하고 Rust가 흥한다는 소리랑 진짜 1도 다를 게 없다 ㄹㅇ
내가 하는 말 읽긴 한거임? 뭐 나랑 지식배틀 하자고 하는거? - dc App
LLM이 자동 회구 언어 모델인건 알지? 그리고 다시 얀 르쿤 트윗 읽어봐라 이게 어떻게 읽어지는지
5년 뒤에는 누구도 자동 회귀 모델을 사용하지 않을 것이라는 대담한 예측으로 토론을 시작한 얀 르쿤 ㅇㅇ LLM = 자동 회귀 언어 모델
지금 LLM 말고 다른 거 없는데 뭐 어쩔