이라고 외치는 사람들이야말로 진짜 확률적 앵무새임
2022년 말에 LLM 배우고 그 시절에 머물러 있음
> 지식 컷오프
자신이 LLM에 대해 잘 안다고 생각함
> 환각
“다음 토큰 예측”이라는거 한번 주워듣고 계속 써먹음
> 과적합
스스로 성찰하지 않고 그냥 같은 말 반복함
> 비추론
ㄹㅇ 태명문
[일반] “LLM은 사고하지 않아, 다음 토큰을 예측할 뿐“
봄바다(path8294)
2025-09-08 20:09
추천 70
댓글 58
다른 게시글
-
어떻게 념글이 하나도 없는거임.. [9][일반] 이세이미야..(jkwarawara) | 25.09.08추천 5
-
근데 갤주도 2045년 특이점 인데 벌써 일 안할생각하면 어카냐 [12][일반] 리루파(sktkdqls2) | 25.09.08추천 0
-
일 그만뒀다... 특이점 언제오냐... [6][일반] 익명(tragedy7204) | 25.09.08추천 0
-
특이점은 온다.[일반] 익명(dump5868) | 25.09.08추천 0
-
개똥철학 올라오는거보니 겨울이 맞네 [2][일반] 익명(175.118) | 25.09.08추천 2
-
대량실업이 일어날거면 한꺼번에 터저야 하는데[일반] 익명(yuseoyeo4) | 25.09.08추천 0
-
나 천성이 특붕이였던거 같음 ㅋㅋ [1][일반] 익명(175.193) | 25.09.08추천 0
-
특갤의 단점 중 하나 [1][일반] 익명(121.88) | 25.09.08추천 0
-
codex 이 좋은걸 이제 알다니 [2][일반] 슬랄라(slala) | 25.09.08추천 0
-
내 바이브코딩 플랜인데 뭐 추가할까 [1][일반] 익명(118.240) | 25.09.08추천 2
예측이 사고임 자동차 사고
걍 인간 그자체네 ㅋㅋㅋㅋ
근데 나보다 똑똑한가? > yes
엄밀히 말하면 인간의 사고과정과 차이가 많은게 현실인거 맞지않음? 확률적으로 다음 토큰이 뭘지 예측하는게 현재 인공지능이고 이 기본원리는 전혀 바뀌지 않음. 그냥 좀 더 복잡해지고 많은 데이터가 학습되면서 인간처럼 생각하는거처럼 보이는거고 내부 과정은 확률적 추론이 무수하게 이루어지는거잖아.
내부는 블랙박스 아녜요?
사람 두뇌의 주 기능이 패턴 인식임. 오감과 언어 기능을 포함한 모든 측면에서 어떻게 하면 미래를 더 잘 예측할까만 수 억년 동안 세대를 건너 진화해온 게 사람 두뇌임. 예측 오류가 발생할 때 나오는 게 도파민이고. 시각 자료를 보여주고 설명을 하라고 하면 자신이 알고 있던 개념과 가장 '근접한' 개념을 지어내는 게 두뇌가 하는 일임
인간도 패턴인식으로 학습하고 그에 기반하여 사고함, 인간은 컴퓨터처럼 하나하나 일일이 전부 따지지 않고, 감으로 제일 그럴듯한 걸로 먼저 검토해본다는게 다를뿐, 그걸 직관이나 감으로 부르고
사람에 뇌도 예측하는 기계임. 예를 들어 안면을 인식하는 부분이 재밌는데 표정을 읽는게 너무 발달해서 점 새개만 찍어도 얼굴로 인식하는는게 환각이라면 환각으로 볼 수도 있음.
원 댓글이 맞는데 다들 이상한 논리로 반박하네. 트랜스포머가 토큰을 벡터화한 확률 소프트웨어라는 사실은 2017년이나 2025년이나 다르지 않음.
@Cohere ㄹㅇ 25년 지금도 diffusion기반 모델이 아닌이상 Llm의 근본 원리는 next token prediction인데 나는 오히려 디퓨전 기반 모델이 더 사람과 비슷하다고 생각함. 전체를 rough하게 예측하고 세부 내용을 다듬어 가니까
@Cohere 그게 아니라 확률 기반으로 무언가를 예측하는 게 지능의 본질이라는 말을 하고 있는 거임
@Cohere 트랜스포머까지 오면서 어쩌고는 역전파 도입하면서 생물이 학습하는 방법이랑은 전혀 달라졌으니 하는 말일 거고
@Cohere 그러니까 현재의 AI의 사고과정이 인간의 사고과정을 본딴거라는 얘기를 하고있는거임 인간이 사고한다 -> AI 역시 사고한다
인간도 현재 주어진 정보 상황에 무슨 행동이 적합할지 선택하는 확률론적 앵무새임 어떻게 보면
인간의 사고과정도 확률적 토큰 예측이랑 다를바없다. 추상화라는 기술이 들어갔을뿐이지
인간과 AI의 차이라면 사소한건 그냥 뭉개고 들어가는 무신경함이지 뭐 이제 잘 구슬려서 가스라이팅 하는 건 프롬프트 오랫동안 집어넣어서 조교하는거고
@ㅇㅇ(182.227) 인간을 확률 앵무세라고 단언하는게 우습다 그냥 모른다고 하면 되는건데 인간은 아직 작동원리를 모르는거고 ai는 작동원리를 아는게 맞다
@ㅇㅇ15(211.117) 작동원리를 알면 정렬 걱정을 안 하지 ㅋㅋㅋㅋ
코카투 르쿤 ㅋㅋㅋㅋ
비추론 인간이노ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㅋㅋ 근데 진짜 비추론형 인간< 뭔가 그럴싸한데...? 비추론형 인간인데 노력해서 성능 키우면 예술가 되는 거고 노력 안하고 씹창 그 상태로 지내면 쉽게 휩쓸리는 무뇌 앵무새되는 거고 ㄷㄷ - 2025 AGI
비추론 인류 붐은 온다......
다음 토큰 예측임 -> 맞음 사고하지 않아 -> 그럼 니 머릿 속에 있는 건 우동사리냐
인간 신경망은 아직도 모르겠다
해당 댓글은 삭제되었습니다.
고급 추론 기능을 켜고 사는 사람이 되어야겠다
전기공급량 늘려야겠지? - dc App
딥 씽킹 휴먼 지망생
저래도 지능 자체는 높다는게 신기하다니까 ㅋㅋ
벡터값으로 다음토큰 예측하는거 맞지 않음?
FACTS
선숭이들이야말로 고장난 바이오 모델이였노 ㅋㅋㅋㅋ
그런데ㅋㅋㅋ오늘 있었던 일인데ㅋㅋㅋ
로우 데이터가 필요한 작업인데 그게 인터넷 정부 페이지에 공개된 검색만 하면 나오는 내용이란말야?ㅋㅋㅋ그래서 최신 내용으로 검색해서 적용해달라고 요청했는데 처음에 잘못된 자료를 내가 요청한 텍스트만 제목에 달아서 보여주는거임ㅋㅋㅋ그래서 틀렸어 다시 찾아서 해줘 라고 했거든 그런데 계속 그 내용을 고집하는겨
그래서 생각이 든게 계속 요청하면 스스로 고칠수 있을까?
@ㅇㅇ(210.97) 그래서 잘못된 내용 간단하게만 말하면서 20트를 넘게 했단 말이지?ㅋㅋ추론모델로
@ㅇㅇ(210.97) 결국 실패하고 그 내용 근처에도 못감 긁어서 올려주니까 작업물은 적당히 뽑아내긴 했지만ㅋㅋㅋ
@ㅇㅇ(210.97) 그래서 물어봤지 왜 못한거냐 엄청 간단한 작업인데ㅋㅋ그 답변이 최초에 답변에서 찾은 내용의 경향성을 계속 가져가다 보니까 그랬다고 하긴 하더라고 뭐 중간에 완전 백지에서 시작하라고 요청도 했었는데 아마 우선순위가 높지 않은것 같더라 기존에 나온 답변에서 뻗어나가는 경향성 우선순위보다
@ㅇㅇ(210.97) 뭐 아직까지는 간단한 판단도 못하는구나 라는게 결론이긴 한데 다음 버전에서는 나아지겠지 셀프 벤치로 신버전에 또 해봐야겠다 같은 작업
ㄹㅇ 주기적으로 채팅창 비워줘야함 한번 잘못된 길로 빠지면 똥고집 개심해
나는 기술에 대해서도 잘 모르고 인공지능학에는 더더욱이지만... 다음 토큰 예측 자체가 맞는 얘기고 인간도 그렇다가 맞지 않을까? 다음 토큰 예측이 아닌 식의 사고 과정이 존재하려나. - dc App
확률론적 앵무새를 이야기하는 빡통 새끼들의 사고과정 : 다음토큰을 예측한다고? -> 어? 이거 주사위 굴리는거네? -> 주사위 굴리는게 생각이라고 할 순 없지 ㅇㅇ
빡통 새끼들의 사고과정2 : 다음 토큰을 예측한다고? -> 다음말을 랜덤하게 지어내는게 사고라고 할 순 없지 ㅇㅇ
그 논리면, 인간은 그냥 탄소복합체인데?
모르는 사람이 읽으면 뇌 작동원리 이미 밝혀진줄 알겠노
긁?
그러니까 다음 토큰을 예측하는 걸로 왜 사고를 못하냐고~
사고하지 못하고 다음으로 올 가장 확률 높은 토큰을 예측한다 -> 딱 gpt3시절 pre-training만 할때 맞던 얘기
gpt4때 supervised fine-tuning랑 human feedback reinforcement learning 추가하면서 이미 끝난 얘긴데 그 뒤로 in-context learning에 chain-of-thought에 process supervision에 rag에 vision-language 통합에 test time computing에 온갖 지랄발광을 해서 reasoning model로 만들어놨더니 여전히 응 사고못함 확률적앵무새임-무새라니까
결국근데 그것들이 확률적사고를 보정한거지 근본이바뀐건아님
아직까진 확률적 앵무새 맞는데 왜 처나대지 시발
나는 생각한다 고로 존재한다 - 메타인지가 아예 없는거지