제대로된 ai를 개발하기위해서는 '이해'가 필요하다고 절실히 느끼는데,
이 '이해'란걸 어떻게 구현할수 있을지 생각하면 정말 간단치 않음.
자연어처리(NLP)란 기술에서 의미를 분석하고 의도를 파악한다길래 좀 검색해보니
이 기술로는 제대로된 '이해' 를 구현하는게 아니라
특정 문장과 연결된 주변 문장을 기계학습으로 통계적으로 연결하는 기술에 불과한듯.
결국 이건 제대로된 '이해'가 아니라 그냥 통계적인 분류에 불과한듯.
혹시 내가 NLP를 엉터리로 이해하고 있다면 지적해주고, 이 경우 자연어분석에서 의도를 파악한 결과는 어떤 형태인지 알려주면 고맙겠음.
그리고 이해를 구현하는 방법을 연구하는 논문 같은게 있으면 알려주면 고맙겠음.,
제대로된 제대로된 제대로된 의 정의가 뭘지 제대로된 자연어로 제대로된 정의부터 해보자
본문처럼 통계적인 분류 같은 허술한 이해말고.
왜 이 갤에는 꿀만 빨려는 새끼들이 많은지
이 병신은 뭐냐 ㅋㅋ
이 댓글은 게시물 작성자가 삭제하였습니다.
메타의 얀르쿤이 그런걸로 시도 하려고 하고 있다는데 나중에 결과 봐야 알듯? AI의 세계는 이론이나 과정은 조또 쓸모없고 결과(성능)만이 전부인 세계라;
이해라는게 뭔지 정의할 수 있음? - dc App
허접한 이해인건 파악할수있지
llm보다 너가 언어를 더 잘 이해한다고 할 수 있음? 그렇다면 그 근거는 뭐임? - dc App
사람이 llm보다 모든게 낫다고 할순없지만 llm이 멍청한 이유와 사례들은 제시할수 있지. 얀르쿤이 이미 잘 정리해놓은 동영상,논문: 동영상: Yann Lecun | Objective-Driven AI: Towards AI systems that can learn, remember, reason, and plan 논문: A Path Towards Autonomous Machine Intelligence, Yann LeCun, 2022
내가 테스트해본 사례들:
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=459784
https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=459843
사람이 마트에서 파는 몇천원 짜리 전자계산기보다 계산능력은 떨어지지만, 전자계산기가 사람 처럼 이해 능력이 없는 멍청한 면이 많다고 얘기할수있는것처럼
그 강의랑 논문은 이미 다 본 거임. 나는 너의 생각이 궁금함. 너는 저 사례 다 정독함? - dc App
너가 테스트한 거(컵옮기기)도 저지능인 사람한테 물어보면 틀리는 경우가 많을 거임. 그리고 "월드 모델"과 "이해"라는 개념은 비슷해보일 수 있지만 다른 개념임. 글쓴이는 이러한 둘의 개념을 서로 같다고 취급하는거같은데, 이거는 허접한 이해일까 아닐까? - dc App
얀르쿤이 얘기하고 있는건 내가 예전부터 느낀것들도 많음. 얀르쿤을 인용한건, 난 저렇게 정리한게 없어서 인용한거지. 그리고 "월드 모델"과 "이해"의 개념을 같다고 취급한다고 망상하고 있는데, 난 같다고 얘기한적 없는데? 제대로된 '이해'를 위해서 월드모델 같은게 필요하다고 생각.
내가 테스트한 정말 간단한 추론문제도 틀리는 사람이 저지능인건 맞지. 그래서 지금의 LLM은 제대로된 이해 못하는 엉터리라고 얘기하는거임.
Symbolic ai 하던가
앞으로 검색해서 공부해볼생각. 근데 이 방법의 한계는 어떤게 있는지 설명해줄수있음?
이해가 뭔데?
특갤 가서 이야기 나눠라 거기는 AGI 관심많더라 난 AI 도 정의가힘들고 제대로된 AI 도 정의는 불가능해보이고 이해하는 제대로된 AI는 도대체 어떻게 정의할지 감도안잡힌다 그리고 기계학습에서 통계적인 느낌뺴면 뭐가남냐 ;
정의 힘들다고 엉터리가 옳다는건 문제있지. 제대로된 ai를 정의하기 힘들지는 몰라도, 얀르쿤 처럼 현재 방향이 문제있고, 그 대안을 모색하자는 접근은 의미있지. 특갤에도 갔었음.
모든 옳고 그름은 정의한 다음에 나뉘어지는거임 너만의 세계관에서 혼자만의 "Ai" "제대로된 Ai" "이해" 를 정의해놓고 자기 입맛에 맞는 의견이나 정보나올때까지 캐고다니는건 쓸모없이 힘빼는짓임 자신만의 세계관에 갇혀서 설명해줘 뭐 없어? 해봤자 입맞 맞춰줄 사람없다는거야
말장난하네. "제대로된 ai" 같은 표현을 이해를 못하네. 현재 통계적 방식의 문제점을 해결하는 의미라고 생각하면 쉬움. 앞의 댓글에도 있는데 이 간단한걸 이해못하네
여기 대부분 LLM이 이해를 한다고 생각하지도 않고 인간보다 똑똑하다고 생각하지도 않을껄? 그리고 그런 LLM들의 통계에 기반한 방식이 AGI 구현하는 방식이라는대 동의도 하지않을거고 AI 혹은 머신러닝의 큰부분은 통계적으로 generalization 된 모델로 인간업무를 대체할수있지 않을까 인건대 통계 빼고 아 이해하라고 해버리면 남는건 뭐다? 니 세계관에서 인간은 아니지만 인간처럼 생각하는 것을 제대로된 AI로 정의해놔서 그래
통계 빼란 얘기한적 없는데? 지금과같은 통계방식으는 제대로된 ai 만들기 힘드니까, 새로운 방식을 찾는거지.
LLM자체가 거대한 통계로 정의할수 밖에 없지않나 이론공부 하면서 확률론적으로 다음 내용이 뭐가 와야 적절할지 찾는거 같던데 - dc App
물론 내 지식이 짧을순 있는데 근본은 엄청 많은 데이터를 통한 통념 구현인거 같음 - dc App
난 llm을 얘기하는게 아니라, 제대로된 이해를 목표로 하는거임. 위에 인용한 얀르쿤 동영상보면 인간(심지어 동물 조차도) 거대한 통계 아니어도 제대로된 이해를 하고 있음을 얘기하고 있음. 비유를 하자면, y = f(x) 의 세계규칙이 있다면, 너가 얘기 하는건 이 세계규칙 결과의 빅데이터로 통계적으로 처리하는 알고리즘이고, 내가 원하는건 y = g(x) 의 세계규칙 함수를 찾는거지. g(x) = f(x) 이기를 원하지만 약간 달라도 많은 사람들이 거의 동일한 이해를 하고 있다고 얘기할정도로. 함수로 표현한건 비유일뿐, 세계규칙을 어떻게 표현할수있을진 모름. 그래서 '비유'라고 표현했으니 이걸로 말꼬투리 잡는 사람은 없었으면 좋겠네.
꼬투리 잡으려는 의도는 없었음 그냥 llm이야기 하길래 이해라는거랑 거리가 있다는것이었고 사실 생물단위에서도 이해라고 하는게 시스템상 어떤 입력이 있으면 적절한 답변을 도출하는건데 이게 왜 이런가는 경험 혹은 학습에 의한 통계적 처리라고 생각할수 있지않나 여기서 생물중 적절하지 못한 답변을 도출한애들은 죽음으로 자신의 형질을 못남겼다고 생각하고 이게 몇천년동안 누적합이라고 생각해보셈 - dc App
사실 우리가 학습을 할때도 사회적인 약속을 기반으로 공부를 하고 이후 새로운 지식을 만들어 낼때는 추론혹은 가설을 생성해서 그 추론이 타당한가 실험 혹은 증명이라는 과정을 통해 다시 재학습을 하는거잖아 그걸 통념으로 재구축하는게 이해라는 과정이고 - dc App
글쎄 모든걸 통계라고 부르고 싶다면 굳이 말리지는 않겠지만, 그럼 아인슈타인의 E=mc2 같은것도 통계고 아인슈타인은 통계학자라고 부르고 싶은건가? 그럼 모든 수학자,물리학자들은 통계학자가 되는건가? 여튼 넓은의미에서 모든걸 통계라고 부를수있는지 없는지는 사실 난 별로 관심없고, 모든걸 통계라고 부른다면 llm식 통계와는 다른 통계 방식이 필요하다고 얘기할수있겠지.
니가 얘기하고 있는거 이거 맞음?
https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9363924
section 2 보셈
ㄱㅅㄱㅅ. 서론 읽어보니 내가 찾는 것중 하나인건 맞음. 이 논문 나머지 부분도 공부해보고, 참고문헌들도 살펴보려고 하는데, 혹시 이 논문 말고 다른것도 있으면 추천 부탁.
그론게 궁금하면 인지과학쪽을 파야할것같은데?
그쪽도 참조할만한게 있지.