제대로된 ai를 개발하기위해서는 '이해'가 필요하다고 절실히 느끼는데,
이 '이해'란걸 어떻게 구현할수 있을지 생각하면 정말 간단치 않음.
자연어처리(NLP)란 기술에서 의미를 분석하고 의도를 파악한다길래 좀 검색해보니
이 기술로는 제대로된 '이해' 를 구현하는게 아니라
특정 문장과 연결된 주변 문장을 기계학습으로 통계적으로 연결하는 기술에 불과한듯.
결국 이건 제대로된 '이해'가 아니라 그냥 통계적인 분류에 불과한듯.
혹시 내가 NLP를 엉터리로 이해하고 있다면 지적해주고, 이 경우 자연어분석에서 의도를 파악한 결과는 어떤 형태인지 알려주면 고맙겠음.
그리고 이해를 구현하는 방법을 연구하는 논문 같은게 있으면 알려주면 고맙겠음.
통계적으로 연결하는건 맞는데 사실상 인간의 이해 능력과 구분이 어렵다고 생각함 - dc App
통계적인건 인간의 이해와 많이 다른듯. 지금 chatgpt가 엉터리로 답변하는게 결국 인간 같은 이해가 아닌 통계적인 결과이기때문.
이런 얘기할 때는 '이해'가 뭔지 정의하고 가야되긴 한데.. 헛소리 같은 경우는 보통 이해력보단 메타인지가 없어서 그럼 - dc App
사람의 메타인지도 결국 이해를 바탕으로 하는거 아님? 결국 제대로된 이해를 구현못하니까 메타인지를 제대로 못해서 결국 헛소리 하는거 아닐까?
메타인지가 넓은 의미의 이해는 맞는데 그게 통계적인 방식 때문에 생기는 건 아니란거지. 헛소리에 대해 궁금한거면 환각에 대해 찾아보고 의도파악은 instruction tuning에 더 가까울듯! - dc App
현재 llm이 이해를 못한다고 하는건 얀르쿤,개리마커스말고 유명한 학자 있는지 잘 모르겠음. agi가 멀었다고 하는 앤드류 응조차도 llm이 이해한다고 했음. 이 영상 함 봐보셈.
https://youtu.be/9AxRIuzlUV0?si=NxrVkH4wwUXvM1Rf