해석학 공부하면서 느낀것 알려줌
해석학에 등장하는 일부 정리들을 증명할때는 트랜스포머 아키텍쳐가 유용할 수 있음.
예를들어 함수열 fn이 고르게 수렴하는지 보이기, fn이 c에서 연속이고 고르게 수렴하면 f가 c에서 연속임을 보이기 등
둘다 증명과정 보면 삼각부등식을 이용하고 증명과정에서 엡실론이나 델타, 그리고 N이 등장하는 빈도나 위치도 아예 똑같거나 비슷함.
이처럼 비스무리한다는것 자체도 개념화하고 정의하고 정리화 하는게 수학임
카테고리학, 범주론에서는 이런걸 다룸
수학에서는 난제를 해결하기위해 여러 분야에서 등장하는 비스무리한 성질을 잘 정립하고
ATP(자동정리증명기)라는 알고리즘에 그냥 띡 얻고싶은 명제를 입력하고 기본 가정들 넣으면 결과가 나오도록
그러니까 초고성능 ATP를 만드는게 범주론의 목표임
예를들어 1 - 1 = 0인것처럼 f합성f^-1 = I
같이 비스무리한걸 공통된 개념으로 설명하려고 범주론이 있는건데
사실 수학명제는 AandBandCandD-->E이라고 하면
EandDandCandB-->A는 당연히 성립할것 같지만 성립 안하는 경우가 ㅈㄴ 많음
그래서 인공지능이 이런부분을 정확한 논리 계산이 아닌 통계적으로 처리하기에 계속 증명을 써 내려갈수록 오류와 왜곡이 누적되는거임
- dc official App
수학은 확실히 힘들것 같음. 하지만 극한의 예시를 들면.. 사실 우리는 과연 극한을 제대로 이해하는건지 의문이 듬. 정의는 엡델로 하고 증명도 가능하지만 실제로 극한을 생각할 때, 우리는 한 점을 중심으로 하는 공을 생각하고 그 공 으로 수렴하는 점열을 상상함. 단순한 이미지임.. 이걸 극한의 정의라는 맥락 하에서 잘 해석하는 작업이지.. 마찬가지로 closed set 하면 우리는 큐브나, 좀 이상하게 생겼으면 대충 점을 칸토어셋처럼 흝뿌려놓은걸 상상함.
어쨌든 아주 복잡하고 추상적인 대상을 다룰 때에도 머릿속 이미지 자체는 단순하기 때문에 인공지능이 못할 것 같진 않음.. 솔직히 우리가 수학을 하는것도 단지 반복학습의 결과물이니까 추론만 어떻게 좀 잘 하면 될것도 같은데
참고로 위상에선 극한의 정의가 한번 더 일반화됨 top. T와 수열 {x_n} on X 의 극한은 (Exists N such that n>N => xn is in nbhd(x)) <=> (lim n->inf xn = x) 로 일반화되고 함수도 비슷함 이게 metric space에선 엡실라 델타 논법과 동치임
수학의 머릿속 이미지가 단순하다? 수학은 기본적으로 무한을 계속 다뤄서 뒤로 갈수록 시각이나 이미지는 한계가 있음 그래서 구조에 대한 직관, 경험적인 감각에 의존하게 되지만 솔직히 직관도 대부분 경험에 의해서 쌓임 가장 기본적인 공리인 선택 공리부터가 Zorn's lemma라는 반직관적인 명제와 동치라 처음엔 이상하지만 결국엔 논리적으로 납득할 수밖에 없고 또 학부 수준에선 구조와 정리, 증명만 다루지만 대학원이나 연구 수준에서는 약간 이산 수학 스타일로 테크니컬한 기법들을 변형해서 연속적으로 사용하는 경우나 순수하게 논리와 감각만으로 대상을 다루면서 직접 깨우쳐야 하는 경우가 부지기수임
ㅇㅇ 내가 수학과 대학원생이라 잘 알고있음. 너가 든 위상의 예시도 내가 말한 단순함의 범주를 벗어나지 못함. 여전히 우리가 상상하는것은 거의 달라지지 않음
그래서 난 인공지능이 수학을 못할것 같단 생각은 하지 않음. 우리가 문제푸는 과정이 뭐 특별할게 있나.. 진짜 한걸음만 더 발전하면 다 할것같은데 솔직히
내가 말한거랑은 반대네 사람 생각이 다르다고 하지만 같은 수학도 맞나 싶다 AI는 한걸음이 아니라 재귀 개선 아니면 수학은 가망 없다 생각함 어차피 재귀 개선이 빨리 올테니 상관 없긴 할텐데
뭔 소린지 하나도 모르겠네 ㅋㅋㅋㅋㅋ
llm은 통계적 앵무새에 가깝기 때문에 논리적인 수학문제에 약하다는 뜻임
그러니까 한국어로 적힌 본문을 나처럼 이해 못한 언어모델이 힘들어하다가 오류가 나온단 거지 - dc App
현재 ai의 지능은 특붕이 단계라는거네 ai도 앰생 특붕이에서 개과천선해야겠노
근거를 기반으로 순서대로 생각하는 수준에 도달하면 으띃게든 되지 않을까
논리력이 꽝이란 소린가...이거 낭팬데 그럼....통계적 앵무새면 암만 데이터 더 쑤셔박아도 인간처럼 사고하기 어려운거 아님?
아키텍처 변경으로만으로는 힘들단 건가 사실 수학은 물리세계에서 수행될필요는 없는건데 공학-수학-과학 관계 생각하면 많이 아쉽네
LLM을 확률적 앵무새라고 비판하는 부류와 비슷한 오류를 범하고 있는 것 같음 - dc App
LLM에서 통계적이라는 부분은 다음단어를 생성하는걸 확률 분포 기반으로 샘플링한다는 의미고 이 작업을 하다보면 결국 논리적으로 가장 말이 될 문장을 만들 확률이 매우 높음 - dc App
단순히 통계적으로 많이 나오니까 비슷한 논리일 것이다 이렇게 무식하게는 사고하지 않음. - dc App
하지만 지금 ai가 수학을 못 푸는 원인 자체는 맞는 생각 같음. 수학이 패턴화하기 뒤지게 어려운 학문 같기는 해 - dc App