그냥 말만 잘하게 할 목적으로 개발한건데 보니까 복잡한 판단을 내릴 수가 있게 됨
예를 들어 gpt 3.5 수준인데도 이런 판단이 가능함
언어 모델을 만들었는데 주식 매매에 대한 판단도 가능하다는 말임
저 ai를 조금 손보고 주식 계좌를 열어서 매매를 할 수 있도록 한 뒤에, 블룸버그 단말등에 연결시켜서 주식 투자자와 같은 수준의 정보를 제공하면
수익률은 모르겠지만 아마 바로 주식매매를 하게 될 가능성이 높음. 분명 금융 ai가 아니라 언어ai를 만든 것인데도 이런 일이 벌어진 것.
또 자연어 ai가 멀티 모달에서도 유능하다는 글은 갤에서 봤을 거임.
그리고 언어 능력이 개선되면 시각이나 청각 모달도 개선되고 반대로 시각이나 청각 모달을 학습시키면
반대로 언어 능력까지 향상되는지에 대해서 추측은 있지만 아무도 정확한 설명을 못함
이건 마치 철근 콘크리트의 열팽창 계수가 우연히 비슷했던 것과 같은거임. 저 두 재료의 물성이 우연히 비슷했기 때문에
인류는 문제 없이 고층 빌딩을 올릴 수 있게 되었음.
그리고 이런 우연이 ai에도 그대로 벌어지고 있음.
그냥 말만 잘하게 했는데 만들고 보니까 금융은 물론이고 여러분야에서 아주 유능해짐. gpt4 나오고 다른 ai사업자들이 전부 경악한게 이때문이었고
심지어 말만 잘하게 했는데 알고보니 시각이나 청각에서도 개선이 일어남
기본적으로 딥러닝을 시키면 왜 인공지능의 성능이 왜 좋아지는지에 대해서도 규명이 안되었는데
이제와서는 보니까 그냥 한 분야만 존나 발달시키면 다른 분야도 따라서 성능이 좋아지는 우연을 만나게 되었음
1. 그냥 향상된 챗봇을 만들려고 자연어 AI를 만든건데 얘가 말만 잘하는게 아니고 온갖 어려운 판단도 잘하는 것으로 보임
2. 멀티 모달에 있어서도 언어 능력을 향상시키면 아무튼 다른 능력도 향상되며 반대도 똑같음
3. 도대체 뭐임?
채팅할목적으로 만든거아냐 ai언어모델만든거고 거기서 챗봇으로나온거야 사람들이 쓰기편하게
아까 글 올라왔는데 비트겐슈타인이 말한것처럼 언어가 정말 중요한 거였지.
그건 모르겠음. 언어를 학습해서 그런건지 아니면 굳이 언어가 아니더라도 현재의 학습 모델로 학습을 시켜서 어떤 분야든 신경망을 gpt4 수준으로 복잡하게 만들면 저런게 성취가 되는건지 대조군이 현재로서는 없어서
지금까지 AI쪽에 가장 문제는 학습을 계속 시키게 되면 어느순간 Overfitting이 되서 성능이 더 이상 향상되지 않는 거였는데 사람 말귀를 알아 듣게 하니 그런 문제가 거의 사라진것으로 보임.
시총 1000억 기업에 보통 500억 손실이 날수도 없고 났다해도 그대로 바로 부도임 좀 비사실적인 질문임
그런 걸 positive transfer learning이라고 하던가?
교수님들은 보통 generalization이 잘 된다고 설명하시는 듯 positive transfer은 training 도중에 생기는거라 - dc App
몬가..몬가 다른 건가
와 뭐야 신기한말한다 이사람들 - dc App
이게 그 만류귀종인가 뭔가냐?
자연어 AI가 아님. 예측 모델에 자연어를 학습시켰을 뿐이지.
애초에 언어 자체가 목정성을 가지기 때문아닌가
뭔 소리야 말만 잘하게 할 목적으로 개발했다니 ㅋㅋㅋ……………….
언어를 학습한다는 개념을 잘 이해 못한거 아닌가 싶은데 지금 말한게 그림을 학습 시켰더니 인체 비례나 광원, 투시도 학습했다는 소리처럼 들림
ㅇㅇ 딱 그거지 언어가 인간의 가장 범용적인 지식체계라서 그거뚫어내면서 인간의 범용적사고방식을 제한적으로나마 학습한거임
그 그림 인체 비례 모든게 언어의 확률분포적성향이 법칙으로 이어진거임. 애초에 그림도 언어고 예술도언어고 과학도 언어고 세상모든게 언어라는 형이상학적 규정안에 있는거임 니들이 부를수없는건 존재하는지조차 모르는것처럼
언어가 세계 자체이니깐 비트켄슈타인이나 라캉철학을 이해를 못한듯 니가
이제와서는 보니까 그냥 한 분야만 존나 발달시키면 다른 분야도 따라서 성능이 좋아지는 우연을 만나게 되었음 -> 그 한부분이 언어라는 포괄적인 이해가 된게 중요한거. 인간이 언어를 생각한게아니라 언어가 인간을 생각하게하는거다.
뭐긴 뭐야 그러다 특이점 오는거지 ㅋㅋㅋㅋ