내가 진짜 암것도 몰라서 하는 개소리일수도 있는데
현재 ai가 발달할수 있는건
프로그램을 교정해줄수 있는 인간이 있어서임
거짓인 학습데이터를 철저히 배제하고
참인 데이터만 학습시키고
결과값 또한 잘못된걸 교정하면서 발전해오고 있는데
결국 어느순간에가면
학습데이터가 참인지 거짓인지 인간이 판단할 수 없을 수준에 다다를건데
그럼 결국 프로그램 스스로가
학습전에 그 데이터가 참인지 거짓인지 판단할 수 있어야 하는거 아님?
그게 가능함?
또한 그렇게 학습하고 나온 결과값 역시 인간이 참인지 거짓인지 판단할 수 없을지경에 이르면?
그래서 학습을 통한 인공지능이 agi에 맞는건지 의문이 생김
GPT-4 이후로 GPT-4가 참인지 거짓인지 판단하는처럼 다양한 판단자 역할을 하고 있고 실제 개선도 있는 중
그니까 그거도 현재 인간이 교정해주고 있는거자나 내말은 인간의 개입이 전혀없이 스스로 학습전에 그 데이터가 참인지 거짓인지 알아야 하는데 그게 가능하냐는거지
? 인간이 하는게 아니라 GPT-4가 스스로 판단한다니까
아니 결과값을 여전히 인간이 수정해주고 있자너 내가 왜 이런글을 쓰냐면 해킹대회 같은데서 학습데이터 손상 만으로 쉽게 ai프로그램을 망가뜨리는게 가능해서 쓰는거임
니가 말하고싶은게 뭐임 예를 들어 데이터 중에 의미없는 가짜데이터랑 진짜데이터랑 섞여있는데 이걸 ai가 판단을 못한다 이거임?
너가 생각하는 참인 데이터랑 거짓인 데이터가 뭔지 예시를 들어주셈
본문글 그대로임 프로그램 스스로 인간의 개입 전혀없이 학습해본적 없는 데이터의 참거짓을 어떻게 판단하느냐는거지 지금까지 학습이란건 기본적으로 참인 데이터만 학습 시키는거니까 당연하자나 개발자가 참인거만 학습시키는거는 문제는 나중에 아득히 인간의 과학기술을 뛰어 넘는다면 스스로 학습이전의 데이터를 참거짓 판단해야 하는데 학습도 없이 어떻게 판단하냐는거
내가 너의 의도를 정확히 파악한건진 잘 모르겠다만
머신러닝 공부해본 적 있는거지? 너가 말하는것만 보면 지도학습만 했던 시절 얘기를 하는 것 같은데 GPT같이 비지도학습으로 스케일 확장해서 만든 모델들은 단순히 다음 토큰 예측하는걸로 훈련시켰는데 인간이 예측하지 못했던 새로운 기능들이 계속 출현하고 있음 이걸 보고 제프리 힌튼도 GPT-4는 추론 능력도 있다고 보는 중이고 5년 뒤면 사람보다 추론 잘하는 모델이 나올거라고 생각중인거고
아니 욕부터 박지말고그런 의문이 든다고 난학습이란건 결국 모르는걸 배운다는건데지금은 인간이라는 선생이 있지만나중엔 스스로 모르는걸 맞는지 틀린지 100퍼의 확률로 걸러내면서 학습해야한다는건데 만약 100퍼 거르지 못한다면 인간의 시행착오랑 다를바 없는거고100퍼 거른다면 그것또한 말이 안되자나모르는걸 어떻게 참거짓 판단하냐는거지
222.108 답변잘봤음 그쪽을 좀 더 파볼께 난 파이썬으로 머신러닝 좀 얕게 공부해봤는데 그런생각이 갑자기 들어서 적어본거임
맞는지 틀린지 걸러낸다는게 결국 데이터를 정제하고 만들어내는 그런거라고 생각하면 GPT-4 부터 말했던데로 AI가 인간 수준에 근접한 판별자/생성자 역할을 하면서 인간 역할이 점차 줄어들고 있음
https://youtu.be/18atNAGL9Sg?si=CubirJxsmnGRU1a4
이거 한번 봐보셈
ㅇㅋ 보고오겠음
그냥 정답을 계속해서 학습하면 어떤 논리로 정답이 도출되는지 찾는 느낌이라 생각하면됨 스스로 데이터가 쌓이면 누가 알려주지 않아도 정답 관련 도출을 해낼 수 있게 되는 지점이 있는데 거기서부터 이제 스스로 할 수 있게 되는거지 학습을 할 수밖에 없음 agi까지 가려면
그니까 학습이란건 인간이 거짓을 걸러준 참인 데이터만을 학습하는거고 나중에 인간이 판단할수없게 되면? 그땐 프로그램 스스로 판단해야할때가 오는데 100퍼 참거짓 가려내지 못한다면 agi의 의미가 없는거고 100퍼 가려낸다면 스스로 학습해보지도 않은 데이터를 참 거짓 판단한다는게 말이 안된다는 거임
모든 학습이 그렇게 이뤄지는 건 아님 그리고 인간이 거짓을 걸러준다기 보단 답을 알려주는거에 가깝지 거짓이 걸러진 참이 아니라 우리가 생각하 듯 나오는 세상의 정답에 가까운거지 지금도 인간 판단들 대부분 있는데 그거 믿고 살잖음? 물론 agi가 어마무시한 이론의 정답을 도출해냈는데 우리가 이해를 못하면 문제야 있겠지만 양자역학처럼 적용해보니 그냥 되면 그냥 하는거임 보통 기술들이 그랬음
근데 학습이란게 모르는걸 배운다라는거자나? 그러면 불가피하게 시행착오를 겪을수 밖에 없는거 아님? 지금현재도 ai의 시행착오를 인간이 수정해주면서 발달하고 있는데 나중엔 스스로 모든 새로운 정보를 가려내면서 학습을 해야할건데 그게 가능한건가 싶은거지
시행착오는 당연하게도 겪는데 그 시간이 짧을거라는 거임 지금은 느리잖아? 근데 점점 빨라지고 있음 그러니까 3달 걸리던거 3일이면 된다는거임 그럼 그게 참인지 거짓인지 어떻게 구분할거야? agi가 이론만 짜겠음 발전하면? 직접 실험도 할 수 있음 하드웨어 장착해서 아니면 인간이 직접 실험은 해볼 수 있음 이론을 몰라도 agi가 제대로 말한건지 논문 정도는 내볼 수 있음 실험으로 그리고 정보란게 새로울 게 생각보다 없음 그냥 진리인 정보가 기반이 되면 나머지 이론이 추가되어도 별 새로운걸 처음 시도한다는 급의 내용같은건 없음 학습이 한 분야에서 적당히 되면 다른 분야 응용은 충분히 가능함 그게 지금 신경망이 작동하는 원리와 비슷함 그러니 지금 지식을 기반으로 정보를 많이 모아놓은 ai는 agi정도의 파라미터와
속도 및 비용이 유지가 되면 지금 지식 기반으로도 충분히 -지금 인간들 중 최고 지성이라 여기는 사람들조차도- 뛰어넘을 수 있음
그리고 ai는 한 개체라고 보기 보다는 여러 개체와 합해질 수도 있고 개인 객체가 될 수도 있음 ai를 단일 개체로 생각하면 너무 그런 결론에 빠지기 쉬움
답변 고맙다 내의문이 100퍼 풀린건 아니지만 어느정도 이해는 했음
나도 들어줘서 고마워~
지금은 최초 이륙용 AI를 만들고 있는거라고 생각함 현실 그 자체가 이미 부정할 수 없는 '참'이니까 나중엔 바둑이나 스타2를 학습하듯이 현실을 학습할거라고 봄
참 거짓 가려내는 게 뭐임? 예시 점
인간이 연구할 때 교차검증 동료평가 등등의 절차적인 장치들이 있듯이 agi 도 인간 이상의 지적 존재인 것이니 인간이 하는것과 비슷한 맥락의 방법론 소프트웨어가 돌아가지 않을까
인간이 참/거짓 가려내주는걸 라벨링이라고 하는데 이거 벗어난 지 꽤 됐는데 ㅋㅋ
그걸 넘어서는게 agi 인