[일반] 심층강화학습 공부하고 있는 예비대학원생이다

[익명(125.251)]

질문 받는다

[익명(dread2836)]

오늘 팬티 무슨색임?

[익명(125.251)]

정열의 레드

[익명(dread2836)]

오우

[익명(14.47)]

경상하강법이 딥러닝이 전부라는데 이게 진짜인가?? 이게 진짜면 히든 레이어에 쌓이는 데이터는 뭐가 제일 중요한가요?

[익명(14.47)]

경사하강법;

[익명(dread2836)]

뭐가 궁금한건지 모르겠는데

[익명(14.47)]

딱 말해서 딥러닝은 데이터인가요 데이터를 기반으로한 창발성인가요 인간처럼

[익명(125.251)]

저도 머신러닝 이번에 공부해서 크게 잘 아는 건 없지만 옵티마이저는 대부분 경사하강법 베이스일 수 밖에 없는게 딥러닝 모델 쓴다는 것 자체가 데이터가 방대한 데이터를 심층적으로 다룬다는 소리가 결국 그리드 탐색이나 하나하나 계산하는 방식은 시간이 기하급수적으로 오래걸리기 때문에 경사하강법 밖에는 거의 안쓰이는 걸로 알고 있습니다. 히든레이어에 쌓이는 데이터에서 뭐가 제일 중요한다고 하기 보다는 히든레이어를 구성하는 하이퍼파라미터들이 더 중요합니다.

[익명(dread2836)]

데이터를 1차원적으로 섞어서 그 속에서만 데이터를 만들수 있는 건 아니고 창발이라고 하면 창발이지만 그것 또한 학습된거는 맞지 애초에 무에서 만들어지는 건 아니고 (확률이 너무 낮음)

[익명(14.47)]

125님 말대로면 결국 데이터인데;; 그런기..

[익명(14.47)]

아 확률이 낮군요

[익명(125.251)]

딥러닝의 뜻 자체가 ai모델 구조가 층이 여러개로 구성되어 있다는 얘기라 데이터랑은 별로 상관 없어요

[익명(14.47)]

그 구조층이 존나게 많아지면 (레이어가 많아지면) 지금 해결 못하는 것도 될거라 보시나요:?

[익명(125.251)]

구조층도 너무 많아지면 기울기 소실 현상이 일어나 학습능력이 오히려 떨어질 수 있기 때문에 무조건 구조층이 많다고 좋은 건 아닙니다. 그냥 모델 자체를 복합적으로 잘 짜야겠죠?

[익명(14.47)]

맞아요 그 구조층 문제를 해결 못해서 온게 기울기 소실 문제고 제가 알기론 그게 2차 ai 겨울이었고 그거를 함수 조정해서 풀었다고 하는데 맞나용? 제가 궁금한건 그거를 어떻게 푼거에요?:?

[익명(dread2836)]

이건 그냥 AI를 공부하는게 맞다고 본다

[익명(125.251)]

활성화함수 손실함수 옵티마이저 등 여러가지 하이퍼파라미터들 세밀하게 조정해서 기울기소실 문제를 해결한 걸로 알고 있는데 기울기소실 문제 자체가 애초에 백프로파게이션 계산법에서 초기 노드들까지 학습시키려면 결국 연쇄법칙이 일어나 0에 수렴하게 되어 학습이 안되었던 건데 활성화함수이나 손실함수들 여러가지 사용해보면서 0으로 수렴 안되겠끔 해서 극복한 걸로 알고 있어요

[익명(125.251)]

예를 들어 ReLU의 파생형 함수들 이용해서 0이 안되겠끔 ㅇㅇ

[익명(14.47)]

오오오오 이런 해설 처음 둘어요 역시 대학원생은 다르군 그 진짜 대박 정보

[익명(125.251)]

https://velog.io/@lighthouse97/%EA%B8%B0%EC%9A%B8%EA%B8%B0-%EC%86%8C%EC%8B%A4-%EB%AC%B8%EC%A0%9C%EC%99%80-ReLU-%ED%95%A8%EC%88%98

[익명(125.251)]

여기 기울기소실 문제에 대한 것과 활성화함수에 대해 자세히 나와있습니다. 그리고 저 아직 대학원생 아녜요 ㅜㅜ

[익명(14.47)]

그럼 결국 인간의 미세조정인가요? ai 자체의 창발성은 어떻게 생각하심?

[익명(125.251)]

쓰이는 분야마다 다르다고 생각합니다. ai도 결국 돈 많이 들어간 만큼 성능이 나오니... 단순한 기법으로도 인간이 세부조정만 잘해주면 다양한 서비스 제공할 수 있는거죠.. 창발성 관련된 얘기들은 아마 곧 쏟아져 나오지 않을까요? 그러니 특갤이 있는거고요,,,,ㅋㅋ

[익명(125.251)]

일단 저희 ai 교수님들은 특이점에 대해 매우 긍정적으로 생각들 하고 계십니다.

[ㅇㅇ 1(125.177)]

이게 특슬람 평균 지식수준임 ㅋㅋㅋㅋㅋ 딥러닝책아무거나 사서 실습도 안해보고 쳐주워들은걸로 지능창발 어쩌고 ㅋㅋㅋㅋㅋ 레이어만 늘리면 좋지않냐니 ㅋㅋㅋㅋㅋ

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

o1 시리즈에서 좀 근본적인 매커니즘에 부족한 부분이 있다면 뭐같음?

[익명(125.251)]

LLM 안해서 몰?루요. 아직 DDQN, MLP, 그외 잡다한 머신러닝 기법들 정도 밖에 몰라유

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

몰룽몰룽