[일반] ai대학원 박사과정 노예 질문받는다

[익명(sungonuni123)]

설카포 ai대학원에서 박사노예로 일하고 있음

[토오오오오카(hhhmmm98)]

o1 high 써봄?

[익명(sungonuni123)]

우리 랩실에서 200불 주고 구독중인데 경이로운 수준임

[토오오오오카(hhhmmm98)]

o3가 지금 o1 mini 정도로 굴려질려면 얼마 걸릴 거 같음

[익명(sungonuni123)]

openai 입장에서는 o3모델 돌리는데 들어가는 자원이 너무 커서 당분간은 비싸게 책정할거 같음. 그리고 아마 주고객층을 연구소나 기업으로 한정지을걸? 일반인이 사용하기엔 프롬프트 쓰기도 빡세고 제 성능 내기도 힘든데다가 레이턴시도 아직은 큼.

[익명(l77qfpeloej9)]

장래에는 한국에서 일할거임? 아니면 미국 빅테크 갈거임?

[익명(sungonuni123)]

일단 가능하면 빅테크 가야지 ㅇㅇ 이미 인턴은 실리콘밸리에서 하고왔음. 아니면 미국 탑대학 포닥도 생각 중

[익명(l77qfpeloej9)]

지금 AI 비판론 중에 AI는 통계적으로 선호도가 가장 높은 단어를 나열할 뿐 자기가 하는 말을 진짜로 이해하지 못하고 있다(하나의 대화 안에서 A언어로 뭔가 지시하고 대답했다가 B언어로 다시 물으면 기존 대답은 전혀 기억못하는 등), 기억력이 딸려서 단편적인 지시 말고 복잡다단계한 지시는 이행 못한다 이런건 해결될 거라고 봄?

[익명(sungonuni123)]

이미 해결되어가는 추세임. LLM에서는 catastropic forgetting이라고 하는데, 이런건 버퍼에 입력데이터를 잠깐 들고있으면서 재활용하는 kv cache같은 테크닉으로 간단하게 파훼됐음. 그리고 최근 연구결과로는 학습 데이터를 모델 파라미터 수에 비례해서 겁나 때려박으면 아키텍처 상관없이 추론능력은 알아서 올라가더라는 이론까지 나와서, 결론적으로는 지금 제시되는 문제점은 어떻게든 해결될 수 밖에 없는 흐름임.

[토오오오오카(hhhmmm98)]

최신 메타는 추론시간 영끌 아니었음?

[익명(sungonuni123)]

chain of thought로 추론시간 죽죽 늘려서 성능 높이는 메타도 유행하고 있지 ㅇㅇ 그것도 한 방법임

[우희힝(minnuge0730)]

본인 씹문과라 AI에 대해 좆도모르는데 AI 대학원생이면 머함? 챗GPT랑 매일 대화하면서 논문쓰는거임?

[익명(sungonuni123)]

쉽게 말해서 챗gpt 코드를 모두 분해하고 역설계하는 과정에서 아이디어 붙여서 성능 더 좋은 ai를 만들고 실험하고 논문 내고 하는거임. 모든 연구원들의 궁극적인 목적은 인간을 완전히 대체가능한 agi 수준의 성능 도달이라고 보면 됨 (accuracy 기준으로는)

[우희힝(minnuge0730)]

ㅇㅎ...그러니까 AI 개발자? 라고 봐도 되는거네 머한 AI 기술은 어떤편임?

[익명(sungonuni123)]

정확히는 ai연구자라고 봐야겠지? 개발도 하고 실험도 하고 연구도 하고. 머한 ai 기술은 확실히 미국이나 중국에 비해서는 딸림. 일단 예산 자체가 너무 적어서 고유 인공지능 모델을 만들 수 가 없는 수준임. 삼성전자랑 네이버가 만든 ai가 유명하지 않고 별 성과가 없는거에서 알수 있을거임.

[익명(keepcalmandcarryon)]

ㄴ 그 둘 제외한 레벨에서 어느급?

[익명(176.0)]

AI가 먹을 데이터가 고갈이 가까워져서 발전 정체가 시작될거고 추론으로 활로 뚫어야 한다는 주장은 어찌 생각?

[익명(sungonuni123)]

그건 좀 깊이 고심해봐야 함. 내 생각에는 학습 데이터 포화는 학습 데이터 생성으로 augment해서 당장은 해결 가능한데, 결국에는 거국적으로 학습 데이터의 질적 저하를 불러오기 충분할 거임. 그래서 인공지능 모델 자체의 학습 효율(적은 데이터로도 큰 학습 효과) 올리는게 중요힌 테스크임

[익명(176.0)]

ㅇㅎ... 좋은 답변 감사

[익명(qwqttpw)]

제네시스 << 혁신 맞냐

[익명(sungonuni123)]

제네시스가 뭐임?

[익명(qwqttpw)]

https://gigazine.net/gsc_news/en/20241220-physical-engine-genesis/
요즘 나름 유명한 듯

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(sungonuni123)]

agi 기준이 애매해서 이건 벤치마크 이름을 대봐야 알 수 있음. 이번 o3 추론능력으로 기존 agi 척도로 여겨진 수학난제 데이터셋 성능은 이미 파훼해버렸기 때문에, 이런 기준으로 본다면 agi는 이미 도달함. 근데 이러면 또 어디선가 다른 agi 기준 들고와서 이거 할 수 있음? 이러겠지

[Rocinante(xintongxue)]

AI vs 항공우주 어디가 더 전망 좋냐 - dc App

[Rocinante(xintongxue)]

컴공 ai 이런거 레드오션 아닌가 - dc App

[논란일자레후(waveqq)]

미국대학 알아봐..run - dc App

[ㅇㅇ 1(121.166)]

박사과정이 공부안하고 갤질을해?