[일반] 뭐 최근에 2025 AGI 안될거같다는 뉴스라도 터짐?

[ㅇㅋ(ijh2005)]

ㅇㅇ?
일단 난 AGI = 자율연구시스템 = 재귀개선시스템 이라고 가정할때

추로능력은 충분하고 기억토큰만 추론능력유지한채로 대폭확장되면 끝날 문제라고 봐서

올해초부터 논문 수도없이 쏟아져나왔던게 기억용량 파트였음을 생각하면 

2024 중으로 초기버전 가능할정도로 확장될것이고 2025중에 우리가 상상하는 속도의 재귀시스템 도달 가능할것으로 보는편이었는데

최근에 특갤보니까 2025에 굉장히 부정적이네? 뭔 일 있었음?

[브룩(zzzznnnn8888)]

[익명(218.237)]

정신과로

[부패하는유전자!!!(sansss2015)]

안 부정적인데

[ㅇㅋ(ijh2005)]

휴 난또 뭔 중요한 이슈라도 터진줄~ 특갤 초파리떼한테 잡아먹힌뒤로 정보수급처 제일큰곳이막혀서 그새 나도 모르는 이슈라도 터졌나 싶었지

[브룩(zzzznnnn8888)]

ㄴ 좋은소식 많이나왔음 선형주의갤러리 정보탭가보면 어떤 선갤러가 정보 많이 올려놨음 그동안

[슈퍼130클럽(y3xxqs89b55t)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[ㅇㅋ(ijh2005)]

왜 재귀개선 담당하는 파트가 없다고 생각함? 리플렉션 논문 못읽어봄? 자신의 답변을 세부적으로 뜯어서 다시 살펴보는것 만으로도 에러난 부분을 수정해서 코딩테스트에서 점수가 1.5배로 상승했다는거 여기서도 ㅈㄴ 이슈화 됬었잖아? 그것도 사실 좀 시간경과된 취급받을정도로 물빨다하고 과정추론학습이랍시고 ToT랑 결합해서 한창 오픈AI가 gpt학습할떄 사용하고있는데?

[ㅇㅋ(ijh2005)]

이미 기억토큰만 빵빵하면 어지간한 복잡도의 문제는 로그만 훑어봐도 충분한 강화학습피드백이 가능함

[ㅇㅋ(ijh2005)]

한마디로 로그를 다시 훑어보면서 GPT모델이 GPT모델의 답변을 한줄한줄 뜯어가면서 전체맥락을 고려해 적절한 '추론과정'이었는지를 '평가'한다는거임 당연히 '평가'니까 '라벨링'이나 '피드백요소'라고 읽어도 되겠지? 그럼 당연히 모델의 매개변수를 갱신하는데 전달할수있는것이겠고?

[ㅇㅋ(ijh2005)]

아 너가 말한게 그게아니었구나 잠깐만 ㄱㄷ

[ㅇㅋ(ijh2005)]

그건 그냥 권한만 쥐어주면 됨 ㅋㅋ 직접 향상된 모델을 구상하고 거기에대한 코드를 작성하고 시뮬레이션할 권한, 그결과를 분석하고 이에 맞춰 피드백할권한 물론 이걸 실제로 구현하려면 좀더 복잡한 과정을 거치겠지만 여태껏 AI업계에서 이뤄온 업적들의 난이도에 비하면 새발에 피지 사실 GPT나오기전까지는 다들 거기까진 엄두도 못낼정도로 다들 고만고만한 수준이었거든, 근데 GPT가 나오면서 일찍이 생각있는놈들은 이미 논문내고 있더라

[ㅇㅋ(ijh2005)]

근데 그런 다양한 권한들을 GPT가 까먹지않고 제대로 수행하기위해서는 최소한 추론능력이 유지된채로 기억토큰의 확장이 32K의 5~10배정도는 이뤄져야 하지 않겠냐는거지, 논문들 싹 긁어서 훑어본뒤 요약정리하고 그거 바탕으로 발상해서 실험해보고 결과 분석해서 피드백한뒤 다시 논문탐색/실험설계 해야하는데 그게 일단 작동은 하게끔 만들려면 5~10배정도 필요할것같고 우리가생각하는 수준으로 돌아가려면 100배~사실상무제한 으로 풀려야함 그래서 2024즈음에 5~10배정도의 향상이 있을것같고, 거기서 AI알고리즘에대한 자율연구시스템이 위력을 발휘한다면 2025년에 충분히 그정도 수준까지 올라가지않을까 싶다는거