뇌의 에너지효율은 배워야할듯
그래서 황회장도 생물학공부하라고
한거일수도
뇌야 말로 최적화의 집적체니까
그리고 이건 뇌의 특성을 벤치마크에 반영시켜야
한다고 생각하는면에서 주장하는건데
지금 최고수준 수학자들보고 imo풀라하면
거의 못풀거임
왜냐면 익숙하지않으니까
근데 그 수학자들에게 3달정도 imo문제풀이훈련을
시키면 쉽게 풀거란 말야
그래서 이제 벤치마크를 평가할때는
평균점수가 아니라
파인튜닝이나 기타최적화방식을 적용했을때
풀수있는 가장어려운문제를 기준으로
봐야하지않을까 싶음
이런 기준으로 본다면
O3는 인간수준 수학자에 한참 미달일거임
뇌 존나 비효율적인데... 20년동안 선형학습 시켜도 쓸 수 있는지 없는지 장담을 못해 - dc App
연료나 발열 이야기하는 거겠지 아마
에너지 효율도 학습시간 생각해보면 그다지 좋은거 아니지 않냐? 무기물로 모방이 되면 모르겠는데 유기시스템으로 복원하면 관리비도 뒤지고 스트레스 관리도 해야되고 - dc App
그리고 뇌가 만약 현 테크상 최고효율 CPU시스템이면 찍찍이 뚜따해서 병렬연결한 슈퍼컴이 나왔어야됨 윤리 문제 나오기 전에 누군가 만들었을것 - dc App
그건 뇌 과학 연구가 부족해서 생물학적 뇌로 회로를 컨트롤 하는게 불가능해서 못나오는거 아님?
계산기도 못이기는 시점에서 만들 필요성도 못느낀게 맞지 - dc App
스파스 접근같은 알고리즘 쇼를 해도 일단 하드웨어 한계가 있고 특히 snn쪽은 ODE들어서 그런가 뉴로모픽 칩이 있어야 최적이라하고 성능에 영향없이 줄이기도 힘들거고 그거 말고도 기본적으로 아무래도 전선으로 메모리간 정보 옮기고 열발생하고 그러니까 뇌수준은 어렵지 않을까