특뉴빈데 갤 보다가 재귀개선 언급이 많아서 단어 뜻 찾아봤거든
근데 의문점이 좀 생겨서
인간의 지능이 agi의 척도라 하면
당장에 딥러닝 나온지도 한참 됐고, LLM이 agi로 가는 올바른 방법론이라 가정했을때 LLM 자체가 챗지피티로 화두에 오른지도 3년인데 아직 인간보다 우월한 인공지능을 개발하진 못했잖아
그러면 agi를 개발했다쳐도 그것이 보다 우월한 인공지능을 개발하려면 엄청난 자원과 시간이 투입될수도 있는거 아님??
왜 임계점 넘기면 당연히 엄청난 속도로 재귀개선 될거라고 상정하는거임??
실제로 사람이 ai를 발전시키고있잖아
근데 단순히 본인 지식 한도내에서 발전시키는거랑 본인 지적 능력을 넘어선 무언가를 만드는거랑 천지차이잖아
기계가 느려봐야 사람보단 빠름
난 재귀개선 이후에 agi달성이라고 봄
하드웨어 컴퓨팅파워라는 물리적 병목이 걸리는 분야라면 맞음. 하지만 그 시점에 갖춘 자원내에서의 극한의 성능까지 끌어올리는건 인간은 못함. Agi도 컴퓨팅파워에 따라서 초기부터 후기까지 다 성능이 다를거임. 지금 ai도 인간이 개선시켜왔는데 ai를 개발하는 ai가 나온다면 자원의 한계치 내에선 인간은 절대 가지 못한 수준까지 못갈 이유가 없음
자원 10으로 인간은 1,2,3을 만들지만 agi는 9,10 끝까지 활용하는거임. 자원을 20 30 100 1000으로 늘릴때마다 agi는 한계치까지 활용할 수 있음. 시간 자체가 인간과는 다르게 흐르는게 디지털 지능이거든
@Asi 초기형 agi를 재귀개선시키는건 님말대로 물리적 병목이 가장 큰게 맞음. 애초에 ai 프론티어 연구원들도 다 인정하고. 그래도 인간만의 힘으론 절대 다가가지 못하는 기술의 한계점까지 최대한 다가가서 그다음 agi를 개발하는걸 노려야지 이걸론 안될 수도 있지않음? 하고 가만히 있으면 뭐가 바뀌냐
@Asi 재귀개선의 속도는 디지털과 아날로그의 차이를 보면 자명함. 또한 제한된 분야지만 이미 알파고와 알파폴드로 인류 전체를 뛰어넘는 성과를 낸 것도 마찬가지고. 그게 General해진다면 이론상 ai 개발 역시 알파고 알파폴드처럼 전인류를 뛰어넘는 속도와 성능으로 할테고 그래서 재귀개선은 자원의 한계내에선 항상 최대치를 상정하는거임
나도 그렇게 생각함. 재귀개선이 분명 지수적 발전을 불러일으키기야 하겠지만 상상처럼 순식간에 일어나진 않을거같음
최악의 경우에는 자기 자신보다 똑똑한 지능을 만들수 없는 선이 있을수도 있고. 무엇보다 우리가 llm을 이해하고 짜맞추는게 아니라 되는대로 때려맞추고 있어서 llm도 다음 세대 만들때 비슷하게 해야될거같음
@FISC ㅇㅇ 그래도 미래에 벽이 있을까 두려워 벽까지 갈 생각도 안하고 주저앉아버리는건 바보같은거니까 계속 갈 수 밖에 없어
정지문제랑 동일함 무조건 유한 시간 내에 재귀개선이 이루어진다고 할 수가 없음 agi 이후 재귀개선이 동반될거라 보이는데 그 이후 특이점 같은 무한한 속도의 진화는 가능할지조차 예측불가라 봄 현재 llm으로 agi 도달도 장담안되는 상황이라 아무도 모름