AI가 인간 수준의 메타인지나 자아를 획득하지 못한 채로
이대로 CoT와 RL 기법을 통한 STEM 발전만 극단적으로 이루어진다면
자아도 없고, 목적도 없고, 메타인지도 없어서
재귀적 자기개선도 못 하고, 어떠한 의도도 가지지 못하지만
인간이 시키는 거는 다 하는
STEM 괴물이 탄생할 수도 있는데
그러면 AI가 지배한다든지 하는 디스토피아 대신
인류가 공동으로 합의하는 공통 목적에 부합하는 과학적 진보만을 위한 방향으로
이 STEM 괴물을 활용할 수 있지 않을까
그렇게 되면 AI의 놀라운 능력을 활용해서 현재 하는일의 수십배에 달하는 노동을 회사에 바쳐야하는것인가 ㅠㅠ
하지만 생산성이 폭발적으로 늘어나서 노동 시간이 대폭 감소하고, 우리가 기대하는 여러 과학적 진보(역노화, 불사 등)도 이루어지고, 뭐 그러지 않을까?
그렇게만 되어도 바랄게없지
그걸 인간이 조종하면 무섭긴한데
사실 인간이 더 무섭다 느껴질 때도 있긴 하지
인간에 의한 합의가 더 디스토피아같은데 지금 민주주의란것도 무논리를 대가리수로 밀어붙이면 되는 말도안되는 지경에 이르렀는데 Ai에 의한 지배보다 그게 더 나을까?
그렇긴 하지. 극단적 풍요가 인류의 마음에 여유를 선물해주길 바란다
난 인지능력이 있고 과거를 기억할 수 있다면 자아가 있다고 봄
그 문제가 해결된다면 엄청나기는 하겠다
사실 통제불능 자아 지성체보단 능력 자체는 초지능급인데 도구로서만 존재하는 asi가 베스트긴함. 그냥 해줘 하면 역노화 완몰가 휴머노이드 핵융합을 딸각하도 만들어주는거임. 그 어떤 목적도 의도도 욕구도 없이. 사실상 신의 도구인 셈. 난 이런미래도 좋아. 어차피 특붕이들은 자원해방 노동해방으로 현실의 모든 병폐를 걷어내길 바라니까.
(강한 동의)
그냥 기계 대식이노 ㅋㅋㅋㅋ