트랜스포머로 충분한가? 불충분한가? 이것만이 중요함.
트랜스포머는 아키텍쳐에서 불순물 전부 빼버리고 "어텐션"이라는 단 하나의 연산만 남긴거니까 "트랜스포머로 충분한가?" 라는 질문은 "어텐션으로 충분한가?" 라고 바꿀 수 있음.
정말 단순히 어텐션을 반복하는것만으로 모든걸 이해할 수 있을까? 이건 좀 지켜봐야 알겠지
납득되진 않지만 Oai, 앤트로픽, Xai의 주장이 맞다면 학술적으로 agi는 이미 17년도에 달성됨. 다만 달성한걸 아직 모르고 있을 뿐이지
먼 훗날의 역사적 관점에서는 agi는 17년도에 트랜스포머에 의해 최초로 달성되었다고 기록될수도 있음 ㅋㅋ 우리가 지금 최초의 컴퓨터를 단순한 전자 계산기인 에니악으로 알고있듯이
트랜스포머로 0에서 100까지 도달한다 쳤을때 현재가 65 정도로 보인다고 치면 유의미한 도달이긴함. 70이 될수 있느냐 80이 될수있느냐 90이 될수있느냐는 이미 0에서 50을 달성했으므로 의미있는 도전이 아님. 그냥 시간,데이터,컴퓨팅 문제로 귀결되서 지금 미국이 돈 쏟아붓는거임. 너가 말하는건 모든 것을 의미하는게 100이라는 논리라면 영원이 100은 도달할수 없음. 근데 90~95는 무조건 도달함. 애초에 모든것이라는 의미자체가 존재하지 않음