6년전에 본 영상인데 그냥 이 수순 밟아가고 있는 것 같은데
하루라도 먼저 agi, asi를 발명하면 2만배는 앞서갈텐데
일반기업이나 대학에서 찔끔찔끔 만드는게 의미가 있을까?
지금도 기존에 모델 만들었던거 다 버리고. gpt로 대체중인데
6년전에 본 영상인데 그냥 이 수순 밟아가고 있는 것 같은데
하루라도 먼저 agi, asi를 발명하면 2만배는 앞서갈텐데
일반기업이나 대학에서 찔끔찔끔 만드는게 의미가 있을까?
지금도 기존에 모델 만들었던거 다 버리고. gpt로 대체중인데
의미없음 또 ai스타트업에 투자도 하면 앙됨 llm은 거대기업이 절대적으로 유리함
그럼 구글이랑 Oai한테 목줄 잡혀서 질질 끌려다니는 미래가 오는거 아님? 시간이 더 지나면 경쟁상대도 딱히 없어질텐데 - dc App
목줄때문에 국내 AI에 투자하는건, 석유값때문에 질질 끌려다니니까 한반도에서 석유캐자는거하고 비슷한 소리임
해상도라고 할까. 아주 멀리서 하나의 분야로써만 보면 AGI 만들면 끝이니까 모든 에너지를 거기에 집중하는 게 맞아보이기도 함. 근데 조금만 더 자세히 보게 되면, LLM은 LLM이지, LLM로 어떻게 사업화하고 어떻게 대중에게 쓰게 할 지는 스타트업이 해줘야함. 그리고 AGI를 완성한 게 아닌 만큼, 완성에 필요한 여러 지식은 대학과 연구소에서 나올 가능성도 높음. 그리고, 대학들도 LLM을 개발하는 대학이라면(그럴리도 없겠지만) 망한 게 맞지만, 경량화라면 의미 있을수도 있고, NLP 아닌 분야도 넓음. 연구할 거 많음.
GPT 만들어지는데 핵심적이었던 트랜스포머를 생각해보자. 얘가 NLP만 아니라 CV에서도 성과를 내고 있는데, 특갤에도 올라왔었지만, retnet 이라는 녀석이 트랜스포머 다음 자리를 노리고 있음. 좀 더 자세히 들여다보면, 꽤 유기적으로 동작한다고 생각됨. 물론, 기업 입장에선 애매하다는 말 나오는 걸로 암. 왜냐면 LLM을 쓰자니 성능이 애매하고, 그렇다고 만들자니 헛소리고, 그렇다고 안 쓸 수도 없고. 그래서 일단은 TF팀 만들어서 성능이 더 올라가고 경량화 되고, 정보유출을 막을 수 있게 될 때까지 계속 활용법을 주시하려는 입장이라고 들었음. 그니까, openAI가 ASI를 쨘! 하고 바로 만들어서 내년 초에 풀 게 아니라면, 알트만 말처럼 적응할 속도로 낸다면,
숨이 차겠지만, 계속 AI 주시하면서 어떻게 활용할 지, 개선할 부분은 없을 지 연구해야지.
retnet도 근데 마이크로소프트가 제1 저자인디
그니까, 하나의 레인에서 같은 경쟁을 하고 있는 게 아니라, AI에서도 수십개의 레인에서 각자 경쟁하고 있다고 보면 됨. AGI 나오면 그 모든 레인이 하나로 통합되겠지만, 아직 안 나왔으니까.
영상 보면서 ai 위험성에 대해선 공감하는데 왜 전유물 이야기하면 전부다 agi 이후의 기술력 차이가 어마어마해지기 때문에 agi 만들면 거기서 독점한다하고 이야기가 끝나는거냐? 독점 이후의 이야기가 그럴 듯 하지 않으면 난 전유물에 대해 회의적임 내부에 agi를 철저히 통제시키고 외부에 조금씩 풀어서 인류를 통제하는거면 나도 그럴 가능성이 높다고 생각하고 어느 정도는 유토피아라고 생각함 근데 인류 몰살이나 기술 단절 같은 극단적인건 이해가 안감