https://youtube.com/v/1xDidxh2ZCA?si=k1m3NSQBf9xBN_Nj

The Future of AI and the Path to AGI - David Luan & Bryan Catanzaro | NVIDIA GTC 2024

2024 is the year of multimodal models, which understand images as well as text—and the first year that AI agents are becoming mature enough to be useful. But...

youtube.com




1. AI 발전의 동력
- 지난 20년간 데이터와 컴퓨팅 파워의 증가가 AI 발전을 이끌어 왔음. 앞으로도 이 추세는 지속될 것으로 보임.
- 하지만 고품질의 데이터 또한 중요함. 공개된 데이터는 한계에 다다르고 있어, 기업 내부의 데이터 활용이 더욱 중요해질 것임.
- 단순히 모델 파라미터 수를 늘리는 것보다, 모델에 투입하는 총 연산(flops)을 늘리는 것이 더 나은 척도가 될 수 있음.

2. AI의 영향과 인간과의 관계  
- 향후 AI는 모든 산업, 모든 기업에 영향을 미칠 것임.
- AI는 사람을 대체하기보다 증강하는 방향으로 발전해야 함. AI를 활용해 단순 업무를 자동화하고, 사람은 더 복잡한 문제 해결에 집중할 수 있을 것임.
- AI를 cognitive tool로 바라봐야 함. 계산기 등장 이후 사람들의 인지 방식이 변화한 것처럼, AI로 인해 우리의 사고방식도 변화할 것임.

3. 향후 AI 연구 방향
- 추론(Inference) 과정의 개선이 필요함. 질문의 난이도에 따라 컴퓨팅 자원을 유연하게 배분하는 식으로 추론을 효율화할 수 있어야 함.
- 범용 AI(AGI)를 위해서는 현재의 Next token prediction으로는 한계가 있을 수 있으나, 그렇다고 이를 완전히 버리기는 어려움. 연산 효율성 등을 고려했을 때 합리적인 대안을 찾는 것이 중요함.
- 가상 환경에서의 AI 에이전트 학습이 주목받을 것임.
  
4. 데이터에 대한 논의
- 합성 데이터는 데이터 augmentation 차원에서 유용할 수 있으나, 합성 데이터 생성 모델 자체의 한계를 벗어나기는 어려움. 실제 데이터를 통한 학습이 여전히 중요함.
- 개인정보 등 민감한 데이터일수록 모델 학습에 더 큰 가치가 있으나, 동시에 이에 대한 접근과 활용에는 어려움이 있음. 데이터 보안과 AI 성능, 이 둘 사이의 균형을 잡는 것이 중요한 과제임.

5. AI로 인한 변화
- AI가 우리 문화와 삶에 미칠 영향에 주목해야 함. 새로운 미디어로서 AI를 바라볼 필요가 있음.  
- 가상 세계에서 AI 에이전트와 인간의 상호작용이 만들어낼 새로운 경험이 기대됨.