내가 느끼는 딥마인드는
쉬운문제 부터 정복하고 어려운 문제로 차근차근 나아가는 것 같음
바둑을 예로 들면 알파고 -> 알파제로 -> 뮤제로 이런순으로 발전을 했는데
기보학습 -> 자가학습 -> 확장된 자가학습이런 단계를 거치면서, 한가지 분야에서 인간의 능력을 초월한 성능을 보이는 인공지능을 만들고, 그걸 확장하는 방식으로 연구를 진행했음
이후에 인공지능으로 다루기 좋지만 좀더 어려운 문제인 단백질 접힘이나 기타 등등으로
문제를 하나하나 정복하면서 차근차근 나아가는 느낌이라면 (이미 단백질접힘 분야에서는 인간보다 훨씬 우월한 성적을 거뒀음)
Open AI는
언어모델을 통해서 모든 걸 한번에 해결하려는거 같은 느낌임
General 해서 왠만한 지식들을 다 가지고 있지만 딥마인드처럼 특정 분야에서 인간을 초월하는 성능을 보이지는 않는데,
모델을 개선하면서 점점 더 넓었던 지식들이 더 깊어지는거 같음
그래서 난 언어모델 쪽에서 딥마인드가 좀 쳐지고 있는건 사실이지만 분명히 포텐을 가지고 있다고 본다
GEMINI가 어떻게 나올지도 기대가 되고
어쨌든 인간을 초월한 성능을 가진 분야들이 있다는게 상당히 고무적이라고 생각함
과연 Open AI가 인간의 성능을 넘은 언어모델을 만들어낼지,
아니면 딥마인드가 인간의 능력을 초월한 분야를 더 빠르게 확장할지
어느 쪽이 이길지 참 궁금하네
근데 이쪽분야 잘 모르는데 2개 합칠수는 없는거야? 예를들어 LLM이 필요한 강화학습 인공지능을 사용하는거지
나도 잘 몰?루 근데 내가 알기로 LLM도 강화학습의 일부인걸로 알고 있음 다만 어느쪽에 Focusing을 맞추는지가 다른듯 언어쪽으로 집중하는지 아니면 다른 문제에 집중하는지
합치는거 가능하고 안될 이유는 없음. 다만 모델이 모델을 개선하려면 특정한 지점에 도달해야되는데, 아직 그걸 도달 못함. 예를 들면 a^x 함수 같은거임. a가 1 이하면 x 키워봐야 a^x 값은 작아지기만 함. 마찬가지로 지금은 모델이 모델 개선시키면 성능이 떨어질 것임. 하지만 어느 순간 a가 1보다 더 커지는 지점이 미래에 발생할거고, 그 때가 ASI가 발생하는 순간임.
뭐라는거야 이래서 비전.공자들이 무섭구나
전.공자 부심 웃기노 어차피 특이점에 기여 1도 못하는게