[일반] 현재 최고 성능 ai가 구글 palm

[익명(221.140)]

인가?

근데 이렇게 파라메터 계속 늘려가기만 하면 되는거임?

뭔가 퀀텀점프가 필요한 거 아닌가...

현저하게 지적되는 문제점은 없음?

[익명(1.239)]

파라미터랑 데이터 모두 중요한데 파라미터만 높고 데이터가 부족하면 최적 성능이 안나옴. 그래서 한동안은 데이터 학습을 늘리고 파라미터는 천천히 키울듯함. PaLM이 친칠라 수준으로 데이터를 학습한다면 언어에 한해서만큼은 인간 전문가 수준을 넘을거 같긴 함

[익명(1.239)]

퀀텀점프가 필요한지 아닌지는 아직 알 수 없음. 그걸 얘기하는 사람 중에 유효한 대안을 증명한 사람도 아직은 없고. 다만 스케일링에서 새로운 능력의 창발이 확인되니까 꾸준히 확장시켜가면서 분석하고 효율을 높이는 요소를 발견하고 최적화해나가는게 지금 할 수 있는 일이지. 그리고 퀀텀점프를 발견했다한들 비공개할거임