가속이 짜릿하긴 해도 정렬도 중요하니까 일리야 입장도 충분히 공감은 감.
브레이크 페달 없이 시속 300km로 가속하다가 어디 벽에 꼬라박으면 다 죽는데 그 결과가 인류 멸망일지도 모르지.
그야 똑똑한 알트만이 다 생각하는 바가 있겠고 검열에 너무 신경 써서 컴퓨팅 낭비랑 개발 차질이 생기면 그건 또 문제니까
양측 다 곰곰히 균형있게 생각해볼 문제이긴 하지.
다짜고짜 일리야랑 퇴사한 정렬팀들이 모조리 병신들이라고 욕할 필요까진 없지 않나 싶음.
귀염
특갤 분위기가 규제는 무조건 싫고, 가속만 좋아하는 경향이 있긴 함. 정렬을 제대로 하는거랑, 안전주의자가 말하는 규제랑은 좀 결이 다른 이야긴데 말이지.... 물론, 정렬팀의 목적을 옹호하는거지, 정렬팀이 성과 못 냈으면 욕 먹어야지 뭐.
정렬팀의 성과가 즉각적으로 나타나는 게 아니니까 정량적으로 성과 측정하기가 어려움. 정렬팀의 성과는 향후에 AI가 정말 위기를 초래할 때 평가되는거니까.
근데 초지능정렬팀 결성이 작년7월인데 몇개월만에 초지능 정렬에 성과를 내기도 애매한거아닌가. 단순 성과를 못냈다기보단 다른 문제일듯
걍 정치질 밀려서 나간거지
솔직히 평가지표랄까, 평가할 방법이 딱히 없었을 것 같긴함. 전에 특갤에 념글로 한번 약간 낮은 버전의 AI로 높은 버전의 AI를 통제하는 것에 대해 성과 있다는 내용을 openAI 정렬팀에선가 발표한 것 같음. 근데 그게 더 큰 모델에서도 먹힐까? GPT4로 GPT5 통제는 가능했다 쳐도, GPT9로 GPT10 통제가 될까? GPT9 통제는 누가하고? 뭐 말꼬리 잡는 소리긴한데 어쨌든, 정렬팀이 이상은 좋은데 성과 확인하기 힘든 조직이긴 할 듯. 더 많은 컴퓨팅 자원 요청했다는 말 있는 거 보면, 뭐 성과 말고도 의견 차이가 좀 있었을 것 같긴 함.
애초에 정렬팀은 어떤 성과나 매출을 내는 집단이 아님. 굳이 성과를 따진다면 뭐 챗지피티한테 물어봤을 때 쌍욕박고 패드립 안하면 그게 정렬 성과겠지.
제일 웃긴애들은 그냥 초지능에 모든 결정을 맡기자는 새끼들임 ㅋㅋ
초지능이 가장 윤리적이며 공명정대하다.