어차피 상품으로 내놔야 할때 결국 점검을 해야됨
Gpt4o도 그렇고 gpt5도 그렇고
결국 상품으로 팔아먹으려면 손을 한번은 봐야됨 성능이 조금 떨어져서 나오는 이유도 있을테고
내부 모델을 정식 출시할때 여기저기 다듬어야 하기 때문에 안전점검은 그때 알아서 잘 할거라 생각함 여태까지도 잘 하고있고
Gpt5 이미 있는데도 안전점검하느라 안나오는 거잖아?
그리고 알트만이 1년 반~2년에 한 번 새 모델을 출시하겠다 했으니 그 정도면 충분히 안전점검을 하고도 남을 시간임
걍 지금 템포로 알트만 말처럼, 4o와 같이 중간점검 결과를 보여주면서 점진적으로 적응시킬거 같음
Gpt4o도 그렇고 gpt5도 그렇고
결국 상품으로 팔아먹으려면 손을 한번은 봐야됨 성능이 조금 떨어져서 나오는 이유도 있을테고
내부 모델을 정식 출시할때 여기저기 다듬어야 하기 때문에 안전점검은 그때 알아서 잘 할거라 생각함 여태까지도 잘 하고있고
Gpt5 이미 있는데도 안전점검하느라 안나오는 거잖아?
그리고 알트만이 1년 반~2년에 한 번 새 모델을 출시하겠다 했으니 그 정도면 충분히 안전점검을 하고도 남을 시간임
걍 지금 템포로 알트만 말처럼, 4o와 같이 중간점검 결과를 보여주면서 점진적으로 적응시킬거 같음
지능이 사람보다 낮을 땐 그게 수월하겠지
사람보다 높으면 뭐 ai로 정렬하겄지 허허
superalignment팀은 superintelligence를 상정하고 연구한 팀임
Agi출시할때 가서 만들겄지 뭐
재귀개선을 통제할수없는지점 이후를 걱정하는거지
지금수준은 뭐 4o할애비가와도 위험은커녕 툴에 불과함
그거 갠적으론 초지능으로 가는 방향을 잡고 연구해도 늦지 않다고 봄 아직 온전한 agi도 있는건 아닌거같은데