[일반] 강연 듣는데 GPT5 생각보다 늦게 올 수도

[ㅁㄴㅇㄹ(tantandero)]

개발끝내고 red teaming으로 안전 문제 제거하는데 6개월 걸렸다는데? ㅋㅋ 

거기에 새로운 모달리티, 새로운 기능, 특징이 추가될 때마다 새로운 평가방식이랑 위협 판별이 필요하다고 강조하는 거 보면 검열하고 정렬하는데 훨씬 오래 걸릴수도

[익명(defense1888)]

레드 티밍이 뭐임

[ㅁㄴㅇㄹ(tantandero)]

너가 반대편, 그니까 이 경우에는 인공지능을 악용하려는 사람이 되서 어떻게 하면 뚫어낼지, 악용할지 생각하면서 서로 막고 뚫고 하면서 개선시키는 방법임

[MoonChild(aowlr2001)]

[익명(112.186)]

개같이춥다...

[익명(118.32)]

좆 됐 다 !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!

[익명(211.59)]

구체적으로 어느 시점에 저 작업들이 완료 된건지 말 안한거면 아직 모름

[ㅁㄴㅇㄹ(tantandero)]

구체적으로 GPT4의 경우 모델을 대중 공개하기까지 레드 티밍 작업이 6개월 걸렸다고 언급했으니까 아마 GPT5에서 더 많은 모달리티와 창발적인 기능이 추가된다면 더 오래 걸릴거라는 예측이였음

[익명(211.59)]

그럼 이거 gpt5 얘기가 아니라 4 얘기네 알트만도 4 안전 문제 해결 하는데 8개월 정도 걸렸다고 했음

[ㅁㄴㅇㄹ(tantandero)]

맞음 gpt4 정렬하는데 저정도 걸렸으면 gpt5는 더 오래 걸릴 확률이 엄청 높다고 생각해서 쓴거임

[익명(211.59)]

그리고 oai가 레드팀 모집한게 작년 여름에서 가을 정도로 기억 하는데 지금쯤이면 어느정도 진행 됐을거라 봄

[ㅁㄴㅇㄹ(tantandero)]

GPT4 초기에 정렬해서 내놓은 거지만 그거도 꽤 말이 많기도 했구, 올해는 미국이랑 인도 대선때문에 이런 정렬과 잘못된 정보를 배제하는게 GPT5같은거에는 더 중요하고 더 빡빡하게 검열해서 내놓을 가능성도 높구

[ㅁㄴㅇㄹ(tantandero)]

레드팀이 GPT5만 정렬하는게 아니라 Dalle2 3 sora chatgpt랑 기타 등등 이터레이션들 다 하는 팀이라

[익명(61.72)]

나도 듣는중인데 이거 GPT-4 이야기 아님? GPT-5가 아니라

[ㅁㄴㅇㄹ(tantandero)]

맞음 그거 기반으로 GPT5가 더 오래 걸리지 않을까 하고 예상해본거임 프레젠테이션 안에서 모달리티에 따라, 기능에 따라 새로운 evaluation이 필요하다고 언급했던거 기반으로 적어봣엉

[ㅁㄴㅇㄹ(tantandero)]

26분 30초부터

[익명(61.72)]

애초에 GPT-4 훈련 22년 여름에 완료되고 레드티밍때문에 3월에 공개한거 알려진사실이잖아 GPT-5로 거론되는 모델들도 훈련자체는 작년에 끝남

[ㅁㄴㅇㄹ(tantandero)]

그렇겠지 근데 올해는 또 대선도 있을테니까 초기 GPT4 수준의 정렬보다 더 빡빡하게 나오고, 기능도 꽤 추가될테니까 그때보다도 오래 걸릴수도 있겟다는 글이엿슴...

[외웨(pope8635)]

[익명(123.100)]

포럼 가입어케함

[ㅁㄴㅇㄹ(tantandero)]

apply now

[익명(123.100)]

왜 자꾸 신청 버튼 누르는데 안되나 했더니 링크드인 필수 아니라고 돼있는데 써야만이 신청되네 ㅆㅂ

[익명(green7519)]