근데 그렇게 하면서 4o 아첨 문제는 RLHF 하면 생길 수 있다는 거 다 알고 있었으면서 그냥 진행했던거고, 테스팅 중간에도 한 명이 보고했는데 무시한거랑, o3 환각이랑 보상 해킹은 출시 직전에 안전팀 요청 다 씹었다는 기사까지 나오고 모델 카드 외부기관 테스트 결과에도 시간을 조금 줬다 이렇게 되어있는 등, 미리 막을 수 있었는데도 그냥 넘긴 게 별로임
안 냈으면 못 발견했을 것일 수도 있다는 말은 맞지만 이런 건 좀 그렇다고 봄
그래도 5는 이래저래 반영했으니 앞으로는 잘 할거라고 생각함
이런 걸로 알트만-아모데이-일리야 순서로 줄을 세운다고 하면, 알트만과 아모데이 중간 정도가 적정선이 아닐까 싶음
짚5 전부터 정서적 의존 문제라면서 gpt5를 4o처럼 바꾼것도 ㅋㅋ
알트만과 아모데이 중간이면 대사비스네
@ㅇㅇ1(119.192) 구글이 2.5이 저러고 다니는걸 좀 알아채서 3.0에 고쳐야 할텐데...
ㅇㅈ 그래도 2.0과 2.5 차이를 보니까 웬만한 발전이 아니면 3이라는 넘버링 안할거같으니 안심해도 될듯
근데 알트만은 예전부터, 모델을 빨리 출시해서 사람들이 AI의 경험을 늘리고 대응법을 익혀야 한다. 그래야 빨리 AGI의 정렬을 할 수 있다. 이런 입장인거라... 뭐 그냥 돈 벌고 투자 받으려고 조급하게 출시했다고 믿든, 저 말처럼 사회의 변화까지 고려해서 더 적극적인 모델 출시를 고려했든. 믿는 건 사람 맘이긴 해. 개인적으론 후자로 바라보는 편.
알트만이 후자로 주장하려면 본문에 말한 것 같은 뻔한 실수는 하지말아야 하는게 맞다고 봄 5는 그래도 두 실수를 만회하려고 한게 보이긴 하는데, 앞으로 지켜봐야할 일임
해당 댓글은 삭제되었습니다.
그렇다기엔 o3처럼 내면 별로인걸