진행자:

마지막 질문입니다. 네, 레드팀 네트워크에 대한 질문이 있었는데 이 질문도 마지막에 답변해드리도록 하겠습니다. (질문자 이름)?


질문자:

안녕하세요 안녕하세요 라마 안녕하세요 나탈리 초대해 주셔서 감사합니다.

한 가지 궁금한 점은 오픈 소스 LLM이 GPT-4의 수준을 서서히 따라잡고 있다는 점입니다. 그래서 이런 추세는 계속될 것 같습니다. 그래서 우리가 이 모델의 수준을 통제할 수 있는 한 공개해야 한다는 일종의 압박감이 있는 건 아닌지, 그래서 제가 보기에 GPT4를 공개하면 누구나 시도할 수 있기 때문에 궁극의 레드팀이 될 수 있다고 생각합니다. 오픈 소스 모델이 서서히 따라잡고 있는 지금, 오픈 소스와 동등한 모델이 되기 전에 다음 버전을 출시해야 한다는 압박이 있을까요? 이 문제에 대해 어떻게 생각하시나요?


강연자:

오픈 AI에는 과거에도 Whisper와 같은 오픈 소스 모델이 있었다는 점을 말씀드리고 싶습니다.

그래서 저희는 두 가지 접근 방식을 모두 고려하고 배포했습니다. 저는 오픈 소스와 VN AI 서비스 사이의 위험, 즉 차이점에 대해서는 전문가가 아니라고 말씀드리고 싶습니다. 우리에게 정말 중요한 것은 실제 세계에서 배우는 것이며, 그것이 항상 우리에게 중요한 운영 원칙이라고 생각합니다.


따라서 반복적인 배포 프로세스가 중요합니다.

시간이 지남에 따라 모델이 변화함에 따라 방법이 어떻게 발전하고 우리가 무엇을 보고 있는지에 따라 레드팀 구성 과정이 더 길어지거나 짧아질 수 있다고 생각합니다. 또한 레드 길들이기 결과는 상황에 맞게 적용하는 것도 중요합니다. 즉, 단순히 GPT-4가 어떤 결과를 도출했는지가 아니라 현재 전반적으로 기준이 되는 리스크는 얼마인가요? 기존 방법과 어떻게 다른가요? 예를 들어 페인팅과 포토샵을 비교했을 때 속도와 효율성, 비용 측면에서 어떻게 달라지는지 생각해 볼 수 있습니다. 그래서 지금 말씀하신 생태계 위험과 같은 측면에는 여러 가지 차원이 있습니다. 그리고 기준선은 오픈 소스뿐만 아니라 다른 유형의 모델뿐만 아니라 동일한 목표를 달성할 수 있는 다른 기술도 고려해야 합니다. 이 질문이 질문자님의 질문에도 도움이 되길 바랍니다.




표정은 개인정보라 못쪄왔지만 답변 받은 다음 질문했던 사람 표정은 ㅈㄴ 떨떠름하고 그냥 ㅎㅎ;; 하는 표정이엿음 ㅋㅋ