우리는 규제를 요구해왔지만 가장 강력한 시스템에 대해서만 규제를 요구해왔습니다. 작은 모델은 놓아주세요. 오픈 소스를 놔두세요. GPT-4의 10,000배에 달하는 모델. 인류 문명만큼이나 똑똑한 모델들. 그런 모델들은 규제를 받아야 마땅합니다. 올해 제가 할 말 중 가장 논란의 여지가 적은 말인 것 같았습니다. 저는 기술 업계로부터 많은 비난을 받았고 지금도 받고 있습니다. 반사적인 반규제라는 것이 있지만 규제가 순수한 선은 아니었습니다. 하지만 여러 면에서 좋은 점이 많았습니다. 특히 제가 기대하는 분야는 교육, 의료, 개인 생산성 도구 등 사람들이 코딩 도구를 사용하여 놀라운 일을 하는 것을 볼 수 있는 분야입니다.


잘못된 정보나 편견 강화와 같은 AI의 위험에 대한 질문에 알트먼은 경계를 설정하고 인간의 피드백을 입력하는 것이 중요하다고 말했습니다.


원시 인터넷에서 모델을 학습시키면 대부분의 합리적인 사람들이 편향적이라고 부르는 결과를 얻을 수 있다는 것은 분명한 사실입니다. 하지만 인간의 피드백을 통한 강화 학습과 그 밖의 여러 가지 기술을 사용하면 놀랍게도 이러한 모델을 조정할 수 있습니다. 따라서 사용자는 OpenAI가 어떤 결정을 내리기를 원하는지 파악할 수 있지만, 많은 것을 바꿀 수 있습니다. 개인에게 권한을 부여하되 한계를 설정하고 표준 행동의 종류를 잘 설정하는 것이 매우 중요하다고 생각합니다.


당연하다면 당연하지만 얘네들이 이름부터가 오픈인데 닉값을 안할리도 없고 당장 샘알트만부터 호모인만큼 억압을 좋아할린없을텐데

어디까지나 기업으로서의 명분과 입장 그리고 이후 ai가 발전함에 따라 상당한 윤리를 갖추어야 안전하게 agi를 구축할수 있으니 그런거지

얘네도 사람들이 원하는데 마냥 무조건 검열은 옳고 부도덕적인건 나쁜거야처럼

사람들이 보는것처럼 단순히 깐깐하게 전유물로 만들려고 그런다 미래엔 완몰가에서도 검열 생기겠다 같은 반응처럼 꽉막힌 마인드 같은건 아니었던거지


나중에 agi가 안정적으로 개발되고 시스템을 구축하면 이런 빡빡한 검열도 서서히 풀릴듯


7ceb8973bc8369f43dec98bf06d60403fd26395f6389755d63fe


당장 그림쟁이 글쟁이들처럼 한 두분야만 해도 저작권 꼴깝떨면서 소송건다하는데 검열 풀어주면 얼마나 많은 병신들이 꼬투리잡고 늘어질지 상상도 못할듯