[📪정보] OAI 전현직 직원 6명, AI안전 그룹 형성

[익명(118.235)]

OpenAI 거버넌스 부서의 전직 연구원이자 그룹 조직자 중 한 명인 Daniel Kokotajlo는 "OpenAI는 AGI 구축에 매우 흥미를 갖고 있으며 최초가 되기 위해 무모하게 경쟁하고 있습니다."라고 말했습니다.

이 그룹은 화요일에 OpenAI를 포함한 주요 AI 기업에 내부 고발자에 대한 투명성과 보호 강화를 요구하는 공개 서한을 발표했습니다.

다른 회원으로는 지난 2월 OpenAI를 떠난 연구 엔지니어인 William Saunders와 전직 OpenAI 직원 세 명(Carroll Wainwright, Jacob Hilton, Daniel Ziegler)이 있습니다. 현재 OpenAI 직원 중 몇몇은 회사의 보복을 두려워하여 익명으로 편지를 지지했다고 Kokotajlo 씨는 말했습니다. 구글의 중앙 AI 연구소인 구글 딥마인드(Google DeepMind)의 전현직 직원 1명도 서명했다.

코코타일로(31세) 씨는 2022년 거버넌스 연구원으로 OpenAI에 합류해 AI 발전을 예측해 달라는 요청을 받았다. 그는 가볍게 말해서 낙관적인 사람은 아니었습니다.

이전에 AI 안전 기관에서 일했던 그는 AGI가 2050년에 도래할 것이라고 예측했습니다. 하지만 AI가 얼마나 빨리 개선되는지 확인한 후 그는 일정을 단축했습니다. 이제 그는 단 3년 만에 AGI가 2027년까지 도착할 확률이 50%라고 믿습니다.

Kevin Roose와 Casey Newton은 빠르게 변화하는 기술 세계를 이해하는 팟캐스트인 Hard Fork의 진행자입니다. 구독하고 들어보세요.

그는 또한 진보된 AI가 인류를 파괴하거나 재앙적으로 해를 끼칠 확률(AI 업계에서는 종종 "p(doom)"으로 단축되는 암울한 통계)이 70%라고 믿습니다.

OpenAI는 지난 주 새로운 주력 AI 모델 훈련을 시작했으며 새로운 모델 및 기타 미래 기술과 관련된 위험을 탐색하기 위해 새로운 안전 및 보안 위원회를 구성하고 있다고 밝혔습니다.

나가는 길에 Kokotajlo씨는 퇴사하는 직원을 위한 OpenAI의 표준 서류에 서명하는 것을 거부했습니다. 여기에는 직원이 회사에 대해 부정적인 말을 하지 못하도록 금지하는 엄격한 비방 금지 조항이 포함되어 있습니다. 그렇지 않으면 기득권을 빼앗길 위험이 있습니다.

많은 직원이 서명을 거부하면 수백만 달러의 손실을 입을 수 있습니다. Kokotajlo 씨의 기득권은 대략 170만 달러에 달하며 이는 그의 순자..산의 대부분에 달하며 모든 것을 몰수할 준비가 되어 있다고 그는 말했습니다.

Kokotajlo 씨는 “세상은 아직 준비되지 않았고 우리도 아직 준비되지 않았습니다.”라고 썼습니다. “그리고 우리가 우리의 행동을 합리화하면서 성급하게 추진하고 있다는 점이 걱정됩니다.”

겉으론 느려보여도 OAI내부는 가속주의자들이 이기긴한듯

- dc official App

[익명(218.232)]

그나마 마음이 놓인다

[익명(125.191)]

[익명(58.78)]

어쩌라고 정렬충새끼들 죽어

[익명(61.82)]

얘네는 안전과 윤리 추구하다가 구글이 어떤 꼴 났는지 망각한듯