0ef3c028e2f206a26d81f6e44688736b

월요일에 발표된 보고서에 따르면 세계 유수의 AI 기업의 직원들은 업무의 안전과 리더십을 촉진하는 인센티브에 대해 상당한 우려를 갖고 있다고 합니다.


보고서 작성자는 OpenAI, Google DeepMind, Meta 및 Anthropic의 직원을 포함하여 보고서 관련 전문가 200명 이상과 이야기를 나눴습니다. 이들은 모두 "인공 일반 지능"을 향해 노력하고 있으며, 이는 대부분의 작업을 수행할 수 있는 가상 기술입니다.


불특정 AI 연구실의 한 개인은 더 강력한 시스템을 구축하기 위한 연구실의 작업 속도를 늦추지 않으려는 욕구에서 비롯된 보고서에서 "안전에 대한 느슨한 접근 방식"을 가지고 있다는 우려를 보고서 작성자와 공유했습니다. 또 다른 개인은 실험실에서 AGI가 단기적으로 가능성이 있다고 믿고 있음에도 불구하고 AGI가 통제에서 벗어나는 것을 방지하기 위한 격리 조치가 충분하지 않다는 우려를 표명했습니다.


저자들은 오늘날의 AI 시스템이 아직 인류에게 재앙적인 결과를 가져오지 않았다는 사실이 미래에 더 큰 시스템이 안전할 것이라는 증거는 아니라고 말합니다. 


Gladstone의 CTO인 Edouard Harris는 "현재 비공개로 개발 중인 제품에 대해 최전선에 있는 개인들로부터 들은 가장 큰 주제 중 하나는 어느 정도 러시안 룰렛 게임과 비슷하다는 것입니다."라고 말합니다. 

보고서를 공동 집필한 사람이기도 합니다. 

"자, 우리가 방아쇠를 당겼는데, 뭐, 괜찮으니까 다시 방아쇠를 당기자."


멸망 or 떡상 사이의 러시안 룰렛을 하는 중


출처 : https://time.com/6898961/ai-labs-safety-concerns-report/