[📪정보] 갑작스러운 AGI 돌파구 이론에서 벗어난 OpenAI

[익명(14.5)]

https://the-decoder.com/openai-shifts-away-from-sudden-agi-breakthrough-theory/
https://openai.com/safety/how-we-think-about-safety-alignment/

ChatGPT 및 기타 수많은 상용 AI 애플리케이션의 개발사인 OpenAI는 “모든 인류에게 혜택을 주는” 인공 일반 지능(AGI)을 개발한다는 목표를 오랫동안 추구해 왔습니다. 이제 이 혁신적인 기술이 어떻게 등장할지에 대한 시각을 크게 수정하고 있습니다.

최근 블로그 게시물에서 OpenAI는 더 이상 인공 일반 지능이 AI 시스템이 갑자기 초인적인 능력을 달성하는 극적인 돌파구가 될 것으로 기대하지 않는다고 설명합니다. 대신, OpenAI는 이제 AGI 개발을 꾸준하고 점진적인 개선이 이루어지는 지속적인 과정으로 보고 있습니다.

AGI에 대한 OpenAI의 관점 변화는 안전에 대한 보다 실용적인 접근 방식으로도 이어졌습니다. 이론적인 미래 시나리오를 계획하는 대신 오늘날의 AI 시스템에 대한 실제 경험을 통해 학습하고자 합니다. 물론 이는 상업적 전략과도 잘 맞아떨어집니다.

이 회사는 AI 기능의 발전과 함께 더욱 강력해지는 안전 조치를 구축하는 것을 목표로 하고 있습니다. 최근에는 AI가 더욱 강력해짐에 따라 확장할 수 있는 새로운 안전 시스템을 공개했는데, 이는 잠재적으로 AGI 수준의 기능까지 확장할 수 있습니다.

이 모든 과정에서 OpenAI는 인간이 통제권을 갖는 것이 중요하다고 주장합니다. 이들은 사회가 AI 시스템의 작동 방식과 반영하는 가치에 대해 발언권을 가져야 한다고 믿습니다. 이를 실현하기 위해 특정 영역에서 인간보다 더 뛰어난 능력을 가진 AI를 상대할 때에도 사람들이 AI 시스템과 명확하게 소통하고 통제권을 유지할 수 있도록 돕는 도구를 개발하고 있습니다.

과거의 주의로부터 배우기

OpenAI는 이제 이전의 안전성 결정 중 일부를 다르게 보고 있습니다. 2019년 GPT-2의 공개를 일시적으로 보류하기로 한 결정은 AGI를 갑작스러운 혁신으로 간주한 데서 비롯된 '과도한 주의'의 예라고 지적합니다. 당시에는 “대규모 언어 모델이 기만적이거나 편향적이거나 모욕적인 언어를 대규모로 생성하는 데 사용될 수 있다는 우려 때문에” 더 작은 버전의 모델만 출시했습니다.

그러나 OpenAI의 전 정책 연구 책임자였던 마일스 브런디지는 당시 GPT-2의 출시 보류에 대한 OpenAI의 새로운 해석에 이의를 제기합니다. 그는 GPT-2의 점진적 공개는 이미 반복적 개발의 철학을 반영한 것이며, 많은 안전 전문가들이 당시 이용 가능한 정보를 고려할 때 이러한 신중한 접근 방식을 높이 평가했다고 주장합니다.

엄청난 수익을 창출하는 AGI

The Information의 최근 보도에 따르면 OpenAI와 Microsoft의 계약에는 경제적으로 가장 가치 있는 작업에서 인간을 능가하고 최소 1,000억 달러의 수익을 창출하는 시스템이라는 AGI에 대한 매우 실용적인 정의가 포함되어 있다고 합니다.

이는 AGI를 점진적인 발전으로 보는 OpenAI의 수정된 견해, 자칭 AGI 이정표를 추구하는 “무의미한 벤치마크 해킹”에 대한 Microsoft CEO 사티아 나델라의 비판, 그리고 임박한 AGI 출시와 관련하여 알트만 자신이 X 팔로워들에게 “기대치를 100배 낮추라”고 말한 것과 일치하는 내용입니다.

[익명(surf2526)]

이건 한참전에 말한건데 지능의 시대에도 비슷한 내용있음

[익명(material9142)]

유동으로 부정적인 뉴스만 있으면 허버허버 퍼오는 거 투명하네 ㅋㅋ