알아서 봐라..


무한한 청정 에너지이지만, 이는 소수에게 통제할 수 없는 권력을 집중시킬 수도 있습니다.

이는 사회적 신뢰를 해칠 수 있고, 공공 안전을 훼손하거나 국제 안보를 멸시할 수 있습니다.

그러나 이러한 위험성이 실제화되고, 어떻게 실현되며, 언제 실현될지에 대한 중요한 논의가 진행될 것입니다.

어떤 경우에도, 저는 이 회의장에서 우리가 그들이 실현되지 않도록 책임이 있다고 믿습니다.

우리는 이를 위해 필요한 자원과 권한을 갖추고 있습니다.

그들에 대한 올바른 가드레일과 통제를 만들어 인류의 안전과 보안을 보장하기 위해.

하지만 이는 우연이나 소홀함, 또는 사적인 행위자에게 맡겨질 수 없습니다.

정확히 이해하고 표현할 수 있다면, 몇 년이 지나면 컴퓨팅 파이오니어인 JCR 리클라이더가 지적한 것처럼 가장 창의적이고 흥미로운 인간 역사의 시기가 될 것입니다.

우리는 정직하게 이것을 논의하기 위해 여기에 있습니다.

이 정상에서 함께. 푸트니는 기술과 공학의 글로벌 시대를 개척하고 새로운 기술, 제도, 비전을 만들어 내고 인류를 달에 이끌었습니다. 이 AI 시대의 건축가로서, 정책 결정자, 시민 사회, 과학자, 혁신가로서 우리는 소극적이 아닌 적극적이어야 합니다. 기술을 집단적인 이익을 향해 이끄는 데에서. 우리는 항상 기억해야 합니다.

AI는 우리에게 닥친 자연적인 현상이 아니라 인간의 창조물입니다. 하지만 우리는 이를 형성하고 이끌 수 있는 힘을 갖고 있습니다.

그리고 오늘 우리는 이의 궤적을 정의하는 데 도움을 줄 것입니다.미래 몇 년 동안 공공 안전을 보장하고 인류가 번영하도록 합니다.

우리는 네 가지 주제를 다룰 것입니다. 아침 세션에서 위험성에 대해 논의하며, 이는 연구원들의 시범을 포함할 것입니다.

또한 영국의 Frontier AI Task Force에서 나온 위험에 대해서도 알아보겠습니다. 제어 불가능한 진보로부터의 위험과 통합의 위험으로부터. 이러한 위험 중 일부는 이미 오늘날 사람들에게 피해로 나타나고 있으며, 진전의 악화되는 요소입니다.

다른 위험의 존재는 논쟁과 의견 차이가 큽니다. 하지만 Bletchley Park에서 같이 일한 수학자 I.J. 굿은 말하기를 "과학 소설을 진지하게 생각할 가치가 있을 때가 있다"고 말합니다. 

오늘은 토론을 진전시킬 기회입니다. 추측과 철학적인 것에서 더욱 과학적인 것으로. 우리 사회 내에서. 경험적입니다.

참석한 국가의 대표단과 지도자들은 이미 많은 작업을 수행했습니다. 도착하기 전에. 다양한 지정학적 및 지리적 스펙트럼에 걸쳐. 세계 최초의 국제적 한계적인 지원에 대한 성명서에 동의합니다. Bletchley 선언은 AI 안전에 대한 획기적인 성과입니다. 오늘의 토론을 위한 기초를 마련합니다. 신생 경계선 AI의 신흥 위험을 깊이있게 이해하고 이러한 위험에 대처해야 함을 확인합니다. 이것은 이러한 근본적인 위험을 안전하게 해제하는 유일한 방법입니다...그리고 이는 국가들과 시민 사회의 중요성을 강조합니다. 그리고 함께 일할 때문에. 공유된 미션으로 AI 안전을 제공합니다. 그러나 우리는 이 오버턴 창에 만족해서는 안됩니다. 우리는 각각이 가능한 한계를 미는 데 역할이 있습니다. 이 정보 오후에는 정말로 가능한 것에 대해 논의할 것입니다. 각 커뮤니티가 다음에 어떤 조치를 취해야 하는지에 대해 논의하고. 우리의 다양한 의견을 가져와 새롭게 열어. 아이디어를 도입하고 도전합니다. 개발자들이 신흥 위험 관리 과정에 대해 논의하기 위해서이다. AI 안전, 책임있고 위험을 인식한 능력 확장과 같은 주제에 대해. 국가 및 국제 정책 결정자들이 토의합니다. 혁신을 보존하는 규제 방식입니다. 글로벌 안정성. 그리고 연구자들은 사회의 사회 기술적 성격을 논의하고. 더 나은 평가 방법에 접근합니다. 이러한 토론은 의장 요약의 기조를 설정합니다. 내일 발표될 것입니다. 그들은 우리의 집단적 행동을 이끌 것입니다. 그리고 이것은 제가 기쁘게도 공유하고 싶은 다음 정상회의로 이어집니다. 대한민국이 주최합니다. 그리고 1년 후에는 프랑스가 주최합니다. 이러한 결과 및 전진 과정은 높은 수준으로 유지되어야 합니다. 주어진 도전의 규모와 상응하는. 우리는 지난 것과 같이 이미 사회적 규모의 위험에 대처하는 데 성공했습니다. 단지 두 해만에 남극 오존홀의 발견 후에. 정부는 함께 일하고 몬트리올 프로토콜을 비준하기 위해 노력했습니다. 그리고 그런 다음 개인 주체의 행동을 변경했습니다. 실질적인 문제를 효과적으로 대처하는 것입니다. 우리는 지금 모두 그것을 감탄하고 존경합니다. 그러나 경계선 AI가 제기하는 도전에 대해서는 미래 세대가 우리의 행동을 어떻게 평가할까요? 우리는 충분한 조치를 취했을까요? 우리는 우리의 이해를 개발하는 데 충분한 조치를 취했을까요? 위험을 완화하기 위해 충분한 조치를 취했을까요? 저기 좋은 점으로 엄청난. 기술에 대한 접근성을 보장했을까요? 모래에서 머리를 묻을 시간은 없습니다.

그리고 저는 단지 책임이 있는 것뿐만 아니라 행동하는 것, 그리고 지금 행동하는 것에 의무가 있다고 믿습니다. 여러분의 오늘의 참석은 이러한 도전에 대해 우린 모두 준비돼 있다는 것을 보여줍니다. 이 정상회담의 성과는 협력과 대담한 행동을 위한 명확한 지혜로운 전략이 되어야 합니다. AI의 혜택을 인식하면서도 완화하는 방법을 깨닫는 것입니다. 그래서 이 발언을 끝내면 시작으로 돌아가보겠습니다. 73년 전, 앨런 튜링은 언젠가 컴퓨터가 작동할 수 있을까라고 과감하게 물어봤습니다. 그는 분야의 서새로운 해에 서서 우리는 단지 앞으로 짧은 거리만을 볼 수 있다고 관찰했습니다. 하지만 우리는 거기에서 해야 할 일이 많이 보입니다. 오늘, 우리는 실제로 조금 더 멀리 볼 수 있습니다. 해야 할 일이 많이 있습니다. 여러분, 여러분과 여러분, 이제 일하러 가 보겠습니다. 감사합니다. 감사합니다. 이제 이 세션의 연사들을 소개하겠습니다. 첫 번째로, 미국 상무부 장관 Gina Raimondo가 있습니다. 세계 주요 AI 기업들의 거처가 미국인 것은 좋은 일입니다. 그리고 그들은 이 정상회담을 지원해주었습니다. Gina와 저는 혁신을 촉진하면서 그 위험에 대해 심각하게 생각하기에 밀접하게 일치하고 있습니다. 그리고 미국은 AI 안전에 대한 리더십을 보여주었습니다.이번 주의 행정명령에 이르기까지 화이트 호스의 자발적인 약속이 주요합니다. 두 번째 연사는 중화인민공화국의 Wu Xiaohui 부상입니다. 중국의 강력한 AI 능력과 글로벌 AI 거버넌스 발표와 같은 국제적 노력의 한 예로, 부상이 오늘 저희와 함께 있을 수 있어 큰 기쁨입니다. 세 번째 연사는 유럽 의회 부의장입니다. 그녀는 유럽과 세계에서 AI 안전에 대한 안건을 추진해왔으며 특히 EU와의 관련을 통해 그녀의 역할을 인정받았습니다. AI 법안. 또한 디인포메이션과 같은 위험에 대한 그녀의 대응을 공공적으로 인정하고 싶습니다. 네 번째 연사는 영국 AI Frontier Task Force의 의장인 Ian Hogarth입니다. Ian은 기업가이자 많은 기술 및 AI 회사에 투자한 경험이 있습니다. 기술의 선두에서 기업을 성장시키기 위한 전문 리더십과 폭넓은 경험이 있었던 그는 안전한 AI의 변혁적인 힘을 믿어왔기 때문에 완벽한 선택이자 자연스러운 선택이었습니다. 저희 Frontier AI Task Force를 이끌기 위해서요.

이것은 정부 내의 스타트업이며 새로운 AI 안전성을 키우기 위한 출발점입니다. 개인적으로 악의적인 Frontier AI의 악용을 통해 손수 협력해온... 지나 감사합니다. 감사합니다. 지나, 감사합니다. Michelle, 감사합니다. 그리고 위대한 행사를 주최해준 Sunak 총리에게도 감사의 말씀을 드리고 싶습니다. 중요한 행사입니다. 앞날에 모두를 박수를 보냅니다. 정말 놀라운 사람들의 집합이며, 개최사에 대한 개회사로써 훌륭한 일을 해주셨습니다. 그래서 리더십에 감사의 말씀을 전하고 싶습니다. 세계 각지에서 여기에 모인 동료들에게도 감사의 말씀을 전하고 싶습니다. 모두가 직접 면회에 참석하고 세계 곳곳에서 왔다는 사실은, AI 혁신을 전진시키고 또 그것을 안전하게 이루기 위해 모두가 심도있게 헌신하는 것에 희망을 가지게 합니다. Donilon 국무성이 아름답게 말한 것처럼, Bletchley Park는 용감한 인간의 한면에 기술의 잠재력을 부여하는 상징입니다. 하지만 이는 기술이 역사의 흐름을 바꿀 수 있다는 것에 대한 우리 모두에게도 알리는 것입니다. 많은 사람들이 알고 있는 것처럼, Bletchley Park 암호해독자의 3/4을 여성들이 차지했다는 것을 알립니다. 그렇지만 그들은 중요하지만 제대로 인식되지 않았던 요소로써, 과학의 발전과 이익을 추진하는 데 매우 중요한 자산이었습니다. 우리는 AI를 전진시킬 때 우리 중에 많은 여성들과 다양한 집단의 사람들이 개발 및 배치에 참여할 수 있도록 도전합니다. 감사합니다. 감사합니다. 감사합니다. 감사합니다. 감사합니다. 감사합니다. 감사합니다. 오늘은 물론, 가장 고급 AI의 독특한 위험에 대해 논의하려고 여기에 모였습니다. 남용에 대한 위험이라고 할 수 있지만 솔직히 말해서 이러한 시스템이 의도한대로 작동하지 않을 위험도 있습니다. 바이든 행정부의 접근 방식은 위험을 관리하는 것입니다. 혜택을 활용할 수 있게 하기 위해. 대통령은 미국과 여기에 있는 우리 모두에게 혁신을 가장 빠르게 전진시키기 위해 우리에게 도전하고 있습니다. 그러나 균형잡힌 접근과 위험에 대한 비판적인 시선을 가져야 한다는 점, 우리가 오늘 여기에 모이는 이유입니다. 제가 편견이 있을 수도 있지만, 그는 나의... 실망해야 할 게 있긴 하지만, 바이든 대통령은 이 문제에 대한 믿을 수 없는 리더십을 보여주고 있습니다. 먼저, Michelle이 말한 대로, 자발적인 약속을 통해... 미국의 AI 기업들이 안전하고 신뢰할 수 있는 AI 개발을 위해 노력하도록 약속한 것, AI 모델의 레드 팀 테스팅, 유해한 기능 완화, AI 모델 보호를 포함한 것이 있습니다. 

불법 유출로부터. 그게 첫 번째 단계였고, 그걸 우리는 여름 초에 시작했습니다.

이로 인해 혹시 월요일에 보았을 수도 있는 것처럼... 바이든 대통령은 행정명령을 서명했습니다. 그 행정명령의 일환으로 상업부가 놓여있습니다. 조사해보지 않았다면, 검토할 것을 권장합니다. 이 행정명령은 미국의 주요 AI 기업들이 한 자발적인 약속에 입각한 포괄적인 행정명령입니다. 대통령은 전방 AI 개발자들에게 질문하도록 명령하였습니다. 앞으로 다음 세대의 전방 모델에 대해 어떤 레드 팀, 안전 및 사이버 보안 조치를 취할지에 대해. 우리는 이러한 자발적인 약속들의 조합이 매우 중요하다고 생각합니다. 신고 요건과 함께. 전방 AI의 안전한 개발과 책임에 대한 중요한 한 걸음입니다. 하지만 물론 이 모든 것은 기준의 기반위에 만들어져 있습니다. 기준과 테스트 능력 위에 만들어져 있습니다. 저는 UK의 AI Safety Institute의 발표를 매우 환영하고 칭송합니다. 오늘 아침, 제가 매우 기쁘게도 미국도 AI 안전 기구를 시작할 것을 발표합니다. 이는 상업부에서 운영되며 상업부의 NIST에 소속될 것입니다. NIST는 많은 분들이 잘 아시는 것처럼 세계 최고의 중립적인 제3자로서 최고의 표준을 개발할 것입니다. 안전과 보안, 그리고 테스트를 위한 표준을 개발할 것입니다. 그리고 우리는 전문가, 산업계, 비영리단체와 팽창한다는 소식을 전해드릴게요. frontier AI 안전 임무를 진전시키기 위해 협력할 것입니다. 저는 많은 학계 분들 중 일부에게 확실히 연락드릴 것입니다. 우리는 혼자 할 수 없으므로 이 헌법을 이루기 위해 민간부문의 참여가 필요합니다. 또한 우리는 안전 기관간의 형식적인 파트너십을 맺기로 약속해야 합니다. 영국 안전 기구와의 파트너십이죠. 저는 이를 크게 분명히 이야기하고 싶습니다. 미셸과 제가 이미 이에 대해 이야기를 나눴으며, 우리는 협력하여 작업해야 합니다. 마지막으로, 작업은 물론 미국과 영국에만 제한되지 않습니다. 우리는 정보 공유, 연구 협력 및 궁극적으로 세계적인 정책 조율을 확대하려고 합니다. 다시 한번 모든 동료들께 감사의 말씀을 전하고자 합니다. 여기에 있는 것에 대해. 우리는 국가들 간에 경쟁할 것입니다. 경쟁은 좋은 일입니다. 우리를 최상으로 이끌고 혁신을 가능하게 합니다."

하지만 우리가 격렬하게 경쟁하더라도, 우리는 전 세계적인 도전에 대한 글로벌 솔루션을 찾아야 합니다. 전례 없이 복잡한 문제입니다. 원자력 시대에는 초강대국들이 협력하고 글로벌 메커니즘을 공동으로 만들기 위해 결합했습니다. 오늘날 AI 시대에는 이제 우리 모든 국가와 민간 부문이 참여하는 더욱 복잡한 문제에 직면하고 있습니다. 그리고 AI의 안전에 대한 글로벌 조정이 필요합니다. 또한 이 기술이 잘못된 손에 들어가거나 오용되지 않도록 우리가 할 수 있는 모든 것을 해야 합니다. 그래서 나는 인용문을 끝맺음으로 할 것입니다. 우리가 충분히 많은 일을 해냈을까요? 나는 예라고 말할 수 있기를 원합니다. 나는 리더로써, 미국 인공지능 안전 협회의 리더로써 충분히 많은 일을 해냈기를 바라고 있습니다. 혁신을 발휘하기 위해 더 중요한 것은 안정성을 보장하는 것입니다. 우리 모두가 끝에서 말할 수 있는지 기대합니다. 함께 일합시다. 감사합니다. 감사합니다. 영광스러운 미셸 교감 대신께 감사합니다. 인공지능 정상회의에 초청되어 기쁩니다. 영국 정부는 이 회의를 인공지능 보안과 국제적 거버넌스에 대한 대화의 플랫폼으로 구성하였습니다. 중국에서했습니다. 과학기술부를 대표하여 영국 정부에 대한 감사의 말씀을 전하고자 합니다. SCHAEFER 이와 같은 다양한 분야의 적용은 엄청난 기술적 잠재력을 발휘할 것이라고 말할 수 있습니다. 세계에 큰 기회를 가져다줄 것입니다. 동시에 인공지능 기술은 불확실성을 가져옵니다. 투명성과 난해함은 인권과 보안에 대한 문제를 야기합니다. 향해. 중국 정부는 인공지능의 발전에 큰 중요성을 두고 있으며, 인공지능을 생산성 수준을 향상시키고 사람들의 복지를 촉진하는 중요한 수단으로 여깁니다. 새로운 인공지능 발전 계획을 발표하여 기술 발전을 촉진하고 개방적인 플랫폼을 구축하고 응용 시나리오를 확장하려고 합니다. 전면적이고 개방적인 혁신 시스템을 구축합니다. 동시에 우리는 인공지능 기술의 양면성을 충분히 인식하고 있습니다. 높은 책임감으로 전 세계적인 AI 거버넌스 체계의 구축과 개혁에 참여하고자 합니다. 2023년 10월 18일 중국공2산당 중앙위가 일본 도쿄에서 개최되었습니다.