기자와의 질의응답 요약:
1.AI 안전을 위한 정부, 기업, 시민사회의 역할
2.AI 관련 법과 제도 개선 방향
3.오픈소스 AI의 이중적 성격과 관리 방안
4.데이터베이스 구축 시 고려 사항
5.창작자 권리 보호 필요성
6.AI 윤리 원칙들
7.제3자 AI 감독 체계 마련 방안


AI는 교육 분야에서 교사들의 업무 부담을 줄이고 학생들에게 맞춤형 교육을 제공하는 데 도움이 될 수 있다.
AI는 의료 분야에서 질병 검진, 치료 등에 활용될 수 있다. 소아 환자의 재택 치료를 돕는 로봇 개발 등이 그 예시다.
AI기반 드론은 인도주의 지원 등에 도움이 될 수 있다.
AI 연구에 대한 접근성 확대를 위해 개도국의 대학생들에 대한 후원과 교육 지원이 필요하다.
AI는 농업, 건강관리, 공공서비스 등 개도국의 실질적 문제 해결에 도움이 될 수 있다.
<토의 세션>

글로벌 협력을 통해 AI 기술을 안전하고 윤리적으로 개발할 수 있다.
AI 거버넌스를 위한 국제적 표준과 규범 마련이 필요하다.
AI 연구자, 도메인 전문가 간 협력이 중요하다.
AI 인프라와 인력의 지역적 격차 해소를 위한 노력이 필요하다.
데이터 편향성 문제를 개선하기 위한 균형 잡힌 데이터 확보가 필요하다.
<폐회 세션>

한국과 프랑스가 향후 AI 안전 서밋을 공동 개최하기로 했다.
AI 안전성 확보를 위한 국제협력의 중요성이 재확인되었다.
이번 서밋은 AI 안전 거버넌스 구축을 위한 의미있는 첫걸음이 됐다.

전문:
1. AI 안전을 위한 정부, 기업, 시민사회의 역할
기자: 최근 AI 안전에 대한 논의가 활발히 진행되고 있습니다. AI 안전을 위해 어떤 노력이 필요하다고 보십니까?
정부 대표: AI 안전을 위해서는 여러 가지 노력이 필요합니다. 우선 법과 제도 개선이 중요합니다. AI 개발과 사용에 대한 법적 규제 체계를 마련하여 위험 요소를 통제할 필요가 있습니다. 또한 기업과 연구기관 내부에서도 AI 윤리 가이드라인을 수립하고 준수하는 자율규제가 중요합니다. 마지막으로 정부와 민간이 서로 협력하여 AI 안전에 대한 사회적 합의를 이루는 것도 필요합니다.
기자: 구체적으로 어떤 법과 제도 개선을 고려하고 계신가요?
정부 대표: 현재 우리 정부는 AI 개발·활용 전 과정에 대한 투명성 제고, 안전성 확보 등을 골자로 하는 'AI윤리기본법' 제정을 추진하고 있습니다. 이를 통해 데이터 수집·활용, 알고리즘 투명성 확보 등 AI 윤리원칙이 법제화되도록 하겠습니다. 아울러 AI 개발자 및 사용자의 책임も 강화할 계획입니다.
기자: 기업들은 어떤 역할을 해야 한다고 보십니까?
정부 대표: 기업들도 AI 안전을 위해 많은 노력이 필요합니다. 우선 AI 개발 과정의 투명성과 책임성을 높여야 합니다. 또한 AI 시스템 도입 전후에 철저한 기술 영향 평가를 실시하여 문제를 사전에 방지해야 합니다. 위험이 감지되면 즉각 대처 계획을 마련하고 문제를 해결해야 할 책임이 있습니다. 이를 위해 기업 내 AI 윤리 위원회 설치 등 자율규제 체계 구축이 필요합니다.
기자: 시민사회의 역할은 무엇이라고 보십니까?
정부대표: 시민사회도 AI 안전을 위해 중요한 역할을 담당합니다. AI 시스템에 대한 감시와 견제를 지속적으로 해야 합니다. 또한 정부와 기업에 대한 감독을 수행하여 문제가 발생하지 않도록 해야 합니다. 나아가 AI 개발 과정에 시민참여를 확대하고, 대중의 AI 리터러시도 높여야 합니다. 이를 통해 AI가 사회 전체의 이익을 위해 안전하게 개발·활용되도록 해야 합니다.
기자: 감사합니다. 자세한 설명 감사드립니다.
정부 대표: 감사합니다.
2. 오픈소스에 대한 내용
기자: 최근 오픈소스 AI에 대한 논의가 많습니다. 오픈소스 AI를 어떻게 바라보십니까?
정부 대표: 오픈소스 AI는 이중적 성격을 지니고 있습니다. 혁신을 촉진하고 투명성을 높인다는 측면에서 긍정적이지만, 오용 가능성도 배제할 수 없습니다.
기자: 구체적인 긍정적 측면이 무엇이라고 보십니까?
정부 대표: 오픈소스 AI는 연구자간 협업과 기술 발전 속도를 높입니다. 또한 알고리즘 투명성 확보에도 도움이 됩니다. 이를 통해 혁신을 촉진하고 다양성도 확대될 수 있습니다.
기자: 한편 위험성도 우려되는데 이에 대한 입장은 어떻습니까?
정부 대표: 누구나 접근 가능한 오픈소스 AI가 악의적으로 악용될 위험도 배제할 수 없습니다. 특히 민감한 영역의 AI 모델이 오픈소스화 될 경우 문제가 될 수 있습니다
기자: 그러면 오픈소스 AI를 어떻게 관리해야 한다고 보십니까?
정부 대표: 위험성에 대비한 관리가 필요합니다. 민감한 분야 AI 모델의 오픈소스화에 신중해야 합니다. 또한 접근통제, 사용목적 제한 등을 고려할 수 있을 것 같습니다. 긍정적 측면은 살리되, 오용 가능성을 최소화할 수 있는 균형있는 접근이 필요합니다.
기자: 의견 감사합니다.
정부 대표: 감사합니다.
3. 데이터 베이스에 대한 내용:
기자: 데이터베이스 구축에 대한 의견을 여쭤봐도 될까요?
정부 대표: 네, 데이터베이스 구축은 AI 안전을 위해 필요합니다. 하지만 데이터의 편향성에 주의가 필요합니다.
기자: 어떤 종류의 데이터베이스가 필요하다고 보십니까?
정부 대표: 다양한 지역과 언어를 포함하는 균형 잡힌 데이터베이스가 이상적입니다. 특히, 현재 데이터가 부족한 아프리카나 아시아 지역 데이터 확보가 중요합니다.
기자: 데이터 편향성을 어떻게 방지할 수 있습니까?
정부 대표: 데이터 생성 과정의 다양성 확보가 필요합니다. 창작자의 지적재산 보호와 데이터 수집 과정의 개방성・투명성도 높여야 합니다.
기자: 창작자 보호에 대한 의견도 궁금합니다.
정부 대표: 창작자의 권리 보호는 매우 중요합니다. 이를 위해 데이터 사용에 대한 동의 절차 및 보상 체계 마련이 필요합니다. 아울러 창작 활동에 대한 지원을 확대하는 것도 고려해볼 만합니다.
기자: 의견에 감사드립니다.
정부 대표: 감사합니다.
4. AI윤리와 정부의 견해 
기자: AI 윤리에 대한 정부의 견해를 여쭤봐도 되겠습니까?
정부 대표: 네, AI 윤리는 매우 중요한 문제입니다. AI 시스템은 우리의 가치에 부합되도록 설계되어야 합니다.
기자: 구체적으로 어떤 원칙이 필요하다고 보십니까?
정부 대표: 인간 중심의 윤리 원칙이 가장 기본입니다. 프라이버시 보호, 투명성, 책임성 등도 지켜져야 합니다. 또한 모든 이해관계자가 참여하는 개방적인 논의 프로세스가 수반되어야 합니다.
기자: AI 감독 체계 마련이 필요하다는 의견도 있는데 이에 대한 견해를 듣고 싶습니다.
정부 대표: 네, 제3자 기관의 AI 감독 및 감사 기능이 확대되어야 합니다. 정부와 기업 외의 독립된 기구가 이 역할을 수행하는 것이 바람직합니다.
기자: 구체적으로 어떤 방식이 가능할까요?
정부 대표: 전문 인력 양성, 기술 영향 평가 수행, 윤리성 검토 등을 주요 기능으로 하는 기구 설립을 검토 중입니다.
기자: 의견 감사드립니다.
정부 대표: 감사합니다.


내용 전문:
너는 말해야 해. 분명히, 그들 중 아무도 우리의 세션에 참석하지 않았고, 이것이 당연히 최고였던 세션이었다. 하지만 내가 진행한 책임 있는 능력 확장에 관한 세션에서는 한 가지 인식이 있었다. 그 역할이 어떤 것인지, 그리고 그것은 그냥 기초에 불과하다는 것도. 물론, 정부가 필요한 것을 대체하지는 않는다. 그리고 얼마나 확장해야 하는지에 대한 논쟁도 있었다. 또한 중요성에 대한 핵심적인 점도 언급되었다. 마지막으로, 위험을 결정하는 기준에 대한 합의가 이루어졌다. 참여자들 중 많은 사람들이 영국을 언급했다. 그래서 오후의 의자들에게 감사의 말씀을 전하고 싶다. 이제 이번 회의에서 많은 통찰력 있는 흥미로운 것들이 있었다고 들었다. 오늘 세션에서 다양한 음성이 제시되었다. 그리고 우리는 사람들에게 다른 통찰력을 주기 위해 그 중 일부만 선정해보려고 했다. 이들은 선택받은 사람들이므로 2분이라는 시간이 있다. 마이크를 끊을 수도 있다고 들었다. 얼마 안간에 우리를 때릴 것이므로, 여기서는 조금 규율을 지켜야 한다. 그래서, 그냥 이름을 부르자면, 여기 마이크를 가진 사람들이 있는데, 우선 프란신이 있다. 마이크가 끊길 것 같으면 손을 올려보라는 것이다. 참으로 흥미로운 하루였다. 이번 미팅을 가졌었던 것이 좋다. 오늘의 대화는 나에게 기술과 규제에 관한 것이라기보다는 사람들에 관한 것이라는 것을 다시 한 번 강조해주었다. 우리는 기술이 사람들의 삶에 어떻게 영향을 미치는지 이해해야 한다. 우리는 영향을 받는 사람들을 포함시켜야 한다. 그리고 우리는 사회적 가치, 위험과 피해에 대한 깊은 이해를 가져야 한다. 그래서 그것이 기술의 개발과 배포에 내포되어 있어야 한다. 그러나 아직 그렇게 하고 있지 않다. 아직은, 말이다. 아직은, 우리는 그렇게 하고 있지 않다. 그래서 이 방을 들어온 모든 사람들은 원한다. 그리고 오늘 아침의 Bletchley 선언을 생각하면서, 나는... 하지만 여전히 두 가지 길이 남아있다. 하나는 사람들이 불안하고 불행해지는 곳이다. 그래서 오늘 많은 활력을 보는 것이 좋다. 그래서, 우리는 비행기가 하늘에서 떨어지거나 끔찍한 일이 일어나지 않는 도메인을 볼 수 있다. 이 영향을 이용하기 위한 규제의 대체재는 없다. 그래서 여기서는 매우 구체적으로 언급하자. 나는 이것이 받아들여질 것을 강력히 희망한다. 또한 오늘의 분위기에도 매우 격려되었다. 그리고 우리는 시민사회의 일원으로서, 나는 그리고 우리는 이러한 기술을 어떻게 만들 것인지에 대한 증거를 계속해서 구축하겠습니다. 다음은 Deb입니다. 안녕하세요, 저는 Deb Raji입니다. 저는 Mozilla의 연구원이고 UC 버클리에서 연구하고 있습니다. 오늘의 핵심은 각 나라마다 자신들만의 AI 전략을 갖고 있다는 것입니다. 각 기업도 고수준의 AI 원칙을 가지고 있습니다. 이 중 일부는 여러 해 동안 돌아다녔습니다. 그리고 이제 그 때인 것 같습니다. 고수준의 사고와 고수준의 원칙들을 실제적이고 구체적인 계획으로 번역하는 시기입니다. 어떤 것이 최고의 실천사례라고 하며, 실제 기술 표준이 어떻게 보이는지, 이러한 기술들에 대한 우리의 기대치를 분명하게 표현하는 것입니다. 특히, 고위험 분야에서 이러한 기술들을 다룰 때 실제로 어떤 실천적인 진전을 이룰 수 있는 지점에 이르기를 바랍니다. 또한 다양한 대화에서 언급된 다른 사안은 고수준의 생각을 구체적인 영역으로 번역할 때 이러한 번역 작업에서 역할 모델의 필요성이 있습니다. 다양한 대화를 통해 항공우주 산업이 역할 모델로 언급되었습니다. 자동차 산업에서도 신경을 써야 합니다. 싱가포르의 교수가 나온 자동차 산업의 훌륭한 비유가 있습니다. 자동차 산업에서는 차량에 대한 생산 기준뿐만 아니라 운전자의 면허도 있습니다. 또한 도로와 시스템을 사용하는 환경의 안전에 대한 인프라 디자인이 있습니다. 우리는 이러한 시스템을 설계하고 규제하는 데에서 이러한 모델들을 배울 수 있습니다. 또한 역할 모델에 대해 언급하면 상호간에 서로 배우고 있음을 말했던 것 같습니다. 각 국가의 장관들이 서로에게 특정 사례 연구에 대해 논의하고 있었습니다. 사례 연구와 공유 사례에 대한 공유 데이터베이스에 대한 논의도 진행되었습니다. 규제 수행에 있어서 이러한 지역별 개입에 대한 실질적인 진전을 논의하기 위한 위해 이런 종류의 반복적인 행사가 있을 수 있습니다. 다시 말해서 국가 간 및 국제적인 협조에 대한 언급도 많았고, 표준과 지침의 필요성에 대한 논의도 많았습니다. 또한 이러한 논의를 구체적으로 이루어나가기 위한 노력도 필요하다고 생각합니다. 마지막으로, 오늘 대화를 통해 배운 것 중 하나는 AI가 모두를 위해 작동하지 않으면 전혀 작동하지 않는다는 것입니다. 다양한 지역과 나라들에서는 이러한 대화에 참여하지 않는 경우도 있습니다. 아프리카와 전 세계 남부에서는 큰 언어 모델이 모국어로 작동하지 않고 그들에게 어떠한 이점도 가져오지 않는다는 것을 말했습니다.ㅍ
적절히 테스트되지 않은 구체적인 이점 또는 실패의 제작"입니다. 또한, 데이터에서 왜곡된 이해관계나 대표되지 않은 그룹의 개인을 생각해보면 이 기술의 배포로 인해 어떤 혜택도 누리지 못하며, 사실은 이 기술의 대규모 배포로 인해 위험에 처해있을 수 있습니다. 그들의 특정한 문맥과 사용 사례를 고려하지 않고 그냥 생각합니다. 인구. 그래서 저는 이러한 요소들이 앞으로 어떻게 진행될지 알아보고, 실용적이고 포괄적인 경로를 만들어 넓은 인구에게 혜택을 가져다줄 수 있는 방법을 기대합니다. 어떤 사람도 위험에 더욱 빠트리지 않도록 합니다. 감사합니다. 감사합니다, 감사합니다. 그리고 다음은 브라이언입니다. 여러분 안녕하세요, 베이징에 본사를 둔 콘코디아.ai에서 브라이언입니다. 즐거운 시간을 보낸 중국 외교 공원에서 이런 놀라운 날을 우리는 보냈습니다. 우선 영국이 이를 가능하게 한 데 대해 칭찬하고 싶습니다. 하나는 세계가 분명히 관심을 가지고 있다는 것입니다. 아침에 논의한 광풍인공지능의 위험에서부터 예기치 않게 위험한 능력을 소멸에 이르기까지 인간의 통제력을 잃는 것까지. 그들은 경계를 지키지 않습니다. 우리는 모여. 두 번째로, 전세계적인 공동체로서 함께 일할 때 우리는 많은 이익을 얻습니다. 전세계적인 공동체로 연구자들이 함께 일할 때 우리는 더 나은 인공지능 안전 솔루션을 얻을 수 있습니다. 각 나라가 AI에 대한 거버넌스 프레임워크를 개발하는 등, 우리는 이 황금기의 기회를 갖습니다. 교훈을 얻고, 서로 배우는 것입니다. 또한 이는 국제 기구들이 위험과 이익을 통치하는 데 도움이 되는 적절한 시기입니다. AI 능력이 시간이 지남에 따라 확산되면서. 세계 AI 거버넌스 제도의 성공은 궁극적으로 가능한 한 세계의 많은 나라들로부터 지지를 받게 될 것입니다. 그리고 모든 사람에게 목소리를 부여하여 인류의 이익을 증진시킬 수 있습니다. 또한 도덕적인 측면에서도 옳은 일입니다. 따라서 결론적으로, 우리는 개방성과 협력의 정신을 계속 전하고 블레치리 공원에서 함께한 시간으로부터 배운 내용을 가져가야 합니다. 시작이지만, 이제 일에 착수합시다. 감사합니다. 감사합니다. 마틴님. 말씀하신 대로, 이것은 세계적인 대화의 시작입니다. 시기적절하고 긴급한 인공지능의 위험에 대해.
지금 우리가 한국에서 배운 내용을 토대로 더 나아가는 대화를 기대합니다. AI 안전과 거버넌스에는 기회의 창이 열려 있지만, 이 창은 닫힐 것입니다. 저희 모두에게 핵심 질문은 시간이 흘러 후회하게 될 일은 무엇인지입니다. 우선, 저는 모든 그룹에서 이 문제가 아닌 것에 대해 명확해야 한다고 생각합니다. 현재의 AI 위험을 논의하는 것인지, 미래의 위험을 논의하는 것인지에 대한 여전한 긴장감이 있는 것 같습니다. 이 문제를 이 회의에서 해결하지는 못할 것이라고 생각하지만, 이 문제에 대해 공동체를 구축하며 해결할 수 있을 것입니다. 두 번째로, AI가 가치에 관련되어 있다는 사실을 명확히 해야 합니다. AI는 정치적이며, 그 창조자들과 데이터셋의 가치, 사고방식을 반영합니다. Biba Bihani는 어제 AI Society Forum에서 이에 대해 훌륭한 발표를 했는데, 모두에게 참석을 권합니다. AI를 우리의 비전과 가치에 맞출 필요가 있습니다. 세 번째로, 우리가 서로 다른 관점을 가지고 있는지 이 글로벌 대화를 통해 알아보고 함께 해결해야 합니다. 예를 들어, 오픈 소스는 친구인가 적인가? 현재 위험에는 친구이지만, 미래의 위험에는 적인가요? 강제 법규인가 자발적인 약속인가? 우리는 여기서 무딘 이분법에 대해 조심해야 합니다. 마지막으로, 모든 대화를 우리가 공유하는 가치에 바탕으로 고정시키는 것이 정말 중요하다고 생각합니다. 책임은 매우 중요한 가치입니다. AI가 성공하기 위해서는 책임져야 합니다. 이것은 단지 회사들이나 기관의 책임이 될 수 없으며, 시민 사회가 중요한 역할을 해야 한다고 생각합니다. 우리는 모두가 이러한 시스템이 잘못된 손에 빠지지 않도록 공동으로 책임져야 합니다. 세 번째로, 많은 사람들이 다양한 방식으로 말했습니다. 참여, 관여, 개방성, 시민과 협력하는 것이 중요합니다. 커뮤니티 참여가 그 예입니다. 오픈 소스 AI 인프라도 그 예입니다. 세계 각지의 자원봉사자들에 의해 운영되고, 전기차부터 은행에 이르기까지 모든 것을 움직입니다.
AI 시스템으로부터 현재와 미래의 해를 완화하기 위해서는 '공개성'과 '투명성'의 역할을 강조하는 것이 필요하다고 생각합니다. 최근의 한 통지에서는 AI 안전에 관한 문제를 다음과 같이 이야기하고 있습니다. 공개성은 독극물이 아닌 해독제로 생각해야 한다고 말할 수 있습니다. 마지막으로, 포용성에 대해서 입니다. 여러분 중 많은 분들께서 언급하셨듯이, 이는 한 기관에만 관련된 문제가 아니라 활발한 생태계 활동을 위한 대화임을 명심해야 합니다. 전에 이에 대해 언급했던 것 같습니다. 토론은 소수를 위한 것이 아니라 많은 이들을 위한 것입니다. 그래서 저는 회의 결과와 대화를 기다릴 것입니다. 한국과 프랑스에서의 진행을 계속해서 감사하게 생각합니다. 이제 히로아키씨의 발언이 있습니다. 이 날이 정말 좋은 날이었습니다. 영국 정부와 주최자에게 감사드리고 싶습니다. 규제 체계와 지침에 대해 많이 논의했습니다. 이는 매우 중요한 문제라고 생각합니다. 동시에, 이러한 규제는 악의를 가진 개인이나 조직에 의해 우회될 수도 있다는 현실을 인식해야 합니다. 누군가 아침에 언급했던 문제이기도 합니다. 우리는 강력한 AI로 악용에 대응할 수 있는 방안을 마련해야 합니다. 저도 이에 동감합니다. 우리는 가능한 악용에 대응할 수 있는 강력한 AI 연구가 필요하다고 생각합니다. 그리고 실패에 대해서도요. 아마 앞으로는 사이버 보안과 허위정보 등에 대해 좀 더 다룰 필요가 있을 것 같습니다. 생명공학 기술도 위험의 일환이라고 많은 분들이 세션에서 언급했습니다. 하지만 10년, 20년 미래를 보면, 예를 들어 AI과학자가 있을 것이라고 생각합니다. 아주 중요한 존재가 될 것입니다. AI는 과학적 발견을 고도로 자율적으로 수행하며 우리 문명에 많은 혜택을 줄 것입니다. 동시에, 그 힘 때문에 새로운 관리 방법에 대한 도전이 발생하게 될 것입니다. 아마 미래의 세션에서 좀 더 심층적으로 다룰 필요가 있을 것 같습니다. 현재 AI는 데이터와 우리의 지역적 성향에 매우 의존합니다. 그래서 데이터의 편견이 있습니다. 특정 지역에서의 영어 콘텐츠에 따라 달라집니다. 예를 들어 아프리카나 아시아 일부 지역에서는 데이터가 부족하여 심각한 단점이 발생합니다.
인공지능 시스템에서는 기능을 사용할 수 있지만, 완전한 이점을 누릴 수 없습니다. 이것은 정말 좋은 포럼이라고 생각합니다. 이를 수정하거나 균형 잡힌 데이터 세트를 위한 이니셔티브를 가져야 할 것 같습니다. 문화 및 다양성에서 아무도 소외되지 않도록 보호하는 것이 매우 중요하다고 생각합니다. 세 번째로, 지난번만큼 중요하지는 않지만 마지막으로 말하자면, 데이터는 어디에서 올까요? 데이터는 창작자들로부터 옵니다. 사진을 찍는 사람, 음악을 작곡하는 사람, 글을 쓰는 사람 등입니다. 따라서 우리는 창작자의 지적 재산(IP)를 보호하고 그들이 더 창의적일 수 있도록 돕는 것이 매우 중요하다고 생각합니다. 데이터의 풍부함, 다양성 및 평등을 유지할 수 있도록 해야 합니다. 하지만 미래 세션에서는 더 많은 내용을 다룰 수 있도록 하는 것이 좋을 것 같습니다. 주로 창작자와 데이터 제공자에 대한 내용을 다루는 것입니다. 이렇게 하면 저희의 AI가 조화롭고 지속 가능하게 발전할 수 있습니다. 그래서 이러한 문제들을 앞으로도 지켜보아야 할 것 같습니다. 좋은 세션이었고 향후에도 이런 계속되길 바랍니다. 한국과 프랑스에 감사드립니다. 감사합니다. 마지막으로 Jess님에게도 감사의 말을 전합니다. 감사합니다. 마지막으로 이 자리에서 말하게 되어 약간의 압박감도 있지만 좋은 점이라고 생각합니다. 오늘 내게 분명하게 드러난 한 가지는 우리 모두가 다양한 의견을 가지고 있을 수 있지만, 인공지능 개발에 대한 감독 및 책임이 필요하다는 점입니다. 오늘 일어난 일은 지난 한 해 동안의 발전 현황을 잘 보여주었을 뿐만 아니라 더 많은 작업이 필요한 분야를 강조하는 데에도 도움을 주었다고 생각합니다. 몇 가지 분야를 언급해보겠습니다. 오늘 나에게 인상깊은 것 중 하나는 요청에 따라 기업들이 안전 정책을 더 자세히 발표한 것을 보는 것이 좋았습니다. 정부들과의 협력이 중요하다고 생각합니다. 기업들 사이의 외부적 검토 및 경쟁은 하위 경쟁이 아니라 상위 경쟁을 만들 수 있으며 특히 시민 사회 및 학계의 역할이 거기에 필요한 검토 및 압력을 만들 수 있는 방법이 더 있을 것이라고 생각합니다. 다음 정상회의때까지 그러한 정책들이 더욱 발전하고 세세하게 다듬어지며 적극적인 토론을 통해 발전해 나가길 바랍니다.
문장은 ‘관찰과 일부 경쟁은 회사들을 밀어서 서로 이길 수 있도록 하는데, 그 반대로 우리는 회사들이 자체 규칙을 세우지 않고 외부 주체들이 평가하고 기준을 정할 수 있는 것이 더 필요하다’ 이다. 나는 우리가 지금 언급한 책임 있는 확장 세션과 더불어, 정부 외부에서 이런 종류의 감사가 일어나고 키워져야 한다고 생각한다. 지금 발표된 두 개의 안전 기관에 대해 가장 흥미롭게 생각하는 것은 이 관점에서의 전문성과 능력을 구축하는 것이다. 정부 외부에서 이러한 감사를 수행할 다양한 전문성을 집중시키고 싶다. 하지만 아직 아주 거리는 멀고, 우리는 그런 능력을 구축하고 우리가 아침에 논의한 모든 주제에 걸친 리스크를 평가하기 위해 필요한 다양성 전문성을 가져오는 데 집중해야 한다. 다음 정상회의 때에는 안전 기관과 아마 다른 제3자가 책임있고 안전한 행위가 어떻게 보이는지에 대한 대화를 주도할 수 있는 위치에 있는 것이 정말 좋을 것이다. 오늘보다는 좀 더 많이 이루어져야 한다. 그래서 우리는 회사들에게 정책 개발을 요청하는 것뿐만 아니라 정부와 제3 부문으로부터 더 많은 질문이 나올 수 있도록 해야 한다. 마지막으로, 나는 결국 이 모든 것이 규제에 의해 저지를 필요가 있다고 생각한다. 그것은 우리의 토론 세션에서 명백했다. 여전히 규제에 대한 많은 불확실성과 어려운 질문이 있다. 그 중 하나는 오픈 소스이다. 그러나透명성과 더 큰 감독이 필요한 사항에 대해 대부분의 사람들이 동의할 수 있고 현재의 규제와 법으로 규제할 수 있는 것들도 있다. 미국 행정명령은 그런 시작을 위한 큰 몫을 하고 있으며 다른 국가들도 이를 따르는 것을 보면 정말 좋을 것이다. 다음 정상회의 때에는 자세한 규제 제안들에 대한 논의를 보면 정말 좋을 것이다. 정말 감사합니다. 감사합니다. 아이언이 굿(AI for good)에 대한 마지막 섹션입니다. 우리가 모두 여기에 있고 왜 완화를 소개하려고 하는지에 대한 주요한 이유 중 하나입니다. 그리고 호주의 Mr. Husic, 르완다의 Mr. Ingebirre, 그리고 Dennis, 아, Eber, 그분들을 무대에 소개하는 것이 저에게 큰 즐거움입니다. 감사합니다. 감사합니다. 감사합니다. 너그럽게도 Demis씨가 마지막 성함으로 'Eber'를 용서해주길 바랍니다. 하지만 오늘은 정말 긴 하루이고 이 전까지도 정말 긴 몇 주였습니다.
하지만 이번 세션은 어느 정도 유기적으로 진행될 것입니다. 몇 가지 질문을 하겠습니다. AI for good에 관해 알아보겠습니다. 아마 패널리스트들에게는 특정 분야를 정확하게 식별하는 것이 어려울 것 같습니다. AI에서 올 수 있는 좋은 점이 많기 때문입니다. 하지만 이 질문을 받을 때, 특히 교육에 관해 생각합니다. 교육에서 AI가 할 수 있는 역할을 생각할 때, 우리 사회 전반을 생각해봤을 때 교육은 실질적인 기반이고 교육은 기회의 통로입니다. 우리가 인생을 돌아봤을 때 교육 시간에 우리를 투자하고 영감을 주기 위해 시간을 내주었던 개별 교사들이 눈에 띄는데요...오늘 이 방에 있는 이유 중 하나는 바로 그런 교사들의 공헌이 있었기 때문입니다. AI가 도움이 될 수 있는 가장 중요한 방법 중 하나는 그런 관리와 문제 해결을 감소시킴으로써 교육자들이 더 많은 시간을 가질 수 있도록 하는 것입니다. 이제 영국에서 우리는 교사들이 각 개인에게 맞춤형 수업 계획을 할 수 있도록 하는 AI 지원 어시스턴트를 가진 것을 발표했습니다. 또한 영국에서 새로운 펀드를 발표했는데, 이는 우리의 목표로 하나의 교사에게 AI를 적용하여 관리 업무를 돕게 하는 것입니다. 이를 통해 교사들이 더 많은 대면 시간을 확보할 수 있도록 하는 것입니다. 패널리스트들이 AI for good의 최고의 예시라고 생각하는 것을 듣는 것에 관심이 있습니다. 현재 우리가 하는 것을 인식하는 것은 중요합니다. 사람들을 연결하여 기술 응용을 둘러싸는 사고를 하는 것은 흔치 않은 일입니다. 국제적인 차원에서 기술을 적용하는 것에 대해 생각하는 것이 중요합니다. 이렇게 현재 우리가 하는 것과 그 사용 사례에 대해 생각하는 것은 매우 긍정적입니다. 예를 들어, AI를 사용하여 소아 진료 시 환자들이 집에서 치료를 받을 수 있는 로봇을 개발하고 있는 회사가 있습니다. 이는 환자들이 가장 힘든 건강 문제 시기에 도움을 주고 있습니다. 그녀는 지금 AI 기술을 활용하여 이를 추진하고 있는 회사를 설립했습니다. 또한 AI를 사용하여 소리 전달 기능을 향상시키는 생체 이어 또한 예시로 떠올릴 수 있습니다. 거부당한 사람들에게 선물을 전달할 수 있는 AI로 구동되는 드론도 있습니다. 이러한 예시는 태평양의 외딴 지역에서 생명을 구하기 위해 사용되고 있으며, 오스트레일리아 기업들에 의해 수행되고 있습니다. 하지만 우리는 그 균형을 맞추기를 원합니다. 그것이 우리가 생각하려고 하는 것입니다.
가장 깊이까지. 그리고 우린 우리가 하는 일에 최선을 다하려고 노력하고 있는데, DARPA 회의의 창립 후원자가 되었습니다. 그 회의는 아프리카에서 점점 더 중요한 기계 학습 컨퍼런스로 자리매김하고 있습니다. 우린 수백 명의 대학원생들을 후원하고 있고, 대학원 수준에서 AI 학위를 받기 어려운 출신들에게 기회를 주고 있습니다. 이를 통해 그들이 자신의 삶과 주변 사회에 이점을 얻을 수 있도록 돕고자 합니다. 건강 관리와 교육을 보면 우리가 르완다를 위해 한 일들이 눈에 띕니다. 우리의 국가 전용 AI를 론칭했을 때 어디에서 가장 큰 잠재력을 보이는지 알 수 있습니다. 우리는 농업 분야에 매우 집중하고 있습니다... 그래서 어떻게 하면 포괄적이고 창의적인 방식으로 문제를 해결할 수 있는지 고민 중입니다. 국내 인원 전체에게 가치를 제공하는 솔루션을 만들기 위해 노력하고 있습니다. 두 번째로는 공공 서비스가 있습니다. 이 부분은 AI 솔루션을 활용하여 어떻게 개선할 수 있는지를 살펴보는 것입니다. 세금 고지와 같은 부분도 포함하여 공공 일정 관리와 신뢰성 높고 효율적인 서비스를 제공하는 것을 고려하고 있습니다. 하지만 강조하고 싶은 사항 하나 있습니다. 우리가 구현하고 있는 사항입니다. 여러 가지 측면에서 보면 기회에 대한 가능성을 더욱 열어놓을 것입니다. 예를 들어 조기 질병 검출과 약물 개발을 말합니다. 우리는 지역 사회에 건강 관련 서비스를 제공하기 위해 커뮤니티 건강 노동자를 고용하고 있습니다. 그들은 사람들을 위한 '앞마당의' 건강관리자 역할을 하고 있으며, 서로를 지원하고 있습니다. 우리는 각 지역사회에서 사람들에게 건강 서비스를 제공하기 위해 AI 모델을 개발했습니다. 이 모델은 대용량 언어 모델을 활용하여 의사 결정을 돕습니다. 말라리아 처럼 질병을 검출하는 분야에서 그 사례는 확연합니다. 임상 데이터와 환경 데이터를 활용하여 해결책을 제시하고 있습니다. 그렇다고 있기 때문에 이 문제를 해결하기 위해 AI를 사용할 수 있다면. 건강 관리 분야에서 다른 대륙의 여러 지역에 유사한 해결책을 구현하는 것은 더욱 쉽습니다. 환경 모니터링과 관련된 다양한 잠재력을 파악하는 작업도 진행 중입니다. 마지막으로, 우리의 데이터 전략의 기반을 넘어서 우리가 어떻게 위험을 관리할 수 있는지에 대해 말씀드리고자 합니다. 정부가 앞장서서 방향을 제시하는 것을 원합니다. 우리는 규제와 가이드라인을 먼저 마련한 후 뒤에서 기다리지 않고 조치를 취하길 원합니다. 따라서 다음 5년 동안 다양한 기회를 찾아 나서기로 했습니다. 다른 분야에서 기회를 찾아내려는 것입니다
우리가 AI 솔루션을 배포하고 그것을 방법으로 사용할 수 있는 곳을 어디에 찾을 수 있을까요? 정책과 규정 그리고 기준을 만드는 것을 통해 우리는 확실히 볼 수 있게 됩니다. 물론 국내에서는 인공지능이 기후변화와 같은 전역적인 문제 해결에 도움이 될 수 있다는 잠재력을 가지고 있기 때문에 말입니다. 각각의 의견에 대한 여러분들의 생각을 들려주세요. 우리가 어떻게 더 잘 협업할 수 있을지에 대한 전역적인 기회를 실현하기 위해 이번 정상회의와 토론을 통해 가진다고 생각하는 내용들을 포착하고 그 형태로 나타내는 것이 매우 중요합니다. 또한 우리가 여기서 본 것은 크고 작은 국가들이 모두 협력을 하는 것입니다. 이전에는 그렇지 않았던 것입니다. 우리는 협력하여 공통의 길을 찾고 일어날 수 있도록 해야 한다는 것을 알아야 합니다. 효과적으로 조화를 이루어 정교하게 작용하는 곳, 우리가 참여할 수 있는 곳에서 이루어져야 하지만, 방금 이야기한 것처럼 기술의 파급력도 고려해야 합니다. 전 세계에서 개발되는 기술을 다른 곳에 적용시키는데 필요한 기회를 활용하기 위해 이러한 유형의 모임과 한국에서 일어날 일들을 고려했을 때 이러한 가치 있는 동력을 유지하는 것도 매우 중요합니다. 위험에 대한 이야기를 하고 있으면서도 어떻게 다양한 도전과제를 가진 커뮤니티에 맞는 결과물을 얻을 수 있는지에 대한 탐구가 필요합니다. 우리는 기술의 적용으로 성공하고 싶은 것입니다. AI는 정말로 글로벌한 기술이라고 생각합니다. 우리 모두가 공유할 수 있는 전역적인 표준을 설정하는 것이 중요하다고 생각합니다. 이것이 실현되기 위한 첫 번째 단계 중 하나일 수도 있다고 생각합니다. 또한 과학적인 관점으로 돌아가보면 협력 기업과 학계 사이에 AI를 다양한 전문 분야에 적용하는 것과 관련된 협력의 많은 잠재력이 있는 것 같습니다. 생물학이나 화학 또는 기후와 같은 특정 도메인에서 해당 분야의 전문가들이 있습니다. 그리고 그들에게 진정한 핵심 질문이 무엇인지 정확히 파악하여 AI를 어떻게 적용할지 결정해야 합니다. DeepMind에서 이루어진 성공 사례들 중 하나는 이러한 도메인 전문가들과 협력하는 것이었습니다. 이것이 바로 올바른 방식으로 AI를 적용할 수 있는 유일한 방법입니다. 저는 이러한 협력을 통해 마법같은 것을 볼 수 있다고 생각합니다. 올바른 방식으로 사용하는 것과 특정한 목적에 적합한 것에만 사용하는 것이 필요합니다. 이러한 유형의 파트너십을 형성하는 것이 진정으로 민주화를 이루어낼 것입니다. 컴퓨팅 인프라가 특정 지역에 집중되어 있음을 알고 있기 때문에 이 문제가 매우 중요합니다.
포함성, 우리가 접근을 민주화하는 방법은 무엇인가요? 하나는 창의적인 파트너십을 구축하여 다양한 인재들에게 접근하는 것입니다. 인재가 있다면 도전에 맞추어 맞춤형 솔루션이 가능합니다. 다양한 인재를 보유하지 못한다면 많은 개도국들은 인재 부족으로 인해 문제에 대한 해결책을 찾을 수 없을 것입니다. 소집하는 옳은 능력, 옳은 인재를 구축하는 것이 매우 중요합니다. 마지막은 AI 연구에 대한 것입니다. 한 가지 크기가 모두에게 맞는 것은 없을 것입니다. AI를 어떻게 배치할 것인지는 항상 문맥에 따라 다르며 어떤 도전에 대한 해결책이 가장 적합한지에 따라 다릅니다. 어떤 도전에 대해 어떻게 우리가 그 영향을 주도할 수 있는지 이해하는 것입니다. 우리 모두가 짝짝이에게 박수를 보내주세요. 감사합니다. AI가 다양한 분야에 영향을 줄 수 있는 중요성을 나누는 것은 정말 중요했습니다. 지금 하루를 마무리하기 전에, 거의 다 왔습니다. 우리는 어제 우리가 대화한 내용을 더 나은 방향으로 발전시키고 장기적인 유산을 만들기 위해 노력해야 한다는 것을 상기해야 합니다. 이것은 역사적인 모임입니다. 많은 사람들이 참여했습니다. 그래서 이를 고려하여 내년 AI 정상회의를 개최하는 국가로 대한민국과 프랑스를 선택했습니다. 한 번 더 그들에게 그 임무를 맡아주신 것에 감사드리고 싶습니다. 감사합니다. 감사합니다. 감사합니다. 그래서 저는 이번에 몇 가지 팁을 주기로 했습니다. 무엇보다도 리종호 장관님과 바로 장관님께 기꺼이 맡아주신 점에 감사드리고자 합니다. 장관님께서 무대에 오셔서 간단한 인사말을 해주시겠습니까. 경외하는 분들, 여러분. 감사합니다. 이런 기쁜 기회를 가지게 되어 정말 영광입니다. 이 세션을 마무리하는 기회가 있어서 영광입니다. 창조적 AI의 등장은 전 세계를 감전시켰습니다. 이제 세계各國들은 이 신기한 새로운 기술이 동시에 이익과 위험을 가져올 수 있다는 것을 인식하고 있습니다. 이기적인 AI 경쟁이 AI의 이익에 비례하는 잠재적 위험을 가져올 수 있다는 우려 때문에 고급 AI 개발에 일시적 중단을 요구한 사람들도 있었습니다. 기술은 양날의 검입니다. 우리의 생활을 더욱 향상시킬 수 있지만 동시에 큰 위험에 빠뜨릴 수도 있습니다. 그래서.국가나 기업이 주도하는 것이 아닙니다. 
또한 국제 사회는 디지털 격차를 줄이기 위해 함께 노력해야 합니다. 
디지털 리터러시를 강화하여 AI의 혜택이 누구에게도 뒤처지지 않도록 해야 합니다. 
이와 관련하여 
업데이트된 보고서
지난 6월 파리에서 열린 디지털 비전 포럼에서 윤석열 총장은 AI를 포함한 신기술에 대한 디지털 규범을 논의할 
국제기구 설립을 제안했습니다. 
9월에는 자유, 공정성, 안전, 혁신, 혁신의 4가지 원칙을 제안하는 디지털 권리장전을 발표했습니다. 
공정성, 안전, 혁신, 연대를 AI 거버넌스의 방향을 제시할 수 있는 5대 원칙으로 제시했습니다. 
디지털화가 심화되는 시대입니다. 
오늘 렉토리 파크에서 열린 이번 서밋은 한국과 국제사회가 이를 반영하는 좋은 계기가 되었다고 생각합니다. 
구체화할 수 있는 좋은 기회였습니다. 대한민국과 영국은 
다음 인공지능 안전 서밋을 공동 개최하기로 합의했습니다. 
인공지능 안전 서밋을 6개월 후 공동 개최하기로 합의했습니다. 
AI의 안전한 사용에 대한 글로벌 논의를 진전시키는 데 의미 있는 기여를 하기 위해서입니다. 
다음 서밋에서는 오늘 논의된 AI 안전성 테스트 체계를 평가하고, 정부와 주요 민간 기업이 모두 지지할 수 있는 공통 규칙을 도출하는 자리가 되길 바랍니다. 
공통의 규칙을 마련하는 자리가 되기를 바랍니다. 오늘 우리는 역사적인 순간을 목격하기 위해 이 자리에 모였습니다. 
AI 안전성을 증진하기 위한 협력 방안을 모색하는 자리입니다. 
끝내기 전에 AI 안전 서밋을 주최해 주신 영국 정부에 다시 한 번 감사의 말씀을 드립니다. 감사합니다. 
정말 감사합니다. 선택하셔도 됩니다. 아뇨, 됐어요. 오늘은 정말 역사적인 서밋이었습니다. 
저는 우리가 인공 지능의 안전한 개발을 위한 
인공 지능의 안전한 개발을 위한 
그리고 지난 몇 주 동안 우리가 해온 일의 중요성을 과소평가해서는 안됩니다. 
지난 몇 시간 동안에도 마찬가지입니다. 
그리고 오늘 세션의 모든 의장님들께 다시 한 번 감사드립니다. 
그리고 통찰력을 공유해 주신 모든 분들께 감사드립니다. 

- dc official App