요약: 흔히 인공지능에 대해 논할 때 가속, 안전, 민주화 3가지 중 하나만을 선택해야 한다는 인상을 받지만 실제로는 3가지 모두 균형있게 추구해야 함
예를 들어 중국, 북한의 악용 위험이 있다며 극단적으로 오픈소스를 금지하고 특정 집단이 모든 관리와 결정을 하게 하는 상황은 반드시 피해야 함(현재 open ai가 추구하는 방향, ai 기술을 보급화하는 걸 민주화라고 주장하면서 모든 통제권은 자신들이 가지고 있음)
https://time.com/collection/time100-voices/6325786/ai-progress-safety-democracy/
첫 번째 가치는 진보입니다. 인공지능의 약속은 광활합니다: 질병 치료, 생산성 향상, 기후 변화 해결 등입니다. 이것은 현재 수준을 뛰어넘는 인공지능 진보를 가속화하려는 "전속력 전진" 접근 방식을 요구하는 것처럼 보입니다.
두 번째 핵심 가치는 안전성입니다. 주요 전문가와 일반 대중은 인공지능에서 비롯되는 극단적인 위험에 대해 점점 더 우려하고 있으며, 정책입안자들은 인공지능 안전성을 높이는 방안을 모색하기 시작했습니다.
세 번째 핵심 가치는 민주적 참여입니다. 인공지능이 기존의 권력 불균형을 강화하여 소수자 집단, 저소득 국가, 그리고 최강력 인공지능 모델을 구축 중인 몇몇 대기업을 제외한 모든 이들에게 해를 끼칠 수 있다는 실제 우려가 있습니다. 이는 우리가 인공지능의 미래에 모두가 참여할 수 있도록 해야 함을 시사합니다.
불행히도 인공지능을 둘러싼 공공 담론은 실제로 우리가 세 가지 상호 배타적인 인공지능 미래 중 하나를 선택해야 한다는 인상을 줄 수 있습니다. 그러나 현실에서 우리는 선택할 필요가 없습니다. 우리는 인공지능의 진보와 안전성, 그리고 민주적 참여를 모두 가질 수 있습니다. 여기 세 가지를 모두 달성할 수 있는 네 가지 정책 목표가 있습니다.
1) 기존 인공지능의 혁신적이고 유익한 용도에 투자2) 신뢰할 수 있는 AI 연구 증진
3) AI 감독 민주화
4) AI 진전 상황을 모니터링하고 평가하는 절차 수립
댓글 0