https://socialkorea.org/society/%EA%B3%A0%EC%82%90-%ED%92%80%EB%A6%B0-ai-%EB%8D%94-%EB%8A%A6%EA%B8%B0-%EC%A0%84%EC%97%90-%EA%B7%9C%EC%A0%9C%ED%95%98%EC%9E%90/


https://socialkorea.org/society/%EA%B3%A0%EC%82%90-%ED%92%80%EB%A6%B0-ai-%EB%8D%94-%EB%8A%A6%EA%B8%B0-%EC%A0%84%EC%97%90-%EA%B7%9C%EC%A0%9C%ED%95%98%EC%9E%90/



왜 인공지능 규제가 필요한가?

흔히 인공지능 개발의 3대 요소로 알고리즘, 데이터, 연산능력을 꼽는다. 알고리즘이란 인공지능에 의한 자동화된 의사 결정을 의미한다. 인간의 판단보다 효율성, 편의성 등에서 뛰어나 기대를 모으고 있지만 그 과정이 베일에 가려져 ‘블랙박스’에 비유되기도 한다. 입력된 데이터를 인공지능 스스로 학습(머신러닝)했기 때문에 의사 결정 과정이 불투명해 공정성, 책임성, 투명성 등 윤리 문제가 제기된다.

<블랙박스 사회>의 저자 프랭크 패스콸리 미국 코넬대 교수는 알고리즘을 검색, 평판, 금융으로 구분한 바 있다. 우리의 일상에 직접적이고 중대한 영향을 주는 것은 온라인 쇼핑몰이나 언론사 웹사이트를 검색할 때 특정한 내용을 추천하는 검색 알고리즘과 채용, 보험가입 등에 활용되는 평판 알고리즘이다.

특히 논란이 되는 것은 채용이나 승진과 같이 인간의 운명을 좌우하는 영역에서 알고리즘에 의한 결정이 이루어지는 경우다. 채용 인공지능은 개인의 안전에 위협이 되거나 생계에 영향을 준다고 판단해 유럽연합 등 여러 나라에서 ‘고위험군 인공지능’으로 분류되고 있다. 하지만 한국에서는 공정성을 명분으로 채용 과정에서 인공지능 면접이 확산되는 추세다.

.....(중략)







글로벌 규제는 강화되는데 한국은?

생성형 인공지능은 여러 산업에 걸쳐 있는 범용 기술로서 인간 삶에 다면적으로 영향을 주며, 예측불가능하다. 이런 특성으로 인해 윤리와 규제가 유독 강조된다. 인공지능 규제에 가장 적극적으로 대응하는 곳은 유럽연합이다. 지난 6월 유럽의회는 본회의에서 생성형 인공지능에 대한 별도의 규제를 포함한 법안(AI Act)을 가결했다. 유럽연합은 이미 2021년 사용자에게 미치는 위험 수준에 따라 금지된 위험, 고위험, 제한적 위험, 최소위험으로 차등화해 기업이 따라야 하는 의무를 구체화하기도 했다. 또한 기업이 규제를 어길 경우 최대 4천만 유로 또는 전세계 매출의 7%에 달하는 벌금을 매기도록 해 규제의 실효성을 강화했다.

미국은 그동안 기업의 자율성 쪽에 무게 중심이 쏠려왔다가 10월 30일 바이든 대통령이 행정명령에 서명함으로써 규제 쪽으로 이동한 것으로 평가된다. 다만 이번 행정명령엔 기업들이 불응할 경우 부과할 수 있는 벌칙이 빠져 있어 강제력은 떨어진다는 한계가 있다. 또한 과연 정부가 인공지능의 첨단 기술에 대해 대응하고 규제할 수 있겠느냐는 회의론도 크다.

초거대 인공지능에서 세계 2~3위권으로 통할만큼 인공지능 강국인 한국은 어떨까? 국_내에서는 거대 기술기업 육성을 통해 글로벌 경쟁력을 확보해야 한다는 명분이 규제 요구를 눌러왔다. 지난 2월 국회 과학기술정보방송통신위원회 법안소위를 통과한 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안’은 국_내 최초의 인공지능에 대한 단일 법안이다. 하지만 이 법안은 사후규제 방식을 취하고 있으며, 위반시 실효적 제재 규정이 없어 효과가 크지 않을 것이라는 평가가 많다.

한국행정연구원 심우현 연구위원은 “규제와 혁신은 둘 중 하나를 선택하는 문제가 아니라 합리적인 규제 프레임워크의 개발을 통해 인공지능의 혁신을 촉진하는 것”이라고 했다. 정부가 취해온 사후규제 방식은 자칫 규제에 대한 예측가능성을 떨어뜨려 오히려 혁신을 저해할 수도 있다. 향후 진행될 인공지능 안전성 정상회의 공동 주최국인 한국이 글로벌 규범에 맞춰가기 위해서도 규제와 혁신의 이분법에서 벗어나 안전하고 책임있는 혁신을 추구해야 한다는 목소리가 커지고 있다.



슬슬 규제 밑밥 깔기 시작하네