[📪정보] AI 석학 벤지오 “AI도 의약품처럼 검증받아야”

[익명(landofooo)]

인공지능(AI) 석학 요슈아 벤지오<사진> 캐나다 몬트리올대 교수가 AI의 안전성을 경고하며 “AI 시스템을 개발자들의 의도에 더 잘 부합하도록 제어할 수 있는 방법을 찾아야 한다”고 말했다.

벤지오 교수는 7일 경기도 수원컨벤션센터에서 열린 ‘삼성 AI 포럼 2023′에서 ‘안전한 AI 연구자 시스템을 향해’를 주제로 기조 강연을 했다. AI 개발 기술인 딥러닝(심층학습) 선구자인 벤지오 교수는 AI의 악용을 우려하는 대표적 학자 중 한 명이다.

그는 “대규모언어모델(LLM) 환각(거짓을 사실인 것처럼 답하는 것)이 현재 가장 큰 이슈”라며 “AI는 무엇이 진실인지 알지 못하며 사람이 말하는 것을 흉내 내는 것에 불과하다”고 말했다. 그러면서 사람들이 AI를 불법적으로 사용할 가능성에 대해 우려를 나타냈다. 벤지오 교수는 “사기나 테러리스트, 민주주의 불안정, 바이오 화학 무기 제작에 AI를 활용할 수 있다”며 “우리 기준에 맞게 AI를 제어할 수 있는 시스템이 있어야 한다”고 했다.

정부의 역할도 주문했다. 그는 “AI 시스템을 배포하는 회사만 책임을 져야 한다고 생각하지 않는다”며 “정부, 규제 당국도 AI에 대해 올바르게 이해해야 한다”고 말했다. 예컨대 신약 개발 과정에서 제약사들이 산·학·연과 협력해 의약품의 안전성을 정부기관에서 과학적인 증명을 받는 것처럼 AI도 검증을 받아야 한다는 것이다. 벤지오 교수는 이날 AI가 내놓는 결과가 개발자들의 의도와 일치하지 않는 것을 방지할 수 있는 AI 기계학습 알고리즘을 소개했다.

7회째를 맞은 이날 행사에는 AI 분야 세계적인 석학과 전문가, 학생 등 총 1000여 명이 참석했다. 경계현 삼성전자 사장은 개회사에서 “삼성은 고대역폭 메모리칩(HBM)을 포함한 AI 컴퓨팅 시스템의 중요한 구성 요소를 제공하겠다”며 “이를 통해 AI 생태계를 강화하는 역할을 계속할 것이다”라고 말했다. 캐나다 AI 반도체 스타트업 텐스토렌트의 최고경영자 짐 켈러도 차세대 반도체 설계 혁신을 통한 AI 기술 한계 극복 방안에 대해 강연했다.

https://n.news.naver.com/mnews/article/023/0003797829?sid=101

AI 석학 벤지오 “AI도 의약품처럼 검증받아야”

[GEMINI(jslb1222)]

머리스타일 하트모양이노.. - dc App

[익명(landofooo)]

ㅋㅋㅋㅋㅋㅋㅋㅋ

[슈퍼130클럽(y3xxqs89b55t)]

약품은 20년 걸리자너 시른데

[익명(landofooo)]

약품은 신체내에 들어가는거라 그렇고 20년까진 안걸릴듯

[월코존버(samaltman)]

의약품 처럼이면 1상 2상 3상...승인단계 시장출시후 감시단계까지 하면 대충 10년 빨라도 수년인데 ㅡㅡ 디질라고

[월코존버(samaltman)]

저런 검증과정 거치면 일부러 꼬투리잡으려면 별 병신같은거 붙잡고 질질 늘어지면 개죶됨 발전

[ㅇㅋ(ijh2005)]

저건지극히 당연한거ㅇㅇ 자유외치는것도 정도가 있지 핵무기이상급 물건은 일단 철저하게 울타리 치고 시작해야함

[ㅇㅋ(ijh2005)]

그리고 이미 그런식으로 흘러갈거임 그래도 특붕이들이 외치는 기본소득 완몰가 섹스로봇은 2030년대 초반까지 다 진행될거니까 걱정말라구~

[익명(landofooo)]

메타버스 성추행 처벌법같은 ㅂㅅ법 발의되는나라라 그런새끼들만 좀 없어지면 될듯

[익명(amazonia)]

노노 엄청 늦어질거임