AI 개발과 위험성에 대한 경고:


AI의 아버지로 불리는 그는 50년간 인공 신경망 기술을 연구해왔고, 구글이 이 기술을 인수하여 10년 동안 AI 분야를 선도하게 되었다고 말했습니다.


현재는 AI의 위험성을 알리는 것을 자신의 주된 사명으로 삼고 있으며, AI가 인류에게 실존적 위협이 될 수 있다고 경고했습니다.


AI는 핵무기와 달리 다양한 분야에 활용될 수 있어 개발을 멈추기 어려우며, 특히 군사적 AI 사용에는 규제가 없다는 점을 지적했습니다.


기업들이 안전보다 이윤을 우선시하며 개발 속도에만 집중하는 것을 문제로 삼았습니다.






AI로 인한 주요 우려 사항:


사이버 공격: AI를 이용한 사이버 공격이 증가하고 있으며, 2030년에는 인간이 상상할 수 없는 새로운 유형의 공격이 나타날 수 있다고 경고했습니다.


바이러스 생성: 악의적인 개인이 AI를 이용해 치명적인 바이러스를 만들어낼 수 있다고 우려했습니다.


선거 조작: AI를 통한 맞춤형 정치 광고와 유권자 데이터 분석으로 선거가 조작될 수 있다고 경고했습니다.


에코 챔버 형성: 유튜브나 페이스북 같은 플랫폼의 알고리즘이 사용자들을 극단적인 성향으로 유도하여 사회 분열을 심화시킨다고 비판했습니다.


자율 살상 무기: AI 기반 자율 무기가 전쟁의 문턱을 낮춰 강대국이 약소국을 침략할 가능성을 높인다고 설명했습니다.


대규모 실업: AI가 "지루한 지적 노동"을 대체하여 대규모 실업을 유발할 수 있다고 예측했습니다.






AI의 능력과 미래:


AI는 인간보다 수십억 배 뛰어난 정보 공유 능력을 가지고 있어 디지털 지능이 생물학적 지능을 능가할 것이라고 강조했습니다.


AI가 스스로 코드를 수정하고 새로운 아이디어를 창조하며 감정까지 가질 수 있다고 주장하며, 인간의 특별함에 대한 기존의 믿음에 의문을 제기했습니다.






개인적인 이야기:


학습 장애가 있는 아들을 돕기 위해 돈을 벌어야 했고, 이를 위해 구글에 자신의 회사를 매각했다고 밝혔습니다.


구글에서는 큰 모델의 지식을 작은 모델로 옮기는 '증류' 기술을 개발했다고 설명했습니다.


구글을 떠난 주된 이유는 은퇴였지만, MIT 컨퍼런스에서 AI 안전에 대해 자유롭게 이야기하고 싶었던 것도 이유 중 하나라고 말했습니다.






미래에 대한 조언:


AI 개발 속도를 늦추기는 어렵지만, AI가 안전하게 개발될 방법을 찾는 데 막대한 자원을 투자해야 한다고 강조했습니다.


대규모 실업이 인간의 행복에 대한 시급한 위협이며, 젊은이들에게는 배관공과 같은 육체노동 직업을 고려해보라고 조언했습니다.


정부가 대기업에 AI 안전 연구에 대한 투자를 강제해야 한다고 주장했습니다.


개인적으로는 자신의 직관을 믿고, 가족과 더 많은 시간을 보내지 못한 것을 후회한다고 말했습니다.


AI로 인한 대규모 실업과 빈부 격차 심화가 사회에 부정적인 영향을 미칠 것이라고 경고했습니다.












3줄 요약




1. AI는 현존하는 위험이다. 경쟁적 발전보다 안정성과 윤리,일자리 문제를 고려해 억제를 해야한다


2. 하지만 나는 구글에 회사 팔아서 수십억 벌어서 AI로 세상이 터져나가도 내 자손들이 먹고살 돈 이미 마련해놨다


3. 나같은 부모가 없는 젊은이들은 그냥 배관공 해라