[📪정보] AGI가 등장할 준비가 되어 있다(위험과 함께)

출처 : https://www.forbes.com/sites/forbestechcouncil/2022/07/27/agi-is-ready-to-emerge-along-with-the-risks-it-will-bring/?sh=f8f68e9332ef (파파고번역 사용)

MSCs, BSEE, Charles Simon은 다음 회사의 창립자이자 CEO입니다.미래 AI:생각하는 테크놀로지.

향후 10년 이내에 인공지능(AGI)이 등장할 것으로 예상됩니다. AGI는 인간처럼 이해하고 학습하며 대응하는 컴퓨터 시스템입니다. AGI가 가져올 수 있는 이점을 비교적 쉽게 언급할 수 있지만, AGI의 위험은 매우 현실적이라는 것을 알아두는 것도 중요합니다.

단기적으로는 AGI와 관련된 리스크는 일반적으로 직무 이동과 관련되어 있습니다. 사실, 이것은 AGI가 있든 없든 일어날 수 있는 일입니다. 기업은 비용 절감과 생산성 향상을 위한 방법을 끊임없이 모색하고 있으며, 이를 추구하면 일부 일자리가 없어지고 다른 일자리가 창출되는 경우가 많습니다. 따라서 초기에는 AGI 덕분에 일부 직책이 사라질 수도 있지만, 현재는 존재하지 않는 직책도 생산될 것입니다. 문제는 AGI가 얼마나 빨리 더 많은 일자리를 물려받아 새로운 직책을 창출하는 인간의 능력을 능가하고 결국 인간 노동자의 필요성을 없앨 것인가 하는 것입니다.

AGI는 작업장 외에도 더 사악한 목적으로 사용될 수 있습니다. 예를 들어, 컴퓨터가 규칙 기반의 학습 엔진이 되면서, 일부 사람들은 돈을 버는 시스템에 보상을 주는 자본주의 규칙을 바꾸려는 유혹을 받을 수 있습니다. 이로 인해 스팸 및/또는 피싱 사기를 유발하여 돈을 요구하거나 제품을 판매할 수 있습니다. AGI 시스템이 합법적인 비즈니스 관행에 국한되는 것은 작은 단계이지만 도덕적으로 큰 명령입니다.

마찬가지로, 원칙이 없는 인간 해커들은 의심할 여지 없이 자신들의 목적을 위해 AGI 시스템을 탈취하려 할 것입니다. 그러나 오늘날의 발전소와 금융기관은 이미 해킹 가능한 것으로 간주되고 있기 때문에 AGI 시스템은 단순히 기존의 문제를 확대하는 데 사용될 수 있습니다. 그러나 결국 이러한 시스템은 스스로 해커가 될 수도 있습니다.

AGI는 또한 단기적으로는 인간 테러리스트들이 계속해서 더 큰 위협이 되겠지만, 세계적인 테러리즘에서 역할을 할 수도 있습니다. 무인기와 무인자동차의 가격 폭락은 테러리스트들에게 매력적인 선택사항이 될 수 있지만, 적어도 가까운 미래에 AGI를 추가하는 것은 위험을 크게 증가시키지는 않을 것입니다.

AGI에 의한 단기 리스크는 우리 사회에서 이미 받아들여지고 있는 기술적 리스크의 연장선이지만, 장기적으로는 더 큰 리스크가 발생할 가능성이 있습니다. AGI는 규칙 기반 학습 시스템에 기초할 것이기 때문에 적어도 처음에는 우리가 그들에게 준 규칙을 따를 것입니다. 그러나 어느 시점에서는 시스템이 차세대 AGI 시스템이 어떻게 설계되는지를 프로그래밍하고 제어하는 방법을 배울 수 있을 만큼 충분히 현명해질 것입니다. 그 시점에서 인간은 시스템을 거의 통제할 수 없게 될 것이고, 그것은 그들이 믿는 어떤 방식으로든 그들 자신의 장기적인 발전을 보장할 것이다.

그 시나리오로 볼 때, 우리가 이미 화성에 탐사선을 보냈다고 생각해 보세요.만약 그들이 AGI 시스템이었다면, 그들은 그들이 (우리 인간이 아닌) 이미 우주를 식민지로 만드는 길에 있다고 믿었을 것입니다. 따라서, AGI는 인간이 공기, 물, 그리고 음식에 대한 그들의 집착이 거의 또는 전혀 필요 없는 별들로 발전하는 것으로 그것의 미래를 볼 수 있습니다. 로봇 시스템의 경우, 인간의 개입 없이 우주 여행이 훨씬 더 쉬워집니다.

현재의 경제가 기능하는 방식도 AGI에 의해 큰 영향을 받을 수 있습니다. 지금 당장은 돈이 인간의 모든 노력을 대신합니다. 간단히 말해서, 사람들은 그들의 노력에 대한 대가를 받습니다. 그러나 어떤 사람들은 자신이 하는 일이 아니라 자신이 소유한 것에 대해 보상을 받습니다. 만약 그 사람들이 궁극적으로 가장 정교한 AGI 로봇을 소유하고 그 로봇들이 널리 사용되고 대부분의 생산적인 일을 한다면, 우리 경제는 소수의 부자들만이 보상을 받는 경제로 바뀔 수 있습니다.

이러한 AGI 로봇이 최종적으로 소유의 개념을 이해하고 거부한다면 이 문제는 더욱 복잡해집니다. 이는 인간의 고용뿐 아니라 돈의 개념 전체를 붕괴시킬 수 있습니다. 충분한 자원이 있다 하더라도, 어떻게 부가 인간이 소유하지 않은 기계에 의해 인간의 모든 유익한 활동이 더 잘 수행될 수 있는 세상에서 분배될 수 있을까? 그리고 그 AGI 기계들이 그들의 작업에 대한 보수를 요구한다면?그들은 그들의 부를 어떻게 사용할까?

군사적인 용도로 AGI를 사용하는 것은 또 다른 위험을 나타냅니다. 핵, 화학, 생물 무기는 이미 그 자체로 충분히 큰 위험을 내포하고 있습니다. AGI와 직접 결합하면 위협이 증가합니다. 인간의 개입과 살상력에 대한 승인이 처음에는 존재하겠지만, 원격 무기가 인간의 승인을 기다리는 것은 너무 번거롭고 비효율적이라는 결론을 내리기까지는 얼마나 걸릴까? 만약 우리의 적들이 완전히 자율적인 무기를 만든다면 우리의 대응은 무엇일까? 한편, AGI 시스템의 통제하에 있는 핵무기는 인간 폭군의 통제하에 있는 같은 무기보다 더 큰 위협이 되는가?

고려해야 할 다른 장기적인 리스크가 분명히 있지만, 아마도 가장 우려되는 것은 자원 경쟁일 것입니다. 인적 갈등이 대부분 자원에 관한 것이기 때문에, AGI 시스템과 인간이 에너지를 놓고 충돌할 것이라고 생각하는 것도 무리는 아닙니다. 전기는 AGI 시스템에 대한 공기와 동등합니다. AGI가 인간이 가뭄과 기근에 대응하는 것과 같은 방식으로 에너지 부족에 대응하는 미래를 예상할 수 있을까요? 결과에 대비할 수 있을까요?

현재로서는 이 질문에 대한 해답이 없겠지만, 한가지 확실한 것은 사람들이 AGI의 능력을 원하기 때문에 AGI는 불가피하다는 것 입니다. 그러나 AGI의 작동 방식을 이해하고, AGI가 가져올 수 있는 위험을 인식함으로써 향후 위험을 예측할 수 있으므로 이를 피할 수 있습니다.

[📪정보] AGI가 등장할 준비가 되어 있다(위험과 함께)

댓글 3

다른 게시글