이런 무시무시한 갤에 이런 초라한 글을 올려도 될지...대강 날로 번역하고 날로 요약해서 일부 올려봅니다...



이코노미스트 지지난주에서 분기 기술보고서

<인공지능과 그 한계> 요약

1.

인공지능, 정확히는 머신러닝이 불과 전기에 비견되는 일반목적적 기술로서 전체 경제에 영향을 주리라는 기대.

그러나 사실 인공지능 영역은 1950년대 중반 이후 붐과 'AI겨울'을 왔다갔다했음. 현대ai기술은 과거의 것보다 훨씬 성공적이지만, 이 성공에도 불구하고 ai에 관한 담대한 주장들 중 많은 걸 실현시키기엔 기술적 한계에 봉착한거 아니냐는 의혹이 듦에 따라 자신감도 흔들리는 중.

예를 들어 코로나19 사태도 ai 도움을 받을 거라 기대했으나 결국 생각보다 그렇지 못함.

산업 현장에서도 ai를 적용하기 어렵다는 생각들이 많아짐이 따라 ai에 대한 열광은 식는 중.

ai잠재력 실현에 대한 두 가지 문제가 있음.

첫째, 실천적 문제.
머신러닝 혁명은 발전된 알고리즘, 더 강력한 컴퓨터, 사회의 점진적 디지털화 3가지 요소 위에서 만들어짐.  그러나 데이터가 항상 쓸 수 있게 주어진건 아님  데이터가 존재하더라도 데이터가 비편향되리라는 보장이 없음. 또 현대 ai 시스템을 운영하기 위한 컴퓨터 시스템은 너무 비쌈.

두번째, 알고리즘 그 자체. 더 심각한 문제.
머신러닝은 수백 수천만개의 예시를 통해 소프트웨어 모델을 훈련하는 데 씀. 그런데 ai는 많은 사람들이 이해하는 것처럼 '지성'은 아님. 즉 머신러닝은 강력한 패턴인식 기구지만 생물학적 뇌가 당연하게 하는 인식 능력에서 딸리는 게 많음. 그 결과는 잘 규정된 일에서는 잘 할 수 있지만, 기대치 못한 인풋에 직면한다면 심각하게 잘못된 결과를 낼 수 있는 '어디 하나 모자란 특수능력자' 임. 다른 점과 상관없이 이 결점은 ai가 할 수 있고 없는 것에 대해 기초적 한계지점을 설정함

물론 오늘날의 'ai 여름'은 과거와는 다르다. 더 밝고 더 따뜻하다 이 기술이 더 광범하게 전개되고 있기 때문이다. 그러나 가을 바람이 불어오는 중이다.



2. 데이터 문제

이론적으로 현실은 데이터가 넘쳐나지만 실제로 막상 하려면 그렇지만도 않음.

데이터 문제는 ai프로젝트들이 직면하는 가장 흔한 골칫거리임. 필요한 데이터가 없거나 경쟁사가 금고이 꽁꽁 묶어놓는 경우가 많음. 관련 데이터를 찾더라도 ai교육에 부적절할 수도 있음.

다양한 종류의 데이터 업무는 전형적 ai프로젝트가 잡아먹는 시간의 80퍼를 소비함. 머신러닝 시스템을 훈련시키는 데이터에는 막대한 숫자의 주의 깊게 분류된 예시들이 요구되고, 이 때 분류들은 인간에 의해 응용/적용되어야만 하는 것들임. 거대 기술 기업들은 이 문제를 자주 내부적으로 해결한다. 그렇지 못한 기업들은 그것과 관련해서 아웃소싱한 산업으로부터 도움을 받는다.

'데이터 준비' 시장은 2019년에 15억 달러 이상의 가치를 갖고 있었고 2024년까지 41억달러까지 성장할 거라 예측한다.

데이터 그 자체가 함정을 포함하는 경우도 많다.

머신러닝 시스템은 인풋을 아웃풋과 연관시킨다. 다만 그들은 더 넓은 맥락에 대한 이해 없이 그냥 눈감고 그렇게 처리한다. 더도 말고 덜도 말고 딱 말한 것만 처리하는 놈들.

편향bias은 또 다른 문제 원인임. 해결하기 쉬운 편향도 있지만 그렇지 않는 것도 있음. 아마존 CVS 를 활용한 채용 시도 철회 사례.

현실에서 데이터 찾기 어려우니까 그냥 가상현실을 이용해 데이터를 수집하는 경우도 있음  아마존도 그럼. 어떤 경우에는 가상현실데이터로 훈련한 AI가 더 나을 때 있음. 그러나 복잡하고 변화하는 실제 현실과 가상현실의 괴리 문제.

사생활은 데이터의 3번째 문제. 가상현실로 해결해볼 수도 있지만 위와 같은 문제 우려.

세계의 변화가능성은 AI가 계속해서 더 많은 훈련을 해야한다는 걸 의미하고 이는 곧 훨씬 더많은 데이터를 공급해야한다는 것. 결코 끝아지 않을 재훈련의 순환사슬. AI는 설치한다고 끝나는 게 아님을 알아야함.



3. 실제 산업 적용 문제

산업계에서 경영자들은 갈수록 ai 투자에 매력을 느끼지 못하고 있음.

첫째 원인, 세속적인 문제. 기업 특히 큰 기업일수록 변화를 힘들어함.

둘째, ai자체 문제. 기업들은 인터넷 대기업의 성공이 고무됐었지만, 사실 그들은 이미 프로그래머들과 쓸 수 있는 데이터 더미를 잘 갖추고 있었음. 일단 적절한 인력을 구하는 것부터가 문제. "오직 거대기술기업과 헤지펀드만 이들을 고용할 수 있다."

더 미묘한 셋째문제. ai가 무엇을 위해 쓰일 거냐 결정하는 문제. 한스 모라벡스의 파라독스.(인간이 당연하게 하는 걸 ai는 어려워하고 ai가 당연하게 하는 걸 인간은 어려워한다)

이미 데이터들이 존재하고 결과가 깔끔하게 떨어지는 곳에서 ai가 잘 운영될 거라 생각. 이런 환경이 꼭 후방지원뿐에만 있는 게 아니라 산업 최전선과 무관하지만은 않음.

그런데 기술을 개발하는 것과 실제 사업현장에 유용하게 쓸 수 있게하는 건 다른 문제. 복잡하고 개방적인 현실세계에서 ai단독으로 해결할 수 있는 문제는 거의 없음. 이는 ai를 산업현장에 도입하더라도 결국 판단자로서 인간이 필요하다는 걸 의미함. 이는 기대된 비용 절감을 제한할 수 있음.

패이스북도 이미 ai관리자의 한계를 느끼고  인간 관리자를  엄청 고용하는 중.

ai는 많은 걸 할 수 있다. 그러나 ai는 인간이 손으로 쥐고 있을 때 가장 잘 운영된다.