5. 자율주행 자동차

자율주행 자동차에 대한 장미빛 전망들이 있지만 기술진보는 정체되어있다. 이미 여러 사고 사례가 있다.

검은 백조와 쓰라린 교훈

자율주행차도 여타 머신러닝 적용분야와 같은 방식으로 작동한다. 컴퓨터가 어떻게 운전을 할 것인지 일반적인 규칙을 추출하기 위해서 대량의 데이터 더미들을 처리한다. 적어도 이론적으로는 데이터가 많을 수록 퍼포먼스 시스템이 더 나아진다.

문제는 딥러닝 접근은 기본적으로 통계적이라는 점, 즉 트레이닝 데이터를 통해서 특정된 방법으로 인풋과 아웃풋을 연결시키는 것이다는 점이다. 이는 ai가 엔지니어들이 "극단적인 경우edge case"(트레이닝 데이터에서 일반적이지 않은 비일상적 상황)라고 부르는 것에 제대로 대처할 수 없다는 점을 의미한다. 운전은 예외성oddities으로 가득차있다. 어떤 경우엔  드라마틱한 상황도 일어난다. 인간 운전자는 보통 이런 상황들을 별 생각없이 쉽게 대처한다. 그러나 ai는 이런 상황에서 힘들게 분투해야한다.

인간은 그런 예외성에 더 수월하게 대처할 수 있다. 왜냐하면 인간은 사고할 때 "탑다운" 방식을 사용하기 때문이다. 즉 인간은 감각으로부터의 "바텀업" 신호가 모호하거나 불완전한 상황에서 세계가 어떻게 작동하는 지 추리reason해서 알려주는 방법을 사용한다. ai는 대부분 이런 능력이 결여되어있다. 어떤 의미에서는 뇌의 반쪽만으로 작업한다. 비록 ai는 자신들이 편안하게 느끼는 구역에서는 유능하지만, 사소한 변화조차도 문제적으로 될 수 있다. 추리능력과 일반화의 능력이 부재한 상황에서 컴퓨터는 자신이 시작한 동일 데이터 속에 갇혀있다.

이 협소한 지능은 단순히 자율주행차 너머 영역이서도 눈이 띈다. 구글의 번역 시스템.

ai의 이런 한계가 얼마나 중요할 지는 영역마다 다를 것이다.

딥러닝 너머

ai를 발전시키기 위해 다른 아이디어를 가진 연구자도 많음. 한 가지 아이디어는 컴퓨터가 생각하는 볼륨보다 범위를 넓히는 것이다. 생물학적 뇌는 컴퓨터보다 훨씬 더 풍부한 데이터 세트들로부터 학습한다. ai는 글자와 음성을 통하서만 훈련되지만, 아기들은 현실세계에서 추상적인 개념에 닻을 내리는 데 도움을 주는 풍부한 물리적 환경뿐만 아니라 소리, 목소리의 톤, 부모들이 보고 있는 것들에게도 의지할 수 있다. "체화된 인지embodied cognition".

다른 한편으로 연구자들이 ai가 백지 상태에서 시작한다는 모델에 "집착"한다는 의견도 있다. 하지만 "모든 동물들은 뇌 속에 구조들을 갖춘 채 태어난다. 그것들이 당신이 본능을 획득하는 곳이다"

어떤 사람은 더 오래된 분야인 "기호주의 ai symbolic ai" 접근과 머신러닝이 결합해야 한다고 주장한다.

그러나 비관론도 있음.

딥마인드와 Alberta 대학교에서 ai를 연구하는 Richard Sutton이 지난해 출판한 "쓰라린 교훈The Bitter Lesson". ai역사는 인간 지성을 컴퓨터로 구축하려는 시도가 거의 성공한 적 없다는 걸 보여줌. 대신 이 영역에서 일어난 대부분의 진보는 무어의 법칙과 늘 이성 없는brute 컴퓨터의 힘을 문제해결에 끌어들일 수 있는 능력 덕분에 달성됐다. "쓰라린 교훈"은 "[인간]정신의 실제 내용들은 막대하고 가망 없을 정도로 복잡하다는 점이다...인간정신은 [컴퓨터에] 구축되어야할 것이 아니다."

연구실과는 별개로 운전자 없는 자동차에 대한 기대는 식고 있다. 어떤 중국 기업들은 자동차 자체에 대한 인식적인 부담을 덜어보고자 하는 시도에서 도시 인프라에 디지털 가이드 철도를 구축하는 실험을 하고 있다. 다른 한 편으로 현행 자동차 제조업자들은 이제 완전 자율주행 자동차보단 자동 차선 지킴이나 주차 시스템 같은 "운전자 보조 driver-assistance"에 대해 말하는 걸 더 선호한다. 스타트업의 새물결도 공항이나 은퇴자 마을 같이 작고 제한된 구역에서 운전하는 자동차를 만들길 희망하면서 신중하게 야망을 축소하고 있다.

"우리가 지금 우리 기술로는 완전자율주행기술을 획득하기 어려울 것이라는 과학적 이유들이 있다. 이 덜 야심적인 것들이 나는 훨씬 더 현실적인 것이라 생각한다."

6. 가을이 오고 있다.