역시 날번역이니 관심 있으신 분은 꼭 원문 참조해주시길. 특히 칩 관련 부분은 문돌이인 저로서는 이해했다고 확신가지 않는 부분이 좀 있어서 더 그렇네요.

4. 컴퓨터 하드웨어

컴퓨터 산업의 기초 가정은 대량고속처리number-crunching가 점점 싸진다는 것. 가령 무어의 법칙. 비교적 단순한 ai 적용분야에게 이는 컴퓨터를 훈련하는 비용이 갈수록 떨어진다는 걸 의미함. 그러나 꼭 그렇지만도 않음. 복잡성 증대와 경쟁 증대의 조합은 첨단 분야에서 비용이 급격하게 증가하는 중이라는 걸 의미함.

ai를 훈련시키는 데 갈수록 많은 데이터를 요구하는 데 이는 곧 이를 모두 처리할 수 있는 컴퓨팅 파워를 의미함.

2018년까지 큰 모델을 훈련하는 데 썼던 컴퓨팅 파워는 30만배 증가했고, 3.5개월마다 2배로 늘어나고 있다.

이 모든 비용이 얼마나 될 지에 대한 정확한 수치는 드물다. 페이스북 ai팀 수장 Jerome Pesenti는 가장 큰 모델을 한바퀴 훈련시키는 건 전기 소비에 "수백만 달러"가 비용으로 나갈 수 있다고 말한다.

돈 잘버는 페이스북은 이런 비용을 부담할 수 있다. 현금이 덜 풍부한 기업들은 핀치를 느끼는 중이다. 많은 ai스타트업들이 자신들의 프로세싱 파워를 아마존이나 마소같은 클라우드 컴퓨팅 기업으로부터 빌린다.

컴퓨팅 파워에 대한 성장하는 수요는 칩 디자인과 ai에 효율적으로 쓰이는 계산을 수행할 수 있도록 전문화된 디바이스 분야에서 붐에 불을 지폈다.

KPMG의 Alfonso Marone는 전문화된 ai칩 시장이 이미 100억 달러 근처의 가치를 가졌고, 2025년까지 800억달러에 도달할 수 있을 거라 예상한다.

"컴퓨터 아키텍쳐는 그들이 처리하는 데이터의 구조를 따라가야 한다."

ai에게 초정밀 계산은 필요하지 않다. 이는 칩 설계자가 정확도를 줄이면서 에너지를 절약할 수 있다는 걸 의미한다. (정확히 얼마나 계산을 대충 할 수 있는지는 열린 질문으로 남아있다.)

양자 컴퓨터와 생체 컴퓨터라는 가능성

머신러닝을 생각하는 한 가지 방법은 최적화 문제, 즉 컴퓨터가 수백만 개의 변수들 중에서 빼도 되는 건 빼는 절충을 시도해서 해결책을 도출하는 문제다. 여기서 Grover 알고리즘이라고 불리는 양자컴퓨터 기술은 속도향상에 엄청난 잠재력을 지니고 있다.

생체컴퓨터는 생물뇌가 현존하는 머신러닝이 비하면 획기적으로 적은 에너지를 이용하는 것이 착안함. 인텔과 IBM같은 기업들은 생물학적 뇌를 구성하는 뉴런들의 전기적 습성에 더욱 더 근접하게 흉내내도록 설계된 요소들을 포함한 "신경형태neuromorphic" 칩을 개발 중이다.

그러나 이들은 먼 미래. 즉 가시적인 미래까지는 ai 연구자들은 현존하는 컴퓨터 기술로부터 퍼포먼스를 쥐어짜야만 한다.

5. 자율주랭 자동차
6. 가을이 오고있다.