레딧에 잘 정리된 글있길래 가져와봄 

*는 테드창 원문


ㅡ


나는 그가 인간의 한계에서 컴퓨터 지능의 많은 한계를 추론하고 있다고 생각합니다. 인간의 지능은 부분적으로 뇌의 크기에 의해 제한되며, 이는 우리의 생리학, 산도의 크기, 우리의 신진 대사 등에 의해 제한됩니다.


* 그들 중 누구도 I.Q를 가진 사람의 지능을 높일 수 없었습니다. 더 쉬운 작업임을 의미합니다.


나는 그것이 사실에 의해 암시되지 않는다고 생각합니다. IQ가 70 인 사람은 일반적으로 생리적, 신경 학적, 결함이있는 것으로 이해됩니다. 그들의 두뇌를 업그레이드 할 수는 없습니다. 더 강력한 GPU를 제공하거나 더 빠른 시스템에 대한 빠른 네트워크 연결 등을 제공하여 컴퓨터를 업그레이드 할 수있는 반면, 클라우드 컴퓨팅을 사용하면 "컴퓨터"가 어두울 수 있습니다. 인간이 일하는 방식과 1 : 1 중복이 없습니다. 둘 다 문제를 해결할 수 있다고해서 둘 다 같은 방식으로 작동하거나 동일한 한계가 있다는 의미는 아닙니다.


* 아마도 I.Q. 모든 사람의 지능을 높이는 데 필요한 최소값은 300입니다.


나는 이것이 우리가 이미 현실 세계에서 시스템의 지능을 증가 시켰다는 사실을 놓친다고 생각합니다. AlphaGo는 Deep Blue보다 훨씬 똑똑합니다. 그 동안 컴퓨터는 훨씬 더 똑똑해졌습니다. Flynn Effect에 따르면 인간도 그 해 동안 더 똑똑해 졌을 지 모르지만 컴퓨터가 개선 된 것만 큼은 아닙니다.


* 우리는 끝없이 반복되는 자기 개선이 가능하다고 믿을만한 타당한 이유가 아직 없습니다.


그러나 우리는 이미 생성 적 적대 네트워크(Generative adversarial network - Wikipedia)를 통해 이와 같은 증거를 가지고 있습니다. 물론 범위가 문자 그대로 무한하다는 의미에서 "무한"한 것은 아니지만 문자 무한대는 유용한 지표가 아닙니다. 그러나 저는 우리가 재귀 적 자기 개선에 대한 충분한 증거를 가지고 있다고 생각합니다. 말 그대로 무한 할 수 없다는 것이 유일한 반대라면, 그것은 딜 브레이커가 아닙니다.


* 인간의 뇌가 그렇게 단순하다면


그러나 모든 인공 지능 연구가 인간의 뇌를 모델로하는 것은 아닙니다. 다른 사람들은 신경 과학적인 문제가 아닌 공학적 문제로 접근하여 훨씬 더 나은 문제 해결사 인 시스템을 만드는 데 중점을 둡니다.


* 정보 폭발의 일부 지지자들은 시스템 작동 방식을 완전히 이해하지 않고도 시스템의 지능을 높일 수 있다고 주장합니다.


그리고 우리는 이것이 가능하다는 증거를 가지고 있습니다. 유전 알고리즘, 기계 학습 및 기타 방법은 인간이 외부에서 이해할 수없는 혁신적인 솔루션을 만들 수 있습니다. James Barrat의 저서 Our Final Invention은 이에 대한 많은 사례를 논의합니다.


* 더 빠른 컴퓨터에서 소프트웨어를 실행하면 초인적 지능이 효과적으로 생성됩니다. 이것이 정보 폭발로 이어질까요?


더 빠른 하드웨어는 똑같은 일을 더 빠르게 할뿐만 아니라 더 수학적으로 집약적 인 알고리즘을 가능하게합니다. 1997 년과 비교하여 지금 비디오 코덱을 살펴보십시오. 프로세서의 발전으로 더 강력한 알고리즘을 허용했기 때문에 1997 년보다 훨씬 작은 파일에서 훨씬 더 나은 비디오를 얻을 수 있습니다.


또한 예, 단순한 속도는 더 똑똑해지기위한 팩스가 될 수 있습니다. 내가 대수 단어 문제를 터벅 터벅 걷는 데 한 시간이 걸리고 다른 누군가가 그의 머릿속에서 그것을하고 다른 일로 옮겨 간다면 그것은 그가 나보다 똑똑하다는 것을 의미합니다. 이것이 "나보다 똑똑하다"는 의미입니다. 질적으로 다른 지능 수준에 대한 임계 값이있는 것 같지만. 똑똑한 사람은 나보다 수학 문제를 더 빨리 풀 수 있지만 코커 스패니얼은 당신이 아무리 시간을 주더라도 문제를 끝내지 못할 것입니다.


* 인상적인 업적이지만 A.I를 작성할 수 있다는 것과는 거리가 멀다. 자신보다 더 똑똑합니다.


그러나 그것은 또한 다른 작업입니다. 작업을 시뮬레이션 실행, 기계 학습 수행 등으로 변경하면 같은 시간에 더 많은 작업을 수행하는 것이 상당히 중요합니다. 기계 학습이 모든 문제를 해결할 수있는 것은 아니며, 마법도 아니며, 기계 학습이 그다지 강력하지 않고 더 강력해질 수 없다는 의미도 아닙니다. 그것에 대한 특정 경계를 전혀 설정하지 않습니다. 그리고 한계가 있다고 가정하더라도 인류가 컴퓨터가 결코 넘어갈 수없는 지점이되는 이유는 명확하지 않습니다.


Chiang은 훌륭하고 똑똑한 SF 작가이지만 지능에 대해 그와 동의하지 않는 다른 위대한 똑똑한 SF 작가가 있습니다. 이것은 컴퓨터가 더 나은 문제 해결자가 될 수 없다는 것을 확립하는 철학 기사에 가깝습니다.



밑엔 원본

(1) Ted Chiang: Why Computers Won’t Make Themselves Smarter : Futurology (reddit.com)


I think he's inferring a lot of limitations in computer intelligence from human limitations. Human intelligence is limited partly by brain size, which is limited by our physiology, the size of the birth canal, our metabolism, etc.


* None of them have been able to increase the intelligence of someone with an I.Q. of 70 to 100, which is implied to be an easier task.


I don't think that is implied by the facts. A person with an IQ of 70 is usually understood to have physiological, neurological, deficits. You can't just upgrade their brain. Whereas you can upgrade a computer by giving it a beefier GPU, or a fast network connection to a faster machine, etc. With cloud computing, what "the computer" is can be murky. There is not a 1:1 overlap with how humans work. Just because both can solve problems doesn't mean both work the same way, or have the same limitations.


* maybe an I.Q. of 300 is the minimum needed to increase anyone’s intelligence at all.


I think this misses the fact that we've already increased the intelligence of systems, in the real world. AlphaGo is a lot smarter than Deep Blue. Computers have gotten a lot smarter over that interim. Per the Flynn Effect humans too may have gotten smarter over those years, but not nearly as much as computers have improved.


* we still don’t have good reason to believe that endless recursive self-improvement is likely.


But we already do have evidence of something like that, with generative adversarial networks. Sure, it's not "endless" in the sense of being literally infinite in scope, but literal infinity is not a useful metric. But I do think we have ample evidence of recursive self-improvement. If the only objection is that it can't be literally infinite in extent, that's not much of a deal-breaker.


* If the human brain were so simple


But not all AI research is modeled on the human brain. Others just approach it as an engineering problem rather than a neuroscience one, focusing on making systems that are ever-better problem solvers.


* Some proponents of an intelligence explosion argue that it’s possible to increase a system’s intelligence without fully understanding how the system works


And we have evidence of this being possible. Genetic algorithms, machine learning and other methods can create innovative solutions that humans can't understand from the outside. James Barrat's book Our Final Invention discusses many instances of this.


* running the software on a faster computer will effectively create superhuman intelligence. Would this lead to an intelligence explosion?


Faster hardware not only does the same thing faster, but enables more mathematically intensive algorithms. Look at video codecs now vs in 1997. You can get much better video today from a much smaller file than you could in 1997, because the processor advances allowed for more robust algorithms.


Also, yes, mere speed can be a facsimile for just being smarter. If it takes me an hour to trudge through an algebra word problem, and someone else did it in his head and then moved on to other things, that does mean he's smarter than me. That's largely what "smarter than me" means. Though there does seem to be a threshold for intelligence levels that are qualitatively different. A smarter person may work through a math problem faster than me, but a cocker spaniel isn't going to finish the problem no matter how much time you give them.


* That’s an impressive accomplishment, but a far cry from its being able to write an A.I. more intelligent than itself.


But that's also a different task. Change the task to running simulations, performing machine learning, etc, and the more-work-for-same-time-period thing matters quite a lot. That not all problems are amenable to machine learning, that it isn't magic, doesn't mean that machine learning isn't very powerful, and can't get yet more powerful. It doesn't set a specific bound on it at all. And even if there is assumed to be a bound, it's not clear why humanity would be the point beyond which computers can never go.


Chiang is a great, smart SF writer, but there are other great, smart SF writers who seem to disagree with him on intelligence. This is more of a philosophy article than one establishing that computers won't become better problem-solvers.