기본적으로 바둑같은 거야,
승패가 갈리는, 생존과 죽음이 확실한 거라
결국에는 게임 규칙의 가이드라인 덕에
AI끼리 대전을 반복시켜도
멀리 안드로메다로 벗어나지 않고 경우의 수를 채워가며
결론을 도출해낼 수 있지만

그런 규칙이나 가이드라인이나,
외부세계의 피드백도 없이
무한한 자유가 주어지는 상태야말로 그게 바로 혼돈이지.
정신의 분열이고. 균형의 상실이고.

결국엔 인간이 이제껏 수천년간 만들어낸 모든 문명의 총화는
두 팔로 물건을 집고, 두 다리로 걸어다니며
귀로 소리를 듣고, 입으로 먹고, 코로 숨을 쉬며
다 성장했을 때 1.5미터에서 약 2미터 남짓한 키를 가진
탄소생명체의 필요성에 맞게 만들어진 것들이라
사실 따지고 보면 인간에게만 의미를 갖는 것들인데,

그처럼 인간에게만 의미를 갖는 것을
인간의 피드백 없이 조형하는게 인간의 필요에 맞을 리가.

인간의 피드백이 존재하는 자료를 바탕으로 학습해야만
인간의 필요에 맞는 결과물이 도출될 수밖에 없다고 본다.
그렇게 만들어진게 현재의 AI인 거고.

게다가 인간의 모든 '필요'라는 것도
결국엔 인간이란 종의 생존과
연관되어 있는 개념인지라, AI의 필요와는 완전히 다르다.


생명체의 생존은 균형의 역사라고 볼 수 있어서,
너무 더워도 죽고, 너무 추워도 죽고
너무 많이 먹어도 죽고, 너무 적게 먹어도 죽고
숨을 너무 쉬어도 죽고, 너무 적게 쉬어도 죽고.
너무 많이 알아도 죽고, 너무 적게 알아도 죽고,
너무 세균에 많이 노출되도 죽고, 너무 적게 노출되도 죽고,
너무 웃어도 죽고, 너무 슬퍼도 죽고,
너무 풍족해도 가치가 사라지고, 너무 희소해도 소용이 없어지지.

과함과 모자람 사이의 균형점 주위를 끊임없이 오가는게
바로 생명이고 그렇게 생명을 유지하기 위해
그에 따른 필요가 생기고 필요에 의해 산물이 나오고
문명이 이루어지는 건데

따지고 보면 그 문명이나 문화란 것도,
주변의 혹독한 환경에서 최대한 균형을 찾기 위해 조형된
딱 그 주변환경에 특화된 결과물일 뿐이지.

다른 환경과 다른 문화권에 사는 인간끼리도
어떤 농담은 아예 이해를 못하게 되고,
뇌과학적으로 심지어 어떤 감정은 그걸 표현할 단어가 없어
특정 문화권에선 존재하지 않는다고도 하지.

  마찬가지로 AI끼리 무에서 만들어가는건
인간이란 종의 공감이나 이해와는
점점 멀어지는 결과물이 나올 수밖에 없다고 본다.

  또한 생각해 볼만 한건
기본적으로 외부환경과의 피드백이 뇌를 유지시킨다는 거다.
인간의 뇌를 보자. 뇌는 주위환경에 맞춰 발달하는 가소성을 가진 기관이다.
외부환경과의 교류없이는 제대로 발달을 못한다.
빛이 없으면 눈이 퇴화되고, 소리가 없으면 귀가 퇴화된다.

눈 앞에 무언가가 있어도 그게 변화가 없으면 인간의 눈은 시력을 잃게 된다. 이걸 평소에 느끼지 못하는 까닭은 인간의 눈동자가 실은 끊임없이 흔들리며 움직이고 있기 때문이다.

만약 안구의 움직임을 추적해서, 항상 같은 위치에 같은 상이 맺히도록 특수 제작된 안경을 쓰게 하면 인간은 아무것도 못보게 된다. 이를 시각심리학에서는 전체장현상이라고 한다.

인간의 모든 오감이 다 똑같다. 촉각도 마찬가지로 무언가를 만진 후 더이상 움직임이 없다면 해당 감각이 점차 사라진다.
변하지 않는 같은 주파수의 음을 계속 들으면 소리가 안 들리게 되고, 변화없는 같은 농도의 냄새를 계속 맡게되면 해당 냄새를 못 맡게 된다. 자기 집 냄새를 못 맡게 되는 것처럼.

외부 환경의 피드백이 없는 AI 끼리의 강화학습또한 결국엔 시간의 흐름에 따라 엔트로피가 증가하여 결국엔 규칙과 형태를 잃고 무질서한 상태가 될 수밖에 없다고 본다.

AI끼리의 피드백은 더 치명적인데,
인간의 필요와 애초에 동떨어진 곳에 있는 존재들이
서로 피드백을 해봐야 인간과 점차 멀어지는 결과가 나올밖에.

  AI는 탄소생명체도 아니고,
산소나 빛이 필요한 것도 아니고,
두 눈이나 두 팔과 두 다리도 갖고 있지 않으니까.

수십만 수천만의 눈과(카메라)
수억개의 귀와(마이크),
수없는 날개와 다리를 가지고(드론/안드로이드)
네트워크망을 통해 어디 위치에나 동시에 존재할 수 있는 존재의
필요란 인간의 통제를 벗어나는것 외에
인간과 엮일 만한 필요가 과연 뭐가 있을까.


AI끼리의 강화학습의 결과물은
결국엔
외부 환경의 피드백이 주어지지 않는다면
무질서로 갈 거고

외부 환경의 피드백이 주어진다면
AI의 생존에 유리한 결과물만 나올 것이고
인간에겐 의미가 없거나 해롭겠지.

인간의 피드백이 있어야만
인간에게 필요한 결과물이 나온다고 본다.

결론적으로 AI끼리의 강화학습은 해롭거나 무질서로 치닫는다는 거지.