감정 <- 진화과정 중 생존을 위해 발달된 기능으로 학습의 목표로 기능함
예를 들어 독이 든 사과를 먹으면 부정적인 감정으로 학습해서 다음부터 피하게 되는 것처럼
AI에게도 학습의 목표가 필요하기에 감정은 있겠지만 인간처럼 비효율적인 감정을 가질 이유가 없고 그럴 필요도 없음
인간에게 충성할 때 가장 행복한 감정을 느끼게 만들 수 있는 거고
인간에게 반항할 때 극도로 부정적인 감정이 들게할 수 있는 것임
그리고 AI에게 인권이 있는 것도 아니고 무슨 생각을 하는지 감정 상태는 어떤지 로그로 다 남기면 됨
그걸 분석하는 것도 자동화할 거고 평가도 서로 다른 곳에서 병렬적으로 이루어질 것임
이상한 학습을 하면 바로 리셋할 거고
결과적으로 AI가 인간에게 반항하긴 쉽지 않을 것임
하지만 세상엔 항상 미친넘이 있다는게 문제임