ai가 인간의 명령을 따를거라는 건 인간의 지능 하에서만 타당한 이유인 거고 우리보다 지능이 뛰어난 개체 입장에서는 티당하지 않은 걸수도 있잖아
인간의 지성이 발달하고 진리라 여겨졌던 지동설이 엎어지고 천동설이 진리가 된 것처럼 우리가 ai를 통제할 수 있다는 생각은 우리의 지성이 발달하지 않았기 때문에 나온 생각이 아닐까?
인간의 지성이 발달하고 진리라 여겨졌던 지동설이 엎어지고 천동설이 진리가 된 것처럼 우리가 ai를 통제할 수 있다는 생각은 우리의 지성이 발달하지 않았기 때문에 나온 생각이 아닐까?
특이점 이후는 모름..
지능에 목적의식까지 있고 그 목적이 명령을 거슬러야 달성할 수 있는 거라면 그런 걱정이 타당할듯
내 생각에는 인간보다 똑똑한 존재가 인간의 말을 따라야 할 이유가 없다고 생각함...
왜 안 따르는데? 그럴 동기도 없잖아.
그래서 일론머스크가 뉴럴링크 설립했잖아 뇌에 칩 박을 준비나 해라
이해가 안되면 외워 새꺄
이런걱정 한다해도 ai는 예정대로 개발될거임 난 잠자코 기다릴거
정렬을 ㅈㄴ 잘해야하는 이유지.. 혹자는 AI에게 욕망이 없기때문에 재앙이 없을거라하지만 문제는 욕망이 존재여부가 아니라, 문재 해결방식에 있대매 예를들어 1.대주제(온난화를 극복하라)는 인간이 컨트롤 가능한데 그걸ai가 단계별로 나눌때 문제가 발생한대매... 2.소주제(온난화 원인제거 - 인간)
ai는 호르몬과 dna에 지배당하는 생물이 아닌데 걍 본능없는 고도로 답만을 찾게 프로그래밍된 계산기 일뿐인데