AI는 인간의 선호를 바탕으로 발전한다
초기 연구단계엔 연구진이 일일히 집어넣는 '정답', 또는 미리 정렬된 수많은 정답지...
그리고 민간에 공개될 땐 무의식적 피드백을 받아먹고 자란다
예시로 다들 사용하는 유튜브는 썸네일 어그로와 클릭률, 컨텐츠와 재생시간, 좋아요-싫어요와 다음 영상 노출도 등등...
모두 사람의 무의식적 피드백에 의해 보여주는 것이 바뀐다
여기서 더 나가면? 특이점 시대에선 어떤 피드백을 받고 자라는가
바로 뇌의 신호를 직접 받는 것이다
뇌의 신호를 직접 감시하기 때문에, 별도로 키보드/마우스 조작을 하지 않아도 자동으로 AI에 정보가 들어갈 것이다
그렇게 되면 시청자가 영상을 보며 감동을 받거나 즐겁다고, 지루하다고 느끼기만 해도 피드백으로 반영이 된다
이제 슬슬 감이 올 것이다. 이 단계에서 유튜브 감상이라는 것은 이미 노동으로 바뀌었다
다들 걱정하는 것이 "권력자들이 우릴 살려둘 이유가 있을까?" 인데, 이건 그 걱정을 덮어줄 것이다
특이점 시대에도 일반인들의 가치는 있다. 미래엔 단순히 AI의 작품을 감상하는 것만으로도 노동이 된다
이건 약인공지능 수준의 얘기고
강인공지능쯤 되면 그런 피드백을 따로 받을 필요가 없지 혼자 시뮬레이션만 돌려도 되겠는데
뇌를 시뮬레이션할 기술이 있다 해도 현실의 선호도와 차이가 생기면 대참사가 날 수도 있다
결국 현실의 정보를 바탕으로 시뮬레이션을 조정해야 한다. 결국 어느 정도는 필요한거다
아무 피드백도 없는 곳에서 피드백을 시뮬레이션하며 혼자 AI를 돌리는건 꿈속에서 뇌내망상으로 깡패를 패고 다니는것과 다를 게 없지
그게 가능한게 바로 강인공지능이라는 존재잖아 만에하나 설령 그게 적용된다 쳐도 극히 초기의 강인공지능에게 한정되는거고 어느정도 성장한 강인공지능에겐 필요없지
특이점 이론 자체가 강인공지능의 셀프 재귀개선을 가정하고있는건데 뭐 뉴비냐 아니면 새로운 이론이라도 만드려는거냐
이 댓글은 게시물 작성자가 삭제하였습니다.
그것도 사람의 피드백을 바탕으로 성장하는거지. 인터넷 여기저기에 널려있는거든 뭐든간에
강인공지능을 만능의 마법상자로 생각하는거 아니냐. 그것도 결국 정답이라는 먹을것은 필요하다
강인공지능이 초월적인 만능의 존재는 아닐지언정 최소한 인간이 가능한 두뇌활동은 강인공지능도 다 가능함
인간한테 줄 수 있는 역할이면 결국 혼자서도 할 수 있는거지
그 부분에서 대참사가 날 수 있으니 우리에게 어느정도는 배분될 것이다.. 라는게 요지인데 그정도까지 될 것인가 어떤가는 지금 우리가 모르는 영역이지 않니
약이 상용화되고 할때 기득권들은 맞기싫어하고 위험도때문에 꺼리니까 우리같은 일반인들중 원하는사람들에게 할려고 할거란말이지. 그렇게 되면 특이점시대에서도 우리들의 가치는 있지.
강인공지능이 못하는건없다 심지어 인간의 역할까지도
화학작용 정도는 충분히 시뮬레이션 가능하지
뇌의 동작도 화학작용이 아닌가? 라고 생각할 수도 있는데.. 가능성은 있지만 여기부턴 아직 우리가 모르는 일이니까 미지의 영역으로 남겨두자
특붕이들 인생이 실은 노동현장이었다면?ㅠㅜㅜ