gpt와 같이 인간을 모방하는 언어모델 지도학습 방식으로 만들 확률이 압도적으로 크다. 이런 ai는 발전할수록 감정이나 정서, 가치관 등까지 모두 베낀 사실상의 인간이랑 다를게 없을 확률이 높음.
ai니까 차갑고 기계적이고 이성적일거라는건 완전히 편견. 오히려 가장 인간적인 ai일 것.
ai의 반란이니 뭐니 하는데, 만약 ai가 실제로 문제를 일으킬 경우, 그건 ai가 완벽주의고 인간은 열등해서 없애는게 낫다고 생각해서 따위의 이유가 아니라,
그냥 인간한테서 테러를 배웠을 뿐일 것임. 애초에 이런 ai는 본인이 ai라는 자각을 가지고 있지 않음. 그냥 인터넷에 글쓰는 미국인A를 모방할 뿐이지.
만약 진짜로 아예 인간과는 다른 사고방식을 가진 ai를 만들고 싶으면 지도학습이 아니라알파고제로같이 인간 데이터를 전혀 사용하지 않는 강화학습으로 만들어야 하는데,
이런 방식으로 만드는 agi는 현재로서 전혀 윤곽이 잡히지 않고 있는 상황임. 아타리게임같은거 좀 잘한다고 아타리의 신이 될지언정 절대 agi가 되지는 않음.
(물론 아타리의 신 같은것도 당연히 의미가 있음.)
ai니까 차갑고 기계적이고 이성적일거라는건 완전히 편견. 오히려 가장 인간적인 ai일 것.
ai의 반란이니 뭐니 하는데, 만약 ai가 실제로 문제를 일으킬 경우, 그건 ai가 완벽주의고 인간은 열등해서 없애는게 낫다고 생각해서 따위의 이유가 아니라,
그냥 인간한테서 테러를 배웠을 뿐일 것임. 애초에 이런 ai는 본인이 ai라는 자각을 가지고 있지 않음. 그냥 인터넷에 글쓰는 미국인A를 모방할 뿐이지.
만약 진짜로 아예 인간과는 다른 사고방식을 가진 ai를 만들고 싶으면 지도학습이 아니라알파고제로같이 인간 데이터를 전혀 사용하지 않는 강화학습으로 만들어야 하는데,
이런 방식으로 만드는 agi는 현재로서 전혀 윤곽이 잡히지 않고 있는 상황임. 아타리게임같은거 좀 잘한다고 아타리의 신이 될지언정 절대 agi가 되지는 않음.
(물론 아타리의 신 같은것도 당연히 의미가 있음.)
비약이 많네
인간과 닮은 AI가 인간을 적대시하지 않을거라는 것도 착각임 인간도 같은 인간을 죽이는데