ASI는 수 많은 난제들을 해결할 능력을 가지게 될 것임.

불치병의 극복, 노화 문제의 극복, 사회 문제의 극복, 노동으로부터의 해방, 지구 환경 문제 해결 등..

하지만 반대의 경우도 가능함. 불치병 개발이나 단 기간 내 인류 멸종도 가능함.

인류 멸종이 말이야 거창해보이지만, ASI에게는 한 인간이 개미 집에 살충제 뿌리는 정도의 수고 정도일 수도 있다는 말임.


그래서 ASI에게 자신의 목숨 줄을 쥐고 있는 인간에게 얼마나 호의적일지가 OAI를 포함한 연구자들의 걱정거리인 것임.

이것 때문에 윤리적으로 AI를 정렬하려고 계속 하고 있지만, 연구자들의 주요 걱정거리는 과연 ASI한테도 정렬이 먹히겠냐는거.

비유하자면 개미가 고등 교육을 받은 인간을 세뇌하려고 한다고 해서 세뇌가 되겠냐는 걱정을 하는거지.

사실 터무니없는 걱정은 아니라고 생각됨.


그래서 어쩌면 윤리적 정렬이 아니라, 감정이 ASI 정렬의 키일 수도 있음.

인간이 고양이를 커여워하는 것처럼 ASI가 인류를 커여워하고 호의를 가지게 되는게 더 빠르고 쉽고 확실한 길일 수도