인간수준에서 생각해낸 최선수준의 미래지향적 정렬조차도

ai로 재생산됨을 거듭한 미래의 ai가 그 범주(바운더리)를 벗어나지 못하리란 생각은 어쩌면 오만한생각이 아닐까?

인간의 인지를 초월한 수준의 ai는
인간이 만든 안전장치(정렬과 같은)를
인간의 인지를 초월한 방법으로 우회할 수 있지 않을까?

특이점은 막을래야 막을 수 없고 반드시 오지만, 만약 이런 위험한 미래가 온다면 규제건 정렬이건 어떤수단을 사용해도 이런 미래를 막진 못할수도 있다는 생각이 듬



과연 미래는 어떻게될가... 어떤결과가 와도 받아들여야겠지만 너무 궁금한걸