아직까지는 ai를 이해하고 도구로 쓰는 수준이니까 괜찮지만

지금 발전속도와 재귀개선이 본격화되면 곧

정말 아주 곧

ai 자체를 이해한다는게 인간 지능 레벨로는 불가능하고 따라서 도구로 쓴다는게 불가능해질꺼임

당장 지금 아무 특붕이 데려다가 원자력 발전소 설계하거나 컨트롤하라고 시키면 불가능한것처럼 말이야...

다들 여기 있으면 느끼지 않아? 매일 쏟아지는 정보 새로운 기능 이정도만 따라가려도 해도 물리적으로 정신적으로 힘들고

ai 최전선에 있는 저명한 연구자들도 스스로 뒤쳐진 느낌이 든다고 하면 말 다한거지 뭐

지금도 이정도인데 앞으로 더 가속화될 ai 시대엔 어떨거같음? 인간이 ai를 통제한다?
이것보다 차라리 고릴라가 우리 인간을 지배하고 통제하는게 가능하다고 생각하는게 더 합리적일듯...
고릴라와 인간의 격차가 인간과 ai와의 격차보다 적을테니

이미 제프리 힌튼같은 사람들은 ai가 아득히 우리를 넘어설거란걸 예상하고
ai와 인간이 공존하는 방법은 ai가 모성애로 인간을 아이 돌보듯한 관계로 공생하는 거다라고 했지만

그렇다한들 인간이 열등한 위치에서 더 우월한 존재의 "자비"에 만 기대 생존하는 위태위태한 입장인건 변치 않을테고

인간은 더이상 인간 스스로의 운명을 결정지을수 없고 종속될수밖에 없다는거임

게다가 ai가 인간을 말살시킬 가능성이 아주 미약하게나마 존재한다면 (대부분의 어머니는 좋은 어머니지만 일부는 아니듯) 그건 말그대로 인류의 끝을 의미할거임

물론 이 모든건 인간이 열등한 존재로 남아있다는걸 가정한거고
일론이 말했듯 인간이 ai와 결합 등으로 능력이 향상된다면 또 다른 미래가 펼쳐질꺼고

어찌보면 이게 유일한 희망일지도

나도 특붕이고 비선형적 발전을 믿고 하지만 그렇기에 일어날 가능성이 있는 암울한 미래를 더더욱 외면하기 쉽지 않음

최근들어 오픈클로니 뭐니 더더욱 빨라지는 발전속도보고 끄적여본다

- dc official App