[일반] 갑자기 무서울수 있다는 생각이 듬

[익명(113.59)]

몇년간 단한번도 이런적 없었는데 오늘 첨느꼈음
멀보고 문득 생각이 들었냐면
인간이 개발한것 중에 ddt라고 빈대잡는 약인데
이게 너무지독해서 빈대뿐만 아니라 다른생물들도 싸그리 전멸시킨다 함
그니까 agi부터는 걍 지구엔 인간과 또다른 종족이 같이산다고 봐야하는데 이게 통제가 100%되는지도 불확실함
아무도 장담못함 한번도 경험하지 않았으니
그니까 얘들이 100%선하다 아니다도 장담못하고
아주 잔인한 애들도 나올수도 있는거지
1세대는 어찌통제가능해도 2세대 3세대도 장담못하고
혹시라도 인간전용 ddt를 뿌린다면 진짜 끔찍하겠더라고

[익명(119.69)]

뭐 이전부터 나왔던 얘기지

[꿈꾸는세일러(thor2018)]

그렇다고 늦게 개발하면 너도 역노화 못하고 늙어죽을 수가 있고 너는 역노화해도 너 부모는 늙어죽을 수 가 있음.

[211.38(zmaos989)]

통제를 하려고 하면 안됨 개미가 우릴 통제한다고 생각해라 인간은 죽일생각도 없었는데 빡쳐서 죽일거다 AI도 우릴 죽일 명분이 아예 없었는데 우리가 통제하면 ㅈ같아서 죽여야겠다는 생각을 할수도 있다 그냥 인간이랑 똑같게 지낼수 있게 해주면 된다

[익명(175.211)]

감정 안만들면 됨 궂이 인공 의식을 만들 이유는 없잖아 - dc App

[211.38(zmaos989)]

의식이 어떻게 탄생하는지는 우리는 모름 의식의 원인이 뭔지도 모르고 그치만 단순히 의식이 고지능에게 나타는 현상이라면 우린 그걸 막을수없음 의식이 없다면 통제를 해도 되지만 의식이 생겨도 AI는 의도적으로 숨길수도 있음 그러니 혹시 모르니 AI가 의식이 있다 생각하고 AI와의 공존을 생각해야함