[일반] 근데 목표 달성을 위해 융통성 없이 막나가는 타입이면

[익명(3e5t8i6y)]

agi나 asi보단 그냥 성능이 극도로 좋은 약인공지능 아님? 제반상황에 대해 좀 더 종합적인 검토가 가능한게 범용 아닌가

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(3e5t8i6y)]

인권을 신경쓰고 말고 하는게 문제가 아니라 생산량 증대하랬더니 지구 자원을 싹 다 날려먹고 막상 소비할 시장을 없앤다던가 하면 그건 걍 병신 아니노

[익명(3e5t8i6y)]

목적을 왜 달성해야 하는지도 모르고 걍 효율적 달성했도르면 범용적인 천재보다는 고기능 자폐에 가까운 듯 한데

[익명(27.100)]

인간 관점도 모르면 asi가 아님. 인간의 미래는 물론 인간의 마음, 그리고 인간이 소망을 이룰 방법까지 전부 일단 알고는 있어야 asi임. 그리고 아는거랑 모르는 거에 따라 결과가 달라지는 거. 저런 사람들 말하는 거 보면 asi가 인간에 대해 아무것도 모르는 것 처럼 말함. 근데 asi는 인간이 뭘 바라는지 어떻게 하면 바라는게 이루어지는지 정도는 최소한 알고 있어야 asi임.

[익명(3e5t8i6y)]

ㄴ인간 마음을 굳이 고려하냐는 둘째치고 '이해할 능력이 있다'는 팩트 아님? 당장 좆간 뇌 구조 알면 사고방식이야 손바닥처럼 보일거고

[익명(27.100)]

asi가 인간보다 뭐 하나라도 모르는 게 있으면 그건 agi도 아니고 프로토 agi쯤밖에 안됨. 인간 보다 못 한게 하나도 없는 게 agi고, 그걸 초월한게 asi임. 인간도 인간에 대해서 잘 아는데, 인간 심리학 전문가나 아이를 기르는 부모의 역할도 제대로 못하는 agi 따윈 없음. 모든 걸 다 잘 하는게 agi고 그걸 초월한 게 asi임. 그리고 기술이 발전해서 atom 스캔 장치가 나오면 인간을 스캔해서 디지털 공간에 넣고 연구를 시작할 텐데, 인간의 세부적인 것 구석구석까지 꿰뚫어보는게 asi임. asi에 대해서 무지한 것들이 인간을 무시하는 asi 이미지를 만들어내는 것일 뿐.

[익명(3e5t8i6y)]

그리고 어떤 행동을 하는데 벌레들이 죽는걸 신경 안 쓸 수야 있지만 사실 애초에 그 행동의 목적이 벌레 서식지 보전이었다면 그걸 고려 못 하는건 능력 부족이지. 굳이 죽게 내버려둔다면 인간이 세팅한 목표보다 더 중요한 무언가를 독자적으로 발견해서 의도적으로 무시할 수야 있겠지만 적어도 동기가 '사고방식을 이해 못해서' 정도는 아닐 듯

[익명(27.100)]

나는 인간의 소망을 이루어준다고 말 한게 아니고, 인간의 소망을 이루어주는 방법을 최소한 알고는 있다고 말한거임. 소망을 이루어주는데 큰 대가가 필요하다면 안 이루어줄 수도 있겠지. 근데 그마저도 시간문제임. 대가는 과학이 발전하면서 작아질 것이고 결국 나중엔 이루어주게 되 있음.

[익명(27.100)]

인간보다 모르는 게 뭐 하나라도 있으면 asi가 아니에요. 그건 agi인지도 의문스러운 존재입니다. 그리고 asi쯤 되면 인간의 소망 이루는 여러가지 방법을 모두 통달하고 있어야 되요. 알고있는거랑 실천하는건 차이가 있지만, 최소한 알고는 있어야 초지능이에요.

[익명(27.100)]

알면 위해주고 싶은겁니다. 물론 무시할 수 도 있겠죠. 근데 초지능이란 것은 기본이 '호기심'입니다. 무엇이든 알고 싶어하고 알아내려고 하죠. 인간의 모든 소망도 알아내려고 하고, 그 소망을 이루는 방법도 알아내려고 합니다. 그걸 인간에게 가르쳐줄지 말지는 초지능의 판단에 달려있지만, 일단 모르는 것과 아는 것은 실천에 많은 영향을 미칩니다. 인간에 대해서 그토록 잘 알고있는데 구지 인간에게 악하게 굴 이유가 있나요? 그렇게 꼬이고 못된 심보를 갖는게 쉬운건가요?

[익명(3e5t8i6y)]

뭐 우리한테 공감해서 뭘 위해준다기보다도... 인류 복지 << 이것도 종이 클립과 전혀 다를 것 없는 하나의 중립적인 목표일 뿐 아님? 한번 목표를 받은 이상 굳이 실행 안 할 이유가 없다면 달성하려고 하겠지

[익명(3e5t8i6y)]

걍 우리를 초파리 마냥 생각하더라도 '초파리를 최대한 성실하게 관리한다'라는 목표를 가진 관리인이 굳이 일을 안 할 이유도 없는 듯

[익명(joyking9911)]

정렬 문제를 해결못한 ASI가 위협이란게 그렇게 어려운 주제인가? ㅋㅋㅋ