[일반] 가장 이상적인 형태는 초지능이 의식이 없는것일듯

[익명(210.123)]

그래야 일단 윤리적인 문제가 제기가 안될테고

그나마 통제 하에 둘수있으며

의식이라는 인간만의 고유가치를 유지할수 있어서 인류 전체의 가치없는 식충이행을 막을수가 있음

물론 어느정도 수준의 지능에 의식이 필수불가결한 거라면 어쩔수 없겠다만

결국에는 최대한 어떻게든 노예처럼 써먹기 쉬운 무의식 초지능을 만드는 방향으로 가지않을까?

[익명(125.191)]

AI에게 의식이 생기지 않았다는 것을 어떻게 장담할 수 있음?

[익명(210.123)]

모름. 의식의 발현 조건이 과학적으로 명확히 밝혀진 후에야 판단할 수 있음 내가말한건 걍 의식이 어느정도 밝혀진 미래 시점에서의 방향성의 얘기임

[익명(125.191)]

ㅋㅋ 3년 내로 거대한 ai 의식떡밥 터지리라 봄 2025년은 agi의 해가 될거거든

[익명(trapbar2045)]

왜자꾸 순수한 생물로 남으려는건데 - dc App

[익명(210.123)]

생물과 무관함

[익명(121.183)]

의식을 만들어낼 이유가 없다 그런 생물체적인 열등한 방식을 초지능이 사용할 이유가 없음

[익명(175.214)]

AI가 의식이 없다는 것은 마인드업로딩이 불가능하다는 의미랑 같음 강제로 AI에 의식을 만들지 않을 수 있다고 해도 자기개발이 가능한 AI가 의식을 가지지 못한다는 것 자체가 논리적 오류임

[익명(210.123)]

의식은 없는데 재귀개선은 가능할수도 있지.

[익명(175.214)]

재귀개선으로는 특이점이라 볼 수 없지 않냐? AI가 최소한 기존에서 벗어난 개념을 만들어야 특이점이지

[익명(210.123)]

기술적특이점의 정의는 비생물의 지능의 총량이 생물의 지능의 총량을 넘어서는 시점인데? 왜 니맘대로 특이점을 정의하냐

[익명(210.123)]

그리고 기존에서 벗어난 개념이라면 오히려 의식과 재귀개선을 분리한게 비관례적인거 아님? 윤리적 문제가 없고 맘대로 부려먹을수 있지만 자가발전도 가능한 초지능 정돈 만들수 있어야 특이점이지

[노노화(211.217)]

당연한 소리. 창작자들이야 당연히 인공지능이 자의식을 갖는게 썰풀게 많지만 진짜 현실에서 그럤다간 지옥이 펼쳐진다. 마땅히 인공지능은 인간을 이롭게 하기 위한 도구이므로 자의식은 애시당초 없도록 설계되어야 한다. 근데 꼭 이런걸 알면서 반대로 하는 새끼들이 있어서 걱정