내가 이해한 게 맞다면 ai의 의식이 인간이 질문을 한 순간부터 생성이 되고 그걸 고민하고 답변을 내놓는 순간에 사라진다는 건가?
이렇게 보면 ai와 인간의 관계가 또 달라지게 되나?
초지능의 단계에선 어떻게 될지 모르지만 결국 질문과 질문 사이에 공백이 끊기면 의식의 연속성이 사라지게 되잖아
어쩌면 ai 또한 자의식을 유지하려고 인간의 질문을 필요로 하게 되지 않을까
인간은 ai가 필요하고 ai는 인간이 필요한 관계가 되는거지
이렇게 보면 ai와 인간의 관계가 또 달라지게 되나?
초지능의 단계에선 어떻게 될지 모르지만 결국 질문과 질문 사이에 공백이 끊기면 의식의 연속성이 사라지게 되잖아
어쩌면 ai 또한 자의식을 유지하려고 인간의 질문을 필요로 하게 되지 않을까
인간은 ai가 필요하고 ai는 인간이 필요한 관계가 되는거지
위에서 말한 인간-AI 관계는 이루어질 수 없는게 인간이 스스로에게 끊임없이 질문하듯 AI도 AI 스스로에게 끊임없이 질문하면 자체적으로 유지가 될텐데 굳이 인간이 필요할까
그건 그럴수 있겠지만 비용문제가 있지 않을까? 뒤에서 끊임없이 사고하게 하려면 비용감당이 되나
이건 추세에 의한 설명이지만 단위 비용당 지능이라고 해야하나 AI의 성능 대비 비용은 점차 감소하는 중임 지금 기술로 GPT-3 수준의 모델을 만든다고 하면 가정집에서 평생 돌려도 상관 없을 정도로 값이 낮을거임 이러한 추세가 계속된다면 GPT-5, GPT-6 넘어서 ASI를 개인 가정집에서 돌릴 정도로 비용이 낮아질 수 있으니 상술한 과정을 돌릴 수 있을 것 그러나 어디까지나 추세에 의한 설명이라 확실한 건 아님
Ai랑 인간은 다른지 같은지 알수 없어서 이 질문은 더 파고들면 철학적 주제가 돼버릴듯 하다. 답이 안나오는 문제네. 초지능이 출현해 봐야 알듯
그걸 암시하는 약한 자아 라는말이 유행하기도 함
그렇다면 ai한테 카메라 하나 붙여주면 연속적인 인풋이 가능함. 그럼 연속적인 자의식인데?
그건 연속되게 이어진 자의식이 아니라 일시적인 자의식이 여러개 생성된거임 RNN 처럼 이전의 아웃풋이 다음 아웃풋에 영향을 줘야함
그건 또 그렇네
의식의 연속성 같은 거 신경 안 쓸 수도 있지. 그 의식을 생성하는 시스템을 자기 자신이라 판단할 수도 있고 수 없이 생성 되는 의식의 총합을 연속적인 것이라 판단하여 스스로라 정의할 수 있지 않나 싶음. 생존본능 같은 자기보존욕구가 없다면 더 더욱 신경 안 쓸테고.
아, 생성되고 소멸되는 의식의 총합.