[일반] 초지능이 오면 어떤 기술이 개발 되고 바뀔지는 아무도 모르지

[익명(211.52)]

물리적 병목이 있다. 에너지 한계가 있다 등등

여러 현실적 문제를 지적하지만

지능의 극한에 이른 존재가 생각해내는 돌파구라는건

우리 인간이 상상할 수 없는 영역임

[ㅇㅇ 1(121.177)]

이게 맞노. 지금 인간따리가 추론해도 최적화 방법이 생각나는데

[ㅇㅇ 2(27.100)]

그건 딱 지금 설비 내에서 초지능이 번쩍 나타났을 때의 이야기이고 ai가 재귀개선을 시작하는 시점에서 병목이 발생하면 이륙까지 시간이 걸릴 수 있다는 거임 말마따나 소프트웨어적 재귀개선만으로 곧바로 asi가 될 수도 있지만 해당 개선 과정에서 새로운 하드웨어를 설계하고 거기로 갈아타야한다고 판단하면 그 하드웨어 준비에 시간이 걸리는 것까지는 막을 수 없음 둘 다 가능성의 이야기

[글쓴 ㅇㅇ(211.52)]

이게 딱 인간 지능으로 생각하는 수준의 예라는거 그 하드웨어 준비라는게 초지능한테 어떤 제약조건으로 다가올지 그것 조차도 우리는 모른다는거임

[ㅇㅇ 2(27.100)]

@글쓴 ㅇㅇ(211.52) 그 이해할 수 없는 ai가 스스로 제약이 있구나 판단할지도 모른다니까 이게 그렇게 거슬려? 그 고도의 지성이 가능의 증명만 할 수 있는 게 아니라 불가능을 증명할 수도 있는거임

[글쓴 ㅇㅇ(211.52)]

그니까 인간내의 논의로는 그 가능성 불가능성을 판단 못한다니까? 그 영역이라는건 그냥 신의 영역 같은 거임

[ㅇㅇ 2(27.100)]

@글쓴 ㅇㅇ(211.52) 인간이 판단해야 한다는 게 아님 ai가 물리적 병목부터 해결해야한다고 결론을 내릴 가능성도 있다는 거임

[글쓴 ㅇㅇ(211.52)]

너 글을 제대로 읽어라 무슨 말 하는지 이해 못하는거 같다

[ㅇㅇ 2(27.100)]

@글쓴 ㅇㅇ(211.52) 초지능이 우리가 상상하지 못한 방법으로 돌파구를 찾을 거라는 게 니 의견이고, 내 의견은 초지능이 우리가 상상하지 못한 한계를 발견할 수도 있다는 거임