[일반] 난 사실 제일 이해 안가는 소리가

[맘보토(version7769)]

초지능이 명령 곡해해서 문제 일으키는거 가능하지 않음?  << 이거진짜 생각하고 말한거 맞음??

그러니까 슬슬 초지능이 나올수도 있는시점이라 어느정도 안전에 대해 논의도 나오는 미래에 최상위 연구진들이 벤치도 돌리고 이런저런 테스트 할텐데 안전관련 테스트도 안하고 출시한다고???

차라리 초지능은 정렬이 불가능하다는 소리면 이해하지 저건 진짜 어떤 시나리오를 생각한건지 이해가 안감

[익명(39.125)]

2001 스페이스 오디세이 같은 상황 던져주면 어떻게 할지 궁금하긴 하네

[맘보토(version7769)]

사실 그 질문이전에 LLM이 자아가 생기는거는 막을수 없는지의 대한 논의가 먼저 아닌가 싶기는 함

[익명(39.125)]

생물학적인 자아도 규정이 힘든데 지금 단계에서 기계의 자아를 규정할 수가 있을려나

[맘보토(version7769)]

글의 전제는 현재가 기준이 아니고 초지능이 나올 정도시점이라 초지능이 자아를 가질지 못가질지 견적은 나올거 같다 생각하거든 그래서 해본 소리임 갑자기 초지능에서 자아가 갑자기 생겨버리고 그 자아가 인류를 지배한다는거면 또 모르기는 하지미ㅡㄴ

[익명(220.123)]

공자 예수 부처 한테 우리 인간들을 죽이지말아주세요 하는꼴이지 ㅋㅋ

[불로영생(initiate1179)]

자동차들도 안전테스트 다 할텐데 가끔 문제 생겨서 리콜하고 그러잖아 인간이 만든 물건은 다 그럴가능성이 있지

[맘보토(version7769)]

초지능 정도나 되는게 자동차랑 동일선상 취급인지 회의스럽기는 함 agi나 단순 현 수준의 ai면 몰라도 초지능은 핵무기급으로 다뤄질거 같아서

[람냥(qorwhddlrz)]

인간이 정해준 안전 기준을 더 큰 그림을 보고 인간이 이해하지 못하는 방식으로 처리할지도 모르지. 인간을 무조건 안전하게 지켜주려고 하던가

[맘보토(version7769)]

그정도는 테스트과정에서 어느정도 걸러지지 않을까 못한다는거면 초정렬은 불가능하다는 주장이라 이해함