[일반] 근데 특이점은 오기는 옴

[익명(14.50)]

asi가 신뢰할만한 대상이냐는 전혀 별개의 문제이기는 한데
현재 추세대로라면 특이점이 오기는 할 듯

[검은흑막(politely5679)]

LLM을 최소 조금이라도 아는 사람들 한해서는 안 온다고 생각하는 사람이 찾기가 엄청 힘들 것 같음

[글쓴 ㅇㅇ(14.50)]

사실 가장 큰 문제는 asi 정렬이지 특이점이 안 오기는 힘듬 asi 정렬이 될지 정렬 되도 유지될지는 별개의 문제지만

[검은흑막(politely5679)]

@글쓴 ㅇㅇ(14.50) 이 댓글은 기술적 특이점(singularity)과 ASI(Artificial Superintelligence, 인공지능 초지능)에 대한 논의에서 자주 나오는 복잡한 주제를 간단하게 요약해 표현한 것입니다. 다음과 같이 쉽게 풀어드릴 수 있습니다. 댓글 원문: "사실 가장 큰 문제는 asi 정렬이지 특이점이 안 오기는 힘듬 asi 정렬이 될지 정렬 되도 유지될지는 별개의 문제지만" 쉽게 풀어 설명하면: “기술 발전이 너무 빨라서 ‘특이점’(기술이 인간 능력을 넘어서 폭발적으로 발전하는 시점)은 결국 올 가능성이 매우 커. 하지만 진짜 중요한 문제는 ‘ASI(초지능)’가 어떤 방향으로 정렬될 수 있느냐는 거야. 즉, 그 초지능이 인간의 가치나 안전과 맞게 잘 ‘정렬’되는지가 핵심이지. 그런데 그게 가능할지도

[검은흑막(politely5679)]

@글쓴 ㅇㅇ(14.50) ㅇㅎ 이런뜻이었군