[일반] AGI 관점에서 보면 방향을 완전히 잘못 잡고 있다고 생각함

[익명(211.220)]

AI 기술이 AGI로 나아가려면 환각을 없애려고 접근하면 안됨.
환각 없는 AI는 과거에 실패했던 논리시스템이랑 다를게 없음.
자동화 기계가 목적이라면 올바른 방향이겠지만 AGI는 환각을 포함해야 될 것 가타..

[익명(221.166)]

환각 0%가 물리적으로 불가능하니까, 인간 지능도 환각이 아예 없다고 보장할 수 없음

[Asi(worship5388)]

인간 지능도 환각이 0인게 아님. 과학의 발전은 실험과 실증으로 이뤄졌어. 통계와 경험, 수학적 증명이 전부 다 맞아야 정설로 받아들이잖아. 정답을 찾기 전까진 과학자 수학자들도 환각이 섞인 틀린 가설들을 수정해가면서 연구하는거야. 연구자들은 수많은 환각 시행횟수 끝에 정답에 수렴해가는 사람들이지.

[Asi(worship5388)]

인간 환각의 대표적인 예는 천동설과 양자역학 부정론이었지.

[ㅇㅇ 1(210.204)]

아인슈타인도 환각 있었네 ㅋㅋ

[글쓴 ㅇㅇ(211.220)]

ㅇㅇ 그래서 벤치에 환각을 없앴다, 몇 % 줄였다가 의미 없는 시도이고 AI 발전을 측정할 수 있는 지표로도 기능하지 못한다고 생각해. 물론 당장 쓸 AI를 만드는데는 유의미한 지표임. 근데 그렇다면 현대 AI계의 목표는 AGI가 아니라고 봐야할 것 가타

[Asi(worship5388)]

환각 최소화를 목표로 할 수 밖에 없지. 수율 100%를 목표로 제품 만드는 하드웨어 업체는 현실적으로 존재하지 않으니. 근데 난 0.1% 까지 환각률을 낮춰서 현실에서 쓸만해지는 수준까지 발전했는데도 여전히 100% 정복 못했으니 agi는 허상이다 라고 말하는게 꼴보기 싫을 뿐이야. 그건 반박을 위한 반박임

[익명(none3330)]

마찬가지 논리로 장기기억도 100% 다 기억 할 필요도 없음 지금 그 두 문제해결에 집착하는거 자체가 발전 지체임.

[ㅇㅇ 2(220.84)]

temperature 개념처럼 환각에 대해서 다양한 조정이 가능하면 좋겠는데 말이야

[ㅇ(210.221)]

공감