[📪정보] AI 시스템 작동 원리

[딥마인드(open6422)]

https://www.aitimes.com/news/articleView.html?idxno=169978

아모데이

https://www.mk.co.kr/news/it/11302750

“인류, AI 작동원리에 무지”…AI 모델의 MRI 만들겠다는 ‘이 남자’ - 매일경제

본문 중

“AI 시스템은 나날이 그 기능이 발전하고 있지만 이 시스템이 정확히 어떻게 작동하는지를 아는 사람은 거의 없다”고 지적했다. 기술이 빠르게 발전하며 AI는 점점 더 똑똑해지고 있지만, 좀처럼 줄지 않는 ‘환각 현상’은 여전히 연구자·개발자들을 괴롭히고 있다. 환각 현상이란 대화형 인공지능에서 존재하지 않거나 맥락에 관계 없는 답을 마치 진실인 듯 자연스럽게 내놓는 것을 말한다. 이같은 환각 현상은 AI의 신뢰도를 낮추는 문제로 이어진다. 연구자들이 답을 찾기 위해 여러가지 연구를 진행하고 있지만 아직까지 환각 현상이 나타나는 이유에 대한 명쾌한 답은 없는 상황이다.

AGI로 가기 위해서는 결국 AI 모델의 블랙박스를 투명한 상자로 만들어야 한다.

[초존도초(htr3c654r6ft)]

그러나 최근 인터뷰에서는 환각은 인간보다 낮으므로 AGI로 가는 길에 결코 문제 되지 않는다 - 2025 AGI

[익명(haircut2819)]

아모데이는 환각때문이 아니라 정렬을 염두에 두고 한 말인데 기자가 멋대로 이어붙인거임 - dc App

[익명(rain8698)]

트랜스포머가 왜 돌아가는지 모르고 어 잘 돌아가네? 에라모르겠다 이방향으로 가속 ㄱ ㄱ 한게 지금 상태라던데

[약팔이아님(vital7966)]

다 아는데 세세하게 일일이 설명해주기 어려울뿐임