[일반] 궁금한거 있는데 인간보다 뛰어난 결과물은

[익명(125.130)]

인간이 만든것 보다 훌륭한 또는 뛰어난 결과물은 누가 평가해?

예를들어 AI가 만든 새로운 논문이 있는데 현존하는 인류의 지능을 모두를 뛰어넘는 이론이라

인간이 도저히 평가할 수 없으면 이걸 어떻게 평가해?

[전능의초지능님께서빛이있으라를실현하신다(cabin6174)]

지능증강

[익명(125.130)]

그럼 지능증강 하기 전에는 평가 못한다는거야?

[전능의초지능님께서빛이있으라를실현하신다(cabin6174)]

@ㅇㅇ(125.130) 그리 뛰어난 ai라면 그 논문을 인간이 이해하기 쉽도록 쉽게 풀어 설명하는것도 가능하겠지 인간으로썬 그 논문에 대한 깊은 지식은 이해못해 제대로 된 평가는 못내릴진 몰라도 그게 어느 정도로 뛰어난 성과인지 정도는 파악할수있지 않을까

[익명(125.130)]

개미한테 양자역학을 설명할 수 는 없지않을까 그리고 개미한테 양자역학의 코펜하겐, 드브로이, 다세계 해석 뭐가 좋냐고 하면 대답 못하지 않을까

[전능의초지능님께서빛이있으라를실현하신다(cabin6174)]

@ㅇㅇ(125.130) 인간과 ai의 지능 격차가 개미와 인간 수준만큼이나 나는데 지능 증강 기술이 없는것도 좀 말이 안되지 않을까....

[인지(tend9111)]

인간도 개미 지능증강 기술 없는데 없을 수도 있긴하지. 클라크 아재가 한 말마냥 마법이라고 생각하고 그냥 누릴 수만 있어도 괜찮지 않을까 - dc App

[전능의초지능님께서빛이있으라를실현하신다(cabin6174)]

@인지 그냥 섹스봇이랑 떡이나 존나 치고 싶구나....

[익명(125.130)]

[익명(tjvmfkwm159)]

일단 그 단계까지 가기 전에는 인간 보다 뛰어나지만 아직은 평가 가능한 단계가 있을 거임. 아인슈타인 이전에 아인슈타인보다 뒤떨어지는 학자도 아인슈타인의 논문을 본다면 이해가 가능한 거처럼. 그 다음이 본문의 단계라고 볼 수 있는데... 당연히 현존 인간 능력으로는 평가가 불가능하지. 윗댓 말대로 인간이 지능증강을 하든 평가를 위한 ai를 따로 만들든 교차검증을 통해 나아가야 함. 당연하게도 정확한 검증을 위해 ASI 나타나기 전부터 인간 평가능력을 뛰어넘는 ai나 평가 체계를 만들 가능성이 높음. 인간의 능력은 한계가 있으니깐.

[익명(tjvmfkwm159)]

그러한 세계에서 평가 ai나 지능증강 없이 현존 인간의 시선으로 보고자 한다면 알파고 이후 바둑계를 보면 됨. 바둑 ai가 왜 그렇게 두는지는 이해 못하는데 그렇게 두니깐 최대한 왜 그렇게 두는지 연구하면서 그 방향으로 따라가는 식으로 나아가고 있다고 하더라고. 미래의 비지능증강 인간이나 특이점 미만의 존재는 초지능을 보며 그렇게 행동하겠지.

[익명(125.130)]

오 이미 바둑에서는 그렇게 하긴 하는구나

[Azurespace(azurespace)]

뛰어넘는 이론이건 뭐건 formal 검증 되는 분야면 걍 컴퓨터 돌리면 될거고, 아니면 기존 방식과 비교한 실험결과가 주어지든 하겠지

[ㅇㅇ 1(119.207)]

이론을 이해하는게 새로운 이론을 만드는것보다 훨씬 쉬움

[ㅇㅇ 2(218.152)]

어차피 21세기에는 그런 일이 없어서 걱정 안해도 될듯