[일반] 지금 재귀개선이 안되는 근본적인 문제가 뭐냐

[익명(irritate5221)]

세상이 너무 복잡해서 보상함수 설계가 어려운거임?

[ㅇㅇ 1(115.22)]

ㅇㅇ

[ㅇㅇ 1(115.22)]

출력물에 대한 옳고 그름을 판단할 수 있는 절대적 규격이 없거나 모름

[익명(irritate5221)]

@ㅇㅇ1(115.22) 그럼 씨발 영원히 안될수도 있는거 아님?

[ㅇㅇ 1(115.22)]

@ㅇㅇ 그래서 공동연구로 가는거임 본인이 연구하는 분야의 논문을 넣어두고 같이 생각하면서 딸깍이는거

[ㅇㅇ 1(115.22)]

@ㅇㅇ 생각하다가 막히면 딸깍이고 거기서 괜찮은거 끄집어내서 연구논문에 추가하고 또 생각하고 실험해보고 그런거임

[익명(irritate5221)]

@ㅇㅇ1(115.22) 결국 연구자가 반드시 동행해야하네....

[ㅇㅇ 1(115.22)]

@ㅇㅇ ㅇㅇ 가챠가 너무심함 한번 뽑힐땐 황금거위인데 나머지가 다 쓰레기임

[ㅇㅇ 1(115.22)]

@ㅇㅇ 그런데 그 '가챠' 하나만 보고 쓰는거임 가챠가 모이고 모여서 결국 과학적인 발견이 일어나는거지

[익명(sguyff)]

걍 명확한 방법론조차 아직 안나옴

[익명(sguyff)]

포커류에서는 결국 제로섬 게임이니 보상함수 설정이 쉽고 강력한데 반해 현실은 가치판단요소가 너무 많아서 ai가 생각할 때 딴 길로 빠질 여지가 너무 많다고 함

[ㅇㅇ 2(218.54)]

정답을 모르는게 대부분이라 그럼 판단을 못함 오죽하면 재귀개선은 agi가 해결할거라는 말도있을까