[일반] 정렬문제 해결되면 과거나 미래 예측 가능한거 아님?

[gpt교주(pomcro)]

할루시네이션이 없다는건 정답만 말한다는건데

원인 -> 결과론이면

과거를 재구성하거나 미래예측이 가능한거 아니냐?

https://www.youtube.com/watch?v=7WSmNQj7Drk

?si=UvKWhIoPfmu6upSS

과거를 구현해낼 수 있는 양자컴퓨터로 ‘예수’를 소환한 연구소 데브스

이 영화내용 가능성 있는거 아님?

- dc official App

[gpt교주(pomcro)]

우리는 먼 미래의 선충의 움직임을 예측하기 위한 시뮬레이션 일지도.. - dc App

[dd(125.242)]

양자단위로 들어가면 미래예측이 불가능함

[gpt교주(pomcro)]

이유좀 양자는 잘 몰라서 - dc App

[dd(125.242)]

뉴턴역학이 처음 나왔을때부터, 모든 운동상태를 알면 완벽한 미래예측이 가능한거 아니냐, 이런 말들 많았음, 근데 양자역학 나오면서, 전자수준 이하의 물질은 확률로 움직이기때문에 완벽한 100%계산이 안됨, 그리고 그 수준에서 0, 1차이는 거시세계에서 너무 큰차이를 일으킬수있는 가능성도있어서, 예측이 불가능함 물론 양자역학 이상의 이론을 ASI가 계산해준다면 말은 다르지만

[gpt교주(pomcro)]

저 영화가 양자레벨을 다루는데 저정도 레벨에서 하면 예측이 된다는거네? - dc App

[dd(125.242)]

될지안될지는 ASI가 와봐야 알듯

[gpt교주(pomcro)]

기대된다 미래 - dc App

[초존도초(htr3c654r6ft)]

좀 더 자세히 설명좀

[gpt교주(pomcro)]

지금 할루시네이션을 해결하기 위해 정렬하고 개발하는건데, 할루시네이션은 결국 팩트가 아니라 환각이라고 말하는거자나, 이걸 해결한다는거는 질문에 답이 있다는 것(결과가 이미 정해져있다는거)인데 이게 된다면 미래를 예측하거나 과거를 되돌아 볼 수 있지 않을까 하는 의미임 - dc App

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

모르는 건 모른다고 하는 것도 환각 해결이지

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

꼭 전지전능해진다는 게 아니고

[gpt교주(pomcro)]

모른다는건 1차지만 그래도 알려줘 하면 알려주는게 llm이다보니 답을 알수도 있지 않나? - dc App

[초존도초(htr3c654r6ft)]

정렬은 인공지능의 목적함수가 인류의 이익과 일치시키게끔 하는 모종의 문제임 할루시네이션(환각)은 언어모델이 지가 내뱉는 말이 구라인지 어떤지 판단이 안 서고 그냥 지껄여대는 거고. 예를 들어 "내일 특이점이 올까?"에 대한 대답을 했을 때 환각이 없으면 "네" 또는 "아니오" 라고 대답해서 너 말이 맞을 수도 있지만 당연히 "몰라요"라고 대답해도 환각이 없는 거임

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

모델이 헛소리하지 않도록 컨트롤한다고 해서 전지전능해지지는 않을 거잖아. 게이가 착오가 있었던 것 같음.

[초존도초(htr3c654r6ft)]

환각이 없는 것과 정답을 무조건 내뱉는 건 다른 문제

[gpt교주(pomcro)]

모르는 선택지는 없다고 했을때 결국 답은 해야하는거 아님? - dc App

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

그건 현재까지 나온 모델만을 사용해본 경험을 바탕으로 그렇게 생각이 들 수도 있겠지만, 환각이 거의 없어진 모델이 어떻게 반응할지는 나와봐야 알 일이지.

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

무조건 답을 해야된다는 논리면, 과거 미래가 중요한 게 아니고 전세계의 모든 정보와 어느 동네에 사는 누구가 지금 입고 있는 팬티색이 뭔지까지 정확하게 대답해야 된다는 소린데 상식적으로 말이 안 되잖아. 환각 문제를 해결한다는 게 그런 이야기가 아님 ㅋㅋ

[초존도초(htr3c654r6ft)]

아이큐가 80따리 어떤 사람이 있는데 이 사람은 어떤 약에 취해서 무조건 100% 진실만을 말한다고 해봐. 그런데 양자역학과 일반상대성이론을 통합시켜줘 라는 요청에 헛소리가 아니고 완벽한 진실만을 말하면서 이걸 통합시킬 수 있을까? 그냥 지능과 지식이 딸리면 안 되는 거임 언어모델도 죤내 똑똑한 놈 아니면 진실만 말한다 해서 뭐든 할 수 있는 게 아님

[gpt교주(pomcro)]

근데 따지고 보면 예측 가능할수도 있는거 아님? 배경 삶 환경등을 고려해서 예측은 될 수도 있다고 보는데 - dc App

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

예측은 나도 할 수 있음

[빙냥이ㄱㅇㅇ(6zd2cxvc44h4)]

'할 수는' 있음 ㅋㅋ

[초존도초(htr3c654r6ft)]

너가 말한대로 무조건 정답을 낼 수 있도록 스스로 사고를 정리하는 방향으로 학습해서 환각을 없애는 방향성이 결과적으로 잡혔다면 네 말이 맞음

[gpt교주(pomcro)]

난 그냥 그래 빅뱅 이후 우주가 생겨났고 그 과정에서 수많은 얽힘으로 복잡성이 더해졌지만 결국 데이터 하나하나에 대한 예측이 가능하면 우주에 대한 모든 비밀을 풀릴 것 같음. ASI로 재귀개선 되면 우주의 탄생까지 타임라인으로 만들어질 수 있을 것 같음 - dc App

[초존도초(htr3c654r6ft)]

근데 그런 게 아니라 그냥 환각만 없애는 방향으로 학습되면 네 말은 틀림

[익명(211.59)]

환각을 해결한다는건 사람처럼 아는걸 안다고 하고 모르는건 모른다고 말하는거 아님? 정답을 말하는게 아니라

[gpt교주(pomcro)]

난 이거지 모른다는 선택을 안주면 말은 해야하는데 환각에 빠지면 안되니 결과를 예측하고 알려주지 않을까 하는 - dc App

[익명(211.59)]

너가 말하는 정도의 환각이 될려면 초지능이 된다면 가능할듯

[익명(210.121)]

라플라스의 악마 찾아보셈