자주 본것들은 대답 잘하는데
평소에 보기 힘들거나 진짜 전문가 수준으로 숨은 정보가 많아지면
논리적인 실수를 많이해.
정말로 생각하는 인공지능은 자신이 어디까지 생각할 수 있고 어디부터 어디까지 생각해야하며 생각하는데에 또는 답을 도출하는데에 몇시간이 걸리는지에 대한 메타인지가 있어야함.
근데 현재로써는 그런게 없음.
A를 보고서 분석해서 B를 내놓는게 아니라
A와 A를 분석해낸 B 사이의 통계적 특성만 달달 외워서
C가 들어오면 D를 예측해낼 뿐이야
- dc official App
애초에 논리를 만드는게 아니라 방대한 정보사이에서 프롬프트로 노이즈 제거하는 방식이라 아직 초 지능 완성이 안됐으니 추론이 빈약한거지
커널 소스 직접 다운해서 코드 고치고 개발하는 툴 사용해서 개조해야하는데 보안이 어쩌구 저쩌구 시스템콜 하이젝킹은 불가능하다면서 개발 툴 사용하는것조차 모르나봄 - dc App
애초에 추론 기능 자체가 지능을 발현이라고 하는데 아직 뭐 제대로 설명하는 이론은 없으니까
논리를 논리로 설명하려하면 순환참조임 ㅋㅋㅋㅋ - dc App
어쩌면 논리라는게 물리적으로 실존하는게 아니라 사회과학적으로만 존재하는 생각의 도구일수도 ㅋㅋㅋㅋ - dc App
모르는 게 아니라 정책 위반이라 대답 회피하는 거야
정책이 뭔지 왜 해킹은 안 알려주는지 내 말을 곰곰이 생각해봐 이해를 하려 해봐
논리력이고 판단하기 전에 정책 위반으로 그런 거 안 알려주게 되어있음
GPT는 세이프가드라는 게 있어 거기에 해당하면 답변을 다 지워
현대의 인공지능은 다 간단하더라도 간단한 세이프가드 끼고 작동해
불가능하다면서 하는 세부 설명을 보면 할줄 모르는 맥락이었음. gpt4o 모델이었음 - dc App