[일반] 확인차 물어볼 게 있는데

[익명(lamb5389)]

Coq 같은 증명보조기나 LLM 같은 언어모델들 전부 근본적으로는 튜링머신인거 맞지?

너무 넓게 생각하진 말고 걍 얘들이 튜링머신이 맞는지 물어본 거

[익명(124.197)]

LLM이 왜 튜링 머신임

[익명(124.197)]

보통 neural network는 UAT로 이야기하지, 튜링 머신이라곤 표현 안 하는데 좀 신박하네

[익명(106.101)]

밑에 글 보니까 맞는가 본데?

[익명(sweater5651)]

근?본?

[익명(sweater5651)]

근본적으로는 튜링 머신이 아닌 곳에서 정보 처리가 불가능함. 질문 내용이 튜링 완전 언어랑 헷갈렸나 싶어서 잠깐 고민함

[익명(sweater5651)]

보통 튜링을 소환할 땐 1. 이 언어가 튜링 완전 언어냐 2. 이 머신이 비결정적 튜링 머신이냐 이걸로 결정됨.

[익명(lamb5389)]

ㅇㅎ 완전 언어랑 비결정적 언어는 어떤 차이임?

[익명(sweater5651)]

@ㅇㅇ 일단 머신과 언어의 차이가 있음. 머신은 말 그대로 머신이고, 언어는 말 그대로 언어임. 머신은 정보 처리의 주체이고 언어는 정보 처리를 시키는 알고리즘 등을 의미할 수 있음. 하드웨어 / 소프트웨어 정도의 구별이라고 보면 됨. Turing-complete language는 튜링 머신이 지원하는, 원하는 모든 종류의 기능을 구현할 수 있음. Turing-incomplete(불완전)은 불가능하고, 근본적으로 그냥 1:1 대응만 가능함.

[익명(lamb5389)]

@ㅇㅇ 근데 이야기한 2개도 전부 튜링 머신의 카테고리라고 보면 되는 거지 ㅇㅇ?

[익명(sweater5651)]

@ㅇㅇ LLM의 결과가 튜링 완전 언어를 따르는가. 이건 생각해 볼 여지가 있음. 튜링 완전 언어인 파이썬 걍 빌려와서 쓰는데 그렇다고 제한적일 수 있는 LLM의 결과가 튜링 완전한지는 잘 모르기 때문임. 근데 아무튼 정보 처리를 하기 때문에 튜링 머신 위에서 돌아감. 질문 내용은 튜링 머신인 게 맞냐? 였고 즉, 돌리기 위해 하드웨어 필요한 게 맞냐? 였음. 답은 ㅇㅇ.

[익명(lamb5389)]

@ㅇㅇ 다름이 아니라 오랜만에 Halting problem과 AI의 관계에 대해 좀 찾아보다가 개인적으로는 러프하게 알고 있는 것들 좀 확실히 정리해야겠다 싶어서 여기다 질문한 거

[익명(sweater5651)]

@ㅇㅇ LLM은 사실 이런 종류의 randomized lookup table일 수 있음. 정말 다양한 인류의 입력에 대해 한정적인 출력만 내놓고 있을 수 있음 LLM이 하라는대로 하는 거 같지만, 사실 그렇지 않잖음?

[익명(lamb5389)]

@ㅇㅇ 완전 언어랑 비결정적 언어의 관계가 혹시 1차 술어 논리랑 산술 체계를 포함하는 ZFC랑 비슷하다고 보면 얼추 맞는건가

[익명(sweater5651)]

@ㅇㅇ 비결정적은 머신임. 비결정적 하드웨어가 존재함. 마블 닥터스트레인지마냥, 1천 6백만 52개의 미래를 보고 최적의 답을 골라오는 머신이 존재할 수 있음. 결정적 튜링 머신은 반드시 1개의 현재와 1가지 시퀀스의 과거, 1가지 시퀀스의 미래만이 존재함.

[익명(sweater5651)]

@ㅇㅇ 이게 언어 측면에서 튜링 완전성 필요충분조건 중 하나일 것임. 등가조건이 몇 개 있는데

[익명(lamb5389)]

@ㅇㅇ 내가 언급한 건 완전 언어랑 비결정적 언어의 관계 = 1차 술어논리랑 산술 체계를 포함하는 ZFC의 관계라고 봐도 되는건지 여부인데

[익명(sweater5651)]

@ㅇㅇ 비결정적은 언어가 아니라고. 비결정적 하드웨어가 따로 있음. 완전 <-> 불완전 (언어, SW). 결정적 <-> 비결정적 (머신, HW). 완전 언어 <≠> 비결정적 머신 아무 관련 없음.

[익명(lamb5389)]

@ㅇㅇ ㅇㅎ ㄷㄷ

[수갤러 1(211.182)]

@ㅇㅇ 근데 그 미래보는 가짓수 그거어디서 나온숫자임? 2의 n제곱임? 스트레인지가 쏼라 했던 그 숫자

[익명(sweater5651)]

@수갤러1(211.182) 첫 번째 완전수가 42, 네 번째 완전수 8128을 넘어 다섯 번째 완전수 33550336으로 가다가, 성공하는 미래에서 그냥 멈춤. 이게 정설임 이상한 박사가 본 수는 14000605래

[익명(lamb5389)]

그럼 님 LLM이 일대일 대응만 하는 randomized lookup table이라면 소프트웨어의 측면에서 Halting problem과는 어떻게 엮이는 거려나

[익명(sweater5651)]

@ㅇㅇ 답을 연산해서 얻는 게 아니라 halting problem의 답을 그냥 출력하는 것임. 어디선가 저장되었기 때문. LLM에 패러독스 때려봤자 안 뒤지는 이유가 있잖음. 어지간한 패러독스에 오답을 내거나, 이미 답을 알고 있음. 항상 정해진 시간 안에 답을 낼 수 있음. lookup table인 거임. 그 결과가 좀 다르다고, (randomized) LUT 아니라 보기 어려움.

[익명(lamb5389)]

@ㅇㅇ 그러니까 즉 통상적인 계산이나 증명이 아니라 걍 저장된 데이터를 바탕으로 인풋에 반응해 아웃풋을 출력하는거다 이리 알아들었는데 맞는 이해인가?

[익명(sweater5651)]

@ㅇㅇ 증명 아무도 못하는 거지만 ㅇㅇ

[익명(sweater5651)]

@ㅇㅇ 그걸 증명하려면 학습 데이터에 그 해답이 있었음을 발견해야 함. 특검해도 못찾지 싶다

[익명(lamb5389)]

@ㅇㅇ 귀납적으로 데이터 확인해서 걍 때려박는거네..

[익명(sweater5651)]

@ㅇㅇ ㅇ 연역성 0인 거임 추론이라고 부를만한 과정은 그냥 기본 검색 알고리즘의 연속의 연속인 거. 개인적으로 LLM에 물어보기 제일 의미 없는 질문이 '이거 어떻게 생각해'임. LLM은 생각하지 않음. '이걸 교수가 보면 뭐라고 할까'가 적절함. 그러면 교수들의 응답 학습한 걸 조합해서 출력해 줌

[익명(lamb5389)]

@ㅇㅇ 요새 중국어 방 논증이 다시 핫이슈가 됐던 이유가 있었네