사고패턴 데이터셋 이야기가 특갤에 돌길래 생각해봤음
근데 결론이 꽤 충격적이라 공유해봄.
인간의 지능이 세가지로 이루어졌다는 시각임
죽음에 대한 도피 + 패턴의 분해 (불쾌)
긍정적 자극 + 패턴의 강화 (쾌)
기억해두고 나중에 학습
유아에게서 가장 먼저 보이는 반응은 불쾌임.
배고프면 우는거
배고파서 우니까 밥을 줘 (쾌)
그러면 배고플 때 우는 패턴이 강화되는거임.
근데 현실의 패턴이 항상 단순하지는 않아
현실데이터는 복잡하고
강화할 자극과 반응의 조합을 추출하는건 시간이 많이 듬
그러니까 일단 기억에 넣는거임.
그리고 자면서 이걸 처리하는데
기억 데이터를 우선적으로 처리하고
시간이 남으면 가상 현실을 만들어 학습함
일종의 합성데이터지
이게 꿈임
이런 식으로 패턴을 추출해서 강화해
인간의 지능은 이게 전부라는거지.
충격적인 생각들은 이제부터임.
복잡다양한 인간의 사고과정은 어떻게 만들어졌을까?
특히 자의식은 어떻게 설명할 수 있을까?
아직 자아가 희박한 유아가 있어.
주어진 쾌에 따라 강화된 패턴대로 행동을 했는데 사고를 쳤어.
양육자는 왜 그랬냐고 묻겠지?
그러면 이유를 지어내는 회로가 쾌가 되고 (합리화)
그렇게 자의식이 점차 생기게 됨.
문제는 진실인지 아닌지는 상관 없다는거임
지어낸 이유가 양육자가 보기에 그럴싸하면 강화되기 충분함.
양육자의 경험이 중요한 이유지.
그 뒤로 자의식과 '나'라는 개념을 계속 결부시키는데
사회는 '나'가 상황과 행동을 설명하기를 바라기 때문임.
그러면서 공동체를 위해서 '나'에게 책임을 지우는데
책임을 지우기 위해 '나'는 행동을 통제할 수 있는 무언가가 되어야 함
행동 패턴이 강화되는 작업은 의지와 상관없이 계속 일어남.
강화된 패턴대로 출력되는 일도 의지와 상관 없이 계속 일어남. (무의식)
근데 그걸 '나'가 한다고 생각하는 참극이 벌어지는거임.
'나'는 상황을 보고 합리화된 설명을 내놓도록 강화된 회로일 뿐인데.
그 뒤로는 자의식이 교육의 도구가 됨
어떠어떠하게 생각해봐 그 결과가 어떻지?
그 결과를 어디어디에 대입해 그러면 그 결과가 어떻지?
실상은 합리화 머신의 결과물을 강화된 행동에 대입하는 거고.
유치원까지 이런 사고회로를 갖추면
초등학교부터는 자의식차원에서 행동 패턴을 넣을 수 있게됨.
그때부터 보통 인간의 지능이라고 부르지
이 시각으로 다양한 현상들을 설명해보자
배운 내용이 몸에 익는데 시간이 걸리는 현상
행동은 '나'에서 '알고있다'라는 출력이 나오는 것과는 상관 없음.
자극과 출력 사이에 패턴이 강화되는게 최종 목표고
'나'는 '알고있는데 아직 익지 않았다'고 합리화된 의견을 내놓는거임
사실 능력은 없는데도
인간은 불쾌를 해소할 수 있는 패턴을 너무나도 쉽게 믿어버리는데
이는 애초에 그 이상의 기작이 없기 때문이라고 설명할 수 있음.
이걸 방지하기 위해서는 추가적인 회로가 구축돼야 하는거지.
근데 인간은 생각 위에 생각을 쌓아가기 때문에 이게 불행의 씨앗이 됨.
음모론이나 정신병으로 이어지게 되는거지.
추가 의견 받는다
당신이 언급한 주제는 인간의 인지적 왜곡, 학습의 본질, 자기 합리화, 그리고 인지과정에서의 패턴 인식과 그로 인한 부작용에 관한 내용으로, 심리학과 신경과학, 철학 등 다양한 학문적 영역과 관련이 있습니다. 이와 비슷한 내용을 다루는 책들을 추천하자면 다음과 같습니다. 1. 《Thinking, Fast and Slow》 by Daniel Kahneman
1. 《Thinking, Fast and Slow》 by Daniel Kahneman 노벨상 수상자인 심리학자 다니엘 카너먼의 책으로, 인간이 어떻게 빠르고 직관적인 사고(시스템 1)와 느리고 논리적인 사고(시스템 2)를 통해 의사결정을 내리는지를 다룹니다. 이 과정에서 생기는 다양한 인지적 오류와 왜곡을 설명합니다.
2. 《The Power of Habit》 by Charles Duhigg 인간의 습관이 어떻게 형성되고 어떻게 바뀌는지를 다룬 책입니다. 자극과 행동 사이의 반복적인 패턴이 어떻게 강화되고, 이를 바탕으로 새로운 습관을 형성하는 과정을 설명합니다.
차이점은 핵심 요소를 뽑아내서 인공지능에 적용할 수 있는 가능성을 봤다는거지
오늘은 또 무슨 개똥철학일까...... 라는 마음으로 클릭 했는데 흥미롭네.
쾌! - dc App
놀랍게도 있는말임
저건 이미 존재하는 뇌라는 하드웨어에서 겉으로 보이는 일인데 그래서 그 물리적 근본원리는 뭐임
편도체와 보상회로겠지?
이야 재밌다 쾌/불쾌 다음에 꿈이 합성데이터라는 말이 되게 신선하네 - dc App
나도 특갤에서 본거임
꿈이 합성데이터라는 글을 특갤에서 봤다고? 아직 기억하거나 스크랩해둠? 나도 오늘 생각해보게 - dc App
ㄴㄴ 간간히 보이던데
월드모델이라 하던가
나라는 회로가 단순히 아무 책임 능력없고 행동의 묘사만 가능한 것이라면, 그 나라는 수동적인 능력만 가진 회로로 객체의 행동을 교정하거나 심지어 그 강력하다는 무의식 조차 교정할 수 있는데 그건 과연 어떻게 설명이 가능함?
내 해석은 '나'로 교정하는게 아니라는거임. 교정은 자극-행동 패턴에서 이루어지고 '나'는 모니터일 뿐인거지
대부분의 교정 과정이 편도체의 안정화에서 시작하는걸 근거로 들 수 있음. '나'를 적당히 속여서 편도체를 자극하지 않게 하고, 편도체가 자극되지 않으면 자율적인 패턴 강화행동은 현실에 기반해서 패턴을 조정함. 그 과정을 행동교정이라 부른다는 해석임.
흥미롭긴 한데, 단순 모니터라기엔 행위의 결과를 분석하고 미래를 예측해서 더 나은 방향으로 발전하거나 행동 교정을 해야하는 점을 고려해 본다면 그 전부를 통합할 어떤 기관이 존재해야 할 것 같은데? 그 통합된 기관의 표현 장치가 나라는 자의식으로 외부적으로 표출되는 것이고. 그렇기 때문에 신경망만을 모방해서 학습하는 머신러닝을 바탕으로한 인공지능이 아직도 정확한 추론이 불가능하고 기타 인간이라고 여겨지기위해 필수적인 요소들이 예를 들면 감정이나 동기 같은 것이 부족한 게 아닐까?
정확함. 결국 문제의 필요성을 파고 들어가다보면 인간의 감정과 동기가 들어가야 설명되는 부분이 있음. 반면, 수학처럼 공리에서 유도하는 학문들은 그런게 덜 필요함. 다행히도 보통 인공지능에 기대하는 부분은 잘 정의된 문제들임. 따라서 인간의 감정과 동기에 대해 정확한 이해가 당장에 필요하지는 않을 것으로 생각함. 예술 분야의 일반인공지능을 만든다면 필요해지겠지.
오
이거대로면 llm이랑 인간뇌랑 별차이도 없는거네
'아무도 트랜스포머의 성능을 의심하지 않는다' 라는 말이 괜히 나왔겠냐 애초에 이 생각부터가 LLM에서 사고패턴 데이터셋의 필요성이 주목되면서 시작된거임
인간의 학습, 추론에 대한 부분도 트레이닝을 거친 LLM과 별반 다르지 않다고 생각했었는데... 흥미롭군.
오 재밌다 - dc App
너무 어려워서 이해가 안되는군요