니들이 맨날 ai회사 개발자나 관계자들의 꿈같은 글만 퍼오는데
그런거말고 진짜 ai의 한계를 확인하고 싶다면
거의 매년열리는 ai 해킹대회 같은걸 봐야됨
그리고 이런데서 스스로 학습하는 ai의 맹점이 나오는데
학습데이터를 조금만 오염 시켜버리면
Ai가 맛탱이 가버림
애초에 스스로 참거짓을 완벽하게 구분하지 못한 상태서
학습해봤자 의미가 없는건데
학습해야 할 대상이 거짓인데 그걸 학습하면 되겠음?
그렇다면 학습하기 전에 스스로 그것이 참인지 거짓인지 알ㅇ아야한다는건데
알지도 못하는걸 참인지 거짓인지 판단해야한다는 딜레마에 빠짐 ㅇㅇ
지금까진 인간이라는 학습선생님이 교정해주고 지도 해줬지만
인간이 아는거 다 가르쳐주면 그담엔?
그담엔 스스로 학습전에 참거짓을 판단해서 오염된 데이터를 걸러서 학습해야되는데?
인간은 태초부터 지금까지 참거짓을 직접 목숨을 갈아가면서
학습해왔음
근데 ai는 그걸 어떻게 할 건데?
프로그램이라는 닫힌 계에서?
니가말한 "애초에 스스로 참거짓을 완벽하게 구분하지 못한 상태서" 이게 '메타인지' 라고 불리는데 이미 예전부터 다 지적한것들이었다
탈옥이랑 헛소리 유도인데 왜 갑자기 학습데이터얘기가 나옴
학습데이터 오염 시키는 방법으로 탈옥하는거니까
llm이 프롬프트를 학습한다고 생각하는건 아니지?
글만봐도 아무것도 모르는애인거 티나잖아. 프롬프트 치면 그걸로 진짜 바로바로 학습하는건줄 아는애들 많음
llm 어떻게 해킹하는지 읽어봐라
https://zdnet.co.kr/view/?no=20240110111503
https://youtu.be/wjZofJX0v4M?si=NB3IqDU8frASje7t
이거 한번 보면 다 이해는 못해도 llm에 대한 감각은 느낄거임
참고로 니가 준 기사엔 llm만드는 회사가서 협박하는 그런 것도 해킹으로 분류할 수 있는 수준임
현재 LLM 한계, 탈옥 너만 몰랐고 ChatGPT출시된 날부터 쭉하던 얘기
그리고 '프로그램이라는 닫힌 계에서'라는 말 자체가 병신같음. 일단 닫힌 계 조차도 아니고 닫힌계라고 해도 학습하는 거랑 상관없음
닫힌계는 내가 쓴말이 아니라 이미 다른 기사에서도 나온 표현임 븅신같으면 기자한테 따지던가
ㄴ 그런걸 곧이 곧대로 자기 생각할 능력 없이 받아들이는걸 븅신이라고 함
지능 특성이 인간과 다른게 아닐까 인간은 한번 학습한걸 뇌세척 하듯 돌려버릴수가 없잖음 하지만 ai는 그게 가능함 학습이 인간보다 유연하다고 할까
과학 발전을 위한 ai에서는 상관 없는 이야기임. 일종의 실험 데이터(현실에서 얻어온)는 실수가 아닌 이상, 무조건 참임. 그 데이터가 정말로 괴상해도 참임. 단지, 그 데이터를 해석하는 '이론'이 어딘가 부족한 부분이 있다는 거임. 그렇다면 오직 데이터의 '참과 거짓'은 인간이 얻어온 데이터 예컨데 '괴상한 이론, 거짓말, 밑도 끝도 없는 악의, 사기' 등의 의해서 형성된 것이라 볼 수 있음.
이새끼가 젤 통찰력있노 다른 놈보다 더 큰 걸 보네
인간이 참과 거짓을 가려내는 방법론은 간단함. '주장의 일관성, 이론의 모순, 현실 데이터와 괴리, 그 주장을 하는 인간이 얻는 이득, 주장한 그 사람이 어떤 사람인가(성격이 이기적인가, 이타적인가), 이건 진짜 날먹인데, 스스로 상상력을 제한 시켜 확실한 것만 판단하기(이런 경우 사람 자체가 편협적이게 바꿈. 즉, 나이가 들어도 성장을 안함.)
ChatGPT출시된 날부터 쭉하던 얘기
대충 알긴 알겠는데 "인간은 태초부터 지금까지 참거짓을 직접 목숨을 갈아가면서 학습해왔음"은 스스로 보기에도 아닌 것 같지 않음?
억까 설정으로 이 세계가 시뮬레이션 세계고 상위 존재가 AI 개발자의 실험이 있을 때마다 사사건건 방해전파를 보내지 않는 한 현실 그 자체는 카메라(여기서 잘못됐을 수 있음)를 거쳐 데이터로 들어오는, 부정할 수 없는 절대적인 참이니 시각, 청각, 촉각으로 현실을 학습하는 것으로 난 충분하다고 봄. 후각과 미각은 보너스 만약 카메라에 문제가 있는 것이 걱정된다면 그 카메라의 상태를 실시간 신호로 받는 것도 데이터에 포함시켜야 할 거고
비유하자면 그런 거지. 같은 말이라도 그 화자가 평생 옳은 말만 정직하게 해왔던 사람과, 레딧이나 디씨의 무작위 익명 유저로 청자마다 다르게 소개한다면 반응도 "그런가? 오 진짜 그런건가" 와 "에이...", "개소리 하네" 정도로 달라지겠지 마찬가지로 AI가 현실을 배우는 환경이 그 시점에 어떤 상태인지 또한, 화자의 상태를 알려주는 것처럼 데이터에 포함될 필요가 있겠지 예를 들면, 영상의 출처가 유튜브면 유튜브라고 제대로 태그를 달아 놓고, 오픈AI가 직접 찍거나 만든 영상이라면 그 환경의 자세한 정보까지 태그로 넣는다는 것
대표적인게 노벨의학상받은 전두엽파괴술같은게 있지 그당시에는 그게 정신병을 치료하는 최고의 의료였음
"그 해법은 문제를 일으켰다"라는 것만 알지, 뇌와 관련된 일은 지금의 상태가 절대적인 참이라는 보장은 없잖아 아닌가? 아님말고
만약 화학적으로 밝혀진 병균과 위생 관련 이야기를 예시로 생각한다면 납득은 됨. 하지만 그런 방식으로 증명된 것보다, 증명되지 못한 것이 이 세상에 아직 너무 많음. AI는 그 과정을 단축시켜줄 가능성이 있음. 그저 있을 뿐만이 아니라 그게 아니면 안되는 상황까지 인류가 내몰렸음
ㅂㅅ인가 현재 agi가 없으면 현재기술로는 당연히 불가능한거지 지금당장 없는데. 미래에도 불가능하다는거는 어떻게 확신하는겨
5년전에 현재ai기술로는 인공지능이랑 자연스럽게 대화 못함. 이라고 했으면 그냥 그건 당연한거 아니냐? 근데 지금은 가능하잖아. 그때기준으로 미래기술로는 가능하다는게 증명된거고.
gpt3.5 나왔을때도 여러번 논의되고 반박된 이야기를 뭐 대단한거 발견한 줄 알고 반복하네 얘는
사람부터가 완벽하지 않은데 AI 해킹대회 얘기는 상황이 틀리지 않을까? AGI시대를 무언가 언제부터 시작~! 이런 개념보다는 GPT5 GPT6 되어가면서 사람과 비슷해지는거라 생각함 시간이 지나면 해결이 될 문제들이라 생각함.
학습이 뭔지는아냐..
머리나쁜티를 내는구나