GPT이후의 LLM 관련된 연구에서는 사람의 이름값 보지말고
걔가 어디소속에서 뭘하고있는 사람인가만 봐라.
지금 전세계 AI석학들,CEO들 암만 조잘조잘 입털어봤자 오픈AI,구글 얘네 둘 빼고
GPT4급 LLM의 구성에대해 다들 ㅈ도 모르니까 GPT-4(특히나 코드인터프리터)기반으로 연구 안해놓고 논문찍찍싸재끼거나
GPT-4 코드인터프리터 건드려보지도않았으면서 아는척하는 새끼들 말 싹다 거르셈,
걔네 장담컨대 ㅈ도 모름, 어쩌면 그냥 누군가한테 지령받고 일부러 무지성 억까or억빠글 싸지르는거임
얀르쿤? 갑자기 쟤 왜저러나싶지?
사실 요새 말이야 오픈AI랑 구글이랑 사이가 좀 좋은거 앎? 일론머스크가 트루AI인가 XAI인가 팀 만든뒤로부터 위기감 느꼈는지
지들끼리 갑자기 친하게 지내는 무브먼트를 많이 보이더라고
근데 요상하게도 얀르쿤있는 메타랑은 기가막히게 안놀아주더라..... 왠진모르겠음 뭐 걔네들끼리 척진게 있나?
우왓;; 닉에서 **자율연구시스템** 냄새가
오 그렇게라도 각인됬음 됬다, 난 트위터에서 뭔 어중이떠중이 새끼들이 암만 입털어도 이미 확정수준으로 2024중으로 가능하다고생각함
카이스트 황교수 말 보면 맞는 말임 세부적으로 들어가면 모델 하나 만드는데 데이터 선정부터 파라미터값 등등 모델 직접 만들어보고 굴려본 사람들이 제일 잘 알지 나머지는 모름 그래서 연구가 학계에서 기업으로 넘어갔다는 일리야 수츠케버 말이 맞는거고 gpu 수만개로 모델 다 만들어본 사람들 말 말고는 다 걸러야됨
특히나 GPT-4 이상수준의 초거대AI 같은건 R&D중에서도 최극단을 달리는 분야라 걍 해당 AI 직접소유/운영/발전시키고있는 오픈AI나 구글내 LLM팀들 빼고는 저것의 가능성에대해 입털만한 정보 가지고있을 애들 끽해봐야 오픈AI,구글의 대표급되는 사람들이 전부임 나머지는 솔직히 무슨말을 하던간에 무슨 연구를 하던간에 GPT_4, 특히나 현재 시중에풀린것중 가장 뛰어난 성능을 보여주는 코드인터프리터 가지고 진짜 해체분석수준으로 데이터 뽑아서 연구해놓은게 아니면 딱히 귀기울여 들을만한 가치가 없음 대충 이런방향으로 관심가지는구나~ [이론적으로는] 이런것도 가능하구나~ 이정도 가능성이면 오픈AI에서 참고하고 채택할수도 있겠구나~ 수준에서 끝내고 말아야함
얀르쿤은 심술쟁이라서 같이 안 놀아주나 ㅋㅋ
뭔 지령이라도 받고 오는지 갑자기 우르르
뉴비 대량 유입이라 그런거 같음 이미 논파되거나 한바탕 지나간 자료들 호들갑떨면서 가져오는거 ㅎ
LLM은 오히려 agi를 건너뛰고 좁은 의미의 asi를 가져올 확률이 높음. gpt3 이후 모델만 봐도 언어추론지능의 원리 는 거진 다 녹아있음. 언어추론에 있어서 창발성의 기능까지 다 할수 있다면 LLM은 오라클(신탁기계)로써 특이점 드라이빙을 수행할 수 있다고 봄. 다만 그렇다고 LLM이 우리가 원하는 agi가 맞냐? 그건 아니라는거임. 실시간 학습과 단기기억의 견고성, 장기기억 문제 등 분명 보수적 관점의 권위자들의 주장에 납득이 가는 부분은 있으니까.
쉽게 생각해서, 안드로이드에 탑재될 agi 시스템을 생각해보면 아직 멀었다는거임. 시스템 패러다임도 문제지만 ai 정렬, 통제 시스템, 사회정치적 거버넌스 문제는 LLM 의 블랙박스성 때문에 솔루션 찾기가 어렵고 상용화는 더욱 더뎌진다는거임.
한마디로 블랙박스해독이 안된다는거 꼬집어서 기억통제관련해서 깔끔하게 컨트롤 안되니까 불안정하고 상용화 시간 걸린다는 소리인데 뭐... 일단은 이거관련해서 오픈AI의 생각이 자동화해석가능성에 관심을 가지고 있다 빼고는 크게 공개된건없어서 별말은 못하겠고 AI업계인들 LLM관련해서 논문들 내는거보면 아무래도 기억을 외부기억수단을 통해서만 기억을 처리하는 방향으로 가지않을까 싶음. 그리고 난 저거 생각보다 간단한방향으로 풀릴거라고 생각함. 걍 은닉층정보를 적당히 해당 LLM의 문맥벡터로 변환하는 모델을 설계/학습하면됨해당모델이 은닉층정보의 고유패턴을 제대로 잡아내기만하면 그걸 문맥벡터로 변환시키는 학습을 하는과정에서 적당한 설명이 문맥벡터내에 생성될수밖에 없음 그걸 텍스트로 디코딩하면됨
근데 기존처럼 단순 수치값의 나열에서 특징을 잡아내서 문맥벡터변환 시키는것보다는 좀더 그래프같은 이미지형태로 블랙박스 정보를 표현한뒤 특징을잡아서 변환하는게 훨씬 적합한 특징추출법이라고 생각함