보통 정렬충들은 앤트로픽으로 넘어가는데 일리야는 온갖 러브콜이 들어왔지만 특이하게도 본인의 ssi를 세웠음
정말 사이가 틀어졌으면 경쟁사들 중 하나로 넘어갔을 만한데 말이지
알트만 축출 사건 이후에 알트만 인터뷰 보면 일리야랑 같이 놀았다는 내용도 있고 일리야의 계획에 대해서는 자기가 아직 말할 수 없다고도 했었는데
어쨌든 얘네끼리 뭔가 대화를 나누긴 한거같음
알트만도 아무생각없이 일리야를 풀어줬을 리는 없고
Oai에 원래 투자하던 세쿼이아는 뜬금없이 ssi에 수십억 달러를 투자함
Agi개발은 여러 조각이 모여 하나의 도약이 되는 것처럼
일리야의 ssi 지금은 관심을 잘 가지지 않지만 앞으로의 발전에 있어서 생각보다 중요한 조각일지도 모름
지금 ai개발사들은 브레이크를 걸 수가 없는 상황임. 발전이 너무 빨라서 뒤처지지 않으려면 안전을 신경쓸 겨를이 없음.
Ssi는 타 llm개발사들과 달리 오직 안전에 신경쓰니 어쩌면 발전속도에 맞춰서 안전도 챙겨줄수 있는 페이스메이커가 될 수 있지 않을까 싶음
이 조각이 모이면 뭔가 대단한게 나올수 있으니 주시는 하고 있어야 할듯
정말 사이가 틀어졌으면 경쟁사들 중 하나로 넘어갔을 만한데 말이지
알트만 축출 사건 이후에 알트만 인터뷰 보면 일리야랑 같이 놀았다는 내용도 있고 일리야의 계획에 대해서는 자기가 아직 말할 수 없다고도 했었는데
어쨌든 얘네끼리 뭔가 대화를 나누긴 한거같음
알트만도 아무생각없이 일리야를 풀어줬을 리는 없고
Oai에 원래 투자하던 세쿼이아는 뜬금없이 ssi에 수십억 달러를 투자함
Agi개발은 여러 조각이 모여 하나의 도약이 되는 것처럼
일리야의 ssi 지금은 관심을 잘 가지지 않지만 앞으로의 발전에 있어서 생각보다 중요한 조각일지도 모름
지금 ai개발사들은 브레이크를 걸 수가 없는 상황임. 발전이 너무 빨라서 뒤처지지 않으려면 안전을 신경쓸 겨를이 없음.
Ssi는 타 llm개발사들과 달리 오직 안전에 신경쓰니 어쩌면 발전속도에 맞춰서 안전도 챙겨줄수 있는 페이스메이커가 될 수 있지 않을까 싶음
이 조각이 모이면 뭔가 대단한게 나올수 있으니 주시는 하고 있어야 할듯
일리야 너는 도대체 뭘 본거지?
ㅇㅇ 둘이 그렇겠지
나도 일리야에 대해 조금 의문이었던 건, 회사 새로 차려서 GPT4 이상급 AI를 새로 학습하려면 돈이 엄청나게 깨짐. 물론 투자 받았으니 괜찮지만, 새로 학습하는 것도 오래 걸릴거거든. 그럼 차라리 앤트로픽 같은 곳 가서 이미 있는 모델을 자신의 지식 활용해서 개선하고 AGI나 ASI 정렬 연구하는 게 나을 것 같은데 새로 차림. 이 말을, GPT4급 이상을 머리에 지식 있으니까 바닥부터 새로 학습한다. 이게 아니라, openAI에서 모델이나 데이터를 제공 받아서 정렬에만 집중한다. 이런 거 아닐까 싶긴함. openai입장에서도 모델 새로 내놓을 때마다 외주줘서 안전검사하고 그럴텐데 일리야한테 일감 줘서 확인 시키는 게 더 나을수도 있고. 드러나지 않는 협력관계..일수도 있다고 봄. 물론 낮은 확률로.
asi는 주목도가 높은 기업에서 못나온다고 판단해서 스타트업 만들어서 나간거 아닐까 oai는 agi 이후 asi는 아직 크게 계획이 없는 것 같던데 - dc App