보통 agi가 근미래에 올거라 믿는 애들은 규제를 주장한단 말이지?
곧 올거니깐 대응책이 필요하단거지
반대로 르쿤이햄같은 선형에 가까운 인사들은 규제가 필요없다 주장하고
근데 특갤은 agi가 근미래에 오고 그걸 넘어서 agi를 기반으로 한 재귀개선을 통한 asi도 꿈꾸는데
주장하는 바는 오직 가속. 대응책 마련x 정렬x 안전팀x 오직 가속만이 정답
이런 스탠스인게 이해가 안 감
곧 올거니깐 대응책이 필요하단거지
반대로 르쿤이햄같은 선형에 가까운 인사들은 규제가 필요없다 주장하고
근데 특갤은 agi가 근미래에 오고 그걸 넘어서 agi를 기반으로 한 재귀개선을 통한 asi도 꿈꾸는데
주장하는 바는 오직 가속. 대응책 마련x 정렬x 안전팀x 오직 가속만이 정답
이런 스탠스인게 이해가 안 감
발전을 늦추는 규제를 하지 말라는거지 누가 폭탄제조 이런거까지 허용하라고 하는 특붕이는 거의 없는데
oai에서 안전팀 내보냈을때 환호하던데? 그 정도의 규제마저 반대하는 초급진주의자는 아닌건 맞다만
꼭 권위있는 인간 생각에 따라가야됨? 무조건 가속이 좋다고 생각하나보지 빨리오면 올수록 현생이 바뀔 가능성이 큰거고 좋든 나쁘든
권위의 문제가 아니라 진정으로 가깝다고 생각하면 대책마련이 시급하지 않나 해서 하는얘기임 어차피 근미래에 올거면 가속보단 대책마련이 중요하지 않나 해서
우리가 마련해서 머됨? 걍 행복회로 돌리면서 바랄 수 있는 가장 좋은 거 바라는 거지
아니 특갤이 대비책을 마련해야한다!가 아니라 보통 agi의 가능성을 높게볼수록 대책마련의 필요성을 높게보는 경향성이 보이는데 왜 특갤은 반대인것처럼 보일까 싶어서 궁금했을 뿐임
근데 모든걸 그사람들 의견에 동조해야 함? 님 투표한 정당 주장에 모두 동의함?
동조의 문제가 아니라 가깝다고 믿음->고로 대책마련 규제 주장 멀다고 믿음->규제 필요 x 더 가속해도 무방 이 보통의 사고 아니냔 얘기임 그 예시로 ai석학들을 든 거고
근데 특갤은 정 반대니깐, 왜 그런가 갑자기 의문이 든거임
특갤 다수 생각은 모르겠지만 나는 안전 생명 관련 아니면 규제 불필요하다고 생각함
지금하고있는 pc적인 규제는 나도 의미없다고 느끼는중
LLM한테 물어봐서 구할 수 있는 정보는 구글링만 해도 다 구할 수 있는 정보들인데 구글은 괜찮고 LLM은 위험하다고 하는 게 이해가 안 됨
그런류의 위험도 있고 agi asi레벨로 갔을때, 인간 이상의 지능이 나왔을때의 위험도 있으니깐 지금 하고있는 규제는 전자를 막으려는거고 정렬이니 안전팀이니 ai위험해질거라느니 하는건 다 후자같은 실존적 위험에 관한거고
더 먼 미래(asi)를 내다보고 미리 규제해야 한다고 주장하는 거란 말이구나. 근데 그럼에도 ai에 대한 규제는 내 생각엔 불필요함. 초지능이 폭주하면 초지능으로 막아야지. 인간이 규제를 만들어봐야 초지능을 막을 수 있을 거라고 기대되지 않아.
규제든 뭐든 어떤 형태로든 간에 대책이 필요하다는 주장임ㅇㅇ 별개로 그럼 asi를 규제하는 asi를 다시 규제해야 하는 문제가 생기지 않나 싶네
초지능 간의 일방적인 통제가 아니라 여러 초지능 간에 상호적인 견제가 작동하도록 시스템을 구축해야 한다고 봄. 이런 시스템도 규제의 일환이라고 봐야 하나?
규제 필요 여부가 지수냐 선형이냐 이것만으로 결정되는게 아닌데 지수발전=규제필요, 선형발전=규제불필요 너가 이렇게 단순화시켜서 생각하니까 이상한거지.
반드시 그렇진 않은데 대체로 그런거같단거지 당연히 ai가 알잘딱하게 할 것이라고 생각하는 사람도 있겠지
보통 특붕이들은 정렬 문제 때문에, AI 성능이 뛰어날 수록 더 조심해야 한다는 점엔 공감함. 근데 이런 거 모르고 가볍게 들어온 특붕이들은 '아 모르겠고, 규제는 무조건 나쁜거야.' 라는 인식이라 무조건 빠른 발전. ASI까지도 정렬도 하지 말고 그냥 일단 만들어라. 이런 애들이 좀 있음. 한 1년전만해도, 그런 애들 나오면 일일히 왜 정렬이 필요한지. 안전주의자가 말하는 규제랑 정렬이 왜 다른지 다들 설명해주곤 했는데. 이젠 설명하기 지친거지. 특이점이랑 AI에 대해서 제대로 모르고 그냥 세상 뒤집어지길 바라는 애들이 좀 많이 남은 듯.
자가개선해서 알아서 정렬하면 되지 인간따위가!
여기애들은 특이점을 바라는거니까 agi를 넘어서서, agi왔다고 멈출생각이없는게당연하지
여기는 문제 터지면 누군가 해결해주겠지 마인드인거고, 님이 말하는 유명인들은 우리선에서 안전문제 해결 못하면 큰일난다가 디폴트라 - dc App