[일반] 알트만이 asi까지 느린도약을 말하던데

[스피(huh44243)]

초정렬을 하면서 가면 통제가 가능하니까 하는소리인가?

- dc official App

[익명(1n4vftsqqur8)]

근데 아직 초정렬법은 존재하지않음 이제부터 팀 꾸려서 그걸 개발한다는건데 정렬하는법을 개발 할 지 못할 지 모르는거임

[익명(1n4vftsqqur8)]

수츠케버가 아직 정렬법 없다고 그랬음 이제부터 개발해야한다고 하더라

[스피(huh44243)]

agi루머가 사실이라면 이미 존재하지 않을까하는 생각인데 아직 없다면 agi는 현재 통제가 불가능하다라는건데 루머가 진짜라면 - dc App

[익명(1n4vftsqqur8)]

아니 수츠케버가 지난달인가 인터뷰에서 직접 아직 정렬법은 존재하지않는다고 했음

[익명(1n4vftsqqur8)]

오픈ai가 정렬팀 꾸린것도 이제부터 그걸 발견하겠다고 만든거임 ㅇㅇ

[스피(huh44243)]

그건 알트만도 마찬가지 아님?gpt5훈련 안시키고 있다~앞으로 agi만들꺼다~ 기업인들이 언론에서 하는말 말하는게 아님. - dc App

[익명(1n4vftsqqur8)]

그럼 트위터에서 누군지도 모르는사람이 하는말은 믿고 오픈ai수석과학자가 한 말은 안믿는거임?

[익명(1n4vftsqqur8)]

니말대로 기업인들 언론에서 말하는거 걸러들어야하는건 맞는데 그렇게 따지면 트위터쟁이 출처도 없는 루머는 왜믿노

[스피(huh44243)]

그래서 내가 말했잖아 루머가 진짜라면이라는 전제가 붙고 생각해보자는건데 누가 진짜라했음? - dc App

[익명(1n4vftsqqur8)]

그니까 루머가 진짜여도 아직 agi를 정렬하는법은 없다고 수츠케버가 말했다고 ㅇㅇ 아니 상식적으로 정렬법이 있는데 없다고 말해서 얻는 이익이 뭐임? agi는 있어도 없다고 말 할 이유가 몇가지 있지 뭐 사회적혼란이라던지 규제를 받을 가능성이 있으니까 근데 정렬법은 말그대로 하나의 알고리즘 개념인데 그걸 있는데 없다고 말해서 얻는이득이뭐임?

[익명(1n4vftsqqur8)]

걍 상식적으로 좀만 생각해보면 답 나오는데 왜 이걸 모르지

[스피(huh44243)]

아니 여기서 누가 이익따져가며 글쓰고 댓글쓰고 하는거임?자기가 궁금해하는거 이런저런 가정하면서 글쓰는거지 어느누가 모든일에 이익따져가면서 살지?좀만 생각해도 내가 이런일이 진짜라면 이럴수있을까?라는 궁금증이 있으니 가능할까?라는 걸 가지고 의견을 듣고싶은건데 루머를 믿냐는둥 생각해보면 답나온다는둥 왜 이렇게 고깝게 보는거지?그럴거면 다른사람 기분 상하게 하지말고 댓글쓰지마셈 - dc App

[익명(218.144)]

그냥 빠른 이륙을 했을 때를 긍정하는 사람이 거의 없을거임. AGI 되고, 몇분만에 ASI가 되면, 원숭이의 손처럼 질문자의 의도와 상관없는 짓을 벌일 가능성이 높으니까. 사람들 논쟁은, 일단 느린 이륙이 빠른 것보다 좋다는 건 동의하는데 그게 가능하겠냐. 불가능하니까 걍 AI 뿌셔뿌셔 해야한다. 혹은 openAI같은 회사나 몇몇 CEO나 과학자들이 감당할 수 없는 일이다. 국가 차원에서 다뤄야 한다. 등등 일거임.

[스피(huh44243)]

개발중지하자는것보다 국가차원에서 다루거나 기업들이 통제가능한 기술을 개발하거나 둘중 하나일것같네 - dc App