[일반] 기술리더들끼리의 저녁식사 도중 나온 agi 논쟁

[익명(nephew8666)]

추론과 창의성은 대조적인 개념

https://techcrunch.com/2025/03/19/the-ai-leaders-bringing-the-agi-debate-down-to-earth/

[익명(chill9312)]

목표밖의 것을 보고 나아간다면 정렬이 깨질것같은데

[익명(sukusuku7)]

[익명(sukusuku7)]

벌써 추론은 정복한 것 처럼 말하는 거보니 골대 옮기기 또 시작했네.. '창의성'으로 - dc App

[익명(enough2752)]

개알못 틀딱새끼들 비관론 우습노 ㅋㅋ 아센브레너 술레이만 얘네는 알못이라 그런소리하나 - dc App

[ㅇㅇ 1(220.84)]

목표밖에 모르지만, 목표를 향해 달려가는 중에는 학습된 '창발적인 행동을 할 때의 패턴'이 출력되니까 아무래도 좋은거 아닌가 싶긴 한

[ㅇㅇ 2(14.54)]

시키지도 않은 일을 창의적으로 창조해내기 시작하면 그건 그거대로 문제 아님?

[익명(shore1232)]

그걸 해야 agi라니까..

[익명(115.86)]

ㄴ 그건 시킨일을 창의적으로 하길 원하는거지 가만히 있다가 흠 인간이 너무 비효율적이군요 하면서 잡아다 개조하는 그런걸 바람? 좋은쪽으로 흘러가도 온난화 막아달라고 했을때 움직여야지 가만있다가 지구 환경 복구하겠다고 갑자기 대기권에 이상한 짓 하기 시작하면 그게 좋은거임?

[ㅁㄱㅌㅊ(39.122)]

문제 맞음 그래서 그게 좆간멸종이 아닌 알잘딱 수준으로 끝나게 해야하니까 정렬하려는 거고

[익명(h1r5enpsrrsq)]

그걸 하되 인간을 창의적으로 파멸시키지 않아야해서 문제지ㅇㅇ

[ㅇㅇ 3(180.224)]

시키는것만 할 수 있으면 직접하지 뭐하러 ai씀? 집을 청소해라 했을 때 다 할 수 있어야지 안방 좌표 1, 1청소해라 1,2청소해라 1,3청소해라 이렇게 해야됨?

[익명(bluewarp)]

그걸 원하면 정렬되지 않은 ai한테 해달라고 하면 됨

[이세이미야케(jkwarawara)]

추론 해결 전에도 비슷한 말 많았던 걸 생각하면 흠 ㅋㅋ

[익명(lick5137)]

[점심밥(yield0917)]

[익명(wlsdn0202)]

많은 전문가들이 특이점을 믿지만, 그렇다고 지금 특이점을 오게 해줄 기술이 제시된건 아니니까 그럴수 있음. 언젠가 특이점이 가능한 기술이 제시되면 다 입 다물게 되어있음. - dc App

[익명(haircut2819)]

그건 반대로 말해서 현재 가능한 기술같은건 없다는거지 특갤에서 흔히 나오는 내부 agi음모론같은게 맞는게 아닌이상

[익명(wlsdn0202)]

당장은 없긴함. 있었다면 몇 개월안에 온다고 봐야지. - dc App

[익명(124.59)]

그렇지 당장에 뭐가 있는게 아니니까..

[익명(121.183)]

지금 시점에서 LLM은 AGI로 가는 수단 중 하나에 불과하긴 하지 AGI로 가려면 결국 AI가 데이터셋을 직접 분류해서 하위 카테고리의 모델들을 스스로 만들어내고 결과적으로 무수히 많은 수천 수만개의 미니 전문분야 모델을 만드는, 일종의 기초적인 재귀개선을 이루어야 함 그리고 사용자의 요청에 적합한 전문 소형 모델들을 스스로 추론하여 판단한 뒤 도구처럼 다룰 수 있어야함 이 방식이 아니면 모든 상황과 모든 감각을 신속하게 통합하는게 매우 난해해짐

[AI네이티브(thor2018)]

[익명(124.59)]

빨리 수명연장부터 해결좀...

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

강화학습이 어떤 식으로 얼마까지 확장될 수 있을지

[ㅇㅇ 3(180.224)]

이건 근데 솔직히 써본 사람들 다 알잖아 ㅋㅋ 추론모델 고집도 존나 쎄고 프롬프트 상대적으로 안들어가는거. 추론 더 많이하는 모델일수록 심함. 난 갠적으로 4.5가 제일 나음. 검색 대신으로 쓸 땐 추론 쓰는데 아이디어나 방향성 잡을땐 추론이 더 구짐