[📪정보] 250519 다리오 아모데이 기사 정리

[익명(121.178)]

블룸버그 기사

1. 2025년 2월 중순, 다리오 아모데이는

안전팀의 고위 임원들이 클로드 3.7 소넷에 적절한 안전 장치가 없으면

생물학 무기를 만드는 데 사용될 수 있다는 우려를 들었으며,

이에 따라 밤샘 작업으로 1주일 간의 평가 끝에

우려했던 것만큼 강력하지 않다는 결론을 내리고,

예상 출시일보다 1주일 늦게 3.7 소넷을 출시했다.

아모데이는 상업적 압박으로 인해 이러한 지연이 매우 고통스러웠다고 이야기했다.

하지만 곧 훨씬 더 강력한 AI가 등장할 것으로 예상됨에 따라,

앞으로 훨씬 더 불편한 결정들이 기다리고 있다.

아모데이는 상업적 인센티브를 무시하는 것은 불가능하다고 인정했다.

하지만 그는 앤트로픽이 세상을 파괴하지 않으면서도

세상을 바꿀 수 있는 AI를 구축하는 방법을 보여줌으로써

AI 업계 전체를 끌어올리는 '정상을 향한 경쟁'을 만들어낼 수 있다고 말한다.

2. 아모데이는 사회의 대대적인 재편을 가져올 기술이

이르면 내년에 출시될 예정이며,

2030년 전에는 거의 확실히 나올 것이라고 말했다.

그는 "현재 무슨 일이 일어나고 있는지 명확하게,

가능한 자주 설명하지 않는 것은

우리의 도덕적 의무를 져버리는 것과 같다"라고 이야기했다.

3. 그러나 고객들은 계속해서 더 강력한 AI를 원하고 있다.

앤트로픽은 ASL-3에 해당하는 모델이 곧,

어쩌면 출시가 임박한 것으로 예상하고 있다. (현재 출시된 모델은 모두 ASL-2 이하)

이에 대비하여 이미 보안 강화에 착수했다.

4. 공동 설립자이자 여동생인 다니엘라 아모데이는

다리오 아모데이가 레이 커즈와일의 '특이점이 온다'를 읽은 후

처음으로 AI에 관심을 가졌다고 기억했다.

5. 다리오 아모데이는 앤트로픽 활동으로 억만장자가 되었고,

종종 경호원과 함께 출장을 다니고 있다.

하지만 그는 여전히 샌프란시스코 교외의 임대 주택에 살며

마당에서 닭을 키우고 있다.

그는 재산의 '대부분'을 자선 단체에 기부하겠다고 약속했다.

6. 앤트로픽에게 난처한 점은, 코딩 자동화로 인해 영향을 받게 될 노동자들이

바로 오늘날 사무실에서 자동화 도구를 만들고 있는 그들 자신일 수 있다는 것이다.

"분위기는 '오, 이제 진짜 실감된다'라는 느낌이에요."라고 잭 클라크는 말한다.

아모데이는 최근 사내 연설에서 이 주제를 중심에 놓았으며,

앤트로픽의 기술이 회사의 업무 방식에 실질적인 변화를 가져오고 있다고 직원들에게 밝혔다.

그는 "클로드 때문에 채용을 줄일 수도 있을 것 같습니다.

다만 그 이유는 클로드 때문에 누군가를 해고하고 싶지는 않기 때문입니다."라고 당시 직원들에게 말했다.

이어서 그는 회사가 개발자들이 변화하는 역할에 적응할 수 있도록 도울 것이라고 덧붙였다.

7. 회의와 함께 전달된 내부 메모에서 아모데이는

올해 안에 AI가 코드 작성, 디버깅, 실험 제안 및 관리 같은 핵심 기술 작업 수행 능력에서

단순히 '유용한 도구' 수준을 넘어

이러한 기술 작업의 대부분을 수행하는

'절대적으로 필수적인 존재'로 전환될 확률이 70%에 달한다고 밝혔다.

8. 아모데이는 AI가 결국 대부분의 인간 노동을 대체하게 될 것이며,

사람들은 경제적 가치를 유지할 어떤 방법을 찾지 않는 한

보편적 기본 소득이나 다른 재분배 방식에 의존하여 살아가게 될 것이라고 예상한다.

"저희는 여기서 좋은 결과를 얻기 위해 싸워야합니다.

착취적이거나 디스토피아적인 방향 또한 분명 가능하기 때문에 예방되어야 합니다..."

[은바다(nmra3fmzhxmg)]

4. 공동 설립자이자 여동생인 다니엘라 아모데이는 다리오 아모데이가 레이 커즈와일의 '특이점이 온다'를 읽은 후 처음으로 AI에 관심을 가졌다고 기억했다.

[은바다(nmra3fmzhxmg)]

[폰노이만(alter0179)]

갤주 샤라웃 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[ㅇㅇ 4(125.133)]

눈을 떴구나.

[ㅇㅇ 1(61.80)]

뭐야 안경 벗으니까 걍 평범하게 생겼네

[gemini는제미나이(main6862)]

[이세이미야케(jkwarawara)]

[익명(carpet8836)]

존나 자기네들은 힘 숨기고 있다. 우리가 정렬안하고 출시하면 인류에 심각한 피해를 끼칠거다 이러면서 자기네 집에 금송아지 있다 그러고있네

[점심밥(yield0917)]

[Moonchild(resolve0716)]

또 갤주 당신입니까..

[폰노이만(alter0179)]

[ㅇㅇ 2(175.215)]

철학이 확고해서 좋네 진심인거 같음

[익명(compact5711)]

회사간판에 안전 적어놔서 그런가, 예상치 못한 지옥의 일주일 철야 안전테스트 해도 암말 안 하는 사람들이 모여있나보네 ㅋㅋㅋㅋㅋ

[초존도초(htr3c654r6ft)]

[콜라조무사(tkatjdrhdghkrnr123)]

1년은 참... 앤스로픽 내부에선 대체 어느 수준의 에이전트를 만든거냐

[레알팜(lottohelp)]

[도로시냥(slzpdnjsxnf)]

[익명(175.118)]

UBI를 언급했네 ㄷㄷ

[ㅇㅇ 3(211.208)]

내가 클로드3.7 잘 쓰고 있어서 까고 싶진 않은데, 얘네 추론 모델, openAI, 제미니 추론모델보다 성능이 훨씬 밀림. 이제는 다른 직업 미래 걱정할 때가 아니라 본인들 미래 걱정할 때임. 이 상태로라면 API도 사용률도 점점 떨어질텐데

[익명(218.237)]

생물학 무기???뭐??? 어이가없넹

[ㅇㅇ 5(211.169)]

[ㅇㅇ 6(210.205)]

나는 진짜 미래가 불길하다고 생각하는게 여기 특붕이들은 AI에 대해서 무조건 옳다고 생각하는 분위기가 만연하지만 사실 디스토피아일 가능성이 더큼. 아무리 과학기술이 발전하더라도 빛의 속도로 인한 우주 최고 속도의 상한이 있는한 인류가 나아갈 수 있는 최대 권역은 이 태양계 안 쪽에 전부임 다시말해서 자원은 한정되어 있고 누군가는 자원을 가지고 누군가는 자원을 못가진다는 뜻임. 그리고 그 자원은 소수의 부와 권력을 가진 대부분에게 집중될 가능성이 높고

[ㅇㅇ 6(210.205)]

인류의 선한의도가 선한 방향으로 인류를 이끌 것이라고 생각하는 것은 너무 사람을 순진하게 생각하는 것이 아닌가. 당장에도 러시아가 영토 한 뼘 더 차지하려고 우크라이나를 침공하는 세상인데 그리고 그 우크라이나를 침공 지시한 사람은 세계에서 가장 큰 권력을 가진 사람임.

[ㅇㅇ 6(210.205)]

그리고 지금까지 기술혁명들과 달리 AI혁명은 다수의 동의를 받지 않아도 되는 기술임 다시말하자면 산업혁명, 컴퓨터 혁명은 높은 지식 수준을 가진 대중들이 발전시킨 기술이라 권력자들도 함부로 할 수 없음. 하지만 누군가가 초지능 AI를 개발한 순간 그 기술을 독점한다면 디스토피아가 펼쳐질 것임. 미래에 대해서 조금은 비관적으로 생각하는 게 필요하다고 생각한다 특붕이들아

[ㅇㅇ 7(183.91)]

내 1년치 환불해줘 썅년들아