[📪정보] 앤트로픽 직원 ai 안전빌미 정부규제 반대

[익명(125.191)]

https://importai.substack.com/p/import-ai-375-gpt-2-five-years-later

Import AI 375: GPT-2 five years later; decentralized training; new ways of thinking about consciousness and AI

게다가, 정책 제안을 더 위험 지향적으로 만들수록, 규제 기관에 엄청난 권한을 부여하는 경향이 있습니다. 그리고 역사적으로 볼 때, 일단 정부에 권한을 부여하면 그 권한을 다시 국민에게 되돌려주는 것을 꺼린다는 사실이 드러납니다. 정책은 톱니바퀴와 같아서 시간이 지나면서 점점 쌓이는 경향이 있습니다. 즉, 오늘날 정부에 부여하는 권한은 미래에 그들의 권한의 바닥선을 나타내므로, 그들에게 권한을 부여하는 데 매우 신중해야 합니다. 왜냐하면 그 권한을 되돌릴 수 없다는 것을 보장할 수 있기 때문입니다.

이런 이유로 저는 AI 정책 분야에서 떠돌고 있는 몇 가지 아이디어들에 점점 더 반대하게 되었습니다. 예를 들어 AI 시스템을 개발하는 데 라이센스가 필요하다는 것, 대규모 오픈 소스 AI 모델을 배포하는 데 사람들이 더 어렵고 비용이 많이 들게 만드는 것, 전 세계적으로 AI 개발을 일정 기간 동안 중단하는 것, 배포를 위한 준수 장벽을 만들기 위해 새로운 정부 또는 주정부 수준의 관료 조직을 만드는 것(저는 미국 원자력 규제 위원회와 그로 인한 원자로 건설에 대한 냉각 효과를 경고적인 교훈으로 삼습니다), '안전'이라는 용어를 포괄적인 용어로 사용하여 아직 정량적 위험과 잘 개발된 위협 모델로 뒷받침되지 않은 감시 체제를 가능하게 하는 것 등이 있습니다.

[ㅇ(175.204)]

중국한테 줘터져봐야 정신차릴듯. 라이센스 ㅋㅋ

[익명(14.52)]

앤트로픽 급호감