1. 자원을 많이 소모하거나 위험한 AI 시스템의 훈련을 위한 라이선스 제도를 설립하라는 제안입니다.
2. 훈련 중에 충분히 위험한 능력을 보이는 AI 시스템의 추가 개발을 중단하게 하는 규제자들을 강화하라는 내용입니다.
3. 깊은 학습의 창시자 중 하나인 Yoshua Bengio의 제안처럼, 선도적인 AI 시스템과 그 훈련 코드에 대한 접근 제어를 의무화하라는 것입니다. AI 연구소는 이 정보의 외부 공유를 제한하고, 직원들의 접근 권한도 필요한 경우에만 허용해야 합니다.
4. 위험한 프론티어 AI 시스템에 접근 권한을 가질 주체들에게 정보 보안 조치를 요구하라는 것입니다. 고급 AI의 유용성과 악의적 사용을 고려할 때, AI 연구소는 최고 수준의 보안 조치를 필요로 하며, 이러한 조치는 Advanced Persistent Threats (APT)와 내부 위협에 대한 장벽을 설정해야 합니다.
오픈소스도 개발 못하게 하겠다는 말도 도는 것 같던데
- dc official App
링크는 규제안에 대한 링크고 프론티어 모델 포럼 링크는 여기임 :
https://www.frontiermodelforum.org
- dc App
벤지오 힌튼 성명 보니까 라이선스 제도 도입 거론함
자기네들 컴퓨팅 다 끌어써서 학습시켜두고 이제와서 국가랑 짜고 저런식의 규제한다는건 참 ㅋㅋ - dc App
진짜 ai가 존나게 위험하면 iaea처럼 규제하긴 해야 하겠지만 이건 또 성격이 다른 기술이라 존나 애매함 핵처럼 규제 하는게 타당한가 논란이 많을듯
진짜 규제 범위나 수준 보면 파급력 핵정도로 보는 것 같은데 ㅋㅋ - dc App
당연한 절차지. ASI가 한 방에 인류의 난제들을 해결할 수 있는 것처럼 싸이코 패스 사용자 한 마디에 인류를 멸종시킬 수도 있음. 보통 방어는 공격을 당한 다음에 이루어지기 때문에 단 한 순간에 인류가 멸종한다면 방어라는거 자체가 불가능함. 아마 나중엔 API 형태로 ASI나 AGI가 제공될 것 같음.
저 규제가 되면 API도 안됨 - dc App
보면 기업 내부에서도 모델 접근 권한을 제한 한다고 되어있는데 그걸 api로 왜 품 - dc App
모델 접근 권한이라는건 로그 없이 접근하는 권한, 가중치에 대한 접근 권한, align이 잘 되어있지 않은 모델에 대한 접근 권한, 훈련 방법에 대한 접근 권한, 훈련 데이터 셋에 대한 접근 권한이겠지. 이미 다 개발과 학습이 완료된 AI에 로그 다 남기면서 API 호출하는건 현실성이 없음. 물론 더 강력한 모델일수록 접근을 제한할 수야 있겠지만, 내부적으로만 쓸거 아니면 의미가 없어.