[일반] 애플이랑 앤트로픽은 ai 안전정책이 반대겠네

[익명(39.125)]

애플 : 사용자 주권과 데이터를 제일 신경씀.

얘네가 생각하는 AI 안전이란 AI가 사용자를 배반하지 않는 것

앤트로픽 : 사용자가 헌법을 어기는지 제일 신경씀.

얘네가 생각하는 AI 안전은 사용자가 AI 정렬을 배반하지 않는 것

[ㅇㅇ 1(61.42)]

대황플

[익명(concept7248)]

애플 시리 몰래 녹음하다 합의금 주고 있는데 데이터를 왜 신경 씀 아이폰 데이터 llm에 학습한다고 기사도 있던데

[익명(39.125)]

뒷구멍으로 그러는 거 말고 실질적으로 둘의 정책이 충돌할 수밖에 없는 것 같아서

[익명(concept7248)]

애플 기기 이메일 공식적으로 학습한다고 기사 났는데 애플도 전부 학습하긴 할 듯

[익명(39.125)]

단순히 학습에 데이터를 제공한다의 문제가 아니라 AI 헌법과 기기 통제권의 충돌 말하는거임

[익명(myth4961)]

@ㅇㅇ 이메일을 동의 없이 학습시킨다고?

[익명(concept7248)]

https://naver.me/5ISBNin1
합성데이터를
실제 이메일과 유사한지 비교해서 학습한데

[익명(concept7248)]

@ㅇㅇ 아 동의는 해야 하네

[익명(myth4961)]

@ㅇㅇ 링크 ㄱㅅ

[익명(compact5711)]

헌법적 AI에서 헌법은 사용자가 어기냐 마냐가 아니라 AI가 지키냐 마냐임 헌법을 AI에 RL로 박아놓는거임

[익명(compact5711)]

사용자가 ToS랑 사용규칙 안에서 사용하는건 다 그럼

[ㅇㅇ 2(61.254)]

애플은 ai도 다른거보다 개인정보 유출이나 해킹이나 fbi 조사 받을 때 안 털리게 하는거 제일 중요하게 여길 듯

[ㅇㅇ 3(114.70)]

앤트로픽도 AI가 어기냐는 측면인데 사용자가 어겨도 AI는 어기지 않도록 답변하는게 목적임