[📪정보] 학습이 완료된 뒤 자기소유 데이터는 삭제시킬 수 있는 FlexOlmo

앨런 인공지능 연구소(AI2) 연구진이 만든 FlexOlmo를 사용하면

데이터소유자가 원본 데이터를 다른 사람에게 넘기지 않고도 모델을 학습 시킬 수 있고

학습이 끝나면 자신의 데이터를 삭제하거나 사용범위를 제한할 수 있다 뭐 그런내용

대충 원리는

각 데이터 소유자가 자신의 데이터를 사용해 자신만의 전용 모델을 학습시키고

각자 만든 이 모델들을 다시 공통모델로 병합시킴

이 병합이 안되는 문제는 이렇게 해결함

1. 데이터 소유자가 2개의 모델을 학습시킴

2. 하나는 학습을 시키고 하나(앵커)는 매개변수를 고정해 변하지 않도록 함(?)

3. 두 모델을 함께 학습하면 새 모델인 앵커와 협업하는 방법을 배우므로 최종적으로 모든 전문가가 공통모델과 호환된다(?)

(기술 이야기는 뭔 소린지 모루겠누 ㅠ)

연구진이 해보니 공통모델 단독보다 병합한게 더 성능이 좋았음

결론적으로

- 원본데이터 제공할 필요 X

- 자신의 데이터가 어디에 쓰일지 제한, 선택 가능

- 원한다면 언제든 삭제도 가능

의료, 정부처럼 민감한 데이터를 다루는 기관들이 데이터 주권을 지키며 공동AI모델 개발같은걸 할 수 있고

차등 프라이버시 같은 기법을 결합해 추가 보호도 가능하다 함

다만 개발자들이 성능을 더 중시해 복잡한 방식인 FlexOlmo는 꺼릴수 있고

보안, 프라이버시 문제로 묶여있던 데이터를 개방할 수 있는 강력한 수단이 될수도 있다는 점에서 의미가 크다함.....

3줄 요약

1. 모델 학습 후 자기소유 데이터는 삭제, 제한 가능한 아키텍쳐 개발

2. 앞으로 민감한 데이터도 개방 가능할지도 몰라 잠재력이 큼

3. 하지만 개발자들은 성능을 중시해서 복잡한건 싫을지도?

기술이야기는 뭔 소린진 모르겠지만

아무튼 미래는 밝다는 걸로 마무리 ㅎㅎ

댓글 2