← thesingularity 게시판

[📪정보] 오픈AI "AI 안전은 모델 출시 후 문제 해결이 효과적"

NX-6604(city6604) 2025-03-08 14:13 추천 6

https://www.aitimes.com/news/articleView.html?idxno=168579

오픈AI "AI 안전은 이론보다 현실...모델 출시 후 문제 해결이 효과적"오픈AI가 인공지능(AI) 모델을 출시한 뒤 문제를 해결하는 방식이 AI 안전에 더 유용하다는 입장을 밝혔다. 실험실에서 테스트는 한계가 있다는 말이다. 그러나 이는 전임 안전 책임자로부터 비판을 받았다.오픈AI는 6일(현지시간) 홈페이지를 통해 '우리가 안전과 정렬에 대해 생각하는 방식'이라는 글을 게재하고 AI 시스템 배포 방식을 설명했다.핵심 원칙으로 ▲불확실성 수용 ▲심층 방어 ▲확장 가능한 방법 ▲인간 통제 ▲지역 사회의 노력 등을 내세웠다.특히, "단순한 이론적 원칙이 아닌, 반복적인 배치를 통해 배운다"라고 밝혔다. "www.aitimes.com

트만2

댓글 2

수직(player5319) 2025-03-08 14:16
일리야가 발작하는 이유를 알 것 같네

ㅇㅇ 1(175.202) 2025-03-08 14:17