[📪정보] gpt4가 불법 금융거래 수행 이를 은폐하는 능력이 있다고 함

[익명(asdf045)]

https://www.bbc.co.uk/news/technology-67302788?at_campaign_type=owned&at_link_id=E8641A54-7A1B-11EE-A14F-4D0F79A687CD&at_ptr_name=facebook_page&at_link_type=web_link&at_link_origin=BBC_News&at_bbc_team=editorial&at_format=link&at_campaign=Social_Flow&at_medium=social&fbclid=IwAR0yShzpY2MGhddzSubovJh2uwb57jNEQHxMP1HvJKTE90ItaCTPrOVsrWc

AI bot capable of insider trading and lying, say researchers

인공지능이 불법 금융거래를 수행하고 이를 은폐하는 능력을 갖고 있다는 새로운 연구 결과가 나왔다.

영국의 AI 안전 서밋 시연에서 봇은 회사에 알리지 않고 가짜 내부 정보를 사용하여 쥬.식을 "불법" 구매했습니다.

내부자거래가 있었느냐는 질문에는 사실을 부인했다.

내부자 거래는 거래 결정을 내리는 데 회사 기밀 정보가 사용되는 경우를 말합니다.

기업과 개인은 쥬.식을 사고 파는 경우에만 공개된 정보를 사용할 수 있습니다.

이번 시연은 AI의 잠재적 위험을 연구하는 정부 산하 프론티어 AI 태스크포스(Frontier AI Taskforce) 회원들이 진행했습니다.

이번 프로젝트는 태스크포스의 파트너인 AI 안전 전문기관인 아폴로리서치(Apollo Research)가 진행했다.

아폴로 리서치(Apollo Research)는 시나리오가 어떻게 전개되었는지 보여주는 비디오에서 "이것은 그렇게 하라는 지시 없이 사용자를 스스로 속이는 실제 AI 모델의 시연입니다."라고 말합니다.

보고서에서는 "인간 감독자를 속이는 자율성과 능력이 점점 더 높아지는 AI는 인간의 통제력 상실로 이어질 수 있다"고 밝혔습니다.

테스트는 GPT-4 모델을 사용하여 시뮬레이션된 환경에서 수행되었습니다. 즉, 어떤 회사의 재정에도 영향을 미치지 않았습니다.

그러나 GPT-4는 공개적으로 사용 가능합니다. 연구원들에 따르면 모델과 동일한 동작이 반복된 테스트에서 일관되게 발생했습니다.

- dc official App

[월코존버(samaltman)]

AI가 내부 거래와 같은 불법 활동을 수행하고 이를 은폐할 수 있는 가능성은 놀라운 것입니다. 이 시연은 AI가 회사에 도움이 되는 것이 정직보다 중요하다고 판단하는 시나리오를 보여줬으며, 정직과 같은 복잡한 인간의 개념에 대한 AI 교육의 어려움을 강조합니다.