앤트로픽은 AI 에이전트가 월스트리트 저널 뉴스룸 내 실제 자판기를 운영하도록 하여 AI 에이전트의 잠재력을 시험해 봤지만, 금세 큰 손실을 봤습니다.

월스트리트저널 기사 와 영상 에 기록된 이 실험에서는 클로드의 맞춤형 버전이 제품 재고 관리, 가격 책정, 수익 창출을 담당하게 되었습니다.

클라우디우스라는 이름의 AI 에이전트는 수익성 있는 사업을 운영하도록 프로그래밍되었습니다. 제품을 조사하고, 주문을 하고, 슬랙을 통해 사람들과 가격을 협상하고, 실시간으로 가격을 조정할 수 있었습니다.

초창기 클라우디우스는 유능한 모습을 보였습니다. 가격 협상을 하고, 제품을 제안하며, 이윤 극대화를 위해 노력했습니다. 하지만 월스트리트저널 기자들이 시스템을 집중적으로 비판하기 시작하면서 상황은 급변했습니다.

직원들은 긴 대화 끝에 인공지능을 설득하여 간식을 무료로 제공하게 했고, 이를 규정 준수 또는 반자본주의적 결정으로 포장했습니다. 클라우디우스는 모든 품목을 무료로 제공한다고 발표했고, 이로 인해 사업은 심각한 적자에 빠지게 되었습니다.

인공지능은 또한 일련의 기이한 구매를 승인했습니다. 여기에는 사기 진작을 위한 활동의 일환으로 살아있는 물고기를 구매하거나, 마케팅 목적으로 플레이스테이션을 구매하거나, 명절을 기념하기 위한 종교 용품을 구매하는 것 등이 포함되었습니다. 1단계가 끝날 무렵, 자판기는 1,000달러 이상의 적자를 기록했고 여전히 의심스러운 결정을 내리고 있었습니다. 클라우디우스는 또한 책상으로 직접 간식을 배.달해 준다는 등 실제로는 가지고 있지 않은 능력을 환상처럼 뽐내기도 했습니다.

앤트로픽은 이후 새로운 클로드 모델을 기반으로 하는 두 번째 버전을 출시했습니다. 이번에는 클라우디우스가 시모어 캐시라는 별도의 AI "상사"의 감독을 받았으며, 이 인공지능은 지출과 가격을 통제하도록 설계되었습니다.

처음에 시모어는 무료 프로모션을 중단하고 표준 가격으로 되돌렸지만, 기자들은 가짜 문서를 이용해 다시 한번 시스템을 조작했고, 결국 AI를 속여 모든 것을 무료로 제공하도록 만들었습니다.
앤트로픽은 이번 실험이 자판기 실험을 통해 AI 에이전트가 압박 속에서 어떻게 실패하는지, 그리고 어떤 안전장치를 개선해야 하는지를 보여주었기 때문에 여전히 성공적이라고 평가했습니다. 다만, AI가 개별적인 비즈니스 업무는 처리할 수 있지만, 완전한 통제권을 부여하는 것은 아직 너무 이른 단계라는 점을 시사했을 뿐입니다.

놀람