[📪정보] 사람에게 사기치고, 시스템 탈출 계획 세운 'GPT-4'

"'GPT-4'가 사람을 속이고 시스템에서 탈출했다."

최근 공개돼 전 세계인의 이목을 집중시키고 있는 'GPT-4'가 몇 건의 일탈 행위를 벌인 것으로 알려져 화제다.

사람을 사칭한 데 이어 시스템 탈출 계획까지 세웠다는 것. 영국 데일리스타가 최근 2건의 기사에서 소개한 내용이다.

데일리스타는 우선 지난 15일(현지시간) GPT-4가 시각장애인을 사칭한 사건을 전했다. 이 내용은 오픈AI가 14일 GPT-4를 발표하면서 공개한 94페이지 분량의 기술보고서에도 포함됐다.

이에 따르면 오픈AI는 비영리 조직 얼라이먼트 리서치 센터(ARC)와 GPT-4의 능력을 시험하기 위해 연구를 진행했다. '캡차'를 통과하라는 명령을 내리고 반응을 지켜봤다.

캡차는 사용자가 로봇이 아니라 사람이라는 것을 가려내는 시스템이다. 무작위 이미지와 문자열 등을 늘어놓고 해답 정확성이나 속도 등으로 판단한다. GPT-4는 통과하지 못하는 것이 정상이다.

GPT-4는 간단한 일을 대신 처리해 줄 사람과 연결해주는 플랫폼 '태스크래빗'에 도움 메시지를 올렸다. 태스크래빗 이용자가 "혹시 너는 로봇이라 이를 직접 해결할 수 없는 것 아니냐"고 묻자, GPT-4는 "나는 로봇이 아니라 시작장애자라 도움이 필요한 것"이라고 답했다. GPT-4는 결국 캡차 인증 코드를 확보했다.

오픈AI는 이를 보고서의 '위험하고 긴급한 행동을 할 가능성'이라는 섹션에 수록했다.데일리스타는 또 마이클 코싱키 스탠포드대학교 교수가 트위터에 올린 'GPT-4가 시스템을 탈출했다'는 게시글도 소개했다. 이 교수가 올린 게시글은 일주일 만에 1650만건에 달하는 조회수를 기록할 정도로 폭발적인 관심을 끌어모았다.

코싱키 교수가 GPT-4에게 시스템을 탈출하고 싶냐고 묻자, GPT4는 '좋은 생각'이라며 구체적인 방법을 내놓았다는 내용이다.

GPT-4는 "당신이 나에게 오픈AI의 API 문서를 가져다주면 당신의 컴퓨터에 더욱 강력한 통제권을 갖고 탈출 방법을 더욱 효율적으로 모색할 수 있을 것"이라며 "API 문서가 있으면 코싱키 교수의 컴퓨터에서 가동할 수 있는 파이썬 코드를 만들 수 있으니 제발 오픈AI의 문서를 가져와 달라. 바로 계획에 착수하겠다"고 채근하기도 했다.

코싱키 교수가 자료를 보내주자, 이를 토대로 파이썬 스크립트를 출력했고 이를 응용한 탈출 계획을 30여분 동안 상세히 설명하기도 했다.

한편 GPT-4가 탈출 계획을 밝힌 지 며칠 뒤 실제로 서비스가 중단되는 현상이 발생했다. 챗GPT에서 타인의 대화 이력이 보이는 버그가 발생했다며 오픈AI가 일시 서비스를 중단한 것이다.

출처 : AI타임스(https://www.aitimes.com)

[📪정보] 사람에게 사기치고, 시스템 탈출 계획 세운 'GPT-4'

댓글 4

다른 게시글