Use of LLMs for Illicit Purposes: Threats, Prevention Measures, and VulnerabilitiesSpurred by the recent rapid increase in the development and distribution oflarge language models (LLMs) across industry and academia, much recent work hasdrawn attention to safety- and security-related threats and vulnerabilities ofLLMs, including in the context of potentially criminal activities.Specifically, it has been shown that LLMs can be misused for fraud,impersonation, and the generation of malware; while other authors haveconsidered the more general problem of AI alignment. It is important thatdevelopers and practitioners alike are aware of security-related problems withsuch models. In this paper, we provide an overview of existing - predominantlyscientific - efforts on identifying and mitigating threats and vulnerabilitiesarising from LLMs. We present a taxonomy describing the relationship betweenthreats caused by the generative capabilities of LLMs, prevention measuresintended to address such threats, and vulnerabilities arising from imperfectprevention measures. With our work, we hope to raise awareness of thelimitations of LLMs in light of such security concerns, among both experienceddevelopers and novel users of such technologies.arxiv.org

최근 산업계와 학계 전반에 걸쳐 대규모 언어 모델(LLM)의 개발 및 배포가 급속히 증가함에 따라 최근의 많은 연구에서는 잠재적인 범죄 활동을 포함하여 LLM의 안전 및 보안 관련 위협과 취약성에 주목하고 있습니다. . 특히 LLM은 사기, 명의 도용 및 악성 코드 생성에 오용될 수 있는 것으로 나타났습니다. 다른 저자들은 AI 정렬의 보다 일반적인 문제를 고려했습니다. 개발자와 실무자 모두 이러한 모델의 보안 관련 문제를 인식하는 것이 중요합니다. 이 백서에서는 LLM에서 발생하는 위협과 취약성을 식별하고 완화하기 위한 기존의(주로 과학적인) 노력에 대한 개요를 제공합니다. 우리는 LLM의 생성 기능으로 인해 발생하는 위협, 그러한 위협을 해결하기 위한 예방 조치, 불완전한 예방 조치로 인해 발생하는 취약성 간의 관계를 설명하는 분류법을 제시합니다. 우리의 작업을 통해 숙련된 개발자와 해당 기술의 신규 사용자 모두에게 이러한 보안 문제에 비추어 LLM의 한계에 대한 인식을 제고할 수 있기를 바랍니다.

- dc official App