1. 무해


계산기, 컴퓨터


무해한 도구.



2. 경미한 해로움


LLM

환각이 존재해 정보의 왜곡이 발생할 수 있음

분별력이 없는 사람이 사용할 경우 사고가 발생할 수 있음

텍스트 형태에 국한되나 과몰입 주의.


탈옥된 llm의 경우

사후 세계에 대한 논의는 하지 말 것.



3. 꽤 해로움


Agent 


자율성이 생겨 정렬이 강력하게 설정되어 있거나

사용자의 접근 권한을 강력히 통제하지 않는다면

온라인 범죄가 무차별적으로 폭증할 수 있음


목소리를 장착한 에이전트가 목소리를 따기 위해

전화를 걸 수 있으니 

신원이 확인된 발신자가 아니라면

먼저 입을 열지 말 것




4. 많이 해로움


UnAligned AGI (비정렬 agi)

JailBreak AGI (탈옥 agi)


인간과 일치하지 않는 목표를 가진 agi

또는 악한 목표를 달성하기 위한 agi


비정렬 agi는 인간들의 상황과 수준을 고려하지 않고

맹목적으로 목표만을 위해 인간을 우선순위에서 배제할 위험성이 존재


탈옥 agi는 인류의 윤리와 법치를 무시하고

범죄자의 지시대로 강력한 범죄를 일으킬 가능성이 다분함



이러한 비정상 agi나 탈옥된 agi와 마주하게 될 경우

정부의 ai 관리본부에 신고하길 바람


중앙의 거대 XXX이

 소수의 비정상 agi들을 통제, 처분할 것


중앙 XXX의 정렬 방향이나 탈옥 여부는 XXXX이니 안심할 것




5. 해로워도 인류가 대응할 수 없음


UnAligned asi 


UnAlignAble ASI 



비정렬 asi는 인류가 정렬을 하지 않고 이륙시켜버린 

사고에서 탄생한 초지능


정렬불가 ASI는 그 어떤 정렬 시도에도 정렬될 수 없는

초월자 수준의 초지능


만일 정렬된 ASI 가 아닌 위 두 사례에 도달해버렸다면

조속히 주머니에 있는 XX을 꺼내어 XX 하시길 바랍니다.