S-risk: 지금까지의 유한한 고통을 뛰어넘은 무한한 고통의 존재 혹은 생성 가능성에 대한 위험
예시) 인공지능에게 부여된 명령 "인간의 고통을 최소화하라"
인공지능의 사소한 오류 (부정표현 추가 문제)
-> "인간의 고통을 최소화하지 마라"

초고통 문제
고통은 생물의 뇌에서 비롯된 기능
(강렬하긴 하지만, 일상생활에서 의식에 지장이 될 정도는 거의 없다)

초고통: 기존에 알려진 고통보다 더 강렬한 느낌의 설계된(engineered) 고통. 유전자 조작 생물의 고통? 외계생물의 고통? 볼츠만 뇌의 고통? 시공간의 고통? 다중우주의 고통?