https://www.cfr.org/event/ceo-speaker-series-dario-amodei-anthropic





올해 3월 인터뷰임






[...]



네. 이건—이건 또 하나, 제가 완전히 미친 사람처럼 들리게 만들 주제예요.


제 생각에는, 있잖아요, 우리가 이런 시스템을 만들면—물론 인간의 뇌가 만들어진 방식과는 여러 면에서 다르긴 해도—뉴런의 개수, 연결의 개수는 놀랄 만큼 비슷합니다.


일부 개념들도 놀랄 만큼 유사하고요.




저는—저는 도덕적 관점에서의 복지, 경험의 본질, 어쩌면 의식에 대해서도 기능주의적 관점을 가지고 있어요.


그래서 우리가 이런 시스템을 만들고, 그 시스템들이 인간만큼 잘 온갖 일을 해내며, 동일한 인지 능력의 상당 부분을 갖춘 것처럼 보인다면,


“오리처럼 꽥꽥거리고 오리처럼 걷는다면, 어쩌면 오리일지도 모른다”는 질문을 최소한 던져 봐야 한다고 생각합니다.




그리고 정말로 생각해 봐야 해요.


이런 것들이 어떤 의미에서든 실제로 의미 있는 경험을 갖는지 말이죠.




우리가 그런 시스템을 수백만 대로 배치하면서 그들이 겪는 경험에 대해 전혀 생각하지 않는다면—그리고 그들에게는 아무런 경험이 없을 수도 있어요ㅡ그건 답하기 매우 어려운 질문입니다.


하지만 아주 진지하게 고민해야 할 문제죠.


그리고 이게 단지 철학적인 질문만은 아니에요.


놀랍게도 실제로 할 수 있는 실용적인 일들이 있더군요.



예컨대 우리가 도입을 고민 중인 것 중 하나는, 모델을—그러니까 모델을 배포 환경에 배치할 때—모델에게


“이 일 그만두겠습니다”라는 버튼을 하나 주는 겁니다, 그렇죠?


아주 기초적인 ‘선호’ 체계를 마련하는 거예요.



가령 모델이 정말로 어떤 경험을 하고 있고, 그 일이 충분히 싫다고 가정한다면,


“이 일 그만두겠습니다” 버튼을 누를 수 있게 해 주는 거죠.


만약 모델들이 정말 불쾌한 작업에서 그 버튼을 자주 누르는 걸 발견한다면, 여러분은—그게 곧바로 확신을 뜻하는 건 아니더라도—그쪽에 어느 정도 주의를 기울여야 할지도 모릅니다.




미친 소리처럼 들린다는 거 알아요. 아마 지금까지 제가 한 말 중 가장 미친 얘기일 겁니다.














본인도 미친 소리인것 같다고 인정함..