2eb2dc2ae4d53d993eef86e458c12a3a053da5736591e390a314f7158c

2eb2dc2ae4d53d993eef86e758c12a3a6340e4560e265aff984ebe0a00

2eb2dc2ae4d53d993eef86e658c12a3a09cdff6d209f707b786c0a2b32

2eb2dc2ae4d53d993eef86e158c12a3a785a8f0a9937f1e000d35849e3

2eb2dc2ae4d53d993eef86e058c12a3a2006d058a9906e845595a2e2b4

2eb2dc2ae4d53d993eef86e358c12a3a225b58f919e3d44209b3821b23

2eb2dc2ae4d53d993eef86e258c12a3af838d1bc171b79b7b0b9d155a9

2eb2dc2ae4d53d993eef86ed58c12a3a7100e304750cf4c92a55b89486

2eb2dc2ae4d53d993eef86ec58c12a3a7d658681b6b2b41761bd2e5cc7

2eb2dc2ae4d53d993eef87e558c12a3a851b134e25559eebfe003c7463

2eb2dc2ae4d53d993eef87e458c12a3aef3ff32c4bc18321d8fcb3746f

2eb2dc2ae4d53d993eef87e758c12a3ad582b9f6cd41fb6cfbe3ec3da7

2eb2dc2ae4d53d993eef87e658c12a3a67d2f6aefbee24ab1735a71e24

2eb2dc2ae4d53d993eef87e158c12a3ae654a5d5457ae65850df98e679

2eb2dc2ae4d53d993eef87e058c12a3ad19ae68be71ee785f0a25b98c3





요약:



앤트로픽을 포함한 모든 최첨단 AI 연구소는 상업적으로 생존해야 하므로 종종 옳은 일과 상충 되는 일을 할 가능성이 있음.


(수익 추구 압력, 연구 최전선에 서야 하는 압력, 지정학적 압력, 자존심과 야망과 같은 개인적인 압력)



고로 이러한 영향 밖, 외부인들의 도움이 절실히 필요로 해짐.



특히 '잘 되기 바라고, 잘 살펴보고, 쓴 소리도 할 줄 알고, 안전 강조하는' 외부인들.



그리고 AI 문제는 AI 개발자들이 풀어야 한다고 다들 생각하지만



AI가 던지는 질문은 AI 연구 커뮤니티보다 더 크며


이는 '인문학, 종교, 철학' 그리고 그걸 넘어 사회 전반에서 다뤄야 한다고 함.



대표적으로



1. 전세계 빈곤층에 대한 우리의 의무


- AI가 대규모로 인간 노동력을 대체 할 것.

- 실직자들을 지원하는 것은 역사적인 도덕 의무가 될 것.

- 그런데 AI 개발은 소수의 부유한 국가에 집중되어 있음.

- 우리는 AI로 발생 되는 이익을 전세계에 공유 되도록 해야만 함.

- 그런데 그런 매커니즘을 도통 모르겠음.


이 문제는 교회가 역사적으로 세상이 무시하지 못하게 했던 문제였으므로 생각해 달라.



2. 인간의 번영에 대한 도덕적 상상력


- AI로 인해 결정 되는 인간, 가족, 그리고 번영에 대한 문제

- 실험실에서 얻어낼 수 없음


이 또한 전통적으로 교회가 수 천년 동안 짊어온 것이며 계속 이어가기를 바란다.



3. AI 모델의 본질에 대한 분별력의 필요성


- 모델 내부 구조를 연구하다 보면 미스테리한 것들을 발견함.

- 인간 신경과학과 유사한 구조, 자기 성찰의 증거, 인간 감정을 반영하는 내부 상태 등.


단지 무시할 것만이 아니고, 이에 대한 지속적인 분별력이 필요로 해짐.




결론적으로,


AI 프론티어 랩들에게는


'인센티브에 흔들리지 않는' 도덕적인 목소리와 협력하는 글로벌 프로젝트의 의무가 있다.