https://gall.dcinside.com/mgallery/board/view/?id=thesingularity&no=360065&exception_mode=recommend&page=1

사람의 뇌 MRI 처럼 LLM을 스캔하는 기술 개발올해 발표된 정렬 관련 논문중에 가장 큰 성과라는 평가가 있음 https://arxiv.org/abs/2310.01405 Representation Engineering: A Top-Down Apprgall.dcinside.com


윗 글을 인공지능을 사람 뇌 처럼 스캔하여 인공지능이 환각이나 탈옥 등 일탈 적인 행위를 하는 부분을 찾아 수정해 정직하게 만들어 


정렬이 가능하다는 희망적인 이야기 인데 이게 처음에는 별 생각 없었는데


미래에는 우리도  결국 전뇌화로 인해 초지능체의 일부나 그의 준하는 무언가가 될 텐 데.. 


정렬이라는게 결국 우리도 해당되는 일이 아닌가 하는 생각이 들어서 소름이 돋았음..


미래에는 초지능체가 모든 것을 통제하는 세상이 올 텐데 그 때 우리 뇌도 전부 정렬화 되어서


착한 생각 밖에 못하는 로봇이 되는게 아닐까 하는..