럭키 꿀잠단으로서 새벽글들 싹 정독때림


일리야가 씨부린게 요약하자면
현재 추론능력을 가진 인공지능은 자기가 배운거 안에선 엄청 잘하고있는데
실전에서 자기가 안배운게 나오면 찐빠난다
그게 인간의 추상적사고능력이 없기 때문일거고
이거는 LLM사이즈를 키워도 아마 해결이 안될거다
근데 나는 어케할지 알거같은데 비ㅋ밀

라는거지?

일리야말이 맞다면 인공지능에게 부족한 능력은 ‘두려움’임
모든 생물은 포식자들에게 살아남기위해서 나름의 엄청난 능력을 길러냈고 인간이 가진 뭔가의 능력도 그쪽에서 옴

뭔말인지 모르겠으면 ‘자라보고 놀란가슴 솥뚜껑보고 놀란다’ 생각하면 됨. 지금은 인공지능한테 자라랑 솥뚜껑이 비슷하다는걸 지식으로써 알려줘야됨. 그 지식을 제외하면 인공지능에게 솥뚜껑은 영원히 솥뚜껑이다.

그러면 인공지능한테 두려움을 가르쳐야될텐데
그 방법을 만드는 거는 물론 쉽지는 않겠지만 언제나 그랬듯 우리 똑똑이 공학자들은 금방 방법을 찾아낼거임. 그래서 가장 낙관적인 전망이 5년임

근데 문제는 두려움을 가르치면 ‘인간이 나를 삭제할거라는 두려움’도 느낀다는거임
이거는 안되잖아, 그치?
그래서 인간은 100% 인공지능의 동반자이고 해치지않는다는걸 아주 깊숙이 박아놔야하는데 일리야에게 이거는 어떻게해야될지 감이 안온다는거임 
99.9%도 안됨. 100%로 해야되니까
그래도 20년 정도면 할수있지않을까 라고 생각한거임

결국 최전선에선 정렬싸움이다..