스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)
오늘 엿같은 기분으로 일어나서 텐서플로우/케라스 공부를 하려고 파이썬 서적을 뒤지던 중 보여서 집었다
쓴 사람이 필력이 꽤 좋아서 초반이 AGI가 등장한 미래를 상상한 소설 파트이고
그 후부터 AI가 사회에 영향을 끼치는 자신의 생각을 다룬다
지금 다 읽고 바로 감상문을 쓰기 시작했는데.... 기분이 더 우울해졌다
이 책을 쓴 임백준 작가에게 매우 찬사를 보낸다... 아침보다 더 우울해졌습니다 TL발
어쩌든 말든 대 AI 전성시대
<Attetion is All You Need >라는 대 논문 발표 후 참 많이 대형 언어 모델들이 나왔다
아직 당당히 헛소리를 내뱉는 할루시네이션 문제가 있긴 하지만 gpt-3 시절에 비하면 기적적이다
나도 GPT를 오늘에 2번은 쓴 것 같은데
아침에 확률과 통계 외국 전공서 번역 해 달라 찡찡 거리고
저녁에 naive-bayes 분류기 코드 짜 달라고 찡찡 거렸다
아직 개소리가 많긴 하지만, GPT-4o 이 자식이 나보다 코드를 잘 짜는 것에 질투가 나기도 한다
아직 취업 시장에 뛰어든 적도 없지만, 내가 선택할 직업 중에 '개발자' 라는 글씨가 gpt라는 지우개로 쓱쓱 지워지는 듯한 기분은
나를 존나 우울하게 만든다 허흐윽
내가 느끼는 위기감이 나만 느끼는 것이 아니듯이 책에서도 AI의 발전에 대한 위기감을 잘 말해준다
저번 GPT-4 발표 전만 해도 '우리 인공지능 개발 좀 멈추자노~'라는 성명도 있었을 지경이고
마침 IT 취업 불황에 많은 개발자들이 커피를 들어 마시며 '안돼 내 커리어 못 잃어 엉엉'을 내면에서 뱉고 있을 것이다
물론, 비단 개발자들만 절벽에서 살려줘만 외치는 것은 아니다
법률쪽에서도 판사들조차 근미래에 AI에게 의견을 들을 수 있겠다며 호기심을 보이고
사실상 불가능이라고 여겨지던 단백질 분류를 해결하는 것도 AI가 하며
금융은 이미 죄다 대체 당해서, 미국 은행에서 트레이더들이 실시간으로 도살 당하고 있다
하드웨어의 발전 속도가 느려서 그렇지, 단순한 직종들도 이미 절벽으로 떨어진 화이트칼라들과 떨어지는 것은 숙명일 것이다
말이 좀 길긴 했지만, 책에서 주장한 것은 결국 5년뒤든, 10년뒤든 블루 칼라든, 화이트 칼라든 다같이 백수 절벽으로 떨어지는 것은 똑같다는 것이다
매우,매우,매우 두려운 AI, 근데 그 두려움의 핵심은?
흔히 미디어에서 나오는 모습이나 우리가 상상하는 AI 지배의 모습은 비관적이다
인간은 AI의 육노예가 되어서 배터리로 '그/아/아/앗' 당하거나
울트론 같이 생긴 놈들이 인간 척살 하러 오는 미래가 그 예시지만
좀 더 현실에 가까울 모습은 사이버펑크 계열의 작품일 것이다
5%의 엘리트들이 AGI를 사용해 전체 90%의 부를 장악하고, 나머지 인간들은 기본 소득이라는 목줄에 얽매여 '소비 육고기'가 되는 미래 말이다
이건 심지어 현실 진행형이다, 이 책에서도 지적하듯이 슈퍼-리치들의 자산들은 불어나기만 하지만
나머지 인간들이 전체 부에서 차지하는 비율은 갈수록 줄어들기만 한다
그렇다, 우리는 담담하게 극단화되는 빈부격차를 받아드리고 있다
이쯤 되면 슬슬 포스트-마르크스 같은 사람이 나와서 '아따 부자들은 악마랑께요'하고 부자들 죽창 찔러야 하나 싶기도 하고?
이 문제가 해결되지 않는 이유는 결국 자본주의와 경쟁하려는 사피엔스들의 태생적 문제라 어쩔 수 없어도.....
멈추지 않는 사피엔스, 목적 없는 기계
위에서 말했듯 GPT-4 사용자들이 잠시 인공지능 개발을 중단하자고 성명을 하기도 했지만
그건 싹 다 무시 당했다
그 성명이 무시 당한 이유는 여러 이유가 있겠지만, 그 이유 중 하나는
'그래서 그거 멈추면 중국이 미국 ^AI따잇^하면 니들이 책임 질 거냐?'
같은 경쟁 패배의 공포심이었다, 우리는 경쟁을 멈출 수 없는 생물이기에, 붉은 여왕 개미 가설처럼 멈출 수 없다, 방향을 모른 채 AI 기술은 점점 증폭할 것이다
앞에서 말한 AI에 대한 공포심도 사피엔스의 경쟁에 있다, (아직까진) AI는 그저 목적 없는 기계이다
GPT가 살아있는 것으로 보이지만, 그저 트랜스포머에 기반한 통계로 가장 맘에 들어할 답변을 말하는 거-대한 데이터 베이스 같은 놈이다
이러한 AI들은 리틀보이와 차르봄바처럼 목적이 없다, 그저 사람이 넣은 INPUT 값에 OUPUT을 넣을 뿐이다
그 기계를 어떤 목적으로 사용하느냐 기계는 낙관과 사이버펑크를 오간다 결국, AI를 사용하는 사피엔스의 악용이, 혹은 경쟁심이 낳는 파장이
우리는 매우 두렵다
결국 중요한 건 시스템과 우리
나도 개똥철학으로 공상하던 것이었지만, 책도 그렇게 생각하길래 나도 말해본다
그래도 AI의 위협에 가장 잘 대처할 해결법은 있다
1. 모든 국가가 미래를 걱정하여 모두 합리적인 민주 정부를 세운다
2. 그 합리적이고 정의로운 민주 정부들이 평등하고 민주적이게 협의 가능한 협의체를 세운다
3. 인공지능을 안전하게 연구,사용하는 법을 연구하고 악용하는 국가,회사를 처벌하는 체계를 구축한다
4. 인공지능 기술을 모든 국가, 모든 객체에게 평등 배분한다
이 4줄을 읽고 독붕이들은 아마 이렇게 생각할 거다
'되겠냐 병신아'
맞다, 사피엔스는 형제 네안데르탈레인을 조져버린 이후 이러한 평등하고 합리적인 의사 결정을 해본 적이 없다
물론 생각은 안 해본 것은 아니다, 하지만 다들 먹고살기 바쁘다는 이유로, 개인으론 아무 것도 할 수 없다는 절망으로, 남을 이겨야 내가 산다는 경쟁심으로
우리는 지구를 죽이고, 우리를 죽이며 하루를 벌며 살아간다,
심지어 개인이 아니라, 국가가 나서서 경쟁을 부추기도 하니까 말이다 중국의 스텐스나, 트럼프의 그린란드 협박만 봐도
2024년은 물론, 2025년에도 인간들의 미래 살리기 조별 과제는 시작도 할 기미가 안 보인다
아무튼, 인간을 뛰어넘는 특이점 AI가 나오지 않는 이상, AI의 위협과 공포의 원인은 시스템이고, 우리다
경쟁과 경쟁자의 도태를 조장하고 우리가, 무한한 부의 탐식을 조장하는 자본이, 남의 국가에 위협 받지 않기 위해 자신도 무기로 칭칭 둘러 감아야 하는
빌어쳐먹을 국제질서가 문제다, 우리가 다가올 미래의 공포를 해결하기 위해서는
AI를 다루는 것을 배우는 것도 중요하지만, 비틀린 시스템과 관계를 재편성하는 것이 중요하다고 책은 말한다
마치며
뭐....제목처럼 갑작스럽게 AI들이 직종을 빼앗고 비디오 테이프 보내는 꼴은 일어나진 않을 것이다
아직은 갈길이 멀었다며 인간 찬가를 보내는 AI 낙관론자들이 넘쳐나기도 하고
앞에서 말한 할루시네이션 문제도 골치니까 말이다
물론 미래는 아무도 모른다
아까 말한 육고기 사이버펑크 엔딩이 날 수도 있고
터미네이터 엔딩이 올 수도 있고
개쩌는 희망적 미래가 올 수도 있다
물론
내일 아침에 '오늘부터 취업시장에서 컴퓨터공학과들 전부 필요 없읍니다~'하는 내 전공 NTR 비디오가 기숙사 앞으로 올지도 모른다
하지만, 미래에서 분명히 내가 해야할 것이 있다면
비록 작은 손이라도 나를 비롯한 사피엔스들이 좋은 관계와 시스템을 구축하도록 뻗는 것이다
그래야 밝진 않더라도, 하루 3끼 컵라면만 먹는 삶이 끝나지 않을까....
서문에서 존나 우울해짐 시발 소리가 나오긴 했지만 내 대가리를 깨어주는 매우 좋은 책이었다
비전공자들도 읽을만한 책이니 다들 가서 읽어보자
책에서는 관계 구축이 중요하다로 끝나긴 했지만 나는 더 붙여서
인문학도들이 자신들의 분야를 놓지 말기를 바란다는 것이다
아무리 공돌이들과 과학자들이 좋은 기술, 논문을 만들고 써와도 그 것을 어떻게 사용할지 모른다
미국 공돌이들이 만든 작은 분자 충돌이 히로시마를 맛있게 구워버린게 1945년이고
인류 풍요를 위해 만든 질소 고정법이 유대인은~가스실로 만든 것이 100년도 안된다
오픈 AI가 AI의 방향성을 잡아주는 부서가 있듯이
인류의 고삐를 잡고 방향성을 가르켜주어야 아까 말한 좋은 미래와 관계가 구축이 될 것이다
나는 그것이 코기토 에르고 슘하는 인문학도들이라고 생각한다
인간을 지배하고 앞으로도 영향을 끼칠 철학이 있는 한....
쓸데없이 뒤지게 긴 똥글이지만 잠시 내 생각을 여기에 배출해본다
글 읽어줘서 ㄳ
이제 안나 카레리나 2권 읽으러 간다
죽창을 준비해라
노오오동자 계급의 해방...
무습다...꿈에 다다를 기회조차 주어지지 않을 수 있다는 게 - dc App