내가 타임지를 자주 읽는데 ai관련된 글을 읽어볼라고 서칭하다가 오늘 이런글을 일게 되었는데


우선 래퍼런스 없는 주장은 안된다고 갤러리 규정에 있으니 이 타임지에 실린 글 링크 첨부할게 https://time.com/6273743/thinking-that-could-doom-us-with-ai/


이 저자는 사람들이 ai 혹은 강인공지능에 대한 위험성에 대해서 이야기 하는걸 싫어하고 꺼려한다라고 말하더라고


연구진이나 ai를만드는 회사관련자들은 자금삭감이나 규제를 당할까봐 위험성에 언급을안하고 일반적인 ai를 좋아하는 사람들은

자기들이 바라는 유토피아적인 신기술이 넘쳐나는 미래만을 그리는걸 좋아하기 때문에 조금만 위험성을 언급해도 실증을 내고 듣고싶어하지 않아한대

근데 나도 특이점갤 글들을 정독하면서 느꼈는데 저 저자가 하는말이 맞는거같아


특갤에서도 ai에 위험성에 대해서 말하는 걸 꺼리는 분위기가 있더라고 또 그런 이야기를 하는 글 자체도 정말 적고


그런데 지금 분위기로 봐서는 agi가 근미래에 나올거같고 발전속도가 정말 어마어마하게 빠른 이 시점에서 ai에 위험성에 너무 무감각한거 아닐까?


일단 내글을 읽고 있는 많은 특갤러들이 심기가 조금 불편할수도 있는걸 알아 하지만 나는 이런류의 고민도 필수적으로 해야한다고 봐


지금 특이점갤러리를 봐봐 무수히 많은 정보글 정보글에 언급된 신기술들 새로운 ai모델들 그걸 토대로 우리가 상상하는 유토피아적인 미래


나는 이게 나쁘다는게 아니야 애초에 그게 특이점갤 존재이유 같기도하고 그런데 말이야 우리를 초월한 무언가를 말하는데


그거에 대해서 좋은점만 말하고 그존재로 하여금 발생하는 좋은 가능성들"만"을 말하는게 과연 올바른 방향일까?


그렇게 하면 기분은 좋겠지만 그건 상당히 위험한 방향인거같아 이런 ai위험 관련된 말을 하면 이런말하는사람들이 많아


"어쩔 수 없고 피할 수 없으니 기왕이면 좋은점만 보고 부정적인건 생각하지말자"


이런 사람은 영화 돈룩업에서 "행성이 떨어질거라는 사실을 듣고도 피할 방법을 모르겠으니 그냥 하늘을 보지말고 소행성에 대한 생각자체를 하지말자"

라고 말하는 사람들을 보는거 같아 저 돈룩업이라는 영화를 봤다면 저런사람들이 얼마나 멍청하고 위험하며 답답한지 공감할거야


물론 지금 시대적 흐름으로써 agi는 개발이될거고 그로인한 위험성은 마치 절벽에 비유할 수 있어


인간은 절벽이 끝나는 방향으로 게속 달리고 있고 그런데 그 사실을 알고 그 절벽이 얼마나 높은지 얼마나 위험한지 내가 떨어지지 않을 가능성은 없는지


찾아보며 생각해보는것과 그냥 절벽으로 달리는 나를 막을 수 없으니 절벽이 있다는 사실을 잊어버리고 절벽너머에 바다만을 생각하며 앞으로 내달리는건

상당히 큰 차이가 있다고 생각해 기술적 특이점을 바라는 사람은 오히려 더 ai에 위험성에 관해 관심이 있어야 한다고 생각하는 이유이기도 해


샘 알트만도 asi발전속도를 늦추면서 안전하고 정렬된 asi를 만드는게 목표라잖아 샘 알트만은 그 절벽을 인지하고 어떻게하면 떨어지지않을까 고민하는거지


내가 말하고싶은건 그 절벽이 있다는 사실조차 생각하기 싫어하는 사람들은 문제라고 봐 그 이유가 단지 내가 그리는 유토피아적인 미래에 방해가 되니까


지금 이 글을 읽으면서 마음속에서 짜증이 나고 헛소리라고 치부하고 싶은 마음이 강하게 든다면 너는 절벽을 보지않고 바다만 보고싶은 사람인거야

내가 소행성 충돌과 agi에 탄생을 비교하는거에 불만인 사람들이 있을지 모르겠는데 하나 확실한건 소행성 충돌보단 agi쪽이 훨씬 희망적이라는거야


소행성 충돌은 정말 막을수있는 방법이 존재하지 않을지도 모르지만 ai는 아니야 더 안전하고 더 정렬되게 만들 수 있다고 아직 agi는 완성되지 않았으니


ai규제를 한다는 기사를 보면 욕을하고 천천히 안전하게 만들겠다는 회사한테 빨리 agi 내놓아라 하는게 과연 우리가 바라는 미래를 위한 일이 맞을까?

지금 현생이 너무 재미없고 힘들어서 어떻게 되도 지금 내인생보단 괜찮을 거 같으니 ai위험에 대해서 걱정안하는 사람들도 멍청한건 마찬가지야


인생이 아무리 바닥 같더라도 바닥 밑에는 지하가 있는거야 다시 강조하지만 난 asi가 이런 디스토피아를 무조건 몰고온다는게 아니야


그럴 가능성을 무시하면 안된다는거지 우리모두 agi가 어떨지 모르고 asi는 더 모르는거잖아


마지막으로 내가 인용한 타임지 글에서 가장 인상깊게 읽은 부분 캡쳐해서 올려줄게 저 링크 구글에 검색하면 나오니까 전체 글 읽어보는거 추천해



a67a15aa0f16782b8b535c62ce5ae3d5d61c1fdcee1f55e9164dabc1504db472e02ba9fbcc