[신간📰] <생성형 AI : 인간의 비인간화> 요약

[구천이(khb137)]

* 패널

고한규 LG전자 인공지능 연구소 책임연구원 - AI에 대한 기술적 접근

오영진 서울과학기술대 교수 - AI에 대한 문학적 접근

전응준 변호사 - AI에 대한 법적 접근

* 강연

1. 고한규 : 생성형 AI란 무엇인가.

인공지능의 위력을 대중에게 알린 퍼스트임팩트는 알파고와 이세돌의 바둑대결이었다. 그런데 이 알파고에 쓰인 강화학습은 많은 제약사항이 따른다. 룰이 정해진 게임에서 이기는 것은 가능하겠지만, 실질적인 문제를 해결하기는 힘들다.

이보다 더 나아간 생성형 모델 Gan(Generative Adversarial Networks)이 있다. Gan은 생성모델과 분류모델 두 가지를 두고, 생성모델은 진짜데이터와 가짜데이터를 만들고 분류모델은 이를 구별하는 방식으로 학습한다. 이를 통해 사진의 안경을 빼거나 씌우는 등의 활용이 가능해졌다.

그리고 2020년에 등장한 GPT3는 번역, 앱개발, 코딩 자동화, 작문 등에 특화된 거대모델이다. 여기에 대화형 인터페이스를 학습시킨 게 ChatGPT이다. 인공지능계의 세컨드임팩트라 할 수 있다.

올해 등장한 Gpt4는 사람의 텍스트뿐 아니라, 이미지나 다른 입력에 대해서도 이해가 가능하다. AI를 활용한 이미지 생성모델로 어도비 파이어플라이가 있다.

2. 오영진 : AI도 문학을 할 수 있을 것인가.

많은 사람들이 AI의 무궁무진한 가능성을 말하지만, 한편으론 거대언어모델에 대한 부정적 은유들도 상당하다. 대표적으로 에밀리 벤더의 <확률적 앵무새>가 있다. 생성형 AI는 언어토큰과 언어토큰 사이의 확률적 조합을 시도한 것일 뿐, 진정한 사고를 거쳤다고 보기 힘들다는 것이다.

라파엘 밀리에르는 한발 더 나아간다. 이건 앵무새 수준도 아니다. 앵무새들이 일정한 맥락을 갖고 말을 따라할 수 있는 것과 달리, 이건 그냥 색을 카피한 <확률적 카멜레온>에 불과하다는 것이다. 그는 AI에 대한 지나친 의인화를 경계해야 한다고 말한다. 

게리 마커스 뉴욕대 심리학과 교수는 생성형AI를 블로비에이터라 표현한다. 미국 오하이오 주 정치인의 말하기 스타일을 일컫는다. 10분동안 떠들어도 무슨 말인지 알아들을 수 없는 스타일. 유능하게 보이지만 사실 텅빈 발화라는 것이다.

일반대중에게 생성형AI의 가능성이 지나칠 정도로 높게 측정되고 있다. 시나 소설을 쓰는 ai라는 표현은 기자들이 반성없이 쓰는 표현에 불과하다.

얼마 전 구글에서 AI 글쓰기 도구인 워드크래프트를 공개했고, 13명의 소설 작가와 협업하는 과정을 공개했다. 대부분의 작가들이 “쓸 수 없다. 이건 문학적으론 못 쓰겠다.”라는 반응을 보였다.

딱 2명만 그나마 쓸모가 있다고 답했는데, ‘근미래에 sf 상점에서 팔 법한 상품 목록’이라든가, '판타지 세계 안에서의 토끼 종류의 목록, 마법의 목록' 등 장르문학에서 보조적으론 쓸 법하다고 판단했다. 문장 툴로써 쓴 것은 아니었다.

일반 상식에 이르는 문장은 가능하지만, 구조적으로 꺾어야 하는 예술에는 구조화하기 쉽지 않다. 또한 비열한 짓을 너무 꺼린다. 자살, 살인, 폭력 등의 이야기를 다루는 데 제약 사항이 많다. 이것은 문학적 도구가 되기에는 치명적인 약점이다.

이 한계를 극복하기 위해서는 인간의 손을 많이 거쳐야 한다. 채굴 후 재조합 기법, 변형패턴화, 구조적 결절화 기법 등을 들 수 있겠다. 요지는 인간이 한번씩 꺾어줘야 한다는 거다. 이건 예술을 많이 아는 사람만이 가능한 것이다.

예를 들어, AI에게 여름을 주제로 시를 써달라고 하면, 죄다 “아, 찬란하고 뜨거운 여름이여!” 이런 상투적인 레토릭을 반복할 뿐이다. 여기서 인간이 개입해서 “여름의 어두움에 대해 말해줘.”, “여름의 차가움에 대해 말해줘.” 이때가 돼서야 그나마 볼 법한 시들이 뽑힌다.

나는 AI를 활용한 공포라디오쇼를 진행한 적이 있었는데, “어두운 밤 나를 뒤따라오는 머리 긴 여자에 대해 써줘.”라고 요청하니, 뻔한 얘기밖에 안 나오더라. 그러다가 어떤 청중이 ‘시금치’로 공포 소설을 쓸 수 있느냐고 물어보니, 상당히 좋은 결과물이 나왔다. 이때 창의성은 AI가 아닌, 시금치와 공포를 연결 지으려던 그 청중에게 있는 게 아닐까.

또한 Gpt는 이야기를 조기종료하려는 경향이 있다. 자기가 입력 받은 내용 안에서만 처리하려는 것 같다. 그래서 너무 축약이 되거나 섣부른 이야기가 되는 경우가 많다. 갑작스레 인물이 죽는다거나, 이도저도 아닌 허망한 이야기가 된다거나.

이것들을 제어하는 게 중요하다. “이 다음에 접속사 ‘그리고’를 넣어서 내용을 이어가줘.” 같이 계속해서 AI를 채찍질해야 한다. 현재의 생성형 AI는 문학자판기가 아니다. 버튼 한번 누르고 결과물이 나올 수 있는 수준이 아니다.

내가 생성형 AI에게 기대하는 부분은 다른 영역이다. 내 수업을 들은 40명 학생의 시를 하나로 산출해달라 부탁했다. 그랬더니 AI가 기도문에 가까운 시를 쓰더라는 것이다. 물론 40명의 시를 충분히 반영했다고 보기는 어렵겠지만, 읽은 흔적은 남아있었다. 과거의 문학은 개인성 안에 갇혀 있다. 각자의 시가 하나로 컴바인된다는 건 경이로운 일이다. 우리들의 정신세계가 하나로 통합되는 환상을 준다. 하나의 저자성이 아닌 다수의 저자성으로 넘어갈 수 있는 매개가 ai가 될 수 있겠구나, 그런 생각이 들었다.

3. 전응준 : AI를 둘러싼 저작권 문제

Ai 생성물과 사람 생성물을 동일 취급하는 경우 창작자의 인센티브는 소멸한다. 무엇보다 현재의 ai 생성물은 기존 창작물에 큰 빚을 지고 있다. 그러나 저작권자 하나하나 특정해서 보상하는 건 어렵다.

흔히 생성형 AI의 생성방식을 ‘블랙박스’라고 표현한다. 결과물이 나오더라도, 그 결과물이 어떤 노드를 통해서 왔는지 알 수 없다. 어떤 입력값에 어떤 출력이 나오는지 알 수 없다는 것이다.

일단 AI 창작물과 사람 창작물을 구별할 방법이 먼저 정립되어야 할 것이다. AI 산출물에 워터마크를 넣자는 제안이 꾸준히 있어왔다. 엔지니어들과 얘기해보니, 이미지는 가능한데 어문 저작물은 불가능하다는 답변을 받았다.

방법이 아예 없는 것은 아니다. 모든 AI 개발사들이 통합해서 AI식 문장 패턴을 만들어 구별이 가능하도록 하자는 의견이 있었다. 물론 모든 AI 개발사의 협업이 필요하다는 점에서 요원한 일이긴 하다. 기술하는 분들이 계속해서 연구하는 중이다.

저작권법에서는 창의성의 기준을 굉장히 낮게 본다. 그러나 ai의 발전으로 이제는 AI가 저작권법적으로는 창의성을 지녔다고 인정할 수 있는 수준에 올라왔다. 그래서 이 기준을 높여야 하는지에 대해 전세계적 논의가 필요한 실정이다.

4. 질의응답

Q. ChatGPT로 인한 파장이 교육계에도 상당한 영향을 주었을 것 같다. 학생들이 ChatGPT로 과제를 대신 해온다거나 이런 해프닝이 있지 않았나.

A. 오영진 : 안 그래도 많은 교수님들이 나에게 문의했다. 학생들이 ChatGPT로 과제를 해오는 거 같은데, 어떻게 잡아낼 방법이 없냐고. 아쉽게도 아직까진 방법이 없다.

한 지방대 교수님은 그러더라. 유학 온 외국인 학생들이 기초 한국어 수업 과제에 ChatGPT를 이용하는 것 같다고. 유학생들에게 물어보면, 다들 하나같이 “그렇지 않다. 만약 그렇게 느끼셨다면 그건 내 한국어 실력이 부족하기 때문이다.”라고 답한다는 것이었다. 결국 그 수업은 제대로된 수업을 하지 못하고 무너져 버렸다. 우리는 ChatGPT가 이미 평균적인 시민 수준 이상의 작문 실력을 가졌다는 걸 인정해야 한다.

그래서 나는 수업 과제를 낼 때 이런 식으로 낸다. “너의 가장 개인적인 경험과 엮어서 써보라”고. 현재의 생성형 인공지능으로는 이런 접근을 하기 쉽지 않다. 만약 ChatGPT로 이걸 해냈다면 이미 그것만으로 그 학생은 유능한 학생이다.

Q. 생성형 인공지능의 다음 레벨은 무엇인가.

A. 고한규 : 다음 레벨로 넘어가는 것은 다소 지연될 거 같다. 지금도 어마어마한 리소스가 투입되고 있다. 서버 연산량이 상당하고, 이로 인해 지구 온난화가 가속된다는 얘기까지 나온다. 그래서 무한정 커지거나 그러진 않겠지만, 멀티 모델리티, 곧 언어모델을 중심으로 한 초거대 모델이 문자 이외의 모델리티(이미지나 영상)로 전달되는 입력을 분석할 수 있게 될 것은 자명하다.

또한, 기존의 어플리케이션을 언어모델 서비스가 대체하게 될 것이다. “이번 주말에 누구랑 약속이 있는데 식사할 때 무슨 알러지가 있고, 이런 음식을 좋아해. 네가 메뉴를 대충 짜서 필요한 걸 주문해서 문앞에 떨궈줘.”라고 부탁하면, 배민이니 쿠팡이니 다양한 앱을 켤 필요 없이 얘가 뒤에서 다 해주게 될 것이다.

-------------------------------------------------------

이번 도서전에서 가장 재밌는 강연이었음. 생성형 인공지능의 가능성을 (대중에 비해) 제한적으로 보는 관점이 많았다는 게 흥미로웠음. 문학연구자들은 팔이 안으로 굽는다고 볼 수도 있겠지만, 인공지능 연구자도 앞으로의 발전이 다소 지연될 것이라 밝혔다는 점에서 ㅇㅇ

우다영 작가도 소설과 인공지능에 관한 북토크쇼를 했었는데, 이건 내가 끝부분밖에 못 들음.

“소설가들은 생성형 AI에 대해 잘 공포를 느끼지 않는다. 다들 한번씩 써보고서는 ‘아 이정도면 아직 괜찮겠구나,’ 안심했다고들 한다. AI가 소설을 쓰는 게 기술적으로 불가능하다기보다는, 아직 이 방향으로 학습을 하지 않았기 때문인 것 같다. 경쟁하는 시기가 온다면 조금 뒤의 일일 것 같다.”

소설가들은 아직 안도하고 있는 듯한 분위기라네. 그럼에도 우다영은 언젠가 AI 소설가와 경쟁하게 될 것이라 분명히 밝혀둠.

- dc official App

[설야(clairinside)]

[노노샛별(121.158)]

예아

[불안의책(artistrilke)]

홀리 수시

[아요라(darwinia)]