https://www.tomshardware.com/news/ai-doesnt-learn-like-people-do


https://www.tomshardware.com/news/ai-doesnt-learn-like-people-do

AI Lie: Machines Don’t Learn Like Humans (And Don’t Have the Right To)Some argue that bots should be entitled to ingest any content they see, because people can.www.tomshardware.com


어떤 사람들은 사람이 볼 수 있는 콘텐츠를 봇이 수집할 수 있어야 한다고 주장합니다.




일부 인공지능 파멸론자들은 지각 있는 컴퓨터가 인류를 멸망시킬 것이라고 믿기를 원합니다. 하지만 오늘날 ChatGPT나 Google SGE와 같은 챗봇의 가장 위험한 측면은 무섭게 들리겠지만 독일 억양을 가진 로봇 암살자를 만들어내는 능력이 아닙니다. 저작권이 있는 텍스트와 이미지를 '학습'을 가장한 '학습 데이터'로 무단으로 사용함으로써 인간 작가와 예술가들이 자신의 말과 아이디어로 컴퓨터와 경쟁하여 도태될 수 있다는 점입니다. 또한 30년 가까이 이어져 온 아이디어의 개방형 웹 마켓플레이스가 깨질 위험이 있습니다.




기술로서의 LLM은 잘못된 것이 아닙니다. 현재 Tom's Hardware에서는 원본 기사에서 직접 학습 데이터를 가져와 전문 지식만을 바탕으로 독자의 질문에 답하는 챗봇을 테스트하고 있습니다.




안타깝게도 많은 사람들은 AI 봇이 "인간처럼 학습하는 것"이기 때문에 소유 여부에 관계없이 공개 인터넷에서 사용 가능한 모든 데이터를 가져와 수집하고 용도를 변경할 수 있도록 허용해야 한다고 생각합니다. 기사를 읽은 사람은 방금 흡수한 아이디어를 자신의 연설이나 그림에 무료로 사용할 수 있습니다. 따라서 우리가 편리하게 '머신 러닝'이라고 부르는 수집 관행을 가진 LLM도 당연히 같은 일을 할 수 있어야 합니다.




저는 법학 교수, 기술 저널리스트, 심지어 제 가족 구성원까지 제가 존경하는 많은 사람들로부터 이러한 주장을 들었습니다. 하지만 이는 생성형 AI의 작동 방식에 대한 근본적인 오해에 근거한 것입니다. 하지만 제가 인터뷰한 수많은 전문가, 참고한 연구 논문, 그리고 제가 직접 LLM을 테스트한 경험에 따르면 기계는 사람처럼 학습하지 않으며, 데이터를 분류하고 리믹스했다는 이유만으로 데이터를 자신의 것으로 주장할 권리가 없습니다.




"이러한 기계는 가능한 한 많은 텍스트 정보를 흡수하도록 특별히 설계되었습니다."라고 매사추세츠주 월섬에 있는 벤틀리 대학교의 수학 교수이자 AI 알고리즘에 대해 광범위하게 저술한 노아 지안시라쿠사(Noah Giansiracusa)는 저에게 말했습니다. "그것은 인간이 설계된 방식이 아니며 우리가 행동하는 방식도 아닙니다." 우리가 컴퓨터에 이러한 권리를 부여한다면, 컴퓨터를 소유한 대기업(OpenAI, Google 등)에 도둑질할 수 있는 라이선스를 주는 것과 같습니다.




또한 웹에서 목소리를 낼 수 있는 사람이 훨씬 줄어들 것입니다: 출판사는 폐업할 것이고, 개인은 봇의 먹잇감이 될까 봐 사용자 제작 콘텐츠를 더 이상 게시하지 않을 것입니다. 그러면 챗봇은 심하게 편향된 출처(예: 스마트폰 구매 가이드를 작성하는 Apple)나 다른 봇의 결과물, 즉 합성 콘텐츠의 아우로보로스에서 학습하여 모델을 무너뜨릴 수 있습니다.




머신 러닝 VS 휴먼 러닝




인공 지능을 설명하는 데 사용하는 의인화된 용어는 인공 지능에 대한 우리의 인식을 형성하는 데 도움이 됩니다. 하지만 소프트웨어를 '훈련'할 수 있고 어떤 방식으로든 '학습'할 수 있다는 전제에서 출발하여 이러한 훈련을 인간이 지식을 습득하는 방식과 비교해 보겠습니다.




LLM은 학습 과정에서 텍스트나 이미지를 입력받으며, 이를 토큰, 일반적으로 단일 단어, 긴 단어의 일부 또는 데이터베이스에 숫자로 저장되는 코드 세그먼트인 작은 데이터 조각으로 변환합니다. OpenAI의 토큰화 페이지를 확인하면 어떻게 작동하는지 이해할 수 있습니다. "빠른 갈색 여우가 게으른 개를 뛰어넘다"를 입력하자 도구가 각 단어와 문장 끝에 있는 마침표에 대해 하나씩 총 10개의 토큰으로 변환했습니다. "갈색"이라는 단어의 ID는 7586이며, 다른 텍스트 블록에 사용하더라도 이 번호는 그대로 유지됩니다.