특이점이 온다 마이너 갤러리 뉴비 가이드


특이점이 온다 마이너 갤러리에 오신 것을 환영합니다!


이 가이드는 처음 방문하시는 분들을 위해 작성되었습니다. 여기서는 기술적 특이점, 인공지능(AI), 그리고 관련 기술에 대해 이야기하고 정보를 공유합니다. 이 가이드를 통해 기본적인 개념을 이해하고, 커뮤니티에 더 쉽게 참여하실 수 있기를 바랍니다. (참고: 원문)



1. 특이점이란 무엇인가요?


'특이점'은 미래학자 레이 커즈와일이 2005년에 저술한 책 '특이점이 온다'에서 처음 사용된 용어입니다. 그는 이 책에서 기술 발전이 기하급수적으로 가속화되어, 인공지능이 모든 인류의 지성을 합친 것보다 더 뛰어난 초인공지능(ASI) 이 출현하는 시점을 '특이점'이라고 정의했습니다. 우리 갤러리에서는 바로 이 기술적 특이점에 대해 논의하고, 관련된 과학 기술 정보와 소식을 공유합니다.



2. GPT, LLM은 무엇인가요?


• LLM (Large Language Model, 대규모 언어 모델): 방대한 양의 텍스트 데이터를 학습하여, 인간과 유사하게 언어를 이해하고 생성할 수 있는 인공지능 모델입니다. 쉽게 말해, 엄청나게 많은 책을 읽고, 그 내용을 바탕으로 사람처럼 글을 쓰거나 대화할 수 있는 인공지능이라고 생각하면 됩니다.

• GPT (Generative Pre-trained Transformer): LLM을 기반으로 만들어진, 특히 대화에 특화된 인공지능 모델의 한 종류입니다. 마치 반창고 하면 '대일밴드'가 떠오르는 것처럼, ChatGPT의 높은 인지도 덕분에 LLM을 대표하는 이름으로 널리 사용되고 있습니다.



LLM 기술의 발전


LLM 기술은 2017년 구글에서 발표한 'Attention is All You Need'(트랜스포머 논문) 이후 비약적으로 발전하고 있으며, 미래의 특이점을 앞당길 핵심 기술로 평가받고 있습니다. 이 논문에서는 고성능 그래픽 카드(GPU)를 병렬로 연결하여 연산하는 방식으로 LLM을 학습시키면, 인간과 유사한 추론 능력을 보이고 그 성능이 크게 향상된다는 사실을 보여주었습니다. 비록 이러한 성능 향상의 정확한 원리는 아직 완전히 밝혀지지 않았지만, 이 발견은 LLM 연구에 혁명을 일으켰습니다.



대표적인 LLM 서비스


ChatGPT, Claude, Llama(오픈소스), Gemini 등 다양한 LLM 서비스가 존재합니다. 무료로도 이용 가능하지만, 사용에 제한이 있을 수 있습니다. 따라서 대부분의 사용자는 월 20달러를 지불하고 유료 플랜을 이용하고 있습니다. 각 서비스마다 특징이 있지만, 처음 사용자라면 ChatGPT를 사용하는 것을 추천합니다.



ChatGPT 모델별 사용 안내

모델

특징

장점

단점

사용량 제한

GPT-4o

범용, 일상적인 작업에 적합

뛰어난 작문 능력

추론 능력은 o1에 비해 부족

3시간당 80회

o1

추론 능력에 특화, 복잡한 문제 해결에 적합

매우 뛰어난 추론 능력

작문 능력은 4o에 비해 부족

1주일당 50회

o1-mini

o1의 추론 능력 일부 보유, 4o의 작문 능력 결합

4o 수준의 작문 + o1 일부 추론

o1에 비해 추론 능력 부족

1일당 50회


•사용량은 각 메시지를 보낸 시점을 기준으로 계산됩니다. 예를 들어, 4o 모델에서 오후 2시에 메시지를 하나 보냈다면, 오후 5시에 1회 사용량이 회복되는 방식입니다.



모바일 앱 사용 시 주의사항

모바일 앱 사용 시, 광고 등을 통해 스캠(scam) 앱이 상위에 노출되는 경우가 있습니다. 앱 이름과 개발사를 꼼꼼히 확인하여 피해를 방지하시기 바랍니다. 또한, 무료로 GPT를 사용할 수 있다고 홍보하는 앱은 개인정보를 수집하여 판매할 가능성이 높으므로, 공식 ChatGPT 앱을 사용하는 것이 안전합니다.



3. AGI, ASI는 무엇이고, 왜 중요한가요?


• AGI (Artificial General Intelligence, 인공일반지능): 모든 방면에서 인간 수준의 문제 해결 능력과 추론 능력을 갖춘 인공지능을 의미합니다. 특정 작업에 특화된 현재의 AI와 달리, AGI는 인간처럼 다양한 분야의 지식을 활용하고 새로운 상황에 유연하게 대처할 수 있습니다.

• ASI (Artificial Superintelligence, 초인공지능): 모든 방면에서 인간을 초월한 문제 해결 능력과 추론 능력을 갖춘 인공지능을 의미합니다.



AGI/ASI 개발의 핵심 - 재귀 개선(Recursive Self-Improvement)


ASI 개발의 핵심은 '재귀 개선'으로, 이는 인공지능이 스스로를 발전시키는 능력을 말합니다. 많은 전문가는 AGI가 재귀 개선을 통해 스스로를 발전시키기 시작하면, 그 발전 속도는 인간이 따라갈 수 없는 수준이 될 것이라고 예상합니다.



AGI/ASI를 바라는 이유


많은 사람이 AGI/ASI를 기대하는 이유는, 궁극적으로 인류의 삶을 획기적으로 개선할 잠재력이 있다고 믿기 때문입니다. 인류는 수백만 년간 생존을 위해 강제적인 노동을 해야 했지만, AGI/ASI의 등장은 이러한 노동으로부터의 해방을 의미할 수 있습니다. 또한, 질병, 빈곤과 같은 인류의 고질적인 문제를 해결하고, 모든 사람이 진정으로 행복한 삶을 살아갈 수 있는 가능성을 열어줄 것으로 기대됩니다.

(참고) 인공지능 정렬(AI Alignment): AGI/ASI가 인류에게 이로운 방향으로 발전하도록 제어하는 기술을 의미합니다. 자세한 내용은 별도의 자료를 참고하시기 바랍니다.



4. AGI와 ASI는 언제 등장할까요?




• 현직 AI 개발자들(OpenAI, 앤트로픽, 엔비디아, 구글 딥마인드, 메타 등): 수년 내 (2020년대 후반 다수)

• AI 석학들: 수년 내 ~ 20년 이내

• 레이 커즈와일: 2029년 (1,000달러 수준의 연산 장치로 구동 가능한 AGI 기준)

• 특이점 갤러리 다수 의견: 레이 커즈와일의 예측에 따라 2029년


ASI의 등장 시기는 AGI의 등장 이후로 예상되지만, AGI조차 아직 등장하지 않았기 때문에 정확한 예측은 어렵습니다. 다만, 레이 커즈와일은 2045년을 ASI 등장 시기로 예측하고 있습니다.


참고: AI는 매우 빠른 속도로 발전하고 있기 때문에, 현직 개발자들의 예측을 가장 신뢰할 만하다고 여겨집니다.



5. 기본 소득, 노동 대체, 과도기는 무엇을 의미하나요?


AGI의 등장은 경제와 사회에 큰 변화를 가져올 것으로 예상됩니다. 특히, AGI는 인간과 달리 24시간 쉬지 않고, 아프지도 않고, 불평도 하지 않으며, 심지어 일을 할수록 성능이 향상(재귀 개선)될 수 있습니다. 또한, 하이브 마인드(연결된 네트워크)로 방대한 지식을 공유하고 협력할 수 있다는 점에서 인간과는 비교할 수 없는 효율성을 보여줄 것입니다.

이러한 상황에서 기업이 인간 대신 AGI를 고용하는 것은 당연한 선택일 수 있습니다. 이는 대규모 실업으로 이어질 가능성이 높고, 따라서 기본 소득과 같은 사회 안전망에 대한 논의가 중요해지고 있습니다. 즉, AGI로 인해 발생하는 경제적, 사회적 변화에 대비해야 하는 '과도기'를 어떻게 보낼 것인지에 대한 고민이 필요한 시점입니다. OpenAI의 CEO 샘 알트만은 "인공지능 에이전트를 활용한 조 단위 매출을 올리는 1인 기업이 등장할 것"이라고 언급하기도 했습니다.



6. 선형주의자와의 논쟁은 무엇인가요?


과거에는 'AGI 가능 여부'에 대한 논쟁이 주를 이루었습니다. 특히, 2024년 9월 이전까지는 AGI로 가는 길에 추론 능력이 가장 큰 걸림돌로 여겨졌습니다. 그러나, o1 모델이 2024년도 수능 국어와 수학에서 만점에 가까운 점수를 받는 등 비약적으로 향상된 추론 능력을 보여주면서 이러한 논쟁은 새로운 국면을 맞이했습니다.

얀 르쿤 교수(컴퓨터 과학계의 노벨상인 튜링상 수상자)는 "LLM은 추론을 할 수 없다", "LLM으로 AGI는 수백 년 걸린다"고 주장했으나, o1 모델 출시 이후 "LLM은 추론 가능한데 비효율적", "AGI는 길어도 20년 정도?"로 입장을 선회했습니다. 24년 12월에는 현존하는 최고 난이도의 수학 문제들로 이루어진 프론티어매쓰 등의 벤치마크에서 수직적 발전을 보이는 o3 모델이 발표되자, 'o3 모델은 LLM이 아니다' 와 같은 발언을 하기도 했습니다. (당연히 o3모델은 LLM입니다.)

최근에는 AGI 달성에는 수백 년이 걸린다는 주장의 근거를 찾기 어려워짐에 따라, AI 디스토피아론(인공지능의 위험성)이나 실생활 체감 어려움 등을 주장하는 쪽으로 논쟁의 방향이 변화하고 있습니다.

참고: 우리 갤러리에서는 근거 없는 비관론을 '레퍼런스 없는 비관'(레없비)라고 하며, 지속적인 분쟁을 방지하기 위해 일정 수준의 제재를 가하고 있습니다.



7. AI 기술의 한계와 저작권 문제는 어떻게 해결되고 있나요?


과거에는 저작권 문제와 학습 데이터 부족이 AI 학습의 주요 걸림돌로 여겨졌습니다. 실제로 "이제 학습할 데이터가 없는데 어떻게 더 발전함?"과 같은 비관론이 팽배했습니다. 이러한 문제를 해결하기 위해 합성 데이터(저작권 문제가 없는 데이터를 인위적으로 조합하여 새로운 데이터를 생성) 기술이 연구되었지만, 초기에는 실제 LLM 훈련에서 합성 데이터의 비중이 높지 않았습니다.

그러나, o1 모델 출시 이후, 100% 합성 데이터로 훈련된 4o-canvas 모델이 큰 성능 향상을 보여주면서 데이터 부족과 저작권 문제에 대한 우려가 완화되었습니다.

빌 게이츠는 "AI는 한계가 없는 최초의 기술"이라고 언급하기도 했습니다. 현재 AI 기술은 소프트웨어적으로는 빠르게 발전하고 있지만, 오히려 하드웨어(GPU 성능, 전력 등) 측면에서 병목 현상이 발생하고 있습니다.



8. 트위터 찌라시란 무엇인가요?


트위터(현 X)는 미국의 인기 소셜 플랫폼으로, 빅테크 연구원들을 포함한 많은 사람이 사용하고 있습니다. 우리 갤러리에서 '트위터 찌라시'는 주로 신뢰할 수 있는 출처(얼굴, 이름, 소속을 공개한 빅테크 연구원) 와 신뢰하기 어려운 출처(익명의 'AI 정보 유출자') 로 나눌 수 있습니다.


• 신뢰할 수 있는 출처: 이들은 대체로 자신의 발언에 책임감을 느끼고, 실제로 그들이 언급한 기술이 포함된 제품이 출시되는 경우가 많았기 때문에 '찌라시'라고 부르지 않습니다.

• 신뢰하기 어려운 출처: 익명의 계정으로 "OO 회사의 OO 모델이 내일 출시될 것이다"와 같은 근거 없는 주장을 하는 경우가 많습니다.


결론적으로, 공식적인 발표나 신뢰할 수 있는 출처의 정보에 집중하고, 익명의 정보는 비판적으로 바라보는 것이 중요합니다. 특히 '지미애플', '룬'과 같이 OpenAI 내부 직원으로 추정되는 계정(근거가 많음)을 제외하고는, 신중하게 정보를 취사선택하는 것을 권장합니다.



9. 한국 기업/학계의 의견이 상대적으로 주목받지 못하는 이유는 무엇인가요?


LLM의 근본 구조는 '규모의 경제'를 따르기 때문입니다. 즉, 더 많은 컴퓨팅 자원(그래픽 카드 성능, 수량)을 투입할수록 모델의 성능이 향상되는 경향을 보입니다.


주요 그래픽 카드 모델:

• 엔비디아 A100 (2020년 출시)

• 엔비디아 H100 (2022년 출시)

• 엔비디아 GB200 (2024년 출시 예정)


각 그래픽 카드 모델은 벤치마크에 따라 다르지만, 학습 성능만 놓고 보면 A100 대비 H100은 최소 4배에서 9배, GB200은 최소 16배에서 81배까지 성능이 향상될 것으로 예상됩니다. 현재 GB200 모델은 12개월 생산 물량이 모두 미국의 빅테크에 판매되어 품절 상태입니다.


주요 기업 그래픽 카드 보유 현황:


• X(그록): H100 10만 대 (2024년 기준), GB200 30만 대 (2025년 예정)

• OpenAI: 마이크로소프트와 협력하여 1,550억 달러 규모의 '스타게이트' 프로젝트 확정

• 네이버: H100 약 1,000대

• 삼성: H100 약 1,000대

• 성균관대학교 (국내 최고 수준): A100 약 40대

• 프린스턴 대학교 (미국 명문대): H100 약 30대


설명: 위의 자료를 보면, 한국 기업/대학이 보유한 컴퓨팅 자원은 미국의 빅테크에 비해 매우 부족하다는 것을 알 수 있습니다. 이러한 규모의 차이는 곧 AI 모델 성능의 차이로 이어질 수밖에 없습니다. 따라서 한국 기업/학계의 의견이 상대적으로 주목받지 못하는 것입니다.


참고: 이는 국내 연구진 및 기업을 폄하하려는 의도가 전혀 아닙니다. 다만, 현재 AI 연구 개발 환경의 현실을 객관적으로 보여주기 위함입니다.



10. 주요 벤치마크 소개

벤치마크

설명

특징

o3 모델 기록

MMLU

중-고등학생 수준의 일반 상식을 묻는 4지선다형 객관식 테스트

공개, 22년 11월 GPT 3.5가 70% 기록 이후, 포화 상태

사용 안 함

MMLU-PRO

MMLU에서 난이도를 높이고 추론 능력을 평가하는 10지선다형 객관식 테스트, 약 12,000개의 문제

공개, 추론 능력 평가에 중점

92.4% (o1 모델)

GPQA

생물학/화학/물리학 분야 박사 수준의 추론 능력을 평가하는 비공개 테스트, 박사 평균 65%, 일반인(무제한 검색 및 시간 제공 시) 34%

비공개, 높은 난이도

87.7%

AIME

미국 수학 영재 경시대회, 테렌스 타오가 13세에 34/45점, IMO(국제수학올림피아드) 금메달

높은 수준의 수학 문제

96.7%

CodeForces

프로그래밍 경진 대회, 다양한 알고리즘 문제 해결 능력을 평가, 모델의 '지능'과 밀접하게 연관

국제 그랜드마스터 레벨 (전 세계 175위, 한국인 중 1~2명)

국제 그랜드마스터 레벨 (175위)

SWE-Bench

실제 Github에 있는 프로젝트 수행 능력을 평가, 모델의 '실제 업무 능력'과 밀접하게 연관, o1은 코드포스 점수는 높았으나 SWE-Bench 점수는 낮았음(48.9%)

실제 업무 능력 평가

71.7%

FrontierMath

현존 최고 난이도의 벤치마크, 14명의 IMO/필즈상 수상자를 포함한 세계 최고 수준의 수학자들이 만든 문제로 구성, 테렌스 타오도 자기 분야 아니면 못 풀 정도

최상위 수학 문제, o3 이전에는 o1도 1-2%에 그침

25%


• 90%를 넘어가면 만점으로 취급하는 것이 일반적입니다.



11. AI 기술 발전에 대한 체감 // 차단 관련 문의


AI 기술 발전 체감은 개인의 관심사, 직업, 거주 국가 등에 따라 다를 수 있습니다. 우리 갤러리는 기본적으로 과학 기술, 특히 기술적 특이점에 관심 있는 사람들이 모여 정보를 공유하는 곳입니다. 따라서, 근거 없이 개인의 경험만을 토대로 주장을 펼치거나, 다른 사용자를 공격하는 경우 제재를 받을 수 있습니다.

차단 관련 문의는 신문고 댓글 또는 이 글의 댓글에 차단당한 IP(또는 식별코드), 시간, 사유를 간략히 적어주시면 확인 후 조치해 드리겠습니다. 악의적인 분쟁 유발이 아니라면, 가급적 빠르게 차단 해제 또는 기간 조정을 진행하고 있습니다.



12. 관련 인물 및 용어 정리


• 레이 커즈와일: '특이점이 온다'(2005), '특이점이 더 가까이 온다'(2024) 저자. 특이점 개념을 대중화한 미래학자. 특이점 도래 전 사망 시 냉동 보존될 계획. (별명: 갤주, 냉동참치)

• 샘 알트만: OpenAI CEO. AI 발전 가속주의자. 회사의 이익보다 인류의 미래를 우선해야 한다는 강한 신념을 가지고 있는 인물. (과거 별명: 아가리 털드만, 입을 놀린 만큼 쇼앤프루브를 해 왔다는 점을 기억하자.)

• 일리야 수츠케버: SSI(Superintelligence Alignment Company) CEO. (전)OpenAI 최고 기술 책임자. AI 발전 안전주의자. 현 시대 AI 개발 분야 최고 전문가 중 한 명. 제프리 힌튼(아래 설명 참고)의 제자. (논문 피인용 횟수: 힌튼 80세 85만 회, 일리야 40세 55만 회)

• 제프리 힌튼: AI 4대 석학 중 우두머리. AI 발전 안전주의자. 튜링상 수상자. 현대 AI의 근간을 이루는 수많은 논문을 발표. 힌튼이 없었다면 지금의 AI는 없었을 것이라는 평가가 있을 정도로 중요한 인물. (비유: 힌튼-메시/호날두, 일리야-음바페)

• 얀 르쿤: AI 4대 석학 중 한 명. 튜링상 수상자. 힌튼의 제자. (과거)LLM 회의론자 → (현재) 입장 선회. 메타 AI 팀 최고 책임자. (라마: LLM 기반 모델, 제파: 본인이 주장하는 AGI 도달 가능 모델)

• 앤트로픽: OpenAI에서 AI 발전/안전에 대한 의견 차이로 갈라져 나온 회사. 아마존 투자. OpenAI에 버금가는 기술력을 보유하고 있는 것으로 평가되나, 과도한 검열로 인해 성능이 저하된다는 비판.

• 구글: 한때 AI 분야의 절대 강자였으나, 검색 엔진 점유율 하락을 우려하여 AI 기술 개발을 미루다가 OpenAI에 추월당함. (별명: 치타)

• 2023년 11월 OpenAI 알트만 해임 사태: OpenAI의 AI 발전 안전주의자들이 가속주의자들을 기습적으로 해임한 사건. 마이크로소프트(최대 투자자) 등의 지원으로 가속주의자들이 복귀.




이 가이드가 특이점이 온다 마이너 갤러리에 새롭게 오신 분들께 도움이 되었기를 바랍니다. 추가적인 질문이나 의견이 있으시면 언제든지 댓글로 남겨주세요. 감사합니다!