직업이 가전제품 시험검사기관에서 시험원으로 일하느라, 딱히 AI는 필요없어서 개인적으로 gpt4부터 웹버전으로 깔짝깔짝 써보면서 큰 쓸모를 못 느꼈다가
deepseek 써보니까 혹시 로컬로 설치하면 내가 시험에 필요한 규격들 분석해놓고, 제품 사진으로 규격에 기반한 문제점들 도출하고, 시험 결과물 인식시키면
성적서까지 자동으로 써줄 수 있지 않을까 싶어서 도전해본다.
아무것도 모르는데 일단 단계적으로 설치법부터 알려달라니 차근차근 알려주고, 노트북 사양 입력하니 모델 추천도 해주네.
24년 말부터 하루하루 AI가 달라지는게 느껴지는 것 같은 느낌이다.
용량얼마나먹음? 구축비용이나 조건잇나
나도 몰라. 그런걸 deepseek에 물어봐봐. 스샷처럼 알려준다
나도 연습삼아 그냥 2021년에 산 노트북에 설치해보는거야
웹에서 쓰는 R1 돌리려면 3천만원정도 필요할껀데... - dc App
그래도 써먹으려면 최소 70b 정도는 돼야할듯요.
일단 저 노트북으론 못돌림
설명대로 따라해서 4비트 양자화 7b 설치는 성공했는데 너무 느림
글카로 돌리는게 아니라 시스템 램으로 돌려서 뒤지게 느릴겁니다.