LLM개발자가 되고싶은 마음은 없고 LLM파워유저로써 최신문명을 누리고자 닷넷버전 랭체인이라는 시멘틱커널을 학습해보려 한다.


Semantic Kernel이 뭔가요? | G3J Learn SK | Microsoft Developer Korea - YouTube

헌데 맛보기만 하자는데 일단 OpenAI API사용을 위한 유료구독부터 해야한다는 가혹한 요구사항에 맞닥뜨렸다.


C#과 한국어 구사자라는 극단적인 교집합의 언어소수자 입장에서 마침 현시점에서 가장 최신의 정보를 같은 한국인들의 입을 빌어 접할 수 있다는것 자체가 매우 고마운 기회라고 생각하지만, 그것이 내 삶의 어떤 경제적으로 명백한 의존성을 쉽사리 허락할만 하다는 명분이 되지는 못했다. 쉽게말해 돈아깝다는 뜻이다. 지난날을 되짚어봤을때 나는 단한번도 내가 전보다 잘난인간으로 거듭나기 위해서 남은 삶과 인간성을 소모할지언정 기꺼이 돈을 지불해본 역사가 없다. 4차산업혁명에 필적하는 기술이라 할지라도 그 예외가 될수는 없다는 똥고집인것이다.


naratteu/aspirehelloollama


위 저장소는 저번에 배운 Aspire로 Ollama의 특정 모델을 가동하는 동시에 해당모델을 사용해 Blazor웹애플리케이션과 연동하도록 구성한 템플릿이다.

그리고 Ollama연동부를 시멘틱커널 커넥터로 대체함으로써 본래원하던 Local(무료라는뜻)LLM과 시멘틱커널과의 연동을 구현해두었다.


Aspire Ollama Host, Client와 시멘틱커널의 Ollama Connector가 서로 별다른 연계 없이 따로 개발되었기때문에 위 단계를 밟아야 했다.


굳이 Aspire까지보단 docker compose라던가 좀더 본목적에 집중할수 있을법한 다른 적정기술을 먼저 배우는게 낫지않았을까 싶기도 하지만 의외로 나도 좋은방법보단 목적그자체에 충실한편이다. 결국엔 나를위한 환경으로 위와같이 통합될것으로 믿는다.


이제 딸깍만 눌러서 OpenAI의 초격차 모델이 아닌 어지간한 게임도 렉먹는 구형PC가 버틸만한 모델을 가져다 시멘틱커널의 설명서를 읽는일만 남았다.

모델의 유능함에따른 호환성이 설명서를 읽는것조차 어려운일은 발생하지 않기를 바란다.