aspirehelloollama/notebook.ipynb at notebook · naratteu/aspirehelloollama


공부하겠다고 3개월 전에 만들어둔 Ollama + SementicKernel 템플릿을 지금껏 썩히고있다가 2월28일 BMW밋업에 참석하고 나서야 기어이 써먹었다.


시멘틱커널에서의 플러그인이 대체 어떤것인고 하니 LLM이 프롬프트 응답에 대한 참고자료로 호출할수있는 함수를 만들수 있는것같다. 난독증이 도져서 집에서는 문서를 읽어도 영상을 봐도 전혀못알아먹고있었는데 쓰는걸 눈앞에서 들이밀어 주시니 겨우 하나 배웟다.

도당체 시멘틱커널이 LLM에게 뭐라고 속삭였기에 qwen2.5:0.5b 같은 코딱지만한 모델에서도 잘 알아듣고는 호출해주는걸까? 신통방통하다.



닷넷쓰는 회사의 특징인지, 시연의 내용이 결국 Azure나 OpenAI같은 외부망을 통해 데이터가 오간다는것에 밋업 참석자분들도 사소한 우려를 느끼시던데,


그렇다면 그 문제를 3개월전에 이미 해결해둔 naratteu의 repo에 ⭐을 주거나, 아예 naratteu를 채용하는것을 검토해보는건 어떨까? 라고 충분히 생각해봄직하지않나 암튼 그랫다. 연락 바랍니다.



이렇게 잘못된 참고자료를 만들어서 잘못된 응답을 하도록 만들수도 있었다. 히히 바보뇨속


---


발표상에서 개발자가 시멘틱커널을 사용함에 있어 프롬프트와 플러그인 호출간의 인과가 비정형적이기 때문에 개발이 까다로울 수 있다고 들었는데,

가만 생각해보니 어차피 지금까지의 UI/UX같은게 전부 사람멋때로의 비정형적인 이벤트를 다루던 코드 아닌가? 그렇다면 기존에 사람쓰라고 만들어둔 UI이벤트코드를 시멘틱커널로 갖다쓰는것도 완전 무방하지 않을까? 일전에 도모하고있던 GUI의 재구성을 위해 밀접하게 참고해야할 도구라는 생각이 들었다.