개발자를 대체한다고 난리인지 몰겠넹


요즘 회사에서 MCP랍시고 가상의 함수들을 던져놓고 LLM님 제발 호출해주세요 라고 싹싹 빌고


RAG랍시고 프롬포트에 컨텍스트 때려박는거 보고 있으면


이딴게 미래..? 라는 생각이 절로 듦.


AI 서포팅 도구를 만들었는데 성능이 저열하면


이게 벡터화에 쓴 경량 모델이 문제인지, 프롬프트가 문제인지, 아니면 그냥 메인 모델의 할루시네이션인지 원인조차 알 수 없음.


그냥 끝없이 이터레이션 하면서 튜닝의 튜닝의 튜닝을 거쳐야 함 ㅋㅋ ㅅㅂ


게다가 입력이 같아도 매번 출력이 다르다보니


내가 바꾼 변경사항이 AI 성능에 얼마나 유의미한 변화가 있었는지 조차 판단하기 어려움 ㅋ


하면 할 수록 그냥 코파일럿 정도를 기대하고 쓰면 딱 좋은 LLM을 가져다가 너무 많은 기대를 하는게 아닌가 싶음