llm 동작 원리는 현재까지 입력된 언어 정보를 바탕으로 다음에 입력될 ‘가장 적절한 패턴의 언어를’ 확률적으로 예측하는 방식임


쉽게 말하자면, 문장 자동 완성 서비스다


초창기 모델 보면 아무말 대잔치를 하는데, 그것도 이 이유 때문이고

이런 구조때문에 아무리 버전업이 되어도 환각 문제가 없어지지는 않을거임


가능한한 잘 써먹으려고 한다면 밑에 누가 만든거처럼 본인이 만든 스크립트 코드 전체를 ai에 붙여버리는 방식을 쓰면 좋을거같음


또는 그런 맥락으로 전반적인 구조를 짜놓고 최종적인 함수 생성에 쓰면 효과가 더 좋다


그러면 전체 흐름을 보고 다음에 만들 코드를 더 잘 예측해준다

물론 맥락이 길어지면 이전 정보가 소실되어서 정확도가 떨어짐

(트랜스포머 모델이 도입되었어도 완전히 해소되는 분야가 아님)


아무튼 만드려는 게임의 구조가 학습된 데이터가 많은 코드면 이런 방식으로도 꽤 잘 돌아갈거같다



llm을 초창기부터 써봤는데,

이런 맥락때문에 개인적으로는 코드생성쪽 보다는 테스트코드 자동 작성이나 문서화에 많이 이용했음