[일반] 로건 "LLM 특성에 맞춰서 모든 제품을 다시 써야"

[초존도초(htr3c654r6ft)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[ㅇㅇ 1(121.178)]

1. LLM 1.0 시대 (단순 챗봇)에 쓰이던 스캐폴딩 (그 시대에 쓰이던 시스템 프롬프트, 단순한 1회성 툴 제공, 단순 챗봇의 한계를 극복하기 위해 어거지로 만든 파이프라인 등)을 없애고 추론 모델에 적합하게 바꿈 (어차피 요즘 추론 모델들은 도구 목록만 주어주면 알아서 잘 쓰기 때문에 그런걸 활용, 시스템 프롬프트도 적절하게 변경 등) 2. 추론 모델의 추론 시간이 길기 때문에 입력하면 답변이 나올 때까지 그냥 기다리는 챗봇이 아닌 Codex같은 비동기 (일을 시켜놓으면 그냥 백그라운드에서 알아서 돌아가고 나중에 확인하는) 방식으로 옮겨갈 것

[ㅇㅇ 2(59.10)]

@ㅇㅇ1(121.178) 와.... 그런 뜻 이었네 ... 명쾌하게 설명해 줘서 고마워요

[익명(210.121)]

'agent'