[💬] llm 그동안 쓰면서 아쉬운거

[레오파드(aerobics8431)]

기본적으로 

1. 유저가 무언가 요청함

2. llm이 응답을 막 준비하는 중에

3. 다른 요청이 또 들어오면 

-> 따로 조작을 하지 않는 한(esc 캔슬이나 중단처리) 이전 응답을 모두 끝내고 그 다음에 들어온 요청을 받는다.

이게 참 아쉬울 따름임. 물론 중간에 캔슬 하면 되기는 하지만 작업에 따라 위험도가 있을수도 있어서 디폴트로 구조를 깔아두기도 애매하고.. 

텍스트 모델이라 어쩔수가 없나 싶기도 하고

[레오파드(aerobics8431)]

예를 들어서 ai끼리 서로 소통할 수 있게 세팅해둔 자리에서 지들끼리 핑하면서 대화하게 해두면 응답이 엇갈리는 경우가 다반사라 아쉬울따름

[익명(106.241)]

인간도 말끊으면 소통안돼

[레오파드(aerobics8431)]

말끊는게 문제가 아니라 어떤 작업을 진행하는데 있어서 변경 사항이 들어오면 즉각 대응이 어렵다가 아쉽다는 말이었음