‘응답속도’ 태그가 달린 글 1편.
보험대리점 지사 시스템에 붙인 AI 비서가 '생각하는 중'으로 1~4분을 버텼습니다. 언어모델을 의심했지만 범인은 질문 단어마다 돌던 고객 검색이었고, 그걸 찾은 과정과 프롬프트 무게·스트리밍 처리, 다음 챗봇에 쓸 점검 순서까지 담았습니다.
