← 기술 노트
#RAG
‘RAG’ 태그가 달린 글 2편.
🌐 업무 AI·자동화사내 AI 챗봇 응답이 느릴 때, 범인은 AI가 아니었습니다
보험대리점 지사 시스템에 붙인 AI 비서가 '생각하는 중'으로 1~4분을 버텼습니다. 언어모델을 의심했지만 범인은 질문 단어마다 돌던 고객 검색이었고, 그걸 찾은 과정과 프롬프트 무게·스트리밍 처리, 다음 챗봇에 쓸 점검 순서까지 담았습니다.
AI챗봇응답속도성능진단PostgreSQLRAG스트리밍장애회고
🌐 업무 AI·자동화사내 문서 AI 검색, 지식베이스 2,582건 중 90건만 들어갔습니다
보험대리점 지사 시스템의 AI 비서에 실무지식 2,582건을 넣었는데 실제로 들어간 건 90건이었고 오류는 하나도 없었습니다. 조용히 빠진 문서를 찾은 과정과 검색 노이즈를 걷어낸 기준, 도입 전 점검표를 적었습니다.
AI검색사내지식베이스RAGAI비서지식관리업무자동화