AI 챗봇을 만드는 일은 예전보다 훨씬 쉬워졌습니다. 그런데 막상 열어 보면 엉뚱한 답을 하거나, 고객이 정말 궁금한 것에는 답하지 못하는 챗봇도 많습니다. 대부분 기술보다 도입 전에 정했어야 할 것을 정하지 않아서 생기는 문제입니다. 이 글은 챗봇 개발을 맡기거나 직접 만들기 전에 정해야 할 세 가지를 정리합니다.
1. 무엇을 답하게 할지: 범위
“무엇이든 답하는 챗봇”은 실패하기 쉽습니다. 먼저 지난 몇 달 동안 받은 문의를 모아 종류별로 세어 보세요. 영업시간, 배송 조회, 환불 방법, 가격처럼 자주 오고 답이 정해진 질문이 챗봇의 첫 범위로 좋습니다.
범위를 정할 때는 “답하지 않을 것”도 함께 정합니다.
- 계약·환불 결정처럼 사람이 판단해야 하는 일
- 건강, 법률, 투자처럼 잘못 답하면 피해가 큰 주제
- 회사의 공식 입장이 필요한 민원
이런 질문이 들어오면 챗봇이 정중하게 사람에게 넘기도록 설계합니다.
2. 무엇을 근거로 답할지: 자료
AI 챗봇은 근거 자료가 없으면 그럴듯한 답을 지어낼 수 있습니다. 그래서 챗봇이 참고할 자료를 정하고, 그 자료 안에서만 답하도록 만드는 것이 중요합니다.
- 자주 묻는 질문 문서: 질문과 답을 짝지어 정리한 것
- 사용 설명서, 약관, 가격표: 최신판인지 확인
- 답하지 말아야 할 정보: 내부 자료, 개인정보가 섞인 문서는 넣지 않기
자료는 한 번 넣고 끝나는 것이 아닙니다. 가격이나 정책이 바뀌면 챗봇 자료도 함께 바꿔야 하므로, 누가, 언제 자료를 고칠지 담당을 정해 두세요.
3. 못 답할 때 어떻게 넘길지: 사람 연결
좋은 챗봇은 모르는 것을 모른다고 말하고 사람에게 연결합니다.
- 답할 수 없는 질문을 알아차렸을 때 보여 줄 문구
- 연결 방법: 상담 시간에는 상담원 연결, 그 외에는 문의 남기기
- 고객이 같은 내용을 다시 설명하지 않도록 대화 내용을 넘기는 방법
- 사람에게 넘어간 질문을 모아, 다음에 챗봇 자료로 보강하는 순서
함께 확인할 것: 개인정보와 AI 표시
- 개인정보: 챗봇 대화에 이름, 연락처, 주문번호가 들어올 수 있습니다. 대화 기록을 얼마나 보관하는지, 외부 AI 서비스로 내용이 전달되는지, 개인정보 처리방침에 반영했는지 확인하세요.
- AI 표시: 2026년 1월 22일 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 AI 제품·서비스를 이용자에게 최종적으로 제공하는 인공지능사업자에게 결과물이 생성형 AI로 만들어졌다는 사실을 표시하도록 하고 있습니다. 서비스 화면 안에서 제공하는 경우 화면 표시나 사전 안내로 갈음할 수 있다는 해설도 있습니다. (법무법인 세종 뉴스레터, 2026-02-26) 고객에게 AI 챗봇을 제공한다면 대화 화면에 AI가 답한다는 사실을 알리는 방법을 정해 두고, 구체적인 적용은 전문가와 확인하세요.
자주 묻는 질문
Q. 챗봇이 틀린 답을 하면 누가 책임지나요? 고객 입장에서는 챗봇의 답도 회사의 안내로 받아들이기 쉽습니다. 그래서 환불이나 계약처럼 중요한 내용은 챗봇이 결정하지 않고 사람에게 넘기도록 설계하고, 답변 아래에 공식 안내 페이지 링크를 함께 보여 주는 방법을 많이 씁니다.
Q. 홈페이지 내용을 그대로 넣으면 되나요? 시작점으로 좋지만, 오래된 공지나 서로 다른 안내가 섞여 있으면 챗봇도 헷갈린 답을 합니다. 넣기 전에 최신 내용만 남기고 중복을 정리하세요.
Q. 운영비는 어떻게 나오나요? 외부 AI 서비스를 쓰면 대화량에 따라 사용료가 붙는 경우가 많습니다. 예상 대화 수를 미리 정하고, 월 사용량 한도를 걸어 두는 방법을 개발사와 의논하세요.
Q. 만들고 나서 무엇을 봐야 하나요? 사람에게 넘어간 질문의 비율과 종류, 고객이 대화를 중간에 그만둔 지점을 정기적으로 보세요. 이 기록이 다음 자료 보강의 목록이 됩니다.
처음에는 작게
처음부터 모든 문의를 챗봇에 맡기기보다, 자주 오는 질문 10~20개로 시작해 한두 달 운영해 보세요. 사람에게 넘어간 질문을 보며 범위와 자료를 늘리면, 정확도를 유지하면서 챗봇이 맡는 몫을 넓힐 수 있습니다.
GyeokSang도 챗봇 개발 의뢰를 받을 때 위 세 가지를 먼저 함께 정합니다. 최근 문의 유형과 참고 자료 목록을 문의로 보내 주시면 시작 범위를 제안해 드립니다.