환각 없는 AI 전화 비서: 2026 실전 가이드

환각 없는 AI 전화 비서는 사실에 관한 질문에 지식 베이스, 즉 네 웹사이트, 문서, 답변 카탈로그에 근거가 있는 내용으로만 답한다. 정보가 없으면 추측하지 않고 솔직하게 그렇다고 말한 뒤 콜백을 제안한다. 통화가 끝나면 두 번째 모델이 모든 답변에 출처가 있었는지 확인하고 결과를 신호등 색으로 보여 준다. 이 가이드에서는 음성 AI가 전화에서 왜 사실을 지어내는지, 그것이 네 사업에 어떤 의미인지, 그리고 이 문제를 제대로 해결한 공급사를 어떻게 알아보는지 설명한다.

AI 전화 비서는 왜 답을 지어낼까?

AI 전화 비서가 답을 지어내는 이유는 언어 모델이 그럴듯한 문장을 만들도록 훈련되었을 뿐, 자기가 모른다는 사실을 알도록 훈련되지는 않았기 때문이다. 확실한 지식 경계가 없으면 모델은 빈틈을 추측으로 메우고, 그 추측은 진짜 사실만큼 자신 있게 들린다.

OpenAI는 연구 글에서 환각을 "그럴듯하지만 틀린 진술"이라고 정의하고 핵심 원인을 짚는다. 일반적인 학습과 평가 방식이 불확실성을 인정하는 것보다 찍는 것을 더 높이 평가한다는 것이다(OpenAI: Why language models hallucinate, 2025). "모른다"고 답하는 모델은 많은 벤치마크에서 0점을 받지만, 찍는 모델은 가끔 맞힌다. 글에 따르면 패턴으로 추론할 수 없는 드물고 임의적인 사실일수록 오류가 나기 쉽다.

전화로 자주 묻는 것이 바로 이런 사실이다.

토요일에도 문 열어?
첫 상담 비용은 얼마야?
방문 서비스도 돼?
수리는 얼마나 걸려?

전화에서는 두 가지 요인이 더해진다. 첫째, 대화가 자연스럽게 느껴지려면 답이 순식간에 나와야 해서 나중에 확인할 시간이 없다. 둘째, 화면이 없다. 전화한 사람은 출처도, "AI는 실수할 수 있음" 같은 안내도 보지 못하고 친절한 목소리가 무언가를 단정하는 것만 듣는다.

지어낸 답변은 네 사업에 어떤 결과를 가져올까?

전화에서 지어낸 답변은 잘못된 가격, 틀린 영업시간, 지킬 수 없는 약속으로 이어지고 최악의 경우 손해배상 청구로 번진다. 전화한 사람에게 비서는 소프트웨어 회사가 아니라 네 회사를 대표해서 말한다.

일상에서 흔한 피해는 다음과 같다.

잘못된 가격: 비서가 존재하지 않는 고정 가격을 말하고, 고객이 나중에 그것을 근거로 든다.
틀린 영업시간: AI가 토요일 영업을 지어내는 바람에 누군가 헛걸음을 한다.
잘못된 약속: "보험으로 처리돼" 또는 "무료야" 같은 한마디가 큰 비용이 될 수 있다.
신뢰 상실: 명백히 틀린 말 한 번이면 사람들은 전화 창구 전체를 믿지 않게 된다.

에어캐나다 사례: 회사는 자기 봇의 말에 책임진다

캐나다 사례를 보면 이 위험이 얼마나 현실적인지 알 수 있다. 에어캐나다의 챗봇은 고객에게 유족 할인을 나중에 신청할 수 있다고 안내했지만, 그런 규정은 그 형태로 존재하지 않았다. 2024년 2월 브리티시컬럼비아주 Civil Resolution Tribunal은 항공사에 차액 지급을 명령하고, 챗봇이 자기 발언에 스스로 책임진다는 주장을 받아들이지 않았다(Moffatt v. Air Canada, 2024 BCCRT 149, 독일어 요약은 beck-aktuell, 2024). 재판소는 분명히 했다. 봇의 말은 회사 웹사이트에 게시된 정보와 같다는 것이다.

독일 법에서는 어떨까?

독일 법원은 아직 이 문제를 판단한 적이 없다. 다만 로펌 HLC의 분석은 계약 체결 전 단계에서 과실로 잘못된 정보를 준 경우의 책임(culpa in contrahendo, 독일 민법 BGB 제311조·제241조)이 원칙적으로 가능하다고 본다. 이미 알려진 환각 위험 자체가 주의 의무 위반인지는 아직 열려 있다고 한다(HLC, 2024). 즉 지식 경계와 기록된 검토 같은 안전장치는 품질 문제일 뿐 아니라 주의를 다해 행동했다는 근거가 된다. 이 글은 법률 자문이 아니니 구체적인 경우는 변호사에게 확인하자.

여기에 2026년 8월 2일부터 EU AI 법(EU) 2024/1689 제50조의 투명성 의무가 적용된다. 전화한 사람에게 AI와 대화 중이라는 사실을 알려야 한다. anicall.io가 이를 어떻게 처리하는지는 보안 및 개인정보 페이지에서 볼 수 있다.

AI 전화 비서의 지식 경계는 어떻게 작동할까?

지식 경계란 AI 전화 비서가 사실에 관한 질문에 승인된 출처, 즉 네 웹사이트, 문서, 답변 카탈로그만으로 답하도록 정한 규칙이다. 거기서 맞는 내용을 찾지 못하면 솔직하게 인정하고 콜백이나 상담원 연결을 제안한다.

기술적으로는 이 원리를 흔히 "검색 증강 생성(RAG)"이라고 부른다. 답하기 전에 지식 베이스에서 관련 부분을 찾고 그 내용만을 근거로 답을 만든다. 단순한 RAG 챗봇과의 결정적 차이는 아무것도 찾지 못했을 때의 규칙이다. 자유로운 모델은 그래도 일반 학습 지식으로 답해 버린다. 엄격한 지식 경계를 가진 비서는 대신 이렇게 말한다.

"그 부분은 확실한 정보가 없어. 팀 담당자가 다시 전화하도록 남겨 둘까?"

지식 베이스는 이렇게 만든다.

웹사이트 가져오기: 서비스, 가격, 영업시간, 오시는 길, 자주 묻는 질문. 홈페이지만이 아니라 여러 페이지를 넣는 게 좋다.
문서 추가하기: 가격표, 서비스 설명, 약관 발췌 등을 PDF나 DOCX로.
답변 카탈로그 관리하기: 가장 흔한 질문에 대한 짧고 검증된 답을, 전화에서 들릴 말투 그대로 준비한다.
한계 정하기: 구속력 있는 고정 가격, 의학적 판단, 법률 조언처럼 비서가 절대 약속하면 안 되는 것은 무엇인가?

음성 인식도 중요하다. 비서가 "금요일"을 "공휴일"로 잘못 들으면 아무리 좋은 지식 경계라도 엉뚱한 질문에 정확히 답하게 된다. 인식이 안정적인지, 그리고 불분명할 때 다시 묻는지 꼭 확인하자.

모든 통화를 검토한다: 신호등

신호등 검토란 통화가 끝날 때마다 두 번째 모델이 비서의 각 답변을 출처와 대조하고 결과를 색으로 표시하는 방식이다. 어떤 통화가 깔끔했고 어디에 개입해야 하는지 한눈에 보인다.

신호	의미	할 일
초록	모든 답변에 출처가 있었다	없음. 표본 확인이면 충분하다
노랑	답하지 못한 질문이 남았다	지식 공백을 확인하고 답을 보완한다
빨강	근거 없는 주장을 했다	통화를 읽고 필요하면 다시 전화하고 출처나 설정을 고친다

기존 품질 관리와 비교한 장점은 무작위로 통화를 들을 필요 없이 중요한 사례만 미리 추려서 받는다는 점이다.

지식 공백 승인: 통제된 학습

비서가 답하지 못한 질문은 대시보드에 지식 공백으로 나타난다. 같은 질문은 묶어서 횟수를 세기 때문에 어떤 정보가 정말 자주 빠지는지 바로 알 수 있다. 사람이 그 공백에 답하거나 기각한다. 이 승인을 거친 뒤에야 답이 답변 카탈로그에 들어가고 다음 통화부터 출처로 쓰인다.

이것이 통제된 학습 루프의 핵심이다. 비서는 매주 나아지지만 스스로 무언가를 지어내서 나아지는 일은 없다. 새 답변마다 책임지는 사람이 있다.

자유로운 AI와 지식 경계가 있는 AI 비교

아래 표는 자유롭게 답하는 언어 모델과 지식 경계가 있는 AI 전화 비서의 주요 차이를 보여 준다.

기준	전화 속 자유로운 AI	지식 경계가 있는 AI 전화 비서
지식 출처	일반 학습 지식과 프롬프트	웹사이트, 문서, 답변 카탈로그만
정보가 없을 때	그럴듯한 답을 추측한다	"모른다"고 말하고 콜백을 제안한다
가격과 영업시간	지어내거나 오래된 정보일 수 있다	출처에 적힌 그대로만
통화 후 검토	표본 추출, 수동 청취	모든 통화를 신호등으로 자동 검토
공백 처리	보이지 않는다	지식 공백으로 모아 승인한다
책임 위험	가늠하기 어렵다	크게 줄고 기록이 남는다
잡담	제한 없음	단계에 따라 허용 또는 거절

지식 경계는 비서를 "멍청하게" 만들지 않는다. 예측 가능하게 만들 뿐이고, 전화에서는 그게 말솜씨보다 중요하다.

체크리스트: 환각 없는 AI 전화 비서는 어떻게 알아볼까?

환각 없는 AI 전화 비서는 답변을 출처에 묶고, 공백을 솔직히 인정하고, 모든 통화를 검증할 수 있게 만든다는 점으로 알아볼 수 있다. 도입 전에 공급사에 이렇게 물어보자.

엄격한 지식 경계가 있나? 사실 질문은 내 출처로만 답하도록 설정할 수 있나?
정보가 없으면 어떻게 되나? 비서가 솔직하게 "모른다"고 말하고 콜백이나 연결을 제안하나?
어떤 출처를 가져올 수 있나? 여러 페이지 웹 크롤링, PDF, DOCX, 자체 답변 카탈로그를 지원하나?
모든 통화를 검토하나? 녹취록만이 아니라 명확한 평가가 붙은 자동 검토가 있나?
지식 공백은 어떻게 다루나? 답하지 못한 질문을 모으고 세어서 내가 승인한 뒤에만 쓰나?
실시간 연결이 되나? 사람에게 넘기는 기능과 아무도 없을 때 남기는 콜백 메모가 있나?
비서가 AI라고 밝히나? AI 법 제50조가 이를 요구한다.
데이터는 어디서 처리되나? 데이터 처리 계약과 투명한 위탁사 목록이 있나?
먼저 시험해 볼 수 있나? 내 웹사이트로 하는 무료 테스트가 어떤 발표보다 빨리 비서가 지어내는지 보여 준다.

실전 테스트 팁: 테스트 통화에서 일부러 웹사이트에 답이 없는 질문을 던져 보자. 믿을 만한 비서라면 즉흥적으로 답하지 않는다.

anicall.io는 이렇게 한다

anicall.io의 AI 전화 비서는 바로 이 원칙을 바탕으로 만들어졌다. 웹사이트와 자료에 있는 것만 말하고 예약은 캘린더에 바로 넣는다. 구체적으로는 이렇다.

지식 가져오기: 웹사이트(여러 페이지 크롤링), PDF·DOCX·텍스트 파일, YouTube 자막, RSS 피드, 답변 카탈로그가 지식 베이스가 된다.
근거 있는 것만 답하기: 답하기 전에 anicall은 지식 베이스에서 맞는 출처를 찾는다. 없으면 에이전트가 솔직하게 말하고 콜백을 제안한다.
신호등 검토: 통화가 끝날 때마다 두 번째 모델이 각 답변을 출처와 대조한다. 초록(모두 근거 있음), 노랑(남은 질문 있음), 빨강(근거 없는 주장).
지식 공백 승인: 답하지 못한 질문은 횟수와 함께 대시보드에 뜬다. 네가 답하거나 기각하면 되고, 승인된 답은 다음 통화부터 적용된다.
연결과 콜백: 지정한 번호로 실시간 연결하고, 아무도 받지 못하면 에이전트가 콜백 요청을 기록한다.
AI 공개: 에이전트는 인사말에서 디지털 비서라고 밝히고, 물어보면 솔직하게 확인해 준다.

지식 경계는 에이전트마다 네 단계로 설정한다.

단계	동작
근거만	사실 질문에 지식 베이스만으로 답한다
엄격	승인된 업무만 하고 다른 주제는 거절한다
균형	짧게 잡담한 뒤 핵심 업무로 돌아간다
개방	핵심 업무 밖의 질문에도 답한다

요금은 선불 토큰 방식이라 기본료도 구독도 없다. 지식 경계와 검토를 포함한 모든 기능을 모든 고객이 쓸 수 있다. 예를 들어 한 달 수신 300분과 전화번호 1개면 4,080토큰, 즉 세전 40.80유로다. 자세한 내용은 요금 페이지에서 확인하자.

자주 묻는 질문

AI 전화 비서가 정말 한 번도 환각을 일으키지 않을 수 있을까?

오류 없는 언어 모델은 없으니 그걸 보장한다는 공급사는 믿지 않는 게 좋다. 지식 경계는 사실 답변을 출처에 묶어 위험을 크게 낮추고, 신호등 검토는 남은 오류를 드러내서 대응할 수 있게 해 준다.

RAG와 지식 경계는 뭐가 다를까?

RAG는 답하기 전에 관련 출처를 찾는 기술이다. 지식 경계는 출처를 찾지 못했을 때의 규칙으로, 일반 지식으로 즉흥 답변하는 대신 공백을 인정하고 콜백을 제안한다.

비서가 잘 답하려면 웹사이트를 새로 만들어야 할까?

꼭 그렇지는 않다. 서비스, 가격, 영업시간, 자주 묻는 질문이 분명하게 정리된 페이지가 있으면 도움이 된다. 웹사이트에 없는 내용은 문서나 답변 카탈로그로 채우면 되고, 첫 통화들이 끝나면 지식 공백이 무엇이 더 필요한지 알려 준다.

AI 비서가 잘못된 정보를 주면 누가 책임질까?

전화한 사람에게 비서는 네 회사를 대표해서 말한다. 캐나다의 Moffatt v. Air Canada(2024) 사건에서는 항공사가 챗봇의 잘못된 정보에 대해 돈을 물어야 했다. 독일에서는 아직 판례가 없지만 책임이 생길 수 있다고 본다. 확실하지 않으면 법률 자문을 받자.

비서가 답을 지어내는지 어떻게 시험할까?

웹사이트를 가져오고 테스트 통화를 한 뒤, 거기에 답이 없는 질문을 일부러 던져 보자. 그다음 신호등으로 모든 답변에 근거가 있었는지 확인할 수 있다. anicall.io에서는 이 브라우저 에이전트 테스트가 무료다.

직접 해 보자: anicall.io 라이브 데모에서는 브라우저로 바로 AI 리셉션에 전화하거나 내 전화로 데모 통화를 요청할 수 있다(데모 에이전트는 독일어로 말한다). 그다음 anicall.io에서 무료로 시작해 웹사이트를 가져오고, 답하면 안 되는 질문에 비서가 어떻게 대응하는지 확인해 보자.