LINE · WhatsApp · 네이버톡톡 · 카카오톡 메신저 채널에서
AI가 실시간으로 상담에 자동 대응하고,
대화 데이터를 분석하여 정형 보고서를 생성하는 AI Chatbot 기술 보고서
기술을 몰라도 이해할 수 있는 AI 상담 채팅 시스템의 전체 흐름
BO 대시보드에서 원클릭으로 AI 상담 활성화/비활성화
업무 시간에는 상담원이, 퇴근 후~출근 전에는 AI가 응대합니다. 주말은 종일 AI 운영.
LINE · WhatsApp · 네이버톡톡 · 카카오톡 중 어떤 채널이든, 어떤 언어든 상관없습니다.
일본어, 중국어, 영어, 아랍어, 태국어 등 자유롭게 메시지를 보냅니다.
별도의 언어 선택 버튼 없이, AI가 고객의 언어를 자동 감지합니다.
사전에 입력된 고객사 정보(서비스·상품, 가격, 영업시간 등)를 바탕으로
시나리오가 아닌 자연어 대화로 안내합니다.
서비스 안내, 가격, 위치, FAQ
AI가 즉시 답변
(상담원 개입 불필요)
예약 변경, 불만, 전문 판단
담당자에게 자동 전달
(대화 요약 + 번역 첨부)
매일 아침 일간 보고서가 이메일로 자동 발송됩니다.
어떤 문의가 많은지, 에스컬레이션이 필요한 건은 무엇인지 한눈에 파악합니다.
에스컬레이션 건은 BO(Back Office) 대시보드에서 티켓으로 관리합니다.
| 구분 | 기존 챗봇 (시나리오 기반) | 본 시스템 (AI 자연어 대화) | 외국어 대응 예시 |
|---|---|---|---|
| 대화 방식 | 버튼 클릭 → 정해진 메뉴 선택 "1번: 서비스 안내, 2번: 가격..." |
자유롭게 말하면 AI가 이해 "이 서비스 가격이 얼마예요?" |
Same AI, any language "How much does this service cost?" |
| 다국어 지원 | 언어별 시나리오를 별도 제작 언어 추가 시 비용 증가 |
고객 언어 자동 감지, 즉시 대응 별도 설정 없이 100+ 언어 |
Auto-detected & responded EN / JA / ZH / AR / TH / VI ... |
| 응답 품질 | 사전 작성된 고정 답변만 출력 고객 맥락 반영 불가 |
대화 맥락을 이해한 맞춤 답변 추가 질문, 비교 상담 가능 |
Context-aware conversation "Can I combine it with another option?" |
| 야간/주말 | 상담원 부재 시 → 상담 누락 9-to-6 이후 대응 불가 |
24시간 365일 자동 대응 상담 자동 접수 누락 최소화 |
24/7 global coverage No time zone barriers |
| 학습/개선 | 시나리오 수동 추가/수정 개발자 작업 필요 |
고객사 정보 텍스트만 수정하면 즉시 반영 개발 없이 담당자가 직접 편집 |
One update, all languages Korean text → auto multilingual |
"고객이 어떤 언어로든 메신저에 문의하면, AI가 고객사 정보를 바탕으로 자연스럽게 대화하고, 복잡한 건만 담당자에게 요약과 번역을 첨부하여 전달합니다. 담당자는 대시보드와 매일 아침 이메일 보고서로 상담 현황을 한눈에 파악합니다."
AI-First Triage 아키텍처 — 5-Layer 채팅 상담 플로우 + 에스컬레이션 + TMS 연동
PoC에서 검증된 성능/비용 데이터 — 채팅 시스템에 동일 적용
| 구분 | Provider | 평균 단가 | 역할 |
|---|---|---|---|
| Cloud LLM 대화 생성 · 분석 | OpenAI (기본) Google Gemini (자동 폴백) 종량제 API · GPU 서버 불필요 | Input ~$0.23/1M Output ~$1.55/1M ~$0.002/건 (평균) | 다국어 직접 처리 Structured JSON 출력 시스템 프롬프트 ~4K 토큰 |
| Local LLM 내부 작업 | 오픈소스 LLM (Ollama) 자체 서버 (선택) | API 비용 $0 서버 운영비만 | 대화 요약 등 내부 작업 전용 외부 전송 없음 |
| 고객사 보유 LLM 계약이나 사내 AI 게이트웨이가 있으면 AI Proxy 경로로 우선 연결 · STT / TTS는 채팅 시스템에서 미사용 | |||
| 구분 | 기존 모델 (상담원 보조) | AI-First 모델 (채택) |
|---|---|---|
| 1차 응대 | 인간 상담원 (AI 보조) | AI가 직접 응대 |
| 상담원 필요 | 모든 건 | 복잡 건만 (20~30%) |
| 야간/주말 | 추가 인력 필요 | 24/7 자동 |
| 확장성 | 선형 (상담원 비례) | 준선형 (인프라만) |
| 품질 편차 | 상담원별 차이 | 일관된 품질 |
데이터 변경이 없는 안전한 작업만 AI가 처리 (Read-only 원칙)
| 문의 유형 | 처리 주체 | 판단 근거 | 예시 |
|---|---|---|---|
| 단순 정보 | AI 즉시 | Read-only | 서비스 안내, 이용 절차, 소요 기간 |
| 가격 문의 | AI 즉시 | 공개 가격 범위 | 서비스별 가격대, 패키지 |
| 위치/운영 | AI 즉시 | 정적 정보 | 사업장 위치, 운영 시간, 주차 |
| 예약 요청 | AI 접수 → 에스컬레이션 | 스케줄 변경 | 예약, 예약 변경/취소 |
| 전문 판단 | 즉시 에스컬레이션 | 법적·전문 책임 | 적합성 판단, 부작용, 사후 조치 |
| 불만/분쟁 | 즉시 에스컬레이션 | 고도 판단 | 서비스 불만, 환불, 사고 |
| 개인정보 | 즉시 에스컬레이션 | GDPR/개보법 | 이용 기록 열람, 삭제 요청 |
업무시간 내 담당자가 확인하는 실시간 상담 현황, 에스컬레이션 티켓 관리, 일간/주간 자동 보고서 이메일 예시는 BO 대시보드 가이드 (별도 페이지)에서 확인하실 수 있습니다.
LINE · WhatsApp · 네이버톡톡 · 카카오톡 4개 메신저에서 AI가 실시간 자동 응답하는 기술 구성 (WeChat 지원 예정)
| 채널 | 연동 기술 | AI 대응 방식 | 주요 시장 |
|---|---|---|---|
| LINE LINE Messaging API |
Webhook → 게이트웨이 수신 LINE Official Account + Bot |
텍스트 실시간 자동 응답 이미지 수신 → Vision 분석 가능 |
일본 / 태국 / 대만 월 활성 사용자 1.96억 |
| WhatsApp WhatsApp Business API (Cloud) |
Webhook → 게이트웨이 수신 Meta Business Platform 연동 |
텍스트 실시간 자동 응답 영어 / 아랍어 / 러시아어 등 |
동남아 / 중동 / 유럽 월 활성 사용자 20억+ |
| 네이버 톡톡 Naver TalkTalk Chatbot API |
Webhook → 게이트웨이 수신 파트너센터 챗봇 API 연동 |
텍스트 실시간 자동 응답 프로필 동의 후 응답 (5초 제한) |
한국 국내 네이버 검색 · 스마트플레이스 유입 |
| 카카오톡 카카오 i 오픈빌더 스킬 서버 |
스킬 요청 → 게이트웨이 수신 Callback으로 최종 응답 전송 |
텍스트 실시간 자동 응답 5초 내 대기 말풍선 + 콜백 응답 |
한국 국내 카카오톡 채널 유입 |
| WeChat 지원 예정 WeChat Official Account API |
Webhook → 게이트웨이 수신 서비스 계정 (Service Account) |
텍스트 실시간 자동 응답 중국어 간/번체 자동 감지 |
중국 / 화교권 월 활성 사용자 13.4억 |
4개 메신저의 서로 다른 API 규격(LINE JSON / WhatsApp Cloud API / 네이버 톡톡 Chatbot API / 카카오 i 오픈빌더 스킬)을 단일 내부 메시지 포맷으로 정규화합니다. 채널별 어댑터 패턴으로 구현하여, AI 엔진은 채널에 무관하게 동일한 인터페이스로 대화를 처리합니다. 신규 채널(WeChat, Telegram 등) 추가 시 어댑터만 개발하면 확장 가능합니다.
비정형 상담 텍스트를 정형 데이터로 변환하는 3단계 NLP 파이프라인
Provider 체인 구성 — OpenAI 기본 + Gemini 자동 폴백 + 로컬 모델 보조
| 처리 단계 | 기술 | 설명 |
|---|---|---|
| 언어 감지 | LLM 내장 + 다국어 키워드 사전 | 100+ 언어 자동 감지, 별도 감지 모델 불필요 |
| 대화 생성 | Cloud LLM (OpenAI → Gemini 폴백) | 다국어 자연어 상담 응답 생성 |
| 의도 분류 | 키워드·정규식 룰 1차 + LLM 보정 | LLM 호출 없이 빠른 사전 분류, 애매한 건만 LLM 판단 |
| NER + 감성 | LLM Structured JSON | 단일 API 호출로 구조화 JSON 출력 |
| PII 비식별화 | Regex 패턴 선 비식별화 | 전화번호/이메일/이름 패턴 매칭 → 토큰 치환 후 API 전송 |
| 내부 요약 | Local LLM (Ollama) | 담당자 전달용 대화 요약, 외부 전송 없음 |
| 보고서 생성 | LLM | 집계 데이터 → 서술형 보고서 |
기본 경로는 OpenAI, OpenAI 장애나 쿼터 초과 시 Google Gemini로 자동 폴백합니다. 대화 요약 같은 내부 작업은 오픈소스 LLM(Ollama, 로컬)으로 처리해 외부 API 비용과 전송을 줄입니다. 고객사가 보유한 LLM 계약이나 사내 AI 게이트웨이가 있으면 AI Proxy 경로로 최우선 연결합니다.
전체 데이터 흐름 및 인프라 구성
AI가 추출한 정형 데이터를 기반으로 자동 생성하는 보고서 항목
| 보고서 | 생성 주기 | 포함 항목 | 배포 방식 |
|---|---|---|---|
| 일간 상담 현황 | 매일 09:00 |
• 전일 총 상담 건수 (채널별) • 영업시간 외 AI 자동 대응 건수 • 문의 유형 TOP 5 • 에스컬레이션 대기 건 리스트 |
이메일 + 슬랙 알림 |
| 주간 트렌드 분석 | 매주 월요일 |
• 서비스별 문의량 증감 추이 • 채널별 유입 비율 변화 • 경쟁사 언급 빈도 • 불만/이탈 패턴 분석 • AI 자동처리율 vs 에스컬레이션 비율 |
PDF 보고서 + 대시보드 갱신 |
| 월간 경영 리포트 | 매월 1일 |
• 서비스 카테고리별 상담 통계 • 예산 구간별 고객 분포 • 예약 문의 건수 + 에스컬레이션 처리율 • 시장 트렌드 인사이트 (LLM 서술) • 국가/언어별 유입 분석 + 마케팅 채널 ROI |
PDF + 경영진 프레젠테이션 |
모든 상담에 영업시간 내/외 여부를 기록해 야간·주말 상담을 정확히 분리합니다. AI가 24/7 자동 대응하므로 "9-to-6 이후에도 상담 자동 접수 누락 최소화"를 실현하며, 에스컬레이션 건(AI 대응 불가 → 인간 상담원)은 별도 플래그로 구분해 추적합니다.
상담 데이터 처리에 필수적인 보안 아키텍처 및 법규 대응
| 법규 / 기준 | 요구사항 | 기술 대응 |
|---|---|---|
| 개인정보보호법 제15조, 제17조 |
수집 동의, 목적 외 이용 금지, 최소 수집 원칙 |
• 상담 시작 시 동의 스크립트 자동 안내 • Regex 패턴 PII 선 비식별화 후 Cloud API 전달 • 원문과 분석 결과 분리 저장 |
| 업종 특별법 예: 의료법, 금융소비자보호법 |
업종별 전문 판단 제한, 기록 보관·제3자 제공 규제 |
• 상담은 공식 기록이 아닌 "문의" 분류 • 전문 판단(의료·금융 등)은 AI 판단 제외 • 업종별 필터링 룰셋으로 에스컬레이션 |
| GDPR EU 일반 데이터 보호 규정 |
글로벌 사용자 동의권, 삭제 요청권(Right to Erasure) |
• 첫 메시지 시 동의 안내 자동 발송 • 삭제 요청 시 전체 대화 이력 파기 • WhatsApp/LINE 유럽 사용자 대응 |
| 메신저 플랫폼 정책 LINE / WhatsApp / 네이버 톡톡 / 카카오톡 |
각 플랫폼 이용약관 준수, 자동 응답 봇 정책 |
• LINE: Bot 명시, 인간 전환 옵션 제공 • WhatsApp: Business 인증 + 24h 규칙 • 네이버 톡톡: 파트너 검수 + 프로필 동의 후 응답 • 카카오톡: 비즈니스 채널 인증 + 오픈빌더 정책 |
| 데이터 보관 | 목적 달성 후 파기, 보관 기한 준수 |
• 대화 원문: 90일 보관 후 자동 삭제 • 분석 결과(비식별): 2년 보관 • GDPR 삭제 요청 시 즉시 파기 |
상담 데이터는 Regex 패턴으로 PII 선 비식별화를 완료한 후 비식별 텍스트만 LLM API로 전송됩니다. 원본 개인정보가 외부로 전송되지 않으며, 비식별화 처리는 자체 서버에서 수행합니다. LLM API는 이미 비식별화된 텍스트만 수신하므로 원본 개인정보에 접근할 수 없는 구조입니다. 매핑 테이블은 별도 암호화 DB에만 보관하며 접근 권한을 최소화합니다.
4주(1개월) 집중 개발 — 인프라 + AI 파이프라인 + 4채널 통합 + 보고서 + 테스트
| 주차 | 개발 범위 | 산출물 |
|---|---|---|
| 1주차 | 인프라 + AI 코어 K8s + DB + LLM API + PII Regex + 게이트웨이 |
AI 추론 API |
| 2주차 | LINE 채널 + AI 파이프라인 LINE 연동 + JSON Mode + 에스컬레이션 + 프롬프트 |
LINE MVP 데모 |
| 3주차 | 멀티채널 + 보고서 WhatsApp + 네이버톡톡 + 카카오톡 + 게이트웨이 + 보고서 |
4채널 통합 |
| 4주차 | 테스트 + 안정화 + 인수 E2E + 부하 + 보안 + 매뉴얼 |
전체 런칭 |
개발과 병행하여 클라이언트 측에서 준비할 행정 사항
LINE · 카카오톡은 당일 개통 가능하므로 MVP 채널로 적합합니다. 네이버 톡톡은 파트너 검수 1~3 영업일, WhatsApp은 Meta 비즈니스 인증 1주 내외. WeChat(예정)은 해외 기업 기준 4~7주 소요되므로 도입 시 개발 시작과 동시에 계정 신청이 필요합니다.