사례 연구
수 주에서 15초 미만으로: APAC 선도 FMCG 기업을 위한 엔터프라이즈 에이전틱 AI 분석 시스템
- 팀 규모: 11명(데이터 엔지니어 4명, AI 엔지니어 3명, 데이터 스튜어드 2명, 솔루션 아키텍트 1명, PMO 1명)
- 개발 기간: 2개 단계에 걸쳐 9개월
Explore more case study
배경
APAC 전역의 FMCG 산업이 점점 복잡해짐에 따라 기업은 여러 시장, 다양한 운영 모델, 서로 다른 성장 우선순위에 대응해야 합니다. Bain & Company는 여러 새로운 트렌드가 세계 최대 소비재 시장을 재편하고 있다고 지적하며, CPG 기업이 지속 가능한 성장을 달성하려면 이 지역의 복잡성을 효과적으로 관리해야 한다고 설명합니다. McKinsey 역시 전 세계 GDP의 약 25,998명의 소비자 를 대상으로 18개 시장에서 실시한 연구를 통해 APAC 시장의 다양성과 파편화를 강조합니다. 해당 시장은 전 세계 GDP의 약 75% 를 차지합니다. 이와 함께 Gartner는 자연어 처리(NLP)와 대화형 인터페이스를 기반으로 하는 증강 분석 의 역할이 점차 커지고 있으며, 이를 통해 비기술 직군의 비즈니스 사용자가 더 쉽게 데이터에 접근하고 인사이트를 도출할 수 있다고 강조합니다.
이 사례의 고객사는 APAC 지역 전역에서 사업을 운영하며, 20개국 이상에서 여러 운영 회사를 관리하는 선도 FMCG 기업입니다.
이러한 과제를 해결하기 위해 GEM은 고객사와 협력하여 비즈니스 사용자가 일상적인 언어로 질문하고 검증과 설명, 시각화가 포함된 답변을 수초 내에 받을 수 있는 에이전틱 AI 분석 시스템을 구축했습니다. 이렇게 완성된 에이전틱 AI 분석 시스템은 통합된 데이터 기반, 엔터프라이즈 시맨틱 계층, 에이전틱 AI 인텔리전스 계층이라는 세 가지 토대 위에 구축되었습니다.
과제
시장별 데이터 파편화와 일관되지 않은 정의
- 데이터가 여러 원천 시스템과 운영 회사에 흩어져 있었으며, 이를 통합할 공통 전사 모델이 없었습니다.
- 시장마다 데이터 구조가 달라 시장 간 분석을 위해 수작업으로 데이터를 대조하고 조정해야 했습니다.
- 핵심 KPI의 정의가 시장마다 달라 동일한 질문에도 서로 상충하는 답이 나올 수 있었습니다.
- 방대한 양의 데이터가 수집되었지만, 데이터에 접근하고 신뢰성을 확인하는 데 필요한 노력 때문에 실제 활용 빈도는 제한적이었습니다.
느리고 전문 기술에 의존하며 유연성이 부족한 인사이트 접근
- 비즈니스 사용자는 데이터를 직접 조회할 수 없었으며, 정형화되지 않은 질문은 모두 분석가와 수작업으로 작성한 SQL 쿼리를 필요로 했습니다.
- 정적 대시보드는 사전에 정해진 질문에는 답할 수 있었지만, 개방형 탐색 분석은 지원하지 못했습니다.
- 의사결정 주기가 몇 시간에서 며칠 또는 몇 주로 늘어나면서, 인사이트가 제공될 무렵에는 그 가치가 떨어졌습니다.
- 어떤 솔루션이든 엔터프라이즈급이어야 했습니다. 즉, 신뢰할 수 있고, 거버넌스와 보안이 확보되어 있으며, 실제 비즈니스 의사결정을 지원할 만큼 정확해야 했습니다.
솔루션
GEM은 자연어로 된 비즈니스 질문을 15초 이내에 검증과 설명, 시각화를 갖춘 답변으로 변환하는 에이전틱 AI 분석 시스템을 제공했습니다. 이 에이전틱 AI 분석 시스템은 멀티 에이전트 추론 프레임워크를 핵심으로, 서로 연결된 세 개의 계층으로 구성됩니다.
계층 1: 통합된 데이터 기반
모든 운영 회사와 국가의 데이터를 수집하고 공통 전사 데이터 모델 아래 통합하여, 분석 및 AI 워크로드를 위한 신뢰할 수 있는 단일 데이터 소스를 구축합니다. 이 기반을 통해 에이전틱 AI 분석 시스템은 거버넌스와 확장성을 유지하면서 시장 간 일관된 분석을 수행할 수 있습니다.
계층 2: 엔터프라이즈 시맨틱 계층
시맨틱 계층은 모든 시장의 KPI, 차원, 비즈니스 로직을 표준화합니다. 전사 공통 정의를 플랫폼에 직접 내장함으로써, 에이전틱 AI 분석 시스템은 지역이나 사업 부문에 관계없이 모든 분석이 일관된 비즈니스 규칙을 기반으로 수행되도록 보장합니다.
계층 3: 에이전틱 AI 인텔리전스
에이전틱 AI 분석 시스템의 핵심은 비즈니스 의도 이해, 분석 계획 수립, 신뢰할 수 있는 데이터 소스 조회, 인사이트 도출, 시각화 생성이 가능한 멀티 에이전트 아키텍처입니다. 이를 통해 속도와 맥락, 신뢰성을 결합한 대화형 분석 경험을 제공합니다.
이 계층에서는 전문화된 에이전트 팀이 모든 질문에 대해 협업합니다:
- 에이전트 오케스트레이터: 워크플로를 제어하고 에이전트 간 작업 인계를 조율합니다.
- 계획 에이전트: 사용자의 질문을 해석하고 체계적인 분석 계획을 수립합니다.
- 맥락 에이전트: KPI, 차원, 과거 지식 등 관련 비즈니스 맥락을 검색합니다.
- 쿼리 에이전트: 신뢰할 수 있는 소스를 대상으로 최적화된 데이터 쿼리를 생성하고 실행합니다.
- 분석 에이전트: 조회된 데이터를 분석하여 추세, 이상 징후, 핵심 인사이트를 도출합니다.
- 평가 에이전트(LLM-as-Judge): 추론, 데이터 사용 및 결과를 검증하여 모든 응답의 정확성과 신뢰성을 보장합니다.
- 단기 메모리: 대화 전반에 걸쳐 세션 맥락과 중간 결과를 유지합니다.
- 장기 메모리: 재사용 가능한 지식을 저장하여 시간이 지날수록 시스템이 개선되도록 합니다.
엔터프라이즈급 플랫폼 및 보안
이 시스템은 20개 이상의 국가에서 민감한 상업 데이터를 처리하므로, 초기 설계 단계부터 보안과 거버넌스를 반영했습니다. 플랫폼은 Private Endpoints를 갖춘 Azure Virtual Network 내부에서 실행되며, Microsoft Entra ID를 통해 사용자를 인증하고 Azure Application Gateway 및 Firewall로 보호됩니다. Judge Agent는 인프라 제어에 더해 추론 수준의 가드레일을 제공하며, 출력이 사용자에게 전달되기 전에 검증합니다.
기술 스택
- 클라우드 플랫폼: Microsoft Azure
- 데이터 기반: Azure Storage (ADLSv2), Azure Data Factory, Databricks, Delta Lake
- 시맨틱 계층: Databricks Metric Views, Azure AI Search
- 에이전틱 인텔리전스: Azure App Service, Azure OpenAI, Azure AI Search, Redis Cache, Azure SQL Database, Azure Key Vault, LangGraph
- 보안 & 네트워킹: Azure Virtual Network & Private Endpoints, Microsoft Entra ID, Azure Application Gateway & Firewall
산출물
- 20개 이상의 APAC 시장 전반에 걸쳐 자연어로 된 비즈니스 질문에 답할 수 있는 프로덕션급 에이전틱 AI 분석 시스템을 제공했습니다.
- Databricks와 Delta Lake에 통합 데이터 기반을 구축하여 여러 운영 주체의 데이터를 통합운영 회사의 데이터를 단일 엔터프라이즈 모델로 통합했습니다.
- 모든 시장에서 거버넌스가 적용된 KPI 정의와 비즈니스 로직을 일관되게 준수하도록 하는 엔터프라이즈 시맨틱 계층을 구현했습니다.
- Orchestrator, Planner, Context, Query, Analysis, Judge 에이전트로 구성된 멀티 에이전트 추론 아키텍처를 배포했습니다.
- 에이전틱 AI 분석 시스템이 생성하는 모든 응답의 정확성, 설명 가능성, 신뢰성을 보장하기 위해 LLM-as-Judge 검증 기능을 내장했습니다.
- 대화형 분석, 자율 SQL 생성, 자동 인사이트 설명, 동적 시각화를 지원했습니다.
성과
운영 효율성
- 에이전틱 AI 분석 시스템을 통해 인사이트 도출에 걸리는 시간을 며칠 또는 몇 주에서 15초 미만으로 단축하여 실시간 탐색적 분석을 실현했습니다.
- 신뢰할 수 있는 기업 지표를 기준으로 검증했을 때 데이터 검색 정확도 99.8%를 달성했습니다.
- 수시 보고와 비즈니스 질문 대응에서 발생하던 분석가 병목 현상을 해소했습니다.
- 모든 시장의 KPI 정의를 표준화하여 정합성 확인 작업을 크게 줄였습니다.
비즈니스 혁신
- 에이전틱 AI 분석 시스템을 통해 데이터 접근을 대중화하여 영업 담당자, 영업 관리자, 브랜드 책임자가 SQL이나 기술 전문 지식 없이도 기업 데이터를 탐색할 수 있도록 했습니다.
- 신뢰할 수 있는 인사이트에 즉시 접근할 수 있도록 하여 의사결정을 가속화했습니다.
- 검증되고 설명 가능한 AI 생성 답변을 통해 기업 보고에 대한 신뢰도를 높였습니다.
- APAC 사업 전반의 향후 분석, 자동화, AI 이니셔티브를 위한 확장 가능한 데이터 및 AI 기반을 구축했습니다.
맺음말
에이전틱 AI 분석 시스템은 비즈니스 질문에서 신뢰할 수 있는 답변에 이르는 시간을 몇 주에서 15초 미만으로 줄임으로써 보고 속도 향상 이상의 가치를 제공했습니다. 20개 이상의 시장에 걸쳐 데이터 기반 운영 모델을 구축했습니다. 조화롭게 통합된 데이터, 거버넌스가 적용된 비즈니스 정의, 자체 검증형 멀티 에이전트 아키텍처를 통해 에이전틱 AI 분석 시스템은 파편화된 데이터 환경을 대화로 접근할 수 있는 단일 진실 공급원으로 전환하고, 차세대 AI 기반 의사결정을 위한 확장 가능한 기반을 마련했습니다.
또 다른 AI 혁신 성공 사례를 확인하세요: 지능형 화주 및 운송사 매칭 플랫폼

