이마트, Azure DevOps를 통한 AI챗봇 서비스로 고객 응대 속도 대폭 향상

이마트는 2022년부터 이마트와 이마트 트레이더스, 그리고 노브랜드에 챗봇 상담 서비스를 시작했습니다. 챗봇의 가장 큰 역할은 소비자들이 각 지점에 궁금한 것들에 대해 빠르고 매끄럽게 대답하는 것입니다. 스마트폰이 늘 가까이에 있기는 하지만 여전히 직접 직원들에게 궁금한 것을 묻는 것을 중요하게 여기는 소비자들이 많이 있습니다. 이마트는 그 경험을 해치지 않으면서 소비자들이 원하는 정보를 더 빠르고 정확하게 제공하기 위해 챗봇을 적극적으로 활용하고 있습니다.

소비자들이 이마트, 이마트 트레이더스, 노브랜드 등 각 매장에 전화를 걸면 상세한 안내와 함께 스마트폰으로 챗봇에 연결할 수 있는 하이퍼링크가 전송됩니다. 물론 유선 전화나 인터넷에 접속하기 어려운 환경을 위해 전문 상담사들과 연결할 수 있습니다. 하지만 대부분의 상담 문의는 챗봇을 통해 대기 없이 더 빠르게 응답할 수 있습니다. 예를 들면 영업 시간이나 휴무일, 그리고 해당 매장에 옷 수선 센터 등 시설이 갖춰져 있는지에 대한 답은 챗봇이 질문의 맥락을 읽어서 빠르고 정확하게 답할 수 있습니다.

챗봇은 수시로 변하는 각 지점의 데이터가 빠르게 반영되고 질문에 대해서도 더 자연스럽게 알아들을 수 있어야 합니다. 그래서 이마트는 수시로 인공지능의 모델부터 각 지점의 크고 작은 데이터를 업데이트합니다. 그 과정에서 안정적인 개발, 배포, 운영 환경이 필요했고, Azure DevOps는 가장 좋은 답이 되어 주었습니다.

다양한 개발 환경의 매끄러운 통합 관리

현재 이마트의 챗봇 개발 부서에서 가장 많이 쓰는 Azure DevOps의 요소는 Repos와 Pipelines입니다. 개발자들은 각자 맡은 부분을 만들어내고 컨테이너로 포장해서 스테이징 단계로 보내는 일을 맡습니다. 애플리케이션 담당자들은 새 컨테이너가 문제 없이 작동하는지 검수한 뒤 나머지 파이프라인을 통해 온프레미스 서버와 클라우드의 챗봇 모델에 최종 서비스를 배포합니다

Azure DevOps는 이마트의 영업이 끝난 이후 각 지점별로 순차 배포를 하고 다시 문제 없이 작동하는지 확인한 뒤 서비스가 이뤄집니다. 검수와 승인의 절차 외의 모든 프로세스는 자동으로 이뤄집니다. 이 모든 과정이 단 한 번의 로그인으로 매끄럽게 진행됩니다.

"Azure DevOps는 개발 과정의 모든 요소들을 한 곳에서 통합 관리할 수 있다는 강점이 있습니다. 특히 소스 코드를 비롯해 서비스와 관련된 모든 애셋들을 종류와 용량 부담 없이 업로드할 수 있다는 점이 매력적이었습니다.”

챗봇개발팀은 통합 권한과 넉넉한 리소스를 Azure DevOps의 첫번째 차별점으로 들었습니다. 이마트의 모든 소스 코드와 중요한 파일들은 Azure DevOps Repos에 올려서 관리됩니다. 특히 머신러닝 모델 등 점점 부피가 커지는 파일들을 올릴 수 없어서 별도의 서비스에 등록하는 경우가 많은데 Repos는 용량에 제약이 없기 때문에 모든 파일을 한 번에 올릴 수 있습니다. 자연스럽게 관리가 단순해지고 업무의 단계가 줄어듭니다.

또한 개발, 배포와 관련된 모든 요소들이 통합 운영되면서 팀 전체의 협업과 소스 코드 관리가 체계적으로 이뤄질 수 있었습니다. Repos는 모든 개발 환경을 받아들일 수 있기 때문에 가장 익숙한 구성으로 협업을 기대할 수 있었습니다. 인수인계나 업무 이관도 매끄럽게 이뤄졌습니다. 개발팀은 결국 Azure DevOps가 팀이 함께 일하기 편리한 환경을 만들어준다고 설명합니다.

“Azure DevOps는 YAML 문법을 쓸 수 있기 때문에 접근성이 좋습니다. 대부분의 개발자들에게 통하는 언어로 모든 개발 환경이 통합되고, 팀 내에서도 구성원들 사이에 소스의 이해도가 높아졌습니다. 대부분의 개발자들이 깃허브도 익숙하게 쓰고 있지만 팀 통합과 협업이라는 측면에서는 Azure DevOps의 환경이 더 편리했습니다.”

온프레미스부터 멀티 클라우드 환경까지 통합 자동화

소스 코드의 통합은 스프린트 관리에도 유리했습니다. Azure DevOps는 한 곳에 모든 개발 과정의 흔적이 남기 때문에 요구사항들이 반영되는 흐름을 명확하게 읽을 수 있습니다. 또한 권한 관리 덕분에 보안의 위험 없이 다른 부서, 혹은 협력사와 협업하기에도 편리했습니다.

“애자일 프로젝트 관리 도구들이 보안을 이유로 내부 환경에만 최적화되어 있는 경우가 많습니다. 안전하긴 하지만 외부에서는 접근이 어렵고, 직원들도 VPN 등을 이용해서 검증된 네트워크 안에 들어와야 했습니다. Azure DevOps 환경은 Microsoft Entra ID(이전의 Azure Active Directory)를 통해서 통합 로그인이 이뤄지기 때문에 이용자 권한부터 접근 이력, 보안 등이 체계적으로 관리됩니다.”

Azure DevOps의 Pipelines는 여러 인프라 환경을 매끄럽게 이어주었습니다. 현재 이마트의 챗봇 서비스는 타 퍼블릭 클라우드에서 운영되고 있고, 일부 정보는 보안을 위해서 온프레미스 데이터센터에 보관됩니다. 일반적으로는 개발 과정에서 파이프라인의 각 단계마다 로그인과 인증을 새로 하고 소스와 데이터를 직접 올리고 내리는 과정이 필요한데 어떤 환경이든 자동화할 수 있습니다. 또한 온프레미스의 인프라를 활용할 수 있게 되면서 챗봇이 데이터를 다루는 속도를 아주 빠르게 끌어올릴 수 있었습니다. 전체적으로 Azure DevOps의 Pipelines는 외부 환경에 제한이 없기 때문에 원하는대로 구성할 수 있고, 처리 속도와 효율을 높이기에도 유리했습니다.

무엇보다 소스를 관리하는 Repos와 Pipelines이 DevOps 환경으로 통합되면서 개발이 완료되면 곧바로 Pipelines을 통해 많은 부분이 자동화되어서 안전하게 배포됩니다. 속도 뿐 아니라 비용 측면에서도 큰 효과를 볼 수 있었습니다.

매끄러운 DevOps 환경, 챗봇의 고도화로 더 나은 소통 경험

이마트의 챗봇은 소비자들에게 좋은 반응을 얻고 있습니다. 전화 상담은 소비자들이 많이 몰리면 기다리는 시간이 늘어나기도 하고 각 점포에서도 상담이 업무에 영향을 주는 경우도 있었는데 챗봇은 곧바로 원하는 답을 주고 점점 재고나 이벤트 정보 등 소비자들이 궁금해하는 내용들에 섬세하게 답할 수 있게 됐습니다. 이마트의 소비자는 어떤 상황에서도 최신의 데이터를 바탕으로 원하는 답을 얻을 수 있게 됐습니다.

“챗봇은 단순한 응답 서비스가 아니라 소비자들이 궁금해하는 정보를 가장 효율적이고 편리하게 전달하면서 소통을 완성하는 하나의 방법입니다. 챗봇을 도입하고 입체적인 소통 구조가 갖춰지면서 현재 99%의 응답률을 보여주고 있습니다. Azure DevOps는 소비자들이 챗봇에 이질감을 느끼지 않도록 빠르고 지속적으로 업데이트할 수 있는 개발 환경을 만들어주었고, 이를 통해 살아있는 챗봇 서비스가 운영되고 있습니다.”

이마트는 챗봇 서비스의 고도화를 위해 더 많은 인공지능 기술을 활용하고 있습니다. 최근 이슈가 되고 있는 생성AI도 고민이지만 정확한 정보만을 전달해야 하기 때문에 생성 AI를 직접 소비자들과 만나도록 하는 것은 아직 조심스럽습니다.

하지만 내부적으로는 대규모 언어모델을 비롯한 다양한 인공지능 모델을 활발하게 활용하고 있습니다. 그 과정에서 Azure OpenAI는 상담 내용을 분석해서 소비자들이 어떤 점을 궁금해하는지 정리해주고, 미리 더 나은 답을 준비할 수 있도록 합니다. 또한 필요에 따라서 상담사가 챗봇을 거들어 적절한 답을 해 주기도 합니다. 결과적으로 매끄러운 소통의 프로세스가 만들어진 셈입니다.