Ada, MongoDB Atlas에 구축된 인공지능 기반 자동화로 고객 서비스 혁신

AI로 고객 서비스 경험에 혁명을 일으키고 있는 캐나다 기업 Ada에 대해 아직 들어본 적이 없을 수도 있습니다. 그러나 300여 개 고객사 중 Meta, Verizon, AT&T 등 가정용 브랜드가 포함되어 있는 만큼 자신도 모르게 Ada의 기술을 접했을 것입니다.

2016년에 설립된 이후 Ada는 AI 기반 자동화 분야의 선두 주자로 자리 잡았으며 생성형 인공지능에 있어서는 다른 업체보다 훨씬 앞서 있습니다. Ada의 사명은 옴니채널 자동화 경험을 통해 최소한의 노력으로 가장 많고 가장 복잡한 고객 문의를 해결하는 것입니다.

여러 채널에 걸쳐 다양한 특성, 특이점 및 데이터 형식을 가진 방대한 양의 비정형 데이터는 거대 언어 모델, 즉 LLM이 건설적인 답변이나 해결책을 생성하기 위해 통합해야 할 사항입니다.

이는 고객 데이터를 기반으로 AI 솔루션을 구축하는 기업이 빠르고 안전하게 진행하기 위한 매우 중요한 고려 사항입니다. Ada의 최고 제품 및 기술 책임자인 Mike Gozzo는 MongoDB의 최고 경영자(CEO)인 Dev Ittycheria 및 최고 제품 책임자인 Sahir Azam과 함께 MongoDB 2023 .local NYC Keynote에서 Ada가 MongoDB Atlas를 사용하여 생성형 인공지능 트렌드를 앞서가면서 더 빠르고 과감하게 혁신하는 방법에 대해 논의했습니다.

Ada는 처음부터 가능한 한 빨리 시장에 솔루션을 제공하기를 원했습니다. 이를 위해서는 제약 없이 혁신을 실현할 수 있는 멀티 클라우드 no-SQL 데이터베이스 플랫폼이 필요했습니다. Ada는 MongoDB Atlas가 출시 되자마자 즉시 채택했습니다. Gozzo는 이렇게 말합니다. "Mongo를 적용하는 것에 집중하기보다 고객 서비스 문의를 자동화하는 사업에 집중하고 싶었습니다. 이는 속도 면에서 우리에게 중요한 '돌파구'였습니다." MongoDB Atlas는 Ada의 모든 솔루션을 뒷받침하여 여러 데이터 유형을 조화시키고 팀이 생성형 인공지능 및 거대 언어 모델을 연구하는 데 집중할 수 있도록 지원합니다.

“MongoDB 사용은 새로운 것을 개발할 때 데이터를 소싱하는 방법에 제약을 받지 않는다는 것을 의미합니다. 비정형 데이터를 쿼리하고 이를 다른 모델을 교육하는 데 사용할 수 있습니다."라고 Gozzo는 설명합니다. “우리는 제품 스택 전반에 걸쳐 생성형 인공지능을 쉽게 활용하여 문의를 자동화하고 단순히 다단계 문의에 응답하는 것 이상의 지원을 제공합니다. MongoDB를 사용하면 단 몇 달 만에 신제품을 출시할 수 있습니다."

Gozzo는 스타트업 초기부터 계속 MongoDB와 함께한 이유에 대해 다음과 같이 설명합니다. "방향을 전환할 수 있는 유연성과 역량을 갖추는 것이 매우 중요했습니다. 회사가 성장하고 새로운 채널과 양식을 도입하면서 무리한 마이그레이션 없이 쉽게 확장할 수 있고 우리의 요구 사항을 충족할 수 있는 단일 데이터 저장소가 있어야 한다는 사실을 MongoDB를 통해 확실히 알게 되었습니다. 성능도 뛰어나고 팀의 지원도 훌륭하며 MongoDB를 통해 한 중앙 클라우드 공급업체에 대한 의존도를 낮출 수 있다고 믿기 때문에 항상 Atlas를 고수해 왔습니다."

Ada는 최근 Change Streams를 채택하여 내부 데이터 레이크를 동기화 상태로 유지하면서 실시간으로 모델을 반복하고 교육하기 시작했습니다. 이를 통해 팀은 봇과 분석을 지원하는 분산 이벤트 처리 시스템을 구축할 수 있었습니다.

Ada는 또한 대화를 비공개로 유지하면서 AI 교육을 발전시키는 데 도움이 되는 Queryable Encryption를 연구하고 있습니다. "암호화된 대화 이면의 핵심 메시지와 지침을 추출하는 것은 단순히 AI 모델에 녹취록을 입력하는 것보다 더 흥미롭습니다. 봇 관리자의 품질 피드백을 확인하고 모범적인 소통이 어떤 것인지 배울 수 있습니다"라고 Gozzo는 설명합니다.

몇 년 안에 AI는 우리가 사용하는 모든 앱에 통합될 것으로 예상됩니다. Ada는 MongoDB와 함께 선두를 달리고 있는 시장 혁신 기업 중 하나입니다. "MongoDB Atlas와 협력하게 되어 매우 기쁘게 생각하며 앞으로 함께 할 작업이 기대됩니다"라고 Gozzo는 결론지었습니다.