AI 시대를 위한 지능형 데이터 플랫폼

이 글 상단에서 평소와는 다른, 하지만 어쩌면 낯익은 이름을 발견하신 분도 계실 것입니다.

이번 주 경영진 교체에 따라 이사회의 요청으로 제가 임시 CEO를 맡게 되었습니다. 저는 11년 넘게 MongoDB를 이끌었고 이후 줄곧 이사회 일원으로 활동해 왔기에 우리 구성원 및 고객, 그리고 비즈니스와 계속해서 긴밀한 관계를 유지해 왔습니다. 다시 돌아오게 되어 기쁘며 MongoDB가 나아갈 다음 방향을 여러분과 공유할 수 있게 되어 매우 기대됩니다.

AI는 지금 중요한 전환기를 거치고 있습니다. 모델의 추론 능력은 날로 좋아지고 있지만 더 큰 변화는 우리가 AI에 요구하는 일 자체가 달라지고 있다는 점입니다. AI는 답변을 생성하는 단계에서 직접 행동에 나서는 단계로 넘어가고 있습니다. 소프트웨어는 더 이상 사람이 일하는 것을 돕는 데 그치지 않습니다. 점점 더 많은 영역에서 에이전트가 업무의 일부를 직접 수행합니다. 에이전트는 고객 문제를 해결하고 소프트웨어를 작성해 배포하며, 비즈니스 프로세스를 실행합니다. 또한 사람의 개입이 점차 줄어드는 가운데에도 쉼 없이 가동됩니다.

이러한 변화는 애플리케이션의 기반이 되는 인프라에 지대한 영향을 미칩니다. 에이전트는 단순히 프롬프트를 받아서 답변을 반환하는 데 그치지 않습니다. 에이전트는 현재 상황을 관찰하고 필요한 컨텍스트를 검색하여 무엇을 할지 판단한 뒤 조치를 취합니다. 그 결과를 확인하고 나면 동일한 사이클을 다시 시작하는 경우도 많습니다. 에이전트의 역량이 강화됨에 따라 이러한 작업 순환 과정은 더 길고 자율화되며 그 파급력 또한 더욱 커집니다.

모델의 품질은 무척 중요합니다. 하지만 모델이 다루는 데이터의 품질과 최신성, 접근성도 그에 못지않게 중요합니다. 바로 이 지점에서 MongoDB가 중요한 역할을 합니다.

오늘 역대 최대 규모의 플랫폼 확장을 발표합니다:

• MongoDB 9.0은 실시간 데이터를 바탕으로 작동하는 애플리케이션과 에이전트를 위해 설계된 역대 가장 빠르고 뛰어난 성능을 자랑하는 MongoDB 버전입니다.
• Atlas Infinite는 탄력적인 확장이 필요한 워크로드를 위해 구축된 새로운 배포 옵션으로, 수요 변화에 따라 스토리지와 컴퓨팅 리소스를 각각 독립적으로 확장할 수 있습니다.
• Atlas Agent Engine은 고객이 신뢰해 온 기존 데이터 기반 위에서 에이전트를 운영 환경에 안정적으로 가동할 수 있도록 메모리, 런타임 및 거버넌스를 지원합니다. 나아가 어떠한 AI 모델이나 프레임워크, 클라우드 환경과도 연동됩니다.

우리가 하고 있는 일에 대해 더 자세히 말씀드리기 전에 해결하고자 하는 문제를 먼저 설명해 드릴 필요가 있습니다.

지금 데이터 계층에 더 많은 것이 요구되는 이유

이제는 거의 모든 데이터 기업이 스스로를 AI를 위한 플랫폼이라고 소개합니다. 하지만 더 흥미로운 질문은 AI가 질문에 답하는 데서 그치지 않고 직접 행동에 나설 때 데이터 아키텍처에 어떤 변화가 생기느냐입니다.

예를 들어 고객 서비스 에이전트가 환불 여부를 결정하고 커머스 에이전트가 상품 배송을 약속하며, 금융 에이전트가 계좌에 대해 조치를 취하는 상황을 생각해 보겠습니다. 이때 에이전트는 지금 무엇이 사실인지 정확히 알고 있어야 합니다. 모델이 가진 정보를 바탕으로 아무리 완벽하게 추론하더라도 그 정보가 오래된 것이라면 잘못된 결정을 내릴 수 있기 때문입니다. 어제 기준의 재고, 오래된 계좌 잔액, 갱신되지 않은 주문 상태 하나만으로도 기술적으로 타당한 추론이 잘못된 행동으로 이어질 수 있습니다.

그래서 데이터의 최신성이 훨씬 더 중요해집니다. 에이전틱 애플리케이션 상당수에서는 운영 데이터를 주기적으로 다른 시스템에 복사하는 방식만으로는 부족합니다. 에이전트에게는 비즈니스의 실시간 상태에 접근할 수 있는 환경이 필요하고 나아가 그 상태를 기준으로 직접 행동해야 하는 경우도 점점 늘고 있습니다.

그렇다고 최신 데이터를 확보하는 것만으로 문제가 모두 해결되는 것은 아닙니다. 기업에는 관련이 있을 수 있는 정보가 방대하게 쌓여 있습니다. 에이전트는 그 정보 중에서 현재의 의사 결정에 실질적으로 중요한 소규모 하위 데이터셋을 식별해 내야 합니다. 검색 품질이 향상되면 모델에 제공되는 컨텍스트가 개선되고 불필요한 토큰이 줄어들며, 모델이 모르는 내용을 추론으로 메워야 할 가능성도 낮아집니다.

운영 데이터와 검색이 하나로 합쳐지고 있다고 보는 이유가 바로 여기에 있습니다. MongoDB는 이미 세계 최대 규모의 기업과 가장 빠르게 성장하는 AI 기업 여러 곳을 위한 핵심 기록 시스템 역할을 수행하고 있습니다. 개발자는 네이티브 검색과 벡터 검색, 그리고 Voyage AI의 검색 및 임베딩 기술을 활용해 애플리케이션이 이미 사용하는 바로 그 실시간 운영 데이터에서 관련 컨텍스트를 검색할 수 있습니다. 운영 데이터와 AI 컨텍스트 중에서 선택할 필요가 없습니다. 점차 이 둘의 경계가 허물어지며 하나의 영역으로 통합되고 있습니다.

에이전트는 이전과는 전혀 다른 성격의 워크로드도 만들어 냅니다. 기존 애플리케이션의 트래픽 패턴은 대체로 파악이 용이한 편입니다. 반면 에이전틱 시스템은 전혀 다르게 작동할 수 있습니다. 사용자 요청 하나가 계획 수립, 검색, 도구 호출, 데이터베이스 읽기와 쓰기, 추가 추론으로 이어지는 연쇄 과정을 일으킬 수 있습니다. 에이전트 하나가 수백 건의 연산을 발생시키기도 합니다. 수천 개의 에이전트가 동시에 작업을 시작할 수도 있습니다.

그 결과 사용자 수와 인프라 사용량 사이의 관계는 예측하기가 훨씬 어려워집니다. 수요가 한순간 잠잠하다가 바로 다음 순간 폭발적으로 늘어날 수 있습니다. 평균 수요에 맞춰 프로비저닝하면 트래픽이 급증할 때 장애가 발생할 위험이 있습니다. 반대로 피크 수요에 맞춰 프로비저닝하면 대부분의 시간 동안 유휴 상태로 남는 인프라에 비용을 지불해야 합니다.

워크로드가 달라지면 데이터베이스 아키텍처도 그에 맞춰 달라져야 한다고 생각합니다. 컴퓨팅은 에이전트가 필요로 할 때 빠르게 확장되고 필요하지 않을 때는 축소되어야 합니다. 컴퓨팅이 확장된다고 해서 스토리지까지 함께 확장해야 하는 일은 없어야 합니다. 워크로드가 새로운 임계점을 넘을 때마다 개발자가 애플리케이션을 다시 설계해야 하는 일도 없어야 합니다. Atlas Infinite는 바로 이런 생각에서 출발했습니다.

아키텍처 측면에서 진행 중인 변화가 하나 더 있지만, 개인적으로 아직 그 중요성이 제대로 인식되지 못하고 있다고 생각합니다. 실질적으로 유용한 에이전트는 상태 저장형 시스템이어야 합니다.

에이전트는 지금까지 일어난 일을 기억하고 중요한 내용을 조회하며, 누가 혹은 무엇이 조치를 실행하는지 파악해야 합니다. 또한 상호작용이 이어지는 동안 컨텍스트를 유지하고 명시된 권한과 정책의 범위 안에서 작동해야 합니다.

오늘날 개발자들은 이런 인프라를 직접 구성하는 경우가 많습니다. 운영 데이터베이스에 벡터 데이터베이스, 메모리 시스템, 오케스트레이션 프레임워크, 모델 제공자, 거버넌스 계층을 결합하는 식입니다. 시스템이 하나 추가될 때마다 연동 지점과 보안 경계가 하나씩 늘어나고 데이터 사본이 하나 더 생성되는 경우도 많습니다.

프로토타입 단계에서는 이 정도도 충분히 감당할 수 있을지 모릅니다. 하지만 실제 운영 중인 기업 환경에서 에이전트가 파급력이 큰 조치를 취하게 되면 관리는 훨씬 어려워집니다.

우리는 에이전트의 상태, 메모리, 검색 및 거버넌스 계층이 해당 에이전트가 기반으로 작동하는 운영 데이터와 최대한 가까운 곳에 위치해야 한다고 생각합니다. Atlas Agent Engine은 바로 이를 제공하도록 설계되었습니다.

오늘 발표된 내용은 MongoDB의 기반을 바탕으로 합니다.

오늘의 발표 내용

MongoDB 9.0

라이브 데이터를 기반으로 운영되는 에이전트는 이를 뒷받침하는 하부 데이터베이스에 막대한 부하를 가하게 됩니다.

MongoDB 9.0은 지금까지 우리가 만든 MongoDB 중 가장 빠르고 성능이 뛰어난 버전입니다. MongoDB 8.0과 비교했을 때 대형 인스턴스에서 처리량이 최대 2배 높고 읽기는 35%, 업데이트는 30% 더 빨라 대규모 환경에서의 가격 대비 성능이 크게 향상되었습니다.

또한 보안, 관측성 및 개발자 생산성 측면에서도 계속해서 기준을 높여 왔습니다. Queryable Encryption은 이제 더 많은 유형의 데이터를 더 다양한 상황에서 보호합니다. 또한 Atlas의 프라이빗 네트워킹 지원이 확대되면서 규제가 엄격한 산업의 조직도 가장 민감한 워크로드를 MongoDB에서 더 쉽게 운영할 수 있게 되었습니다.

목표는 분명합니다. 애플리케이션이 더 자율적으로 동작하고 더 큰 규모로 운영될수록 이를 뒷받침하는 운영 데이터베이스도 더 빠르고 더 안전하며, 더 효율적이어야 합니다.

Atlas Infinite

에이전틱 워크로드는 돌발적인 트래픽 급증 현상이 매우 심할 수 있으며 Atlas Infinite는 이러한 운영 환경적 특성을 고려하여 설계되었습니다.

Atlas Infinite는 지금까지 Atlas에 적용한 아키텍처 변경 중 가장 큰 변화입니다. 스토리지와 컴퓨팅 리소스가 서로 독립적으로 확장되므로 고객은 워크로드가 실제로 요구하는 수준에 맞춰 각각의 규모를 조정할 수 있습니다.

그 결과, 앞으로 필요할 인프라 요구 사항을 지금 미리 예측해야 하는 부담 없이 프로토타입에서 페타바이트 규모까지 확장할 수 있는 아키텍처가 되었습니다. 확장 소요 시간은 96% 이상 단축되었으며 각 샤드의 스토리지 용량은 10배로 늘어났습니다.

그에 못지않게 중요한 점은 고객이 이를 사용하기 위해 애플리케이션을 다시 작성할 필요가 없다는 것입니다.

Atlas Infinite는 개발자에게 이미 익숙한 Atlas 플랫폼 안에서 제공되는 새로운 클러스터 유형입니다. 고객은 워크로드의 특성에 따라 Atlas Core와 함께 Atlas Infinite를 선택지로 고려할 수 있습니다.

퍼블릭 프리뷰는 AWS에서 제공되며 전체 멀티 클라우드 지원은 정식 출시(GA) 시점에 제공될 예정입니다.

Atlas 에이전트 엔진

에이전트를 구축하는 과정에서 가장 어려운 부분은 더 이상 데모가 아니라 프로덕션 환경에서 에이전트를 안정적으로 운영하는 일입니다.

Atlas Agent Engine은 에이전트에 필요한 상태 저장형 인프라를 운영 데이터가 이미 있는 동일한 데이터 플랫폼에서 사용할 수 있게 합니다.

내장된 메모리와 검색 기능 덕분에 에이전트는 관련성 높은 실시간 컨텍스트에 접근하면서도 불필요한 토큰 소비를 줄일 수 있습니다. 통합 컨트롤 플레인은 에이전트의 작업에 대한 ID 관리 및 거버넌스 기능을 제공합니다. 또한 Agent Engine은 어떤 모델, 프레임워크, 클라우드와도 함께 사용할 수 있으므로 개발자는 특정 공급업체에 종속되지 않고 애플리케이션에 가장 적합한 AI 스택을 선택할 수 있습니다.

이 점은 특히 엔터프라이즈 환경에서 중요합니다.

이미 7만이 넘는 고객과 Fortune 100대 기업의 75% 이상이 운영 데이터를 MongoDB에 맡기고 있습니다. Atlas Agent Engine을 사용하면 AI를 위해 완전히 별도의 데이터 아키텍처를 만들 필요 없이 같은 기반 위에서 에이전트를 구축하고 운영할 수 있습니다.

앞으로 나아갈 길

이번 전환은 아직 초기 단계에 있습니다. 앞으로 모델 성능은 향상되고 컨텍스트 윈도우는 더욱 확장될 것입니다. 추론 비용은 절감되며 에이전트의 역량과 자율성 또한 한층 강화될 것입니다. 그러나 이러한 발전 중 어느 것도 고품질 운영 데이터의 필요성을 없애지는 못합니다. 오히려 그 중요성을 더 키웁니다.

소프트웨어가 사람이 하는 일을 기록하는 시스템에서 사람이 무엇을 할지 결정하도록 돕는 시스템으로, 점점 더 스스로 행동하는 시스템으로 옮겨 갈수록 데이터 계층은 비즈니스 컨트롤 플레인의 일부가 됩니다.

바로 이러한 기회를 위해 MongoDB를 구축하고 있습니다.

이 게시물 상단의 이름은 익숙할 수 있지만 MongoDB는 리더 그 이상입니다. 의미 있는 혁신을 계속 제공하는 제품 및 엔지니어링 팀, 고객 성과에 집착하는 Go-to-Market 팀, 그리고 가장 정교하고 전략적인 애플리케이션을 위해 MongoDB를 신뢰하는 고객이 있기에 가능한 일입니다.

오늘을 위해 애써주신 모든 분께 감사드립니다. 내일 .local NYC에서 뵙겠습니다.