네트워크 관리용 AI 기반 챗봇

솔루션 개요

통신 서비스 제공자(CSP)는 수십억 개의 연결된 장치에서 생성되는 대량의 데이터를 관리 원활하고 중단 없는 운영을 보장합니다. 이를 달성하기 위해 지연 시간 같은 중요한 성능 지표 모니터 , 네트워크 혼잡 시 안정성을 유지하며, 강력한 보안 조치를 취하여 사이버 공격으로부터 보호하는 데이터 집약적인 네트워크 관리 시스템에 의존합니다.

이 솔루션은 MongoDB 대형 언어 모델(LLM)과 통합하고, RAG(검색-증강 생성) 전략을 채택하여 챗봇을 구현 . 챗봇은 MongoDB 에 저장된 네트워크 로그, 유지 관리 기록, 고객 데이터, 센서 데이터 활용하여 이상 징후 감지, 근본 원인 분석, 완화 권장 사항 등에 대한 실행 가능한 인사이트를 제공합니다.

챗봇을 통해 네트워크 사업자는 사람의 개입을 최소화하면서 복잡한 워크플로를 관리 새로운 서비스의 출시를 앞당길 수 있습니다.

참조 아키텍처

이 솔루션의 세 가지 주요 구성 요소는 다음과 같습니다.

그림 1. MongoDB 사용한 네트워크 챗봇 아키텍처

• 소스 데이터 수집: 이 구성 요소는 로그 항목과 원격 분석 이벤트를 실시간 수집하여 IP 주소, 지리적 데이터, 요청 경로, 타임스탬프, 라우터 로그, 센서 데이터 와 같은 세부 정보를 캡처합니다. MongoDB 의 스트림 처리 기능을 사용하면 수신 데이터를 자동으로 캡처하여 MongoDB Atlas 로 프로세스 하고 네트워크 활동에 대한 포괄적인 뷰를 생성할 수 있습니다.

• 질문 기반 데이터 선택: 그런 다음 네트워크 관리자는 "토론토의 클라이언트 에게 비디오 스트리밍 문제를 일으킬 수 있는 요인은 무엇인가요?"와 같은 질문을 제기합니다. 쿼리 LLM이 분석에적합한 데이터를 선택하기 위해 사용자 지정 집계 파이프라인 생성하는 초기 처리 거칩니다. 동시에 시맨틱 검색 통해 벡터가 포함된 데이터를 효율적으로 검색하여 밀접하게 관련된 정보를 추출할 수 있습니다.

• 추론 및 언어 출력: 후속 LLM은 MongoDB 에서 검색한 관련 데이터를 사용자를 위한 언어 설명으로 변환합니다. LLM은 데이터를 분석하여 패턴과 이상 징후를 감지하여 근본 원인 후보를 정확하게 식별하고 정보에 입각한 의사 결정을 지원할 수 있도록 지원합니다. 예시 를 들어, 로컬 CDN 노드 과부하와 이전 라우터의 높은 요청이 문제를 일으키고 있음을 발견할 수 있습니다.

데이터 모델 접근 방식

이 솔루션은 서버 네트워크 로그를 Time Series 데이터로 구성하여 다음 MongoDB 스키마를 활용합니다.

{
   "_id": ObjectId("..."),
   "source_id": 12345,
   "source_type": "webserver",
   "timestamp": ISODate("2025-02-19T15:12:57.000Z"),
   "category": "accesslog",
   "event": "GET",
   "value": {
      "type": "url",
      "data": "https://mytv.telco.com/login"
   }
}

솔루션 빌드

이 AI 기반 네트워크 관리 솔루션은 복잡한 통신 환경에서 데이터 기반 진단을 강화하기 위해 MongoDB Atlas와 함께 RAG 프레임워크를 사용합니다.

그림 2. 네트워크 챗봇의 프론트엔드

주요 학습 사항

• MongoDB 와 gen AI 네트워크 관리 혁신합니다: LLM을 집계 파이프라인 및 벡터 검색 과 같은 MongoDB의 기능과 통합하여 사람의 개입을 줄이고 프로세스를 최적화하며 중요 작업을 자동화하여 네트워크 관리 간소화합니다.

• 중욯ㄴ 데이터 관리: 네트워크 관리 시스템은 네트워크 로그와 사용자 요청으로부터 방대한 양의 데이터를 생성하여 데이터 상호 운용성, 개인정보 보호, 효율적인 처리에 상당한 과제를 제기합니다. 효과적인 솔루션에는 고빈도 복잡한 데이터 스트림을 저장하고 처리할 수 있는 유연하고 확장 가능한 데이터베이스가 필요합니다.

• MongoDB AI 기반 솔루션을 구축할 수 있는 도구를 제공합니다. CSP는 유연한 문서 모델 및 고급 벡터 검색 기능과 결합된 강력한 데이터베이스 인프라를 통해 AI 애플리케이션을 개발할 수 있습니다. 벡터 검색 의미적으로 관련 있는 콘텐츠의 검색을 간소화하여 챗봇 기술 이면의 LLM 성능을 향상시킵니다.

작성자

• Benjamin Lorenz, MongoDB

• Diego Canales, MongoDB

자세히 알아보기

• 에이전틱 AI 기반 커넥티드 차량 사고 조언 시스템

• MongoDB와 Microsoft를 활용한 AI 기반 의료

• MongoDB 및 Dataworkz를 사용하여 Agentic RAG 챗봇 시작