Atlas 아키텍처 센터 <> 파트너 라이브러리: 퍼플 패브릭

1. Enterprise 지식 정원: AI 위한 데이터 혁신

퍼플패브릭의 EKG(Enterprise 지식가든)는 정형, 반정형, 비정형 데이터를 상황에 따라 풍부하고 추적 가능하며 AI 에이전트가 지속적으로 액세스할 수 있는 의사 결정 등급 지식으로 변환합니다.

EKG는 웨어하우스 및 API의 구조화된 데이터, 규제 문서 또는 업계 보고서와 같은 반구조화된 콘텐츠, PDF, 이메일, 통화 기록과 같은 구조화되지 않은 자산을 포함하여 다양한 소스와 형식의 데이터를 수집합니다. EKG는 고정된 토큰 창에만 의존하지 않고 콘텐츠에 대한 인간의 이해를 모방하는 청크 및 인리치먼트에 첫 번째 원칙 중심의 접근 방식을 사용합니다.

MongoDB 의 역할 :

MongoDB Atlas EKG의 데이터 저장 및 검색 백본 역할을 합니다. 각 인리치드 청크 벡터 임베딩으로 변환되고 네이티브 벡터 인덱싱 사용하여 MongoDB 에 저장됩니다. MongoDB의 유연한 문서 모델 활용하여 소스, 문서 유형, 타임스탬프, 데이터 계보를 포함한 풍부한 메타데이터 와 함께 임베딩을 저장하여 심층적인 컨텍스트와 추적성을 보장합니다.

그 결과, 검색이 가능할 뿐만 아니라 지능적인 동적 지식 리포지토리 생성되어 대규모 언어 모델(LLM)에 대한 인사이트를 제공할 때 상황에 맞는 정확성을 제공합니다. EKG는 불만 사례를 요약하거나 계약 조항을 상호 참조하는 등 다양한 도메인의 작업을 지원합니다.

2. 엔터프라이즈 디지털 전문가: 다중 에이전트 자율 시스템

퍼플패브릭의 엔터프라이즈 디지털 전문가(EDE)를 통해 사용자는 독립적으로 추론하고, 협업하고, 조치 취할 수 있는 자율적인 도메인별 AI 에이전트 팀을 빌드 할 수 있습니다. 에이전트는 로우코드 오케스트레이션 및 언어 프롬프트를 사용하여 제작되며, 원자, 분자 또는 복합 엔터티로 작동합니다. ReAct 와 같은 고급 프레임워크를 활용하여 계획, 메모리 및 에이전트 간 소크라테스 대화를 통합하여 보다 정교한 의사 결정과 결과를 얻을 수 있습니다.

MongoDB 의 역할 :

MongoDB 이러한 에이전트의 동적 메모리 및 상태 관리 처리합니다. 각 에이전트 MongoDB 내에서 자체 작업 메모리, 작업 상태 및 상황 지식을 유지하므로 다중 턴 추론 또는 사용자 상호 작용 중에 진화하는 상태를 실시간 지속하고 검색할 수 있습니다.

실질적인 근거가 필요할 때 에이전트는 RAG(검색-증강 생성) 파이프라인을 호출하여 Ekg(Enterprise 지식 가든)에 액세스 . MongoDB Atlas 쿼리 의도 및 유사성을 기반으로 올바른 벡터 임베딩 및 소스 문서에 빠르고 필터링된 액세스 제공하여 이 파이프라인 강화합니다. 이를 통해 상담원은 추적 가능하고 상황에 따라 관련이 있는 엔터프라이즈 지식을 기반으로 응답을 제공하여 환각을 최소화하고 안정성을 극대화할 수 있습니다.

3. 엔터프라이즈 거버넌스: 운영 컴플라이언스 및 제어

퍼플패브릭의 엔터프라이즈 거버넌스(EG) 스택 기본값 으로 책임 있는 AI 시행하며, 시스템의 모든 계층에 컴플라이언스, 보안, 설명 가능성을 포함합니다.

거버넌스 계층은 데이터 수집, 에이전트 오케스트레이션, LLM 호출 및 최종 출력 생성을 포함하여 AI 라이프사이클의 모든 측면을 감독합니다. 모든 조치 관찰 가능하고, 감사 가능하고, 정책을 준수하도록 설계되어 엔터프라이즈 내부 위험 요구 사항 및 외부 규제 표준을 충족할 수 있습니다.

주요 거버넌스 기능은 다음과 같습니다.

• 신속한 거버넌스 및 독성 감지: 안전하지 않거나 규정을 준수하지 않는 쿼리 및 응답을 필터링합니다.

• 액세스 제어 및 작업 공간 격리: 안전한 협업을 위해 역할, 팀, 가시성을 세분화합니다.

• PII 마스킹 및 엔터티 편집: 검색 및 출력 계층 모두에서 민감한 데이터를 보호합니다.

• 속도 제한 및 사용량 추적: 토큰 사용량, 에이전트 동작을 모니터링하고 남용을 방지합니다.

MongoDB 의 역할 :

MongoDB 특히 검색의 투명성과 문서 계보를 보장하는 데 있어 퍼플 패브릭의 거버넌스 프레임워크 의 기반이 됩니다. 에이전트가 출력을 접지하기 위해 RAG 파이프라인을 호출하면 MongoDB 는 검색된 지식 청크에 대한 임베딩, 메타데이터 및 소스 포인터를 저장합니다. 이를 통해 입력에서 검색된 지식, 생성된 출력에 이르기까지 전체 프로세스 매핑하는 검증 가능한 추적을 생성하여 사후 감사, 컴플라이언스 검토 및 근본 원인 분석을 수행할 수 있습니다.

퍼플 패브릭의 컨트롤 플레인은 LLM 안전, 에이전트 추론, 사용자 워크플로와 같은 더 광범위한 측면을 관리하는 반면, MongoDB 지식 액세스 의 추적성, 보안 및 유효성 유효성 검사 확장하다 로 강화하여 규제 대상 업계의 요구 사항을 자신 있게 충족할 수 있는 플랫폼 기능 강화합니다.

4. 모델 최적화 허브: 동적 모델 선택

퍼플패브릭의 MOH(Model Optimization Hub)는 엔터프라이즈 작업 에 적합한 LLM을 선택할 수 있는 자유와 인텔리전스를 제공하도록 설계되었습니다. AI 확장 에서 가장 중요한 과제 중 하나인 다양한 사용 사례에서 비용, 정확성, 성능의 균형을 맞추는 문제를 해결합니다.

MOH를 사용하면 팀이 요약, 추출, 분류, 추론 또는 유효성 검사 와 같은 실제 작업에 대해 여러 LLM을 벤치마킹할 수 있습니다. 이러한 평가는 지연 시간 , 토큰 소비, 출력 정밀도 등과 같은 사용자 지정 가능한 지표 기반으로 하며, 이는 모두 실시간 테스트 및 사용 데이터를 통해 추적됩니다.

벤치마킹된 모델은 다음과 같습니다.

• 성능에 따라 특정 에이전트 또는 사용 사례에고정

• 비용/ 지연 시간 제약 조건에 따라동적으로 전환됩니다.

• 도메인 특이성에대한 신속한 엔지니어링 및 몇 가지 예시로 조정

MOH는 또한 BYOM(bring-you-own-model) 기능을 지원하므로 엔터프라이즈 자체 인프라에서 실행 독점 또는 미세 조정된 LLM을 플러그인하거나, 더 높은 수준의 제어, 데이터 주권 또는 사용자 지정 도메인 적응이 필요한 사용 사례에 대해 비공개 엔드포인트 통해 연결할 수 있습니다. . 이러한 모듈화를 통해 엔터프라이즈 벤더 고착 피하고, 변화하는 사용 사례에 걸쳐 성능을 유지하며, 품질이나 컴플라이언스 희생하지 않고도 LLM 경제성을 최적화할 수 있습니다.

사용 사례: 불만 사항 조사

5주 걸리는 수동 프로세스 몇 분 안에 결과를 제공하는 AI 기반 솔루션으로 변환합니다.

영국의 한 유명 자산 관리사는 새로운 소비자 세금 규정으로 인해 고객 불만이 50% 이상 급증하여 위기에 봉착했습니다. 10,000 이상의 미해결 케이스가 쌓여서 회사는 긴 조사 주기에 압도되었습니다. 단일 불만 사항을 해결하는 데 최대 5주가 걸렸으며, 조사관이 정책 관리 데이터베이스, CRM 도구, 내부 문서, 규제 업데이트 등 10 개 이상의 시스템에서 정보를 수동으로 가져와야 했습니다.

이 프로세스 파편화된 데이터 소스, 높은 오류율, 진화하는 정책 및 규정에 적응할 수 없는 등의 비효율성으로 인한 부담을 안고 있었습니다. 불만의 30% 미만이 SLA 타임라인 내에 해결되면서 이 회사는 증가하는 고객 불만과 증가하는 컴플라이언스 위험으로 어려움을 겪습니다.

퍼플 패브릭은 신속하고 일관성 있게 행동하고, 추론하고, 협업할 수 있도록 설계된 불만 조사를 위한 프로덕션 등급 멀티 에이전트 시스템을 배포하여 이 프로세스 혁신했습니다.

이 솔루션은 워크플로의 일부에 대해 각각 전문화된 20 명 이상의 지능형 에이전트로 구성된 팀 조정했습니다. 일부 상담원은 불만 사항 세부 정보 추출 및 기록에 중점을 두었고, 다른 상담원은 정책 용어를 확인하거나, 판례 확인을 실행하거나, 시스템 전반에서 증거를 수집하거나, 구조화된 조사 보고서를 작성했습니다. Complaints 관리자 에이전트 전체 흐름을 조정했으며, 휴먼 인 루프(Human-in-Loop) 인터페이스는 최종 결정에 대한 컴플라이언스 및 감독을 보장했습니다.

결과는?

이전에는 5주 동안 수동으로 핸드오프하던 작업이 이제 몇 분 만에 완료됩니다. AI 기반 시스템은 감사 가능성과 일관성 유지하여 증거 수집, 분류, 조사 및 판단을 자동으로 처리합니다.

• 11 시스템에 통합된 22 프로세스

• 루프에서 인간과 자율적으로 협업하는 20+ AI 에이전트

• 엔드 투 엔드 프로세스 시간을 몇 주에서 몇 분으로 단축

퍼플패브릭의 혁신적인 불만 해결 프레임워크 컴플라이언스 위험을 최소화하면서 속도, 품질, 확장하다 확보하여 조사 managed 방식을 변화시켰습니다.

그림 4. 배후에서 에이전트 팀 고객 세부 정보, 트랜잭션 내역, 정책 문서 및 규제 가이드라인을 검색하는 11+ 시스템과 연결하여 불만 사항에 대한 완전한 컨텍스트 기반을 빌드 .

그림 5. 사례 문서가 편집되면 에이전트의 마지막 계층인 조사 에이전트 와 보고서 작성 에이전트 정보를 자세히 조사하고, 조사 보고서를 생성하고, 증빙 자료와 함께 해결 방법을 추천하는 해결 방법을 추천합니다.

그림 6. 모든 결정, 조치 및 에이전트 상호 작용은 TRACES(PurpleFabric의 설명 가능성 계층)에 기록되므로 권장 사항에 도달한 경로를 정확히 추적할 수 있습니다.

그림 7. 모든 인사이트 증거에 의해 뒷받침됩니다. '출처'는 어떤 문서가 어떻게 사용되었는지를 공개하여 불만 사항에서 결론에 이르기까지 완전한 추적성을 제공합니다.

그림 8. Complaints Investigator 팀 의 각 에이전트 는 모듈식이며 API 게시가 가능합니다. 즉, 전체 워크플로를 기존 엔터프라이즈 애플리케이션에 포함할 수 있으므로 현재 시스템을 중단하지 않고도 지능적으로 불만 사항을 해결할 수 있습니다.

사용 사례: 기업 인텔리전스

100,000 인분부터 지능형 ESG 인사이트까지.

9개 이상의 포트폴리오를 관리하는 최고의 기관 투자자인000 회사는 ESG(환경, 소셜, 거버넌스) 인사이트를 포트폴리오 분석에 통합해야 하는 어려운 과제 에 봉착했습니다. ESG 데이터는 보고서, 공개, 문서, 뉴스 기사 등 수천 개의 소스에 걸쳐 고도로 파편화되어 있어 분석가가 수동으로 검토해야 하는 문서가 10 00만 개라는 압도했습니다.

매월 포트폴리오가 거의 10% 이동하고, ESG 등급이 일관되지 않으며, 규제 압력이 커지면서 지속 가능성 조정이 필요했습니다. 분석가들은 문서를 검토하고, 인사이트를 종합하고, 보고서를 생성하는 데 연간 100,000 인일을 소비하는 것으로 나타났으며, 이 작업은 시간이 많이 걸리고 오류가 발생하기 쉽습니다.

퍼플패브릭은 ESG 분석을 자동화하고 승격하도록 설계된 멀티에이전트 기업 인텔리전스 시스템을 배포하여 이 프로세스 혁신했습니다.

솔루션은 구조화 및 비구조화 형식에 걸쳐 ESG 문서를 수집하는 에이전트로 시작하여 통합된 ESG 지식 정원을 구축했습니다. 그런 다음 전문 디지털 전문가가 데이터를 추출하고 고객별 ESG 가이드라인에 맞게 조정하여 모든 인사이트 투자자의 프레임워크에 매핑되도록 합니다.

환경 에이전트, 소셜 데이터 에이전트, 거버넌스 데이터 에이전트와 같은 에이전트는 지속 가능성 관련 정보를 확장하다 로 구문 분석했습니다. 360 분석가 에이전트가 전체론적 회사 프로필을 생성했습니다. 쿼리 에이전트를 통해 사용자는 자연어 언어 사용하여 전체 포트폴리오를 조사할 수 있었고, 보고 에이전트는 추적 가능하고 감사할 수 있는 투자자용 요약을 생성했습니다.

인텔리전스를 실시간 유지하기 위해 API를 사용하여 뉴스와 외부 데이터 피드를 수집하여 에이전트가 최신 ESG 개발에 대한 감정 분석을 수행할 수 있도록 했습니다. 이를 통해 플랫폼은 수동 검토 주기에 앞서 회사 전반에서 새로운 위험과 기회를 식별할 수 있었습니다.

모든 인사이트 기본적으로 설명이 용이하도록 원본 데이터를 기반으로 합니다. 그리고 에이전트가 기록 기록과 라이브 API 모두에 실시간 액세스 로 운영되기 때문에 분석은 항상 최신 상태였습니다.

결과는?

• 100%에 가까운 포트폴리오 커버리지

• 추출된 ESG 기록에서 90% 이상의 정확도

• 기존 방법에 비해 1,000배 빠른 처리 시간

• 100,000 전문 인력-연간 절약된 일수

한때 무차별 대입 수동 검토 필요했던 작업이 이제는 지능적인 협업 에이전트에서 실행되어 전례 없는 속도, 확장하다, 추적 가능성으로 ESG 분석을 제공합니다.

그림 9. ESG 및 비재무 포트폴리오 분석을 위한 가장 포괄적이고 차별화된 지식 기반으로, 9,000 회사에 걸쳐 10 백만 개 이상의 문서를 기반으로 60 억 개 이상의 검색 가능한 청크로 구조화했습니다.

그림 10. 언어 쿼리는 회사별 문서를 사용하여 답변합니다. 각 응답은 TRACES와 기본 소스 자료에 대한 링크를 통해 설명할 수 있습니다.

그림 11. 사용자는 전문 ESG 에이전트가 선별하고 포트폴리오 관리 및 ESG 보고 위한 차별화되고 실행 가능한 인사이트를 제공하는 구조화된 인터페이스를 통해 전체 360° 회사 뷰를 몇 초 만에 얻을 수 있습니다.

그림 12. 사용자는 포트폴리오 대시보드부터 개별 회사 점수, 모든 데이터 포인트를 강화하는 원본 소스 문서에 이르기까지 여러 수준에서 인사이트를 탐색할 수 있습니다.

자체 VPC 내에 배포

기업은 일반적으로 AWS 또는 Azure 에서 자체 cloud 환경 내에서 퍼플 패브릭을 완전히 호스팅하다 할 수 있으므로 데이터, 액세스 및 인프라를 완벽하게 제어할 수 있습니다. 이 모델에서는 모든 엔터프라이즈 지식, 에이전트 오케스트레이션 및 거버넌스 구성 요소가 내부 보안, 감사 및 컴플라이언스 정책을 준수하면서 클라이언트의 자체 가상 사설 클라우드( VPC ) 내에서 실행 .

Intellect의 클라우드 전용 테넌트

인프라 오버헤드 없이 더 빠른 배포서버 원하는 엔터프라이즈 의 경우, Intellect의 보안 cloud 에서 퍼플 패브릭을 전용 테넌트로 프로비저닝할 수 있습니다. 기업은 데이터 액세스 안전하게 유지되고 엄격하게 관리되도록 하는 비공개 자격 증명 기반 연결을 통해 내부 시스템을 연결합니다. 각 테넌트는 독립적인 거버넌스, 관찰 가능성 및 컴퓨팅 제어를 통해 논리적으로 격리되어 엔터프라이즈 급 보안을 보장하면서 프로덕션 시간을 앞당깁니다.

배포서버 경로에 관계없이 퍼플 패브릭은 다음과 같은 기능을 제공합니다.

• 내장된 모니터링 및 관찰 가능성: 실시간 대시보드, 비용 추적, 에이전트 실행 추적 및 시스템 상태 지표 포함

• 엔터프라이즈시스템에 대한 보안 액세스 : 원활하고 안전한 통합을 위해 API 키, 데이터베이스 자격 증명 및 이메일 connector 토큰을 저장하고 암호화하는 자격 증명 모듈을 통해 관리됩니다.

• 보안 및 액세스 제어: 세분화된 역할 기반 액세스 및 작업 공간 수준 격리

• 감사 가능성 및 컴플라이언스: 모든 문서 검색, 에이전트 조치 및 LLM 출력은 엔드투엔드 추적성을 위해 기록되며, 미사용 데이터 암호화 지원 .

기업의 cloud 환경 내에서 호스팅되거나 Intellect의 cloud 에서 안전하고 격리된 테넌트로 managed 여부에 관계없이, 퍼플 패브릭은 AI 모든 단계에서 안전하게 배포되고, 투명하게 모니터링되고, 관리되도록 보장합니다.

다음 단계

퍼플패브릭에 대해 자세히 보기 IntellectAI 팀 (purplefabric@inllectdesign.com)에 문의해 보세요. MongoDB Atlas 와 엔터프라이즈급 데이터베이스 솔루션에 대해 자세히 보기 .