Use a IA generativa e o MongoDB para enfrentar os maiores desafios da segurança cibernética

Mat Keep and Lena Smart
March 13, 2024 | Updated: March 20, 2024

No cenário dinâmico da segurança cibernética, as organizações enfrentam uma série de desafios que exigem soluções inovadoras respaldadas por tecnologias de ponta.

Um dos problemas mais urgentes é a crescente sofisticação das ameaças cibernéticas, como ataques de malware, ransomware e phishing, que estão se tornando mais difíceis de detectar e mitigar. Além disso, a rápida expansão das infraestruturas digitais ampliou a superfície de ataque, tornando mais difícil para as equipes de segurança monitorar e proteger todos os pontos de entrada e saída. Outro desafio significativo é a escassez de profissionais qualificados em segurança cibernética. Pesquisas independentes estimam que há apenas cerca de 4 milhões deles em todo o mundo, o que deixa muitas organizações vulneráveis a ataques.

Esses desafios ressaltam a necessidade de tecnologias avançadas que possam aumentar os esforços humanos para proteger ativos e dados digitais.

Como a IA generativa pode ajudar?

A IA generativa surgiu como uma ferramenta poderosa para enfrentar esses desafios de segurança cibernética. Ao usar modelos de linguagem grande (LLMs) para gerar novos dados ou padrões com base em conjuntos de dados existentes, a IA generativa pode oferecer soluções inovadoras em várias áreas importantes:

Detecção e resposta aprimoradas a ameaças

A IA generativa pode ser usada para criar simulações de ameaças cibernéticas, incluindo ataques sofisticados de malware e phishing. Essas simulações ajudam no treinamento de modelos de machine learning para detectar com mais precisão ameaças novas e em evolução.

Além disso, a IA generativa pode contribuir para o desenvolvimento de sistemas de resposta automatizados que reagem a ameaças em tempo real. A supervisão humana será sempre necessária, mas isso reduz a necessidade de intervenção e trabalho manual, permitindo uma atenuação mais rápida dos ataques. Por exemplo, com a supervisão adequada, a IA pode instalar automaticamente patches em sistemas vulneráveis ou ajustar as regras de firewall para bloquear vetores de ataque. Esse recurso de resposta rápida automatizada é particularmente valioso na atenuação de vulnerabilidades de dia zero, quando o período entre a descoberta de uma vulnerabilidade e sua exploração por invasores pode ser muito curta.

Aprendizagens práticas com a análise post mortem de eventos de segurança

Na sequência de um incidente de segurança cibernética, a realização de uma análise post mortem completa é fundamental para entender o que aconteceu, por que aconteceu e como eventos semelhantes podem ser evitados no futuro.

A IA generativa pode desempenhar um papel fundamental nesse processo, sintetizando e resumindo dados complexos de várias fontes, como registros, tráfego de rede e alerta de segurança. Ao analisar esses dados, a IA generativa identifica padrões e anomalias que possam ter contribuído para a violação de segurança e oferecem insights que podem ter sido ignorados por analistas humanos devido ao grande volume e à complexidade das informações.

Além disso, ela pode gerar relatórios abrangentes que destacam as principais descobertas, fatores causais e vulnerabilidades em potencial, agilizando o processo post mortem. Esse recurso acelera o processo de recuperação e aprendizado, e também permite que as organizações implementem estratégias de correção mais eficazes, fortalecendo sua postura de segurança cibernética.

Geração de dados sintéticos para treinamento de modelos profundos

A falta de dados do mundo real para o treinamento de sistemas de segurança cibernética é um obstáculo significativo. A IA generativa pode criar conjuntos de dados sintéticos e realistas que espelham o tráfego de rede genuíno e o comportamento do usuário sem expor informações confidenciais.

É possível usar esses dados sintéticos para treinar sistemas de detecção, melhorando sua precisão e eficácia sem comprometer a privacidade nem a segurança.

Automatização da detecção de phishing

O phishing continua sendo um dos vetores de ataque mais comuns. A IA generativa pode analisar padrões em e-mails e sites de phishing, gerando modelos que preveem e detectam tentativas de phishing com alta precisão.

Ao integrar esses modelos a sistemas de e-mail e navegadores da web, as organizações podem filtrar automaticamente o conteúdo de phishing e protegendo os usuários contra possíveis ameaças.

Resumo: as oportunidades e os riscos

A IA generativa promete revolucionar as práticas de segurança cibernética com automatização de processos complexos, aprimoramento de detecção e de resposta a ameaças e apresentação de análises mais profundas das ameaças. À medida que a indústria continua integrando a IA generativa às estratégias de segurança cibernética, é crucial observar o uso ético dessa tecnologia e o potencial de uso indevido.

No entanto, os benefícios que ela oferece no fortalecimento das defesas digitais são inegáveis, tornando-a uma ferramenta inestimável na batalha contínua contra as ameaças cibernéticas.

Como o MongoDB pode ajudar?

Com o MongoDB, suas equipes de desenvolvimento podem criar e implementar defesas cibernéticas robustas, corretas e diferenciadas em tempo real com mais rapidez e em qualquer escala.

Para entender como o MongoDB faz isso, considere que a pilha de tecnologia de IA é composta por três camadas:

A computação subjacente (GPUs) e os LLMs
As ferramentas de ajuste fino dos modelos e as ferramentas de aprendizado e inferência no contexto em relação aos modelos treinados
Os aplicativos de AI e as experiências relacionadas do usuário final

O MongoDB opera na segunda camada da pilha. Ele permite que os clientes tragam seus próprios dados proprietários para qualquer LLM em execução em qualquer infraestrutura de computação para criar aplicativos de segurança cibernética orientados por IA generativa.

O MongoDB é capaz de fazer isso porque adota a IA generativa para cuidar dos problemas mais complexos relacionados à segurança cibernética. O MongoDB Atlas unifica com segurança dados operacionais, dados não estruturados e dados vetoriais em uma plataforma multinuvem e totalmente gerenciada, evitando a necessidade de copiar e sincronizar dados entre diferentes sistemas. A arquitetura baseada em documentos do MongoDB também permite que as equipes de desenvolvimento modelem com facilidade relacionamentos entre os dados do seu aplicativo e as incorporações de vetores. Isso permite análises e insights mais profundos e rápidos dos dados relacionados à segurança.

**Figura 1:** o MongoDB Atlas reúne todos os serviços de dados necessários para criar aplicativos modernos de segurança cibernética em uma API unificada e uma plataforma de dados para desenvolvedores.

A arquitetura aberta do MongoDB é integrada a um rico ecossistema de estruturas de desenvolvedores de AI, LLMs e provedores de incorporação. Combinado com nossos recursos de estrutura multinuvem líderes do setor, isso permite que sua equipe de desenvolvimento tenha flexibilidade para agir com rapidez e impedir que sua empresa fique presa a um determinado fornecedor de nuvem ou tecnologia de IA, o que representa uma vantagem importante em um mercado tão dinâmico.

Confira nossa página de recursos de IA para saber mais sobre como criar aplicativos baseados em IA com o MongoDB.

Como usar a IA generativa e o MongoDB em aplicativos reais de segurança cibernética

Inteligência de ameaças

A ExTrac usa a IA e o MongoDB Atlas para analisar dados de milhares de fontes e prever riscos à segurança pública. Inicialmente, a plataforma ajudava os governos de países ocidentais a prever conflitos, mas agora está se expandindo para prestar serviços a empresas, como gerenciamento de reputação e muito mais.

O modelo de dados de documento do MongoDB permite que a ExTrac gerencie dados complexos com eficiência, aprimorando a identificação de ameaças em tempo real. O Atlas Vector Search ajuda a aumentar os modelos de linguagem e a gerenciar as incorporações de vetores para textos, imagens e vídeos, acelerando o desenvolvimento de recursos. Essa abordagem permite que a ExTrac modele tendências com eficiência, rastreie narrativas em evolução e preveja riscos para seus clientes, mas sem abrir mão da flexibilidade e do poder do MongoDB para lidar com dados de qualquer formato e estrutura. Saiba mais no nosso estudo de caso da ExTrac.

Avaliações de segurança cibernética

A VISO TRUST usa a IA para agilizar a avaliação de riscos cibernéticos de terceiros, tornando as informações complexas de segurança do fornecedor rapidamente acessíveis para uma tomada de decisão fundamentada.

Com o Amazon Bedrock e o MongoDB Atlas, a plataforma VISO TRUST automatiza a devida diligência da segurança do fornecedor, reduzindo significativamente a carga de trabalho das equipes de segurança. Sua abordagem orientada por IA envolve inteligência de artefatos que classifica documentos de segurança, detecta organizações e prevê locais de controle de segurança em artefatos. O MongoDB Atlas hospeda texto incorporado para proporcionar um sistema de recuperação denso que aprimora a precisão dos LLMs com geração aumentada por recuperação (RAG), fornecendo percepções de segurança instantâneas e acionáveis. Esse uso inovador da tecnologia permite que a VISO TRUST ofereça avaliações de risco cibernético rápidas e dimensionáveis, com reduções significativas de trabalho e tempo para empresas como a InstaCart e a Upwork.

O banco de dados de documentos flexível do MongoDB e o Atlas Vector Search desempenham papéis essenciais no gerenciamento e na consulta de grandes quantidades de dados, apoiando a missão da VISO TRUST de fornecer inteligência abrangente em riscos cibernéticos. Saiba mais no nosso estudo de caso da Viso Trust.

Como dar os primeiros passos

A IA generativa alimentada por LLMs aumentada com seus próprios dados operacionais codificados como incorporações vetoriais está abrindo muitas novas possibilidades no campo da segurança cibernética. Se quiser saber mais sobre a tecnologia e suas possibilidades, dê uma olhada no nosso learning byte sobre o Atlas Vector Search. Em apenas 10 minutos, você terá uma visão geral de diferentes casos de uso e como começar.

¹ 1 Hill, M. (2023, 10 de abril). A escassez de mão de obra em segurança cibernética atinge 4 milhões, apesar do significativo esforço de recrutamento. OSC.

← Previous

Utilizzo della IA generativa e di MongoDB per affrontare le sfide più importanti della sicurezza informatica

Nel panorama in continua evoluzione della sicurezza informatica, le organizzazioni si trovano ad affrontare una moltitudine di sfide che richiedono soluzioni innovative che sfruttino tecnologie all'avanguardia. Uno dei problemi più urgenti è la crescente sofisticazione delle minacce informatiche, tra cui malware, ransomware e attacchi di phishing, che stanno diventando sempre più difficili da individuare e limitare. Inoltre, la rapida espansione delle infrastrutture digitali ha ampliato la superficie di attacco, rendendo più difficile per i team di sicurezza monitorare e proteggere ogni punto di ingresso e di uscita. Un altro problema importante è la carenza di professionisti qualificati nel campo della sicurezza informatica (che indagini indipendenti hanno stimato essere di circa 4 milioni di persone in tutto il mondo1) che lascia molte organizzazioni vulnerabili agli attacchi. Queste sfide sottolineano la necessità di tecnologie avanzate che possano coadiuvare nelle attività di protezione delle risorse e dei dati digitali. In che modo l'IA generativa può essere di aiuto? L'intelligenza artificiale generativa è emersa come un potente strumento per affrontare queste sfide legate alla sicurezza informatica. Sfruttando modelli linguistici di grandi dimensioni (LLM) per generare nuovi dati o modelli basati su set di dati esistenti, l'IA generativa può fornire soluzioni innovative in diverse aree chiave: Rilevamento e risposta alle minacce migliorati L'IA generativa può essere utilizzata per creare simulazioni di minacce informatiche, inclusi malware sofisticati e attacchi di phishing. Queste simulazioni possono aiutare ad addestrare i modelli di machine learning a rilevare minacce nuove e in evoluzione in modo più accurato. Inoltre, l'IA generativa può aiutare nello sviluppo di sistemi di risposta automatizzati che reagiscono alle minacce in tempo reale. Anche se questo non eliminerà mai la necessità di supervisione umana, ridurrà la necessità di interventi manuali, consentendo una mitigazione più rapida degli attacchi. Ad esempio, con la supervisione appropriata, può applicare automaticamente le patch ai sistemi vulnerabili o regolare le regole del firewall per bloccare i vettori di attacco. Questa capacità di risposta rapida automatizzata è particolarmente utile per mitigare le vulnerabilità zero-day, in cui la finestra temporale tra la scoperta di una vulnerabilità e il suo sfruttamento da parte degli aggressori può essere molto breve. Apprendimenti concreti tratti dai post-mortem relativi agli eventi di sicurezza All'indomani di un incidente di sicurezza, condurre un'accurata analisi di post-mortem è fondamentale per capire cosa è successo, perché è successo e come prevenire eventi simili in futuro. L'IA generativa può svolgere un ruolo fondamentale in questo processo, sintetizzando e riassumendo dati complessi provenienti da una moltitudine di fonti, tra cui log, traffico di rete e avvisi di sicurezza. Analizzando questi dati, l'IA generativa può identificare modelli e anomalie che potrebbero aver contribuito alla violazione della sicurezza, offrendo approfondimenti che potrebbero essere trascurati dagli analisti umani a causa dell'enorme volume e complessità delle informazioni. Inoltre, può generare report completi che evidenziano risultati chiave, fattori causali e potenziali vulnerabilità, semplificando la procedura di post-mortem. Questa capacità non solo accelera il processo di ripristino e apprendimento, ma consente anche alle organizzazioni di implementare strategie di rimedio più efficaci, rafforzando in definitiva la loro sicurezza informatica. Generazione di dati sintetici per l'addestramento approfondito dei modelli La carenza di dati reali per l'addestramento dei sistemi di sicurezza informatica rappresenta un ostacolo significativo. L'IA generativa può creare set di dati realistici e sintetici che rispecchiano il traffico di rete e il comportamento degli utenti reali senza esporre informazioni sensibili. Questi dati sintetici possono essere utilizzati per addestrare i sistemi di rilevamento, migliorandone l'accuratezza e l'efficacia senza compromettere la privacy o la sicurezza. Automatizzazione del rilevamento del phishing Il phishing rimane uno dei vettori di attacco più comuni. L'IA generativa è in grado di analizzare i modelli nelle e-mail e nei siti web di phishing, generando modelli che prevedono e rilevano i tentativi di phishing con elevata precisione. Integrando questi modelli nei sistemi di posta elettronica e nei browser web, le organizzazioni possono filtrare automaticamente i contenuti di phishing, proteggendo gli utenti da potenziali minacce. In sintesi: le opportunità e i rischi L'IA generativa promette di trasformare le pratiche di sicurezza informatica automatizzando processi complessi, migliorando il rilevamento e la risposta alle minacce e fornendo una comprensione più approfondita delle minacce informatiche. Mentre il settore continua a integrare l'intelligenza artificiale nelle strategie di sicurezza informatica, è fondamentale rimanere vigili sull'uso etico di questa tecnologia e sul suo potenziale abuso. Tuttavia, i vantaggi che offre nel rafforzare le difese digitali sono innegabili, rendendolo una risorsa inestimabile nella battaglia in corso contro le minacce informatiche. In che modo MongoDB può aiutare? Con MongoDB, i tuoi team di sviluppatori possono creare e implementare difese informatiche in tempo reale robuste, corrette e differenziate più velocemente e su qualsiasi scala. Per capire in che modo MongoDB è in grado di fare ciò, considera che lo stack tecnologico dell'IA comprende tre layer: L'elaborazione sottostante (GPU) e gli LLM Gli strumenti per mettere a punto i modelli insieme agli strumenti per l'apprendimento e l'inferenza contestuali rispetto ai modelli addestrati Le applicazioni di IA e le relative esperienze degli utenti finali MongoDB opera al secondo layer dello stack. Consente ai clienti di inserire i propri dati proprietari in qualsiasi LLM in esecuzione su qualsiasi infrastruttura informatica per creare applicazioni di sicurezza informatica basate sull'intelligenza artificiale. MongoDB lo fa affrontando i problemi più difficili quando si adotta l'IA generativa per la sicurezza informatica. MongoDB Atlas unifica in modo sicuro i dati operativi, i dati non strutturati e i dati vettoriali in un'unica piattaforma multi-cloud completamente gestita, evitando la necessità di copiare e sincronizzare i dati tra sistemi diversi. L'architettura basata su documenti di MongoDB consente inoltre ai team di sviluppo di modellare facilmente le relazioni tra i dati delle applicazioni e gli incorporamenti vettoriali. Ciò consente di effettuare analisi e approfondimenti più profondi e più rapidi sui dati relativi alla sicurezza. Figura 1: MongoDB Atlas riunisce tutti i servizi dati necessari per creare moderne applicazioni di sicurezza informatica in un'API unificata e una piattaforma dati per sviluppatori. L'architettura aperta di MongoDB è integrata con un ricco ecosistema di framework per sviluppatori di IA, LLM e fornitori di incorporamento. Questo, combinato con le nostre funzionalità multi-cloud leader del settore, offre ai tuoi team di sviluppo la flessibilità di muoversi rapidamente ed evitare di vincolarsi a qualsiasi particolare provider cloud o tecnologia IA in questo spazio in rapida evoluzione. Consulta la nostra pagina delle risorse sull'intelligenza artificiale per saperne di più sulla creazione di app basate sull'IA con MongoDB. Utilizzo dell'IA generativa e di MongoDB con le applicazioni di sicurezza informatica del mondo reale Intelligence sulle minacce ExTrac utilizza analisi basate sull'intelligenza artificiale e MongoDB Atlas per prevedere i rischi per la sicurezza pubblica analizzando i dati provenienti da migliaia di fonti. La piattaforma ha inizialmente aiutato i governi occidentali a prevedere i conflitti, ma si sta espandendo alle imprese per la gestione della reputazione e altro ancora. Il modello di dati documentali di MongoDB consente a ExTrac di gestire dati complessi in modo efficiente, migliorando l'identificazione delle minacce in tempo reale. Atlas Vector Search aiuta ad migliorare i modelli linguistici e a gestire gli incorporamenti vettoriali per testi, immagini e video, accelerando lo sviluppo delle funzionalità. Questo approccio consente a ExTrac di modellare in modo efficiente le tendenze, tenere traccia delle narrative in evoluzione e prevedere i rischi per i propri clienti, sfruttando la flessibilità e la potenza di MongoDB per gestire dati di qualsiasi forma e struttura. Scopri di più nel nostro case study di ExTrac . Valutazioni della sicurezza informatica VISO TRUST sfrutta l'IA per semplificare la valutazione dei rischi informatici di terze parti, rendendo rapidamente accessibili le complesse informazioni sulla sicurezza dei fornitori per un processo decisionale informato. Utilizzando Amazon Bedrock e MongoDB Atlas, la piattaforma di VISO TRUST automatizza la due diligence della sicurezza dei fornitori, riducendo in modo significativo il carico di lavoro per i team di sicurezza. Il suo approccio basato sull'intelligenza artificiale coinvolge l'intelligence sugli artefatti che classifica i documenti di sicurezza, rileva le organizzazioni e prevede le posizioni dei controlli di sicurezza all'interno degli artefatti. MongoDB Atlas ospita incorporamenti di testo per un denso sistema di recupero che migliora la precisione dei LLM attraverso la retrieval-augmented generation (RAG), fornendo insight sulla sicurezza immediati e fruibili. Questo uso innovativo della tecnologia consente a VISO TRUST di offrire valutazioni del rischio informatico rapide e scalabili, vantando significative riduzioni di lavoro e tempo per aziende come InstaCart e Upwork. Il database di documenti flessibile di MongoDB e Atlas Vector Search svolgono un ruolo fondamentale nella gestione e nell'interrogazione di grandi quantità di dati, supportando la missione di VISO TRUST di fornire un'intelligence completa sui rischi informatici. Scopri di più nel nostro case study di Viso Trust . Passaggi per iniziare L'IA generativa basata sugli LLM, potenziata con i tuoi dati operativi codificati come incorporamenti vettoriali, sta aprendo diverse nuove possibilità nella sicurezza informatica. Se vuoi saperne di più sulla tecnologia e sulle sue possibilità, dai un'occhiata al nostro Learning Byte su Atlas Vector Search . In soli 10 minuti, avrai una panoramica dei diversi casi d'uso e di come iniziare. 1 Hill, M. (10 aprile 2023). Cybersecurity workforce shortage reaches 4 million despite significant recruitment drive. CSO.

March 13, 2024

Next →

Building AI With MongoDB: Integrating Vector Search And Cohere to Build Frontier Enterprise Apps

Cohere is the leading enterprise AI platform, building large language models (LLMs) which help businesses unlock the potential of their data. Operating at the frontier of AI, Cohere’s models provide a more intuitive way for users to retrieve, summarize, and generate complex information. Cohere offers both text generation and embedding models to its customers. Enterprises running mission-critical AI workloads select Cohere because its models offer the best performance-cost tradeoff and can be deployed in production at scale. Cohere’s platform is cloud-agnostic. Their models are accessible through their own API as well as popular cloud managed services, and can be deployed on a virtual private cloud (VPC) or even on-prem to meet companies where their data is, offering the highest levels of flexibility and control. Cohere’s leading Embed 3 and Rerank 3 models can be used with MongoDB Atlas Vector Search to convert MongoDB data to vectors and build a state-of-the-art semantic search system. Search results also can be passed to Cohere’s Command R family of models for retrieval augmented generation (RAG) with citations. Check out our AI resource page to learn more about building AI-powered apps with MongoDB. A new approach to vector embeddings It is in the realm of embedding where Cohere has made a host of recent advances. Described as “AI for language understanding,” Embed is Cohere’s leading text representation language model. Cohere offers both English and multilingual embedding models, and gives users the ability to specify the type of data they are computing an embedding for (e.g., search document, search query). The result is embeddings that improve the accuracy of search results for traditional enterprise search or retrieval-augmented generation. One challenge developers faced using Embed was that documents had to be passed one by one to the model endpoint, limiting throughput when dealing with larger data sets. To address that challenge and improve developer experience, Cohere has recently announced its new Embed Jobs endpoint . Now entire data sets can be passed in one operation to the model, and embedded outputs can be more easily ingested back into your storage systems. Additionally, with only a few lines of code, Rerank 3 can be added at the final stage of search systems to improve accuracy. It also works across 100+ languages and offers uniquely high accuracy on complex data such as JSON, code, and tabular structure. This is particularly useful for developers who rely on legacy dense retrieval systems. Demonstrating how developers can exploit this new endpoint, we have published the How to use Cohere embeddings and rerank modules with MongoDB Atlas tutorial . Readers will learn how to store, index, and search the embeddings from Cohere. They will also learn how to use the Cohere Rerank model to provide a powerful semantic boost to the quality of keyword and vector search results. Figure 1: Illustrating the embedding generation and search workflow shown in the tutorial Why MongoDB Atlas and Cohere? MongoDB Atlas provides a proven OLTP database handling high read and write throughput backed by transactional guarantees. Pairing these capabilities with Cohere’s batch embeddings is massively valuable to developers building sophisticated gen AI apps. Developers can be confident that Atlas Vector Search will handle high scale vector ingestion, making embeddings immediately available for accurate and reliable semantic search and RAG. Increasing the speed of experimentation, developers and data scientists can configure separate vector search indexes side by side to compare the performance of different parameters used in the creation of vector embeddings. In addition to batch embeddings, Atlas Triggers can also be used to embed new or updated source content in real time, as illustrated in the Cohere workflow shown in Figure 2. Figure 2: MongoDB Atlas Vector Search supports Cohere’s batch and real time workflows. (Image courtesy of Cohere) Supporting both batch and real-time embeddings from Cohere makes MongoDB Atlas well suited to highly dynamic gen AI-powered apps that need to be grounded in live, operational data. Developers can use MongoDB’s expressive query API to pre-filter query predicates against metadata, making it much faster to access and retrieve the more relevant vector embeddings. The unification and synchronization of source application data, metadata, and vector embeddings in a single platform, accessed by a single API, makes building gen AI apps faster, with lower cost and complexity. Those apps can be layered on top of the secure, resilient, and mature MongoDB Atlas developer data platform that is used today by over 45,000 customers spanning startups to enterprises and governments handling mission-critical workloads. What's next? To start your journey into gen AI and Atlas Vector Search, review our 10-minute Learning Byte . In the video, you’ll learn about use cases, benefits, and how to get started using Atlas Vector Search.

April 25, 2024