Cisco alimenta un'innovazione nell'intelligenza artificiale sicura e responsabile su larga scala con MongoDB

LA SFIDA

Utilizzo delle soluzioni MongoDB per supportare l'IA generativa per Cisco

Mentre le aziende si affrettano ad adottare la Generative AI (gen AI), molte potrebbero introdurre rischi per la sicurezza non seguendo le best practice, come l'utilizzo della crittografia nei database. Cisco, fornitore globale di soluzioni di networking, collaborazione e sicurezza informatica, cerca di bilanciare innovazione e sicurezza mentre implementa centinaia di applicazioni di gen AI.

Cisco si è rivolta a MongoDB, partner di lunga data dell'azienda, per semplificare il percorso dalla sperimentazione alla produzione, pur mantenendo rigorosi standard di sicurezza. Sfruttando l'esperienza e la tecnologia di MongoDB, Cisco ha voluto creare un ambiente di dati sicuro che aiutasse i suoi sviluppatori a innovare più rapidamente con la Gen AI.

LA SOLUZIONE

Fornire un database vettoriale unificato e sicuro per creare app di IA generativa

MongoDB ha ottenuto le rigorose certificazioni di sicurezza di Cisco in tempi record, ottenendo l'approvazione per gestire i dati più sensibili dell'azienda, compreso il codice sorgente. Una volta ottenute le certificazioni, la Security and Trust Organization di Cisco ha lavorato con MongoDB per creare cluster sandbox utilizzando MongoDB Atlas. Il team ha inoltre utilizzato MongoDB Vector Search su Atlas per supportare le funzionalità di retrieval-augmented generation (RAG) di Cisco. I team possono sperimentare in sicurezza con la Generative AI in questi ambienti senza rischiare fughe di dati o compromettere le best practice di sicurezza.

“Gli sviluppatori sono liberi di concentrarsi sulle proprie attività fin dall'inizio, senza dover spuntare caselle per l'approvazione o preoccuparsi della crittografia o di altre misure di sicurezza”, afferma Omar Santos, ingegnere illustre di Cisco. “MongoDB ci aiuta ad accelerare il processo di sviluppo.”

Quando Cisco ha avuto la certezza che i dati interni erano al sicuro, l'azienda ha iniziato a espandere il suo utilizzo dell'AI generativa. L'azienda ha utilizzato MongoDB Vector Search in Atlas per migliorare ed estendere ulteriormente l'impatto del suo assistente virtuale WebEx. “L'assistente virtuale è in produzione da oltre tre anni e ha deviato o risolto con successo oltre 100 casi di supporto”, afferma Mustafa Kadioglu, data scientist capo di Cisco. “Ci ha permesso di risparmiare circa 10 milioni di dollari”.

L'assistente utilizza un'architettura RAG per indicizzare semanticamente 3.600 articoli della guida di WebEx e generare dinamicamente le risposte alle query degli utenti. Un layer di caching costruito sopra MongoDB Vector Search su Atlas mantiene una bassa latency all'aumentare dell'utilizzo.

I RISULTATI

Mantenersi al passo con l'aumento dei casi d'uso della generative AI

Mentre Cisco punta a espandere ulteriormente la gen AI, le possibilità sono praticamente infinite. L'azienda continuerà a utilizzare MongoDB per supportare un'ampia gamma di applicazioni intelligenti, dal miglioramento dell'assistenza clienti a una maggiore automazione e oltre. Grazie alla tecnologia MongoDB, Cisco può contare sul fatto che le sue applicazioni siano sicure, scalabili e ad alte prestazioni.

“L'AI sarà integrata praticamente in tutto”, afferma Santos. “Non dobbiamo chiederci quale prodotto si baserà sull'AI, ma quale prodotto non usufruirà dell'AI in futuro.”