La piattaforma dati intelligente per l'era dell'AI

Alcuni di voi avranno notato un nome diverso, e forse familiare, in cima a questo post.

In seguito al cambio di leadership di questa settimana, il Consiglio di amministrazione mi ha chiesto di intervenire come CEO ad interim. Ho guidato MongoDB per oltre 11 anni e da allora ho fatto parte del Consiglio di amministrazione, quindi sono rimasto vicino alle nostre persone, ai nostri clienti e all'attività. Sono felice di essere tornato ed entusiasta di condividere la direzione in cui sta andando MongoDB.

L'AI sta attraversando un'importante transizione. I modelli stanno migliorando nel ragionamento, ma il cambiamento più importante è ciò che chiediamo loro di fare. L'AI si sta spostando dalla generazione di risposte all'azione. Il software non aiuta più solo le persone a svolgere il proprio lavoro. Sempre più spesso, gli agenti svolgono parte del lavoro da soli. Risolvono le problematiche dei clienti, scrivono e distribuiscono software, eseguono processi aziendali e operano continuamente con un intervento umano sempre minore.

Questo spostamento ha profonde implicazioni per l'infrastruttura alla base delle applicazioni. Un agente non si limita a prendere un prompt e restituire una risposta. Osserva cosa sta succedendo, recupera il contesto, ragiona sul da farsi, intraprende un'azione, vede il risultato e spesso ricomincia il ciclo. Man mano che gli agenti diventano più capaci, questi cicli diventano più lunghi, più autonomi e più consequenziali.

La qualità del modello è estremamente importante. Ma anche la qualità, la freschezza e l'accessibilità dei dati su cui il modello opera. È qui che MongoDB svolge un ruolo importante.

Oggi annunciamo la più grande espansione della nostra piattaforma mai vista prima:

• MongoDB 9.0 è la versione più veloce e performante di MongoDB mai creata, progettata per applicazioni e agenti che interagiscono con dati in tempo reale.
• Atlas Infinite è una nuova opzione di deployment progettata per carichi di lavoro altamente elastici, consentendo ad archiviazione e calcolo di scalare in modo indipendente al variare della domanda.
• Atlas Agent Engine fornisce la memoria, il runtime e la governance necessari per gestire gli agenti in produzione, sulla stessa base di dati di cui i clienti si fidano già e aperta a qualsiasi modello, framework o cloud.

Prima di condividere ulteriori dettagli sulle nostre iniziative, è opportuno spiegare il problema che stiamo cercando di risolvere.

Perché questo momento richiede di più dal data layer

Quasi tutte le aziende di dati oggi si definiscono una piattaforma per l'AI. La domanda più interessante è cosa accade all'architettura dei dati quando l'AI smette di limitarsi a rispondere alle domande e inizia a intraprendere azioni.

Immagina un agente del servizio clienti che decide se emettere un rimborso, un agente commerciale che promette la consegna di un articolo o un agente finanziario che esegue un'operazione su un conto. L'agente deve sapere cosa è vero in questo momento. Un modello può ragionare perfettamente sulle informazioni a sua disposizione e prendere comunque la decisione sbagliata se tali informazioni sono obsolete. L'inventario del giorno precedente, il saldo di un vecchio conto o lo stato di un ordine non aggiornato possono trasformare un'inferenza tecnicamente corretta in un'azione errata.

Questo rende la freschezza molto più importante. Per molte applicazioni agentiche, copiare periodicamente i dati operativi in un altro sistema non è sufficiente. Gli agenti necessitano di accedere allo stato in tempo reale dell'azienda e sempre più spesso devono poter intervenire sullo stesso stato.

Tuttavia, avere dati aggiornati non risolve l'intero problema. Un'azienda può disporre di enormi quantità di informazioni potenzialmente rilevanti. L'agente deve identificare il piccolo sottoinsieme che conta per la decisione che sta prendendo. Un recupero migliore migliora il contesto presentato al modello, riduce i token irrilevanti e riduce la probabilità che il modello debba dedurre ciò che non sa.

Ecco perché crediamo che i dati operativi e il recupero stiano convergendo. MongoDB è già il system of record operativo per alcune delle più grandi aziende al mondo e delle società di AI a più rapida crescita. Grazie alla ricerca nativa e alla ricerca vettoriale, unite alla tecnologia di recupero ed embedding di Voyage AI, gli sviluppatori possono recuperare il contesto pertinente dagli stessi dati operativi in tempo reale già utilizzati dalle loro applicazioni. Non devi scegliere tra dati operativi e contesto AI. Sempre più spesso, sono la stessa cosa.

Anche gli agenti creano un carico di lavoro molto diverso. Le applicazioni tradizionali tendono ad avere modelli di traffico relativamente comprensibili. I sistemi agentici possono comportarsi in modo molto diverso. Una richiesta utente può attivare una sequenza di pianificazione, recupero, chiamate a strumenti, lettura e scrittura del database e ulteriori ragionamenti. Un agente può generare centinaia di operazioni. Migliaia di agenti potrebbero iniziare a lavorare contemporaneamente.

Di conseguenza, il rapporto tra gli utenti e il consumo dell'infrastruttura diventa molto meno prevedibile. La domanda può essere tranquilla un minuto ed elevata quello successivo. Provvedi per la media e rischi di cadere durante un picco. Provvedi per il picco e paghi per un'infrastruttura che rimane inattiva per gran parte del tempo.

Pensiamo che l'architettura del database debba cambiare con il carico di lavoro. Il calcolo dovrebbe espandersi rapidamente quando gli agenti ne hanno bisogno e contrarsi quando non ne hanno bisogno. L'archiviazione non dovrebbe dover scalare semplicemente perché lo fa il calcolo. E gli sviluppatori non dovrebbero dover riprogettare le loro applicazioni ogni volta che il loro carico di lavoro supera un'altra soglia. Questa è l'idea dietro Atlas Infinite.

È in corso un altro spostamento architettonico che ritengo sia sottovalutato. Gli agenti utili hanno uno stato.

Devono ricordare ciò che è accaduto, recuperare ciò che è importante, capire chi o cosa sta compiendo un'azione, mantenere il contesto nelle interazioni e operare entro autorizzazioni e policy esplicite.

Oggi, gli sviluppatori spesso assemblano autonomamente tale infrastruttura. Combinano un database operativo con un database vettoriale, un sistema di memoria, un framework di orchestrazione, un provider di modelli e un livello di governance. Ogni sistema aggiuntivo crea un altro punto di integrazione, un altro confine di sicurezza e spesso un'altra copia dei dati.

Questo può essere gestibile per un prototipo. Diventa molto più difficile quando gli agenti intraprendono azioni rilevanti all'interno di un'azienda in produzione.

Riteniamo che il layer di stato, memoria, recupero e governance per gli agenti debba essere il più vicino possibile ai dati operativi su cui agiscono tali agenti. È proprio quello che Atlas Agent Engine è progettato per fornire.

Gli annunci odierni rafforzano la base di MongoDB.

Cosa annunciamo oggi

MongoDB 9.0

Gli agenti che operano su dati in tempo reale mettono a dura prova il database sottostante.

MongoDB 9.0 è la versione di MongoDB più veloce e performante che abbiamo mai realizzato. Rispetto a MongoDB 8.0, offre un throughput fino a due volte superiore su istanze di grandi dimensioni, letture più veloci del 35% e aggiornamenti più veloci del 30%, migliorando notevolmente il rapporto prezzo-prestazioni su scala.

Abbiamo anche continuato ad alzare l'asticella in termini di sicurezza, osservabilità e produttività degli sviluppatori. Queryable Encryption ora protegge più tipi di dati in più situazioni, mentre le funzionalità di rete privata espanse di Atlas rendono più facile per le organizzazioni che operano in settori altamente regolamentati eseguire i loro carichi di lavoro più sensibili su MongoDB.

L'obiettivo è semplice. Man mano che le applicazioni diventano più autonome e operano su scala più ampia, il database operativo alla base deve diventare più veloce, più sicuro ed efficiente.

Atlas Infinite

I carichi di lavoro basati su agenti possono essere straordinariamente soggetti a picchi e Atlas Infinite è progettato attorno a questa realtà.

Rappresenta il più grande cambiamento architetturale che abbiamo apportato ad Atlas, consentendo ad archiviazione e calcolo di scalare in modo indipendente, così che i clienti possano scalare ciascuno in base a ciò che il loro carico di lavoro richiede effettivamente.

Il risultato è un'architettura progettata per crescere dal prototipo alla scala dei petabyte senza costringere gli sviluppatori a prevedere oggi i requisiti infrastrutturali di domani. I tempi di scalabilità sono più rapidi di oltre il 96% e ogni shard può contenere 10 volte più storage.

Altrettanto importante, i clienti non devono riscrivere le loro applicazioni per utilizzarlo.

Atlas Infinite è un nuovo tipo di cluster all'interno della piattaforma Atlas che gli sviluppatori conoscono già. I clienti possono sceglierlo insieme ad Atlas Core a seconda delle caratteristiche del loro carico di lavoro.

L'anteprima pubblica inizia su AWS, con la disponibilità multicloud completa pianificata per la disponibilità generale (GA).

Atlas Agent Engine

La parte più difficile della creazione di un agente non è più la demo, ma farlo funzionare in modo affidabile in produzione.

Atlas Agent Engine porta l'infrastruttura con stato di cui gli agenti hanno bisogno sulla stessa piattaforma di dati in cui si trovano già i loro dati operativi.

La memoria e il recupero integrati forniscono agli agenti l'accesso a un contesto pertinente in tempo reale, riducendo al contempo il consumo inutile di token. Un piano di controllo unificato fornisce identità e governance sulle azioni degli agenti. E poiché Agent Engine è aperto a qualsiasi modello, framework o cloud, gli sviluppatori possono scegliere lo stack di AI più adatto alla loro applicazione invece di essere vincolati a un singolo provider.

Questo è particolarmente importante per le aziende.

Oltre 70.000 clienti e oltre il 75% delle aziende Fortune 100 si affidano già a MongoDB per i loro dati operativi. Atlas Agent Engine offre loro la possibilità di creare e gestire agenti su quella stessa base, anziché creare un'architettura di dati completamente separata per l'AI.

La strada da percorrere

Siamo ancora all'inizio di questa transizione. I modelli miglioreranno. Le finestre di contesto diventeranno più ampie. L'inferenza diventerà più economica. Gli agenti diventeranno più capaci e autonomi. Ma nessuno di questi progressi elimina la necessità di dati operativi di alta qualità; anzi, la rendono ancora più importante.

Mentre il software passa da sistemi che registrano ciò che le persone fanno a sistemi che le aiutano a decidere cosa fare, fino a sistemi che intraprendono sempre più azioni da soli, il layer dei dati diventa parte del piano di controllo per l'azienda.

Questa è l'opportunità per cui stiamo creando MongoDB.

Il nome all'inizio di questo post potrebbe esserti familiare, ma MongoDB è molto di più del suo leader. Sono i team di prodotto e di ingegneria che continuano a offrire innovazioni significative, i team go-to-market che si concentrano sui risultati dei clienti e i clienti che si affidano a MongoDB per le loro applicazioni più sofisticate e strategiche.

Sono grato a tutti loro per il lavoro svolto oggi. Ci vediamo domani al .local NYC.