Context Engineering hat ein Abrufproblem: Wir stellen rerank-3 und natives Reranking vor

Jedes Team, das KI-Agenten entwickelt, stößt auf eine grundlegende Wahrheit: Ohne die richtigen Informationen kann ein Agent eine Frage nicht zuverlässig beantworten oder die richtige Aktion ausführen.

Da die Kontextfenster für Large Language Models immer größer wurden, war es verlockend anzunehmen, dass ein Agent allein durch die Bereitstellung von mehr Informationen seine Genauigkeit verbessern würde. In der Praxis führen mehr Kontext dazu, dass Agents langsamer und teurer werden, während gleichzeitig die Genauigkeit sinkt, da nützliche Signale zwischen irrelevanten Informationen vergraben werden.

Deshalb hängt der Erfolg eines Agents heute von Context Engineering ab, dem Verfahren, bei dem nur die Informationen ausgewählt, organisiert und dem Agent präsentiert werden, die er für die effektive Erledigung einer Aufgabe benötigt.

Und der Kern dieser Arbeit liegt im Abruf. Es geht nicht darum, wie viel Sie in den Kontext einfügen können. Es geht darum, welche zehn Dinge von zehn Millionen Sie auswählen.

Die intelligente Datenplattform von MongoDB kombiniert die erstklassigen Embedding- und Reranking-Modelle von Voyage AI mit einer Plattform für den Aufbau, den Betrieb und die Weiterentwicklung komplexer Abrufsysteme. Mit der heutigen Einführung der Rerank-3-Serie und $rerank in der aggregation pipeline können Entwickler die Qualität und Reihenfolge des abgerufenen Kontexts im selben System verbessern, in dem sich auch ihre operativen Daten befinden. Das Ergebnis ist ein einfacherer Weg, Abrufsysteme zu erstellen, die den Agenten den Kontext geben, den sie benötigen, um Maßnahmen zu ergreifen.

Der Stack für den Abruf

Ein effektiver Abruf erfordert ein koordiniertes System, um nützliche Informationen zu finden, festzustellen, was am wichtigsten ist, und es effizient an den Agenten zu übermitteln.

Die Strategie bestimmt, wie das System seine Daten durchsucht. Die Stichwortsuche kann exakte Begriffe hervorheben, während die Vektorsuche konzeptionell ähnliche Inhalte findet. Filter und hybride Ansätze sorgen für Präzision und Kontrolle und stellen sicher, dass nur der relevante Kontext abgerufen wird.

Modelle bestimmen, wie Relevanz für Ihre Daten aussieht. Ein stärkeres Einbettungsmodell unterstützt die Vektorsuche bei der Identifizierung besserer Kandidaten durch das Verständnis konzeptioneller Ähnlichkeit und der Absicht der Abfrage. Ein Reranker ermöglicht es der ersten Abrufstufe, die Abrufrate zu optimieren und dann die stärksten Übereinstimmungen aus der Kandidatenmenge zu trennen.

Das richtige Engine führt diese unterschiedlichen Technologien zusammen, hält die Daten aktuell und sorgt für effiziente Abfragen, während das System in der Produktion läuft.

Ohne eine einheitliche Plattform zur Verwaltung des Abrufs wird die Arbeit schnell kompliziert. Sie könnten einen Anbieter für Einbettungen, einen weiteren für Reranking und mehrere Datenbankanbieter für Ihre operativen, Such- und Vektordaten nutzen. Das bedeutet mehr Integrationen, Sync-Jobs und API Aufrufe, die verwaltet werden müssen. Dies kann auch zu stillen Problemen führen: Ihr Vektorsuchindex verwendet möglicherweise eine andere Einbettungsmodellversion als Ihre Anwendung, was die Relevanz beeinträchtigt, ohne einen expliziten Fehler zu verursachen.

Abbildung 1. Die getrennte Abrufpipeline.

MongoDB vereint diese Komponenten auf einer einzigen Plattform. Es unterstützt die Suchstrategien, die Entwickler benötigen – einschließlich Text-, Vektor-, Hybrid- und gefilterter Suche – und kombiniert sie mit den hochmodernen Embedding-Modellen und Rerankern von Voyage AI. Automated Embedding hält Vektoren bei Datenänderungen synchron, während natives Reranking es Entwicklern ermöglicht, Ergebnisse in derselben aggregation pipeline zu verfeinern. Das Ergebnis ist eine einzige Abfrage, die operative Daten durchsuchen, die richtige Abrufstrategie anwenden, die Ergebnisse neu bewerten und den Kontext zurückgeben kann, den ein Agent benötigt.

Abbildung 2. Die einheitliche Retrieval-Pipeline mit MongoDB.

Die Modelle

Die heutige Einführung von rerank-3 und rerank-3-lite bietet eine verbesserte Genauigkeit bei allen Aufgaben, mit den größten Zugewinnen bei langen Dokumenten und Code. rerank-3 übertrifft Cohere Rerank v4.0 Pro um 2,72 % und Qwen3-Reranker-8B um insgesamt 3,02 %. Wenn Sie sich auf rerank-2.5 befinden heute ist das Upgrade eine einzeilige Änderung des Modellnamens. Gleiche API, gleicher Preis.

rerank-3 verbessert die Relevanz, egal wie die anfängliche Kandidatenmenge abgerufen wird. Die folgende Tabelle zeigt die Genauigkeitssteigerung bei mehreren gängigen Abrufmethoden der ersten Stufe.

Tabelle 1. Vergleiche der Genauigkeit.

Das Engine

MongoDB ist die operative Abruf-Engine unter all dem, und jede Strategie wird nativ gegen dieselben Daten ausgeführt, die Ihre Anwendung bereits schreibt. Die lexikalische Suche erfasst Kennungen, Fehlercodes und exakte Produktnamen. Vektorsuche erkennt Konzepte und Paraphrasen. Die hybride Suche kombiniert sie, und Metadatenfilter halten die Ergebnismenge klein genug, um die Geschwindigkeit zu wahren. Nichts davon erfordert das Verschieben von Daten in ein separates System oder das Synchronisieren von zwei Kopien.

Automated Embedding übernimmt den Teil, der normalerweise fehlschlägt. Vektoren werden auf Feldebene nahezu in Echtzeit generiert und aktualisiert, wobei der Token-Verbrauch und der Index-Status in der Atlas-Benutzeroberfläche sichtbar sind. Es gibt keinen Embedding-Job, den man verwalten muss, und es besteht keine Gefahr einer Diskrepanz zwischen der Modellversion, auf der Ihr Index basiert, und der Modellversion, gegen die Ihre Abfragen ausgeführt werden.

$rerank, das heute verfügbar ist, fügt diesem Prozess denselben letzten Sortierschritt hinzu. Es handelt sich um eine indexlose Stufe, die jede Kandidatenmenge, die die vorherige Stufe produziert hat, aufnehmen und mit rerank-3 oder rerank-3-lite neu bewerten kann. Kein separater Anbieter, kein externer API-Aufruf, kein Neuzusammensetzungsschritt im Anwendungscode – was wichtig ist, wenn ein Agent mehrere Abrufaufrufe pro Aufgabe anstelle eines einzigen tätigt.

Abbildung 3. $rerank in Aktion.

Schwerkraft: So sieht es aus, wenn dies funktioniert

Gravity baut ein Anzeigennetzwerk auf, das Werbung für das KI-Zeitalter optimiert. Relevanz ist dort kein nettes Extra; sie ist das Produkt. Ihr Problem war nicht der Abruf. Frühere Embedding- und Reranking-Modelle lieferten Relevanz-Scores, die zu eng beieinander lagen, sodass Gravity einen starken Treffer nicht zuverlässig von einem schwachen unterscheiden konnte.

„Das Wichtigste, das wir bei unseren Benchmarks herausgefunden haben, war die Fähigkeit von Voyage AI, Kandidaten, die nicht gut zusammenpassen, herauszufiltern und diejenigen, die gut zusammenpassen, wirklich zu fördern“, sagte Leo Martinez, Mitbegründer und CTO von Gravity. Die Umstellung auf Voyage AI senkte die Latenz beim Abrufen um etwa 50 % und verbesserte die Genauigkeit mit zunehmendem Anfragenvolumen.

The Gap schließen

Die Abrufqualität ist nur eine Ebene dessen, was MongoDB für die Ausführung von Agenten aufbaut. MongoDB 9.0 und Atlas Infinite sind die Performance- und Elastic-skalieren-Ebene, die den sprunghaften Datenverkehr auffangen, den agentische Workloads erzeugen. Atlas Agent Engine ist die Memory- und Governance-Ebene, die Agenten einen permanenten Kontext und Leitplanken über Sitzungen hinweg gibt; die Bereitstellung erfolgt über Atlas Vector Search und Voyage AI. Ein Agent entscheidet, was er abrufen soll, bevor er entscheidet, was er tun soll. Eine schnellere Infrastruktur bei schlechtem Abruf bedeutet nur, dass man früher das Falsche tut.

Für die richtige Suche ist keine komplexe Architektur mehr erforderlich. Automated Embedding bewältigt die Einbettungen, $rerank bewältigt die Reihenfolge, und beide laufen direkt in MongoDB gegen Ihre operativen Daten. Die Modelle sind auch einzeln über die Atlas Embedding and Reranking API erhältlich.