LE DÉFI
Rationalisation de l'accès à une multitude de contenus de bibliothèque en un temps record
Swisscom est le principal fournisseur suisse de services mobiles, Internet et de télévision. Dans un pays de près de neuf millions d'habitants, Swisscom compte plus de six millions de connexions mobiles et deux millions de clients haut débit. C'est un nom connu dans le pays, mais c'est aussi bien plus qu'une marque destinée au grand public. Swisscom fournit des services de technologies de l'information et de la communication à certaines des plus grandes entreprises du pays ainsi qu'au secteur dynamique des petites et moyennes entreprises. Elle voit son rôle comme celui d'un moteur de l'avenir numérique de la Suisse et se présente comme l'innovateur technologique suisse le plus fiable.
L’entreprise prévoit d’investir 100 millions CHF (117 M$) dans des solutions d’IA au cours des prochaines années. Elle travaille avec Nvidia pour créer des superordinateurs à pile complète d’IA générative (genAI), basés sur l’informatique accélérée de Nvidia et les logiciels d’IA de Nvidia. Swisscom souhaite occuper une position de leader en IA, en contribuant à identifier et à développer des services d’IA commercialisables pertinents pour les clients suisses.
Dans ce cadre, Swisscom souhaite intégrer l'IA au sein de ses propres opérations et explore plusieurs cas d'utilisation.
Un cas particulier est e.foresight, le « think tank » indépendant de Swisscom pour le secteur bancaire. Le secteur des services financiers représente près de 10 % du produit intérieur brut suisse. e.foresight identifie, surveille et analyse les tendances ainsi que les évolutions comportementales et technologiques du secteur financier mondial. Utilisé par 30 des principales banques du pays, il a constitué au fil des ans une vaste bibliothèque de contenus d'experts.
Swisscom utilise MongoDB Atlas pour appliquer l’IA générative à cette vaste bibliothèque. Cet engagement permet à Swisscom d’extraire une valeur maximale de son contenu, en produisant du contenu sur mesure pour les centaines d’utilisateurs d’e.foresight au sein des 30 banques abonnées à ses services. Ce faisant, elle transforme la vitesse, la précision et la pertinence des requêtes de recherche. Plutôt que de transmettre six rapports que les utilisateurs devront examiner, elle peut utiliser l’IA générative pour produire un résumé condensé en quelques secondes.
« e.foresight compte plus de 3 500 documents sur les tendances du secteur bancaire dans sa bibliothèque, et d'autres sont ajoutés chaque jour », a déclaré Dr. Martin Lorenz, chef de produit, Banking Front Solutions, Swisscom. « MongoDB Atlas nous permet de stocker et de rechercher toutes ces informations et de créer quelque chose de pertinent pour une demande spécifique. »
NOTRE SOLUTION
Enrichir les grands modèles de langage avec MongoDB Vector Search sur Atlas
Concrètement, l’application d’IA générative de Swisscom devait permettre aux grands modèles de langage (LLM) de comprendre la bibliothèque de documents e.foresight. La bibliothèque est non seulement volumineuse, mais aussi variée. Elle comprend des données non structurées, telles que des rapports écrits, des enregistrements d’événements en direct, des graphiques et des études externes, et elle continue de s'agrandir de jour en jour.
MongoDB a joué un rôle essentiel dans la réalisation de l’objectif de Swisscom en contribuant à alimenter son application de retrieval augmented generation (RAG). Désormais, tous les documents de la bibliothèque e.foresight sont stockés dans MongoDB Atlas— une base de données unique et sécurisée pour stocker et rechercher des vecteurs parallèlement aux données opérationnelles. Swisscom peut ensuite convertir les données non structurées en embeddings vectoriels et utiliser MongoDB Vector Search sur Atlas pour trouver des segments de contexte pertinent afin d'alimenter les LLM avec des données contextuelles et spécifiques au domaine à jour. En conséquence, l’application peut générer des réponses plus précises et hautement pertinentes pour les utilisateurs.
Dans un secteur en évolution rapide, avec des avancées constantes des capacités de l’IA générative, MongoDB a permis à Swisscom de passer rapidement de l’idée à la production, accélérant ainsi la mise sur le marché. Lorenz a contacté MongoDB le 6 février 2024 et disposait, au 15 février 2024, d’un prototype fondé sur un sous-ensemble de données, entièrement construit sur la Developer Data Platform MongoDB Atlas. Après un mois de tests aux côtés de MongoDB et de la haute école spécialisée ZHAW, l’équipe interne de Swisscom a repris les opérations de la plateforme.
L’équipe a ajouté de nouvelles fonctionnalités et, après un mois supplémentaire de tests en interne, la plateforme a été mise en production début mai.
_1.svg)