Wei You Pan

27 results

Transforming Industries with MongoDB and AI: Financial Services

This is the fourth in a six-part series focusing on critical AI use cases across several industries . The series covers the manufacturing and motion, financial services, retail, telecommunications and media, insurance, and healthcare industries. In the dynamic world of financial services, the partnership between artificial intelligence (AI) and banking services is reshaping traditional practices, offering innovative solutions across critical functions. Relationship management support with chatbots One key service that relationship managers provide to their private banking customers is aggregating and condensing information. Because banks typically operate on fragmented infrastructure with information spread across different departments, solutions, and applications, this can require a lot of detailed knowledge about this infrastructure and how to source information such as: When are the next coupon dates for bonds in the portfolio? What has been the cost of transactions for a given portfolio? What would be a summary of our latest research? Please generate a summary of my conversation with the client. Until now, these activities would be highly manual and exploratory. For example, a relationship manager (RM) looking for the next coupon dates would likely have to go into each of the clients' individual positions and manually look up the coupon dates. If this is a frequent enough activity, the RM could raise a request for change with the product manager of the portfolio management software to add this as a standardized report. But even if such a standardized report existed, the RM might struggle to find the report quickly. Overall, the process is time-consuming. Generative AI systems can facilitate such tasks. Even without specifically trained models, RAG can be used to have the AI generate the correct answers, provide the inquirer with a detailed explanation of how to get to the data, and, in the same cases directly execute the query against the system and report back the results. Similar to a human, it is critical that the algorithm has access to not only the primary business data, e.g. the portfolio data of the customer, but also user manuals and static data. Detailed customer data, in machine-readable format and as text documents, is used to personalize the output for the individual customer. In an interactive process, the RM can instruct the AI to add more information about specific topics, tweak the text, or make any other necessary changes. Ultimately, the RM will be the quality control for the AI’s output to mitigate hallucinations or information gaps. As outlined above, not only will the AI need highly heterogeneous data from highly structured portfolio information to text documents and system manuals to provide a flexible natural language interface for the RMs, it will also have to have timely processing information about a customer's transactions, positions, and investment objectives. Providing transactional database capabilities as well as vector search makes it easy to build RAG-based applications using MongoDB’s developer data platform. Risk management and regulatory compliance Risk and fraud prevention Banks are tasked with safeguarding customer assets and detecting fraud , verifying customer identities, supporting sanctions regimes (Sanctions), and preventing various illegal activities (AML). The challenge is magnified by the sheer volume and complexity of regulations, making the integration of new rules into bank infrastructure costly, time-consuming, and often inadequate. For instance, when the EU's Fifth Anti-Money Laundering Directive was implemented, it broadened regulations to cover virtual currencies and prepaid cards . Banks had to update their onboarding processes swiftly, and software, train staff, and possibly update their customer interfaces to comply with these new requirements. AI offers a transformative approach to fraud detection and risk management by automating the interpretation of regulations, supporting data cleansing, and enhancing the efficacy of surveillance systems. Unlike static, rules-based frameworks that may miss or misidentify fraud due to narrow scope or limited data, AI can adaptively learn and analyze vast datasets to identify suspicious activities more accurately. Machine learning, in particular, has shown promise in trade surveillance, offering a more dynamic and comprehensive approach to fraud prevention. Regulatory compliance and code change assistance The regulatory landscape for banks has grown increasingly complex, demanding significant resources for the implementation of numerous regulations. Traditionally, adapting to new regulations has required the manual translation of legal text into code, provisioning of data, and thorough quality control—a process that is both costly and time-consuming, often leading to incomplete or insufficient compliance. For instance, to comply with the Basel III international banking regulations , developers must undertake extensive coding changes to accommodate the requirements laid out in thousands of pages of documentation. AI has the capacity to revolutionize compliance by automating the translation of regulatory texts into actionable data requirements and validating compliance through intelligent analysis. This approach is not without its challenges, as AI-based systems may produce non-deterministic outcomes and unexpected errors. However, the ability to rapidly adapt to new regulations and provide detailed records of compliance processes can significantly enhance regulatory adherence. Financial document search and summarization Financial institutions, encompassing both retail banks and capital market firms, handle a broad spectrum of documents critical to their operations. Retail banks focus on contracts, policies, credit memos, underwriting documents, and regulatory filings, which are pivotal for daily banking services. On the other hand, capital market firms delve into company filings, transcripts, reports, and intricate data sets to grasp global market dynamics and risk assessments. These documents often arrive in unstructured formats, presenting challenges in efficiently locating and synthesizing the necessary information. While retail banks aim to streamline customer and internal operations, capital market firms prioritize the rapid and effective analysis of diverse data to inform their investment strategies. Both retail banks and capital market firms allocate considerable time to searching for and condensing information from documents internally, resulting in reduced direct engagement with their clients. Generative AI can streamline the process of finding and integrating information from documents by using NLP and machine learning to understand and summarize content. This reduces the need for manual searches, allowing bank staff to access relevant information more quickly. MongoDB can store vast amounts of both live and historical data, regardless of its format, which is typically needed for AI applications. It offers Vector Search capabilities essential for retrieval-augmented generation (RAG). MongoDB supports transactions, ensuring data accuracy and consistency for AI model retraining with live data. It facilitates data access for both deterministic algorithms and AI-driven rules through a single interface. MongoDB boasts a strong partnership ecosystem , including companies like Radiant AI and Mistral AI, to speed solution development. ESG analysis Environmental, social, and governance (ESG) considerations can have a profound impact on organizations. For example, regulatory changes—especially in Europe—have compelled financial institutions to integrate ESG into investment and lending decisions. Regulations such as the EU Sustainable Finance Disclosure Regulation (SFDR) and the EU Taxonomy Regulation are examples of such directives that require financial institutions to consider environmental sustainability in their operations and investment products. Investors' demand for sustainable options has surged, leading to increased ESG-focused funds. The regulatory and commercial requirements, in turn, drive banks to also improve their green lending practices . This shift is strategic for financial institutions, attracting clients, managing risks, and creating long-term value. However, financial institutions face many challenges in managing different aspects of improving their ESG analysis. The key challenges include defining and aligning standards and processes and managing the flood of rapidly changing and varied data to be included for ESG analysis purposes. AI can help to address these key challenges in not only an automatic but also adaptive manner via techniques like machine learning. Financial institutions and ESG solution providers have already leveraged AI to extract insights from corporate reports, social media, and environmental data, improving the accuracy and depth of ESG analysis. As the market demands a more sustainable and equitable society, predictive AI combined with generative AI can also help to reduce bias in lending to create fairer and more inclusive financing while improving the predictive powers. The power of AI can help facilitate the development of sophisticated sustainability models and strategies, marking a leap forward in integrating ESG into broader financial and corporate practices. Credit scoring The convergence of alternative data, artificial intelligence, and generative AI is reshaping the foundations of credit scoring, marking a pivotal moment in the financial industry. The challenges of traditional models are being overcome by adopting alternative credit scoring methods, offering a more inclusive and nuanced assessment. Generative AI, while introducing the potential challenge of hallucination, represents the forefront of innovation, not only revolutionizing technological capabilities but fundamentally redefining how credit is evaluated, fostering a new era of financial inclusivity, efficiency, and fairness. The use of artificial intelligence, in particular generative artificial intelligence, as an alternative method to credit scoring has emerged as a transformative force to address the challenges of traditional credit scoring methods for several reasons: Alternative data analysis: AI models can process a myriad of information, including alternative data such as utility payments and rental history, to create a more comprehensive assessment of an individual's creditworthiness. AI offers unparalleled adaptability : As economic conditions change and consumer behaviors evolve, AI-powered models can quickly adjust. Fraud detection: AI algorithms can detect fraudulent behavior by identifying anomalies and suspicious patterns in credit applications and transaction data. Predictive analysts: AI algorithms, particularly ML techniques, can be used to build predictive models that identify patterns and correlations in historical credit data. Behavioral analysis: AI algorithms can analyze behavioral data sets to understand financial habits and risk propensity. By harnessing the power of artificial intelligence, lenders can make more informed lending decisions, expand access to credit, and better serve consumers (especially those with limited credit history). However, to mitigate potential biases and ensure consumer trust, it's crucial to ensure transparency, fairness, and regulatory compliance when deploying artificial intelligence in credit scoring. AI in payments A lack of developer capacity is one of the biggest challenges for banks when delivering payment product innovation. Banks believe the product enhancements they could not deliver in the past two years due to resource constraints would have supported a 5.3% growth in payments revenues . With this in mind and the revolutionary transformation with the integration of AI, it is imperative to consider how to free up developer resources to make the most of these opportunities. There are several areas in which banks can apply AI to unlock new revenue streams and efficiency gains. The image below provides a high-level view of eight of the principal themes and areas. This is not an exhaustive view but does demonstrate the depth and breadth of current opportunities. In each example, there are already banks that have begun to bring services or enhancements to the market using AI technologies or are otherwise experimenting with the technology. Learn more about AI use cases for top industries in our new ebook, How Leading Industries are Transforming with AI and MongoDB Atlas .

April 4, 2024

Réduire les biais dans le credit scoring grâce à l'IA générative

Le credit scoring joue un rôle essentiel pour déterminer qui accède au crédit et à quelles conditions. Malgré son importance, les systèmes de credit scoring traditionnels sont depuis longtemps confrontés à de nombreux problèmes critiques liés aux biais et à la discrimination, à une prise en compte limitée des données et à des défis d'évolutivité. Par exemple, une étude sur les prêts américains a montré que les emprunteurs issus des minorités ethniques paient des taux d'intérêt plus élevés (+8 %) et leurs demandes de prêt sont plus souvent rejetées (+14 %) que les emprunteurs appartenant à des groupes plus privilégiés. En raison de la nature rigide des systèmes, ils peuvent mettre plus de temps à s'adapter à l'évolution de l'économie et aux comportements des consommateurs, ce qui porte préjudice à certains individus, qui sont négligés. Pour y remédier, les banques et autres prêteurs cherchent à adopter l'intelligence artificielle afin de développer des modèles de plus en plus élaborés de credit scoring. Cet article se penche sur les principes fondamentaux du credit scoring, les défis posés par les systèmes actuels et examine comment l'intelligence artificielle (IA), en particulier l'IA générative (GenAI), peut réduire les biais et améliorer la précision. De l'intégration de sources de données alternatives au développement de modèles de machine learning, nous découvrirons en quoi l'IA pour repenser le credit scoring. Consultez notre page de ressources sur l'IA pour en savoir plus sur la création d'applications alimentées par l'IA avec MongoDB. Qu'est-ce que le credit scoring ? Le credit scoring fait partie intégrante du paysage financier. Il sert d'indicateur numérique de la solvabilité d’un individu. Cet indicateur clé est utilisé par les prêteurs pour évaluer le risque associé à l'octroi d'un crédit à des particuliers ou des entreprises. Traditionnellement, les banques s'appuient sur des règles prédéfinies et des modèles statistiques souvent construits à l'aide de la régression linéaire ou de la régression logistique. Ces modèles reposent sur des données historiques de crédit et se concentrent sur des facteurs tels que l'historique des paiements, la part d'utilisation du crédit et sa durée. Cependant, l’évaluation des nouveaux demandeurs de crédit représente un défi, d'où la nécessité d'un profilage plus précis. Pour répondre aux besoins des segments mal desservis ou non desservis, car historiquement discriminés, les fintechs et les banques numériques intègrent de plus en plus d'informations au-delà des antécédents de crédit traditionnels avec des données alternatives pour obtenir une vue plus complète du comportement financier d'un individu. Défis liés au système traditionnel Les scores de crédit font partie intégrante de notre quotidien, car ils constituent un facteur déterminant dans diverses transactions financières, telles que l'obtention d'un prêt, la location d'un appartement, les assurances, voire dans les processus de recrutement. Étant donné que la recherche d'un crédit peut être le parcours du combattant, voici quelques-uns des défis ou des limites des modèles de credit scoring traditionnels qui entravent souvent le chemin vers l'obtention d'un crédit. Antécédents de crédit limités : de nombreuses personnes, en particulier celles qui débutent dans ce domaine, se heurtent à un obstacle de taille : des antécédents de crédit limités, voire inexistants. Les modèles traditionnels de credit scoring reposent en grande partie sur les comportements antérieurs en matière de crédit. Les individus qui ne disposent pas d'un solide historique ont donc plus de mal à prouver leur solvabilité. Environ 45 millions d'Américains n'ont pas de scores de crédit simplement parce que ces données n'existent pas pour eux. Revenus irréguliers : les revenus irréguliers, caractéristiques du travail à temps partiel ou indépendant, pose un défi pour les modèles traditionnels de credit scoring, car ils associent des risques plus élevés à ces individus, ce qui peut entraîner un refus ou des restrictions. En 2023 aux États-Unis , les sources de données diffèrent quant au nombre de travailleurs indépendants. Selon une source, plus de 27 millions d'Américains ont rempli des formulaires Schedule C, qui concernent les bénéfices ou les pertes d'une entreprise. Il faut donc utiliser des méthodes d'évaluation différentes pour ces travailleurs. Forte utilisation d'un crédit en cours : une forte dépendance à l'égard d'un crédit en cours est souvent perçue comme un signe de difficultés financières potentielles, ce qui influence les décisions des emprunteurs. Les demandes de crédit peuvent être rejetées ou approuvées à des conditions moins favorables, ce qui traduit les inquiétudes quant à la capacité du demandeur à gérer judicieusement le paiement d'un crédit supplémentaire. Manque de clarté dans les motifs de refus : comprendre les raisons d'un refus permet aux demandeurs de s'attaquer aux causes profondes. Au Royaume-Uni, une étude réalisée entre avril 2022 et avril 2023 a montré que les principaux motifs de rejet étaient les suivants : « mauvais antécédents de crédit » (38 %), « incapacité à rembourser » (28 %), « trop de crédits en cours » (19 %). 10 % ont déclaré qu'on ne leur avait pas expliqué pourquoi leur demande avait été rejetée. Même lorsqu'elles sont données, les explications sont souvent trop vagues, ce qui laisse les demandeurs dans l'ignorance. Il leur est donc difficile de s'attaquer aux causes profondes et d'améliorer leur solvabilité pour de futures demandes. Le manque de transparence n'est pas seulement un problème pour les clients, il peut également pénaliser les banques. Par exemple, en 2023, une banque berlinoise a été condamnée à payer une amende pour manque de transparence dans le cadre du refus d'une demande de carte bancaire. Manque de flexibilité : l'évolution du comportement des consommateurs, en particulier des jeunes générations qui préfèrent les transactions numériques, remet en question les modèles traditionnels. Des facteurs tels que l'essor de l'économie parallèle, les emplois non traditionnels, l'endettement des étudiants et le coût élevé de la vie compliquent l'évaluation de la stabilité des revenus et de la santé financière. Les prévisions traditionnelles en matière de risque de crédit sont limitées en cas de perturbations sans précédent comme la pandémie de COVID-19, car les modèles de notation n'en tiennent pas compte. Reconnaître ces défis met en évidence la nécessité d'adopter des modèles alternatifs qui peuvent s'adapter à l'évolution des comportements financiers, traiter des sources de données non traditionnelles et fournir une évaluation plus complète et plus précise de la solvabilité dans ce paysage financier en perpétuelle évolution. Utiliser des données alternatives Il s'agit d'utiliser des sources de données non traditionnelles (aussi appelées « données alternatives ») et des méthodes pour évaluer la solvabilité d'un individu. Si le système traditionnel s'appuie largement sur les antécédents de crédit des principales sociétés de crédit, la méthode alternative intègre un éventail plus large de facteurs afin de mieux appréhender le comportement financier d'un individu. Voici quelques-unes des sources de données alternatives les plus utilisées : factures d'eau, de gaz, d'électricité : au-delà des antécédents de crédit, le paiement régulier de services comme l'eau et l'électricité montre si le demandeur respecte ses obligations financières et fournit des informations cruciales au-delà des indicateurs traditionnels ; quittances de loyer : pour ceux qui n'ont pas de prêt hypothécaire, les quittances constituent une source de données alternative clé. Montrer que le demandeur paie régulièrement et à temps son loyer permet de donner un aperçu complet de la responsabilité et la fiabilité financières. utilisation du téléphone portable : l’omniprésence des téléphones portables permet d’accéder à une multitude de données alternatives. L’analyse des appels et de SMS fournit des informations sur le réseau, la stabilité et les relations sociales d’un individu, ce qui constitue de précieuses données pour le credit scoring. habitudes d'achat en ligne : l'analyse de la fréquence, de la nature et du montant des achats effectués en ligne fournit de précieuses informations sur les comportements en matière de dépenses et donne une compréhension plus nuancée des habitudes financières ; antécédents scolaires et professionnels : le credit scoring alternatif tient compte des antécédents scolaires et professionnels d’un individu. Les signaux positifs, tels que les bons résultats scolaires et la stabilité de l'emploi, jouent un rôle majeur dans l'évaluation de la stabilité financière. Ces sources de données alternatives représentent une transition vers une approche plus inclusive, nuancée et holistique des évaluations de crédit. À mesure que la technologie financière continue de progresser, l’exploitation de ces ensembles de données alternatives garantit une évaluation plus complète de la solvabilité, ce qui marque une étape charnière dans l’évolution des modèles de credit scoring. L'utilisation de l'intelligence artificielle L'utilisation de l'IA permet également de relever les défis posés par les systèmes traditionnels, et ce pour plusieurs raisons : capacité à réduire les biais : comme les modèles statistiques traditionnels, les modèles d'IA, y compris les grands modèles de langage (LLM), entraînés sur des données historiques qui sont biaisées, conserveront les biais présents ces données, ce qui conduira à des résultats discriminatoires. Les LLM peuvent se concentrer sur certaines fonctionnalités plus que sur d'autres ou ne comprennent pas toujours le contexte plus large de la situation financière d'un individu. La décision est donc biaisée. Cependant, il existe différentes techniques pour pallier cette problématique : stratégies d’atténuation : les initiatives commencent par l’utilisation de données d’entraînement diversifiées et représentatives afin d’éviter de renforcer les biais existants. Des stratégies d’atténuation inadéquates ou inefficaces peuvent entraîner la persistance de résultats biaisés dans les modèles de credit scoring basés sur l’IA. Pour résoudre ce problème, il est essentiel d'accorder une attention toute particulière aux données collectées et à l’élaboration de modèles. L’intégration de données alternatives joue un rôle clé dans la réduction des biais. Des outils rigoureux de détection des biais, des contraintes d'équité et des techniques de régularisation pendant le processus d'entraînement des modèles améliorent leur fiabilité. En effet, l'ajustement de la représentation des caractéristiques et l'utilisation de techniques de post-traitement et d'algorithmes spécialisés contribuent à réduire les biais. L’évaluation inclusive des modèles, la surveillance continue et l’amélioration itérative, combinées au respect des directives éthiques et des pratiques de gouvernance, complètent une approche multidimensionnelle visant à réduire les biais dans les modèles d'IA. C'est un enjeu clé pour répondre aux préoccupations liées aux biais démographiques ou socioéconomiques qui peuvent être présents dans les données historiques sur le crédit. Audits réguliers des biais : effectuez des audits réguliers pour identifier et atténuer les biais dans les LLM. Cela peut impliquer l'analyse des résultats des modèles pour les disparités entre les groupes démographiques et l'ajustement des algorithmes en conséquence. Transparence et explicabilité : améliorez la transparence et l’explicabilité dans les LLM pour comprendre comment les décisions sont prises. Cela peut permettre d'identifier et de corriger les processus décisionnels biaisés. Trade Ledger , un logiciel de prêt en tant que service (SaaS), utilise une approche axée sur les données pour prendre des décisions éclairées avec une plus grande transparence et une meilleure traçabilité en rassemblant des données provenant de plusieurs sources avec des schémas différents dans une seule source de données. Capacité à analyser des ensembles de données vastes et diversifiés : contrairement aux modèles traditionnels qui s'appuient sur des règles prédéfinies et des données de crédit historiques, les modèles d'IA peuvent traiter une myriade d'informations, notamment des sources de données non traditionnelles. L'objectif est d'aboutir à une évaluation plus complète de la solvabilité d'un individu, en veillant à ce qu'un éventail plus large de comportements financiers soit pris en compte. Capacité d'adaptation inégalée : lorsque les conditions économiques changent et que les comportements des consommateurs évoluent, les modèles alimentés par l'IA peuvent rapidement s'adapter et apprendre à partir de nouvelles données. L'apprentissage continu garantit que le credit scoring reste pertinent et efficace dans un secteur financier en perpétuelle évolution. Les objections les plus courantes des banques qui ne veulent pas utiliser l'IA à cette fin sont la transparence et l'explicabilité des décisions de crédit. La complexité inhérente de certains modèles d'IA, en particulier les algorithmes de deep learning, peut entraîner des difficultés à fournir des explications claires sur les décisions en matière de crédit. Heureusement, la transparence et l'interprétation des modèles d'IA ont connu des avancées significatives. Des techniques comme les valeurs SHapley Additive exPlanations (SHAP) et les graphiques Local Interpretable Model-Agnostic Explanations (LIME) , ainsi que plusieurs autres avancées dans le domaine de l'IA explicable (XAI) nous permettent désormais de comprendre comment le modèle aboutit à des décisions spécifiques. Cela permet non seulement de renforcer la confiance dans le processus de credit scoring, mais aussi de répondre à la critique fréquemment évoquée selon laquelle les modèles d'IA sont des « boîtes noires ». Conscientes des enjeux liés aux données alternatives qui se présentent souvent sous forme semi-structurée ou non structurée, les institutions financières travaillent avec MongoDB pour améliorer leurs processus de demande de crédit grâce à un moyen plus rapide, plus simple et plus flexible d’effectuer des paiements et d’accorder des crédits. Amar Bank, la première banque numérique d’Indonésie , lutte contre les biais en fournissant des microcrédits à des personnes qui ne seraient pas en mesure d’obtenir des services financiers auprès des banques traditionnelles (non bancarisées et mal desservies). Les processus de souscription traditionnels n'étant pas adaptés aux clients qui n'ont pas d'antécédents de crédit ou de garanties, ils ont rationalisé les décisions de prêt en exploitant des données non structurées. En s'appuyant sur MongoDB Atlas, ils ont développé un modèle d'analyse prédictive qui intègre des données structurées et non structurées pour évaluer la solvabilité des emprunteurs. L'évolutivité et la capacité de MongoDB à gérer divers types de données ont joué un rôle déterminant dans l'expansion et l'optimisation de leurs activités. La grande majorité des Indiens ont du mal à obtenir un crédit en raison de réglementations strictes et d'un manque de données en la matière. Grâce à l'utilisation de systèmes de souscription modernes, Slice , l'un des principaux innovateurs de l'écosystème fintech indien, contribue à élargir l'accès au crédit en Inde en rationalisant leur processus KYC pour une expérience de crédit plus fluide. En utilisant MongoDB Atlas dans différents cas d'utilisation, notamment en tant que magasin de fonctionnalités ML en temps réel, slice a transformé son processus d'intégration et réduit les temps de traitement à moins d'une minute. slice utilise le magasin de fonctionnalités en temps réel avec MongoDB et les modèles de ML pour calculer instantanément plus de 100 variables, ce qui permet de déterminer l'éligibilité au crédit en moins de 30 secondes. Transformer le credit scoring grâce à l'IA générative Outre l'utilisation de données alternatives et de l'IA dans le credit scoring, la GenAI a le potentiel de révolutionner le credit scoring avec sa capacité à créer des données synthétiques et à comprendre des modèles complexes. Elle offre ainsi une approche plus nuancée, adaptative et prédictive. Sa capacité à synthétiser divers ensembles de données répond à l'une des principales limites des modèles traditionnels, à savoir la dépendance à l'égard des données de crédit historiques. En créant des données synthétiques qui reflètent les comportements financiers réels, les modèles de GenAI permettent une évaluation plus inclusive de la solvabilité. Cette évolution favorise l'inclusion financière en permettant à un plus grand nombre de personnes d'accéder au crédit. L'adaptabilité est essentielle pour gérer la nature dynamique des conditions économiques et l'évolution des comportements des consommateurs. Contrairement aux modèles traditionnels qui peinent à s'adapter aux perturbations imprévues, la capacité de la GenAI à apprendre et à s'adapter en permanence garantit l'efficacité du credit scoring en temps réel. Elle offre ainsi un outil plus résistant et plus réactif pour évaluer le risque de crédit. Outre ses prouesses prédictives, la GenAI peut contribuer à la transparence et à l'interprétabilité. Les modèles peuvent expliquer leurs décisions, ce qui permet de mieux comprendre les évaluations de crédit et de renforcer la confiance des consommateurs, des régulateurs et des institutions financières. Cependant, l'une des principales préoccupations liées à l'utilisation de la GenAI est l'hallucination, qui se caractérise par la génération d'informations absurdes, voire complètement erronées. Il existe plusieurs techniques pour atténuer ce risque. L'une d'entre elles consiste à utiliser la génération augmentée de récupération (RAG) . En récupérant des informations factuelles à partir de sources actualisées, la RAG s’assure que les réponses du modèle reflètent les informations les plus récentes et les plus précises disponibles. À titre d'exemple, Patronus AI utilise la RAG avec MongoDB Atlas pour permettre aux ingénieurs de noter et de comparer les performances des LLM dans des scénarios réels, de générer des cas de test contradictoires généralisés et de surveiller les hallucinations et autres comportements inattendus et dangereux. Cela peut aider à détecter les erreurs généralisées des LLM et à déployer des produits d'IA en toute sécurité. Robust Intelligence fait également appel aux services de MongoDB. Le pare-feu IA de la société protège les LLM en production en validant les entrées et les sorties en temps réel. Il évalue et atténue les risques opérationnels tels que les hallucinations, les risques éthiques, notamment les biais du modèle et les résultats toxiques, ainsi que les risques de sécurité tels que les injections rapides et les extractions de données à caractère personnel. Alors que l'IA générative continue de se développer, son intégration dans le credit scoring et les systèmes étendus de demande de crédit promet non seulement une avancée technologique, mais aussi une transformation fondamentale des processus d'évaluation et d'octroi de crédit. Une étape charnière dans l'histoire du crédit La convergence des données alternatives, de l'intelligence artificielle et de l'IA générative remodèle les fondements du credit scoring, et marque une étape charnière dans le secteur financier. L'adoption de méthodes alternatives de notation de crédit, qui offrent une évaluation plus inclusive et plus nuancée, permet de relever les défis des modèles traditionnels. Malgré le risque d'hallucination, l'IA générative est une solution résolument innovante. Elle révolutionne non seulement les capacités technologiques, mais redéfinit également fondamentalement l'évaluation du crédit et favorise une nouvelle ère d'inclusion, d'efficacité et d'équité financières. Si vous souhaitez en savoir plus sur la création d'applications alimentées par AI avec MongoDB, consultez les ressources suivantes : Numériser l’expérience de prêt et de crédit-bail avec MongoDB Développez des applications enrichies par l'IA avec des contrôles de sécurité adaptés, à l'échelle et qui offrent les performances attendues par les utilisateurs. Découvrez comment slice permet à des millions de personnes d'obtenir un crédit en moins d'une minute .

February 20, 2024

Reducir los sesgos en la calificación crediticia con IA generativa

La calificación crediticia desempeña un papel fundamental para determinar quién puede acceder a créditos y con qué términos. Sin embargo, a pesar de su importancia, los sistemas tradicionales de calificación crediticia han estado plagados de una serie de problemas críticos, desde sesgos y discriminación, hasta una consideración limitada de los datos y desafíos de escalabilidad. Por ejemplo, un estudio de préstamos estadounidenses demostró que a los prestatarios provenientes de minorías se les cobraban tasas de interés más altas (más del 8 %) y rechazaban préstamos con más frecuencia (más del 14 %) que a los prestatarios de grupos más privilegiados. La rigidez de los sistemas crediticios puede hacer que se adapten con lentitud a los cambios económicos y a la evolución de los comportamientos de los consumidores, dejando a algunas personas desatendidas y olvidadas. Para superar esto, los bancos y otros prestamistas buscan adoptar la inteligencia artificial para desarrollar modelos cada vez más sofisticados para puntuar el riesgo crediticio. En este artículo, exploraremos los fundamentos de la calificación crediticia, los desafíos que presentan los sistemas actuales y profundizaremos en cómo se puede aprovechar la inteligencia artificial (IA), en particular, la IA generativa (genAI) para mitigar el sesgo y mejorar la precisión. Desde la incorporación de fuentes de datos alternativas hasta el desarrollo de modelos de aprendizaje automático (ML), descubriremos el potencial transformador de la IA para remodelar el futuro de la calificación crediticia. Consulte nuestra página de recursos de IA para obtener más información sobre cómo crear aplicaciones basadas en IA con MongoDB. ¿Qué es la calificación crediticia? La calificación crediticia es un aspecto integral del panorama financiero, que sirve como un indicador numérico de la solvencia de una persona. Los prestamistas emplean esta métrica vital para evaluar el riesgo potencial asociado con la concesión de créditos o préstamos a particulares o empresas. Tradicionalmente, los bancos se basan en reglas predefinidas y modelos estadísticos que a menudo se construyen mediante regresión lineal o regresión logística. Los modelos se basan en datos crediticios históricos, con un enfoque en factores como el historial de pago, la utilización del crédito y la extensión del historial crediticio. Sin embargo, evaluar a los nuevos solicitantes de crédito plantea un desafío, lo que lleva a la necesidad de crear perfiles más precisos. Para atender a los segmentos desatendidos o desatendidos y tradicionalmente discriminados, las fintech y los bancos digitales están incorporando cada vez más información más allá del historial crediticio tradicional con datos alternativos para crear una visión más completa del comportamiento financiero de una persona. Desafíos de la calificación crediticia tradicional Las calificaciones crediticias son parte integral de la vida moderna porque sirven como un determinante crucial en diversas transacciones financieras, incluida la obtención de préstamos, el alquiler de un departamento, la obtención de seguros y, a veces, hasta las evaluaciones de empleo. El afán por mejorar el crédito puede ser un recorrido laberíntico, estos son algunos de los desafíos o las limitaciones de los modelos tradicionales de calificación crediticia que a menudo nublan el camino hacia la aprobación de la solicitud de crédito. Historial de crédito limitado: Muchas personas, especialmente las que se inician en el mundo del crédito, se encuentran con un obstáculo importante, o sea, un historial crediticio limitado o inexistente. Los modelos tradicionales de calificación crediticia dependen en gran medida del comportamiento crediticio pasado, lo que dificulta que las personas sin un historial crediticio sólido demuestren su solvencia. Aproximadamente 45 millones de estadounidenses no tienen calificaciones crediticias simplemente porque esos puntos de datos no existen para ellos. Ingresos irregulares: Los ingresos irregulares, típicos de los trabajos a tiempo parcial o por cuenta propia, suponen un reto para los modelos tradicionales de calificación crediticia, ya que pueden etiquetar a las personas como de mayor riesgo y dar lugar a denegaciones de solicitudes o a límites de crédito restrictivos. En 2023 en los Estados Unidos , las fuentes de datos difieren en la cantidad de personas que trabajan por cuenta propia. Una fuente muestra que más de 27 millones de estadounidenses presentaron documentos fiscales del Anexo C, que cubren los ingresos o pérdidas netos de un negocio, lo que destaca la necesidad de diferentes métodos de calificación crediticia para los trabajadores por cuenta propia. Elevada utilización del crédito existente: La fuerte dependencia del crédito existente se percibe a menudo como una señal de tensión financiera potencial, lo que influye en las decisiones crediticias. Las solicitudes de crédito pueden ser rechazadas o aprobadas con condiciones menos favorables, lo que refleja la preocupación por la capacidad del solicitante para gestionar de manera sensata el crédito adicional. Falta de claridad en los motivos del rechazo: No comprender los motivos detrás de los rechazos impide que los solicitantes aborden las causas raíz; en el Reino Unido, un estudio realizado entre abril de 2022 y abril de 2023 mostró que los principales motivos de rechazo incluían “un historial crediticio deficiente” (38 %), “no poder pagar los pagos” (28 %), “tener demasiados créditos” (19 %) y el 10 % dijo que no les dijeron por qué. Las razones, incluso cuando se dan, suelen ser demasiado imprecisas, lo que deja a los solicitantes sin los conocimientos que necesitan para abordar la causa raíz y mejorar su solvencia para futuras solicitudes. La falta de transparencia no solo es un problema para los clientes, sino que también puede suponer una sanción para los bancos. Por ejemplo, un banco de Berlín fue multado con €300 000 en 2023 por falta de transparencia a la hora de rechazar una solicitud de tarjeta de crédito. Falta de flexibilidad: Los cambios en el comportamiento de los consumidores, especialmente entre las generaciones más jóvenes que prefieren las transacciones digitales, desafían los modelos tradicionales. Factores como el aumento de la economía del trabajo a corto plazo, el empleo no tradicional, la deuda de préstamos estudiantiles y los altos costos de vida complican la evaluación de la estabilidad de los ingresos y la salud financiera. Las predicciones tradicionales de riesgo crediticio se limitan durante disrupciones sin precedentes como la pandemia de COVID-19, sin tener en cuenta esto en los modelos de puntuación. Reconocer estos desafíos destaca la necesidad de modelos alternativos de calificación crediticia que puedan adaptarse a comportamientos financieros en evolución, manejar fuentes de datos no tradicionales y proporcionar una evaluación más inclusiva y precisa de la solvencia crediticia en el panorama financiero dinámico actual. Calificación crediticia con datos alternativos La calificación crediticia alternativa se refiere al uso de fuentes de datos no tradicionales (también conocidas como datos alternativos) y métodos para evaluar la solvencia de una persona. Si bien la calificación crediticia tradicional depende en gran medida del historial crediticio de las principales agencias de crédito, la calificación crediticia alternativa incorpora una gama más amplia de factores para crear una imagen más completa del comportamiento financiero de una persona. A continuación, se muestran algunas de las fuentes de datos alternativas más populares: Pagos de servicios públicos: Más allá del historial crediticio, los pagos consistentes de servicios públicos como la electricidad y el agua ofrecen un poderoso indicador de responsabilidad financiera y revelan un compromiso con el cumplimiento de las obligaciones financieras, lo que proporciona información crucial más allá de las métricas tradicionales. Historial de alquiler: Para aquellos que no tienen una hipoteca, el historial de pagos de alquiler surge como una fuente de datos alternativa clave. Demostrar pagos de alquiler consistentes y oportunos ofrece una imagen integral de disciplina y confiabilidad financiera. Patrones de uso de teléfonos móviles: La ubicuidad de los teléfonos móviles desbloquea una gran cantidad de datos alternativos. El análisis de los patrones de llamadas y mensajes de texto permite conocer la red de contactos, la estabilidad y las conexiones sociales de una persona, lo que aporta información valiosa para la evaluación crediticia. Comportamiento de compra en línea: Examinar la frecuencia de compra, el tipo de compras y la cantidad gastada en compras en línea ofrece información valiosa sobre los comportamientos de gasto, lo que contribuye a una comprensión más matizada de los hábitos financieros. Historial educativo y laboral: La calificación crediticia alternativa tiene en cuenta el historial educativo y laboral de una persona. Los indicadores positivos, como los logros educativos y el empleo estable, desempeñan un papel crucial en la evaluación de la estabilidad financiera. Estas fuentes de datos alternativas representan un cambio hacia un enfoque más inclusivo, matizado y holístico de las evaluaciones crediticias. A medida que la tecnología financiera continúa avanzando, aprovechar estos conjuntos de datos alternativos garantiza una evaluación más completa de la solvencia, marcando un paso transformador en la evolución de los modelos de calificación crediticia. Calificación crediticia alternativa con inteligencia artificial Además del uso de datos alternativos, el uso de la IA como método alternativo ha surgido como una fuerza transformadora para abordar los desafíos de la calificación crediticia tradicional por varias razones: Capacidad para mitigar el sesgo: Al igual que los modelos estadísticos tradicionales, los modelos de IA, incluidos los LLM, entrenados con datos históricos sesgados heredarán los sesgos presentes en esos datos, lo que conducirá a resultados discriminatorios. Los LLM pueden enfocarse en ciertas características más que otras o pueden carecer de la capacidad de comprender el contexto más amplio de la situación financiera de un individuo, lo que lleva a una toma de decisiones sesgada. Sin embargo, existen varias técnicas para mitigar el sesgo de los modelos de IA: Estrategias de mitigación: Las iniciativas comienzan con el uso de datos de capacitación diversos y representativos para evitar reforzar los sesgos existentes. Las estrategias de mitigación inadecuadas o ineficaces pueden dar como resultado resultados sesgados que persisten en los modelos de calificación crediticia de IA. Prestar atención a los datos recopilados y al desarrollo del modelo es crucial para mitigar este sesgo. La incorporación de datos alternativos para la calificación crediticia desempeña un papel fundamental en la reducción de los sesgos. Las herramientas rigurosas de detección de sesgos, las restricciones de imparcialidad y las técnicas de regularización durante el entrenamiento mejoran la responsabilidad del modelo: Equilibrar la representación de características y emplear técnicas de posprocesamiento y algoritmos especializados contribuyen a la mitigación del sesgo. La evaluación inclusiva de modelos, el monitoreo continuo y la mejora iterativa, junto con el cumplimiento de pautas éticas y prácticas de gobernanza, completan un enfoque multifacético para reducir el sesgo en los modelos de IA. Esto es particularmente significativo para abordar las preocupaciones relacionadas con sesgos demográficos o socioeconómicos que pueden estar presentes en los datos crediticios históricos. Auditorías periódicas de sesgos: Realice auditorías periódicas para identificar y mitigar los sesgos en los LLM. Esto puede implicar analizar los resultados del modelo para detectar disparidades entre grupos demográficos y ajustar los algoritmos en consecuencia. Transparencia y capacidad de explicación: Aumentar la transparencia y la capacidad de explicación en los LLM para entender cómo se toman las decisiones. Esto puede ayudar a identificar y abordar procesos de toma de decisiones sesgados. Trade Ledger , una herramienta de software como servicio (SaaS) para préstamos, utiliza un enfoque basado en los datos para tomar decisiones informadas con mayor transparencia y trazabilidad al reunir datos de múltiples fuentes con diferentes esquemas en una única fuente de datos. Capacidad para analizar conjuntos de datos amplios y diversos: A diferencia de los modelos tradicionales que se basan en reglas predefinidas y datos crediticios históricos, los modelos de IA pueden procesar una infinidad de información, incluidas las fuentes de datos no tradicionales, para crear una evaluación más completa de la solvencia de una persona, lo que garantiza que se tenga en cuenta una gama más amplia de comportamientos financieros. La IA aporta una adaptabilidad sin precedentes: A medida que cambian las condiciones económicas y evolucionan los comportamientos de los consumidores, los modelos impulsados por IA pueden ajustarse rápidamente y aprender de los nuevos datos. El aspecto de aprendizaje continuo garantiza que la calificación crediticia siga siendo pertinente y eficaz ante los constantes cambios del panorama financiero. Las objeciones más comunes de los bancos a no utilizar la IA en la calificación crediticia son la transparencia y la capacidad de explicación en las decisiones crediticias. La complejidad inherente de algunos modelos de IA, especialmente los algoritmos de aprendizaje profundo, puede generar desafíos para brindar explicaciones claras para las decisiones con respecto a los créditos. Afortunadamente, la transparencia y la interpretabilidad de los modelos de IA han experimentado avances significativos. Técnicas como los valores SHapley Additive exPlanations (SHAP) y los gráficos Local Interpretable Model-Agnostic Explanations (LIME) , así como otros avances en el ámbito de la IA explicable (XAI), nos permiten ahora comprender cómo llega el modelo a decisiones crediticias concretas. Esto no solo mejora la confianza en el proceso de puntuación crediticia, sino que también aborda la crítica común de que los modelos de IA son “cajas negras”. Al comprender la importancia de aprovechar los datos alternativos que a menudo vienen en un formato semiestructurado o no estructurado, las instituciones financieras trabajan con MongoDB para mejorar sus procesos de solicitud de crédito con una forma más rápida, simple y flexible de hacer pagos y ofrecer crédito: Amar Bank, el principal banco digital de Indonesia , está combatiendo el sesgo al proporcionar micropréstamos a personas que no podrían obtener servicios financieros de los bancos tradicionales (no bancarizados y desatendidos). Los procesos tradicionales de suscripción eran inadecuados para los clientes que carecían de historial crediticio o garantías, por lo que optimizó las decisiones de préstamo al aprovechar los datos no estructurados. Con MongoDB Atlas, desarrollaron un modelo de análisis predictivo que integra datos estructurados y no estructurados para evaluar la solvencia de los prestatarios. La escalabilidad y la capacidad de MongoDB para administrar diversos tipos de datos fueron fundamentales para expandir y optimizar sus operaciones de préstamo. Para la gran mayoría de los indios, obtener crédito suele ser un desafío debido a las estrictas regulaciones y la falta de datos crediticios. Mediante el uso de sistemas de suscripción modernos, Slice , un innovador líder en el ecosistema fintech de la India, está ayudando a ampliar la accesibilidad al crédito en la India al simplificar su proceso KYC para dar una experiencia crediticia más fluida. Al utilizar MongoDB Atlas en diferentes casos de uso, incluso como almacén de funciones de ML en tiempo real, slice transformó su proceso de incorporación, reduciendo los tiempos de procesamiento a menos de un minuto. slice utiliza el almacén de características en tiempo real con MongoDB y modelos ML para calcular más de 100 variables al instante, lo que permite determinar la elegibilidad crediticia en menos de 30 segundos. Transformar la calificación crediticia con IA generativa Además del uso de datos alternativos y la IA en la calificación crediticia, la IA generativa tiene el potencial de revolucionar la calificación y la evaluación crediticia con su capacidad para crear datos sintéticos y comprender patrones intrincados, lo que ofrece un enfoque más matizado, adaptativo y predictivo. La capacidad de la IA generativa para sintetizar diversos conjuntos de datos aborda una de las limitaciones clave de la calificación crediticia tradicional: la dependencia de los datos crediticios históricos. Al crear datos sintéticos que reflejan los comportamientos financieros del mundo real, los modelos de IA generativa permiten una evaluación más inclusiva de la solvencia. Este cambio transformador promueve la inclusión financiera y abre puertas a un sector demográfico más amplio para que accedan a oportunidades de crédito. La adaptabilidad desempeña un papel crucial a la hora de navegar por la naturaleza dinámica de las condiciones económicas y los cambios en los comportamientos de los consumidores. A diferencia de los modelos tradicionales, que tienen dificultades para adaptarse a las interrupciones imprevistas, la capacidad de la IA generativa para aprender y adaptarse continuamente garantiza que la calificación crediticia siga siendo efectiva en tiempo real, ofreciendo una herramienta más resistente y receptiva para evaluar el riesgo crediticio. Además de su capacidad predictiva, la IA generativa puede contribuir a la transparencia y la capacidad de interpretación en la calificación crediticia. Los modelos pueden generar explicaciones para sus decisiones, proporcionando información más clara sobre las evaluaciones crediticias y mejorando la confianza entre los consumidores, los reguladores y las instituciones financieras. Sin embargo, una preocupación clave al hacer uso de la IA generativa es el problema de la alucinación, donde el modelo puede presentar información que no tiene sentido o es completamente falsa. Existen varias técnicas para mitigar este riesgo y una de ellas es el uso de la Generación de Aumento de Recuperación (RAG) . El RAG minimiza las alucinaciones basando las respuestas del modelo en información objetiva procedente de fuentes actualizadas, lo que garantiza que las respuestas del modelo reflejen la información más actual y precisa disponible. Por ejemplo, Patronus AI aprovecha RAG con MongoDB Atlas para permitir a los ingenieros calificar y comparar el rendimiento de los modelos de lenguaje grande (LLM) en escenarios del mundo real, generar casos de prueba adversariales a escala y monitorear las alucinaciones y otros comportamientos inesperados e inseguros. Esto puede ayudar a detectar errores de LLM a escala e implementar productos de IA de forma segura y confiable. Otro socio tecnológico de MongoDB es Robust Intelligence . El firewall de IA de la empresa protege los LLM en producción validando las entradas y salidas en tiempo real. Evalúa y mitiga los riesgos operativos, como las alucinaciones, los riesgos éticos, incluidos el sesgo del modelo y los resultados tóxicos, y los riesgos de seguridad, como las inyecciones rápidas y las extracciones de información personal identificable (PII). A medida que la IA generativa continúa madurando, su integración en la calificación crediticia y en los sistemas de solicitud de crédito más amplios promete no solo un avance tecnológico, sino una transformación fundamental en la forma en que evaluamos y otorgamos crédito. Un momento crucial en la historia del crédito La convergencia de datos alternativos, inteligencia artificial e IA generativa está remodelando los cimientos de la calificación crediticia, marcando un momento crucial en la industria financiera. Los desafíos de los modelos tradicionales se están superando a través de la adopción de métodos alternativos de calificación crediticia, ofreciendo una evaluación más inclusiva y matizada. La IA generativa, si bien presenta el desafío potencial de la alucinación, representa la vanguardia de la innovación, no solo revolucionando las capacidades tecnológicas, sino redefiniendo fundamentalmente la forma en que se evalúa el crédito, fomentando una nueva era de inclusión, eficiencia y equidad financiera. Si desea obtener más información sobre cómo crear aplicaciones enriquecidas con IA con MongoDB, eche un vistazo a los siguientes recursos: Digitalizar la experiencia de préstamos y arrendamientos con MongoDB Entregue aplicaciones enriquecidas con IA con los controles de seguridad adecuados, y a la escala y con el rendimiento que esperan los usuarios Descubra cómo slice posibilita la aprobación de crédito en menos de un minuto para millones

February 20, 2024

Reduzierung von Bias bei der Kreditwürdigkeitsprüfung mit generativer KI

Die Kreditwürdigkeitsprüfung spielt eine entscheidende Rolle bei der Entscheidung, wer Zugang zu einem Kredit erhält und zu welchen Konditionen. Trotz ihrer Bedeutung werden herkömmliche Kreditbewertungssysteme seit langem von einer Reihe kritischer Probleme geplagt, die von Verzerrungen und Diskriminierung bis hin zur begrenzten Berücksichtigung von Daten und Problemen bei der Skalierbarkeit reichen. So hat eine Studie über US-Kredite gezeigt, dass Kreditnehmer, die einer Minderheit angehören, höhere Zinssätze zahlen mussten (+8 %) und Kredite häufiger abgelehnt wurden (+14 %) als Kreditnehmer aus privilegierteren Gruppen. Die starre Natur der Kreditsysteme bedeutet, dass sie sich nur langsam an die sich verändernden wirtschaftlichen Gegebenheiten und das sich verändernde Verbraucherverhalten anpassen können, so dass einige Personen nicht ausreichend berücksichtigt und übersehen werden. Um dieses Problem zu lösen, setzen Banken und andere Kreditgeber auf künstliche Intelligenz, um immer ausgefeiltere Modelle zur Bewertung des Kreditrisikos zu entwickeln. In diesem Artikel befassen wir uns mit den Grundlagen der Kreditwürdigkeitsprüfung, den Herausforderungen aktueller Systeme und der Frage, wie künstliche Intelligenz (KI), insbesondere generative KI (genAI), genutzt werden kann, um Verzerrungen zu verringern und die Genauigkeit zu verbessern. Von der Einbeziehung alternativer Datenquellen bis hin zur Entwicklung von Modellen des maschinellen Lernens (ML) werden wir das transformative Potenzial der KI bei der Neugestaltung der Zukunft der Kreditwürdigkeitsprüfung aufdecken. Auf unserer KI-Ressourcenseite erfahren Sie mehr über die Entwicklung von KI-gestützten Apps mit MongoDB. Was ist eine Kreditwürdigkeitsprüfung? Die Kreditwürdigkeitsprüfung ist ein integraler Bestandteil der Finanzlandschaft und dient als numerischer Maßstab für die Kreditwürdigkeit einer Person. Diese wichtige Kennzahl wird von Kreditgebern verwendet, um das potenzielle Risiko zu bewerten, das mit der Vergabe von Krediten oder Darlehen an Privatpersonen oder Unternehmen verbunden ist. Traditionell verlassen sich Banken auf vordefinierte Regeln und statistische Modelle, die oft auf linearer oder logistischer Regression basieren. Die Modelle basieren auf historischen Kreditdaten und konzentrieren sich auf Faktoren wie Zahlungsverhalten, Kreditnutzung und Länge der Kredithistorie. Die Beurteilung neuer Kreditantragsteller stellt jedoch eine Herausforderung dar, sodass eine genauere Profilerstellung erforderlich ist. Um den traditionell diskriminierten unter- oder unversorgten Segmenten entgegenzukommen, integrieren Fintechs und digitale Banken zunehmend Informationen, die über die traditionelle Kredithistorie hinausgehen, mit alternativen Daten, um einen umfassenderen Überblick über das Finanzverhalten einer Person zu erhalten. Herausforderungen bei der traditionellen Kreditwürdigkeitsprüfung Bonitätsbewertungen sind aus dem modernen Leben nicht mehr wegzudenken, denn sie sind ein entscheidender Faktor bei verschiedenen Finanztransaktionen, z. B. bei der Sicherung von Krediten, der Anmietung einer Wohnung, dem Abschluss einer Versicherung und manchmal sogar bei der Einstellungsprüfung. Da das Bemühen um eine Kreditvergabe eine verworrene Angelegenheit sein kann, finden Sie hier einige der Herausforderungen oder Einschränkungen bei den traditionellen Kreditbewertungsmodellen, die oft den Weg zur Genehmigung eines Kreditantrags verstellen. Begrenzte Kredithistorie: Viele Personen, insbesondere diejenigen, die neu im Kreditgeschäft sind, stoßen auf eine große Hürde – eine begrenzte oder nicht vorhandene Kredithistorie. Herkömmliche Kreditbewertungsmodelle stützen sich stark auf das Kreditverhalten in der Vergangenheit, sodass es für Personen ohne eine solide Kredithistorie schwierig ist, ihre Kreditwürdigkeit nachzuweisen. Etwa 45 Millionen Amerikaner verfügen nicht über einen Kreditscore, weil es diese Daten für sie nicht gibt. Unregelmäßiges Einkommen: Unregelmäßiges Einkommen, typischerweise in Form von Teilzeitarbeit oder Freiberuflichkeit, stellt eine Herausforderung für herkömmliche Kreditwürdigkeitsmodelle dar und kann dazu führen, dass Personen als höheres Risiko eingestuft werden und Anträge abgelehnt oder Kreditlimits eingeschränkt werden. Im Jahr 2023 gibt es in den Vereinigten Staaten unterschiedliche Datenquellen darüber, wie viele Menschen selbständig sind. Aus einer Quelle geht hervor, dass mehr als 27 Millionen Amerikaner Steuerunterlagen nach „Schedule C“ eingereicht haben, die das Nettoeinkommen oder den Verlust aus einem Unternehmen abdecken – was die Notwendigkeit anderer Methoden der Kreditwürdigkeitsprüfung für Selbständige unterstreicht. Hohe Inanspruchnahme bestehender Kredite: Eine starke Inanspruchnahme bestehender Kredite wird oft als Zeichen einer potenziellen finanziellen Belastung wahrgenommen und beeinflusst die Kreditentscheidungen. Es kann vorkommen, dass Kreditanträge abgelehnt oder zu ungünstigeren Konditionen bewilligt werden, weil man Bedenken hat, ob der Antragsteller in der Lage ist, zusätzliche Kredite vernünftig zu verwalten. Mangelnde Klarheit bei den Ablehnungsgründen: Die Gründe für Ablehnungen zu verstehen, hindert die Antragsteller daran, die eigentlichen Ursachen anzugehen. Eine Studie aus dem Vereinigten Königreich, die zwischen April 2022 und April 2023 durchgeführt wurde, ergab, dass zu den Hauptgründen für eine Ablehnung „schlechte Kreditvergangenheit“ (38 %), „konnte sich die Rückzahlungen nicht leisten“ (28 %) und „zu viele andere Kredite“ (19 %) gehörten. 10 % gaben an, dass ihnen die Gründe nicht mitgeteilt wurden. Die Gründe, selbst wenn sie angegeben werden, sind oft zu vage, sodass die Antragsteller im Unklaren gelassen werden, was es ihnen erschwert, die Ursache zu beseitigen und ihre Kreditwürdigkeit für zukünftige Anträge zu verbessern. Der Mangel an Transparenz ist nicht nur ein Ärgernis für die Kunden, er kann auch zu einer Strafe für die Banken führen. So wurde zum Beispiel eine Berliner Bank im Jahr 2023 zu einer Geldstrafe von 300.000 Euro verurteilt , weil sie einen Kreditkartenantrag abgelehnt hatte und es dabei an Transparenz mangelte. Mangel an Flexibilität: Das veränderte Verbraucherverhalten, insbesondere bei den jüngeren Generationen, die digitale Transaktionen bevorzugen, stellt traditionelle Modelle in Frage. Faktoren wie das Aufkommen der Gig-Economy, nicht-traditionelle Beschäftigungsverhältnisse, Schulden für Studiendarlehen und hohe Lebenshaltungskosten erschweren die Beurteilung der Einkommensstabilität und finanziellen Situation. Herkömmliche Kreditrisikovorhersagen sind bei beispiellosen Störungen wie COVID-19 nur begrenzt möglich, da dies in den Bewertungsmodellen nicht berücksichtigt wird. Diese Herausforderungen unterstreichen den Bedarf an alternativen Kreditbewertungsmodellen, die sich an das sich verändernde Finanzverhalten anpassen, mit nicht-traditionellen Datenquellen umgehen können und eine umfassendere und genauere Bewertung der Kreditwürdigkeit in der dynamischen Finanzlandschaft von heute ermöglichen. Kreditwürdigkeitsprüfung mit alternativen Daten Die alternative Kreditwürdigkeitsprüfung bezieht sich auf die Verwendung von nicht-traditionellen Datenquellen (auch bekannt als alternative Daten) und Methoden zur Bewertung der Kreditwürdigkeit einer Person. Während sich die traditionelle Kreditwürdigkeitsprüfung stark auf die Kredithistorie der großen Kreditbüros stützt, bezieht die alternative Kreditwürdigkeitsprüfung eine breitere Palette von Faktoren ein, um ein umfassenderes Bild des Finanzverhaltens einer Person zu erstellen. Im Folgenden sind einige der beliebtesten alternativen Datenquellen aufgeführt: Zahlungen für Versorgungsleistungen: Abgesehen von der Kredithistorie sind regelmäßige Zahlungen für Versorgungsleistungen wie Strom und Wasser ein aussagekräftiger Indikator für finanzielles Verantwortungsbewusstsein und ein Zeichen dafür, dass Sie Ihren finanziellen Verpflichtungen nachkommen, was entscheidende Einblicke über die traditionellen Kennzahlen hinaus ermöglicht. Miethistorie: Für Personen ohne Hypothek erweist sich der Zahlungsverlauf von Mieten als eine wichtige alternative Datenquelle. Der Nachweis konsistenter und pünktlicher Mietzahlungen vermittelt ein umfassendes Bild von finanzieller Disziplin und Zuverlässigkeit. Nutzungsmuster von Mobiltelefonen: Die Allgegenwart von Mobiltelefonen erschließt eine Fülle alternativer Daten. Die Analyse von Anruf- und Textmustern bietet Einblicke in das Netzwerk, die Stabilität und die sozialen Verbindungen einer Person und liefert damit wertvolle Informationen für die Bonitätsbewertung. Online-Kaufverhalten: Die Untersuchung der Häufigkeit, Art und Höhe der Ausgaben für Online-Einkäufe bietet wertvolle Einblicke in das Ausgabeverhalten und trägt zu einem differenzierteren Verständnis der finanziellen Gewohnheiten bei. Bildungs- und Beschäftigungshintergrund: Die alternative Kreditwürdigkeitsprüfung berücksichtigt den Bildungs- und Beschäftigungsverlauf einer Person. Positive Indikatoren, wie z. B. Bildungsabschlüsse und stabile Beschäftigungsverhältnisse, spielen eine entscheidende Rolle bei der Bewertung der finanziellen Stabilität. Diese alternativen Datenquellen stellen eine Verlagerung hin zu einem umfassenderen, nuancierteren und ganzheitlicheren Ansatz für Bonitätsbewertungen dar. Da die Finanztechnologie immer weiter voranschreitet, gewährleistet die Nutzung dieser alternativen Datensätze eine umfassendere Bewertung der Kreditwürdigkeit und stellt einen entscheidenden Schritt in der Entwicklung von Kreditbewertungsmodellen dar. Alternative Kreditwürdigkeitsprüfung mit künstlicher Intelligenz Neben der Verwendung alternativer Daten hat sich der Einsatz von KI als alternative Methode aus einer Reihe von Gründen als transformative Kraft erwiesen, um die Herausforderungen der traditionellen Kreditwürdigkeitsprüfung zu bewältigen: Fähigkeit zur Abschwächung von Bias: Wie herkömmliche statistische Modelle werden auch KI-Modelle, einschließlich LLMs (Large Language Models), die auf historischen Daten trainiert wurden, die einen Bias aufweisen, diesen vererben, was zu diskriminierenden Ergebnissen führt. LLMs konzentrieren sich möglicherweise mehr auf bestimmte Merkmale als auf andere oder sind nicht in der Lage, den breiteren Kontext der finanziellen Situation einer Person zu verstehen, was zu voreingenommenen Entscheidungen führt. Es gibt jedoch verschiedene Techniken, um den Bias von KI-gestützten Modellen abzumildern: Strategien zur Eindämmung: Die Initiativen beginnen mit der Verwendung vielfältiger und repräsentativer Trainingsdaten, um zu vermeiden, dass ein bestehender Bias verstärkt wird. Unzureichende oder unwirksame Strategien zur Risikominderung können dazu führen, dass KI-Kreditbewertungsmodelle weiterhin verzerrte Ergebnisse liefern. Eine sorgfältige Auswahl der gesammelten Daten und die Entwicklung des Modells sind entscheidend, um diesen Bias abzuschwächen. Die Einbeziehung alternativer Daten für die Kreditwürdigkeitsprüfung spielt eine entscheidende Rolle bei der Reduzierung von Bias. Strenge Tools zur Bias-Erkennung, Fairness-Einschränkungen und Regularisierungstechniken während des Trainings verbessern die Verantwortlichkeit des Modells: Die ausgewogene Darstellung von Merkmalen und der Einsatz von Nachbearbeitungstechniken und speziellen Algorithmen tragen zur Bias-Minderung bei. Eine umfassende Modellbewertung, kontinuierliche Überwachung und iterative Verbesserung in Verbindung mit der Einhaltung ethischer Richtlinien und Governance-Praktiken vervollständigen einen vielschichtigen Ansatz zur Reduzierung von Bias in KI-Modellen. Dies ist besonders wichtig, um Bedenken hinsichtlich möglicher demographischer oder sozioökonomischer Unausgewogenheiten in historischen Kreditdaten auszuräumen. Regelmäßige Bias-Audits: Führen Sie regelmäßige Audits durch, um Bias in LLMs zu erkennen und zu mildern. Dies kann die Analyse der Modellergebnisse auf Unterschiede zwischen demografischen Gruppen und die entsprechende Anpassung der Algorithmen umfassen. Transparenz und Erklärbarkeit: Erhöhen Sie die Transparenz und Erklärbarkeit in LLMs, um zu verstehen, wie Entscheidungen getroffen werden. Dies kann dazu beitragen, voreingenommene Entscheidungsprozesse zu erkennen und anzugehen. Trade Ledger, ein Software-as-a-Service (SaaS)-Tool für die Kreditvergabe, verwendet einen datengesteuerten Ansatz, um fundierte Entscheidungen mit größerer Transparenz und Rückverfolgbarkeit zu treffen, indem Daten aus mehreren Quellen mit unterschiedlichen Schemata in einer einzigen Datenquelle zusammengeführt werden. Fähigkeit, große und vielfältige Datensätze zu analysieren: Im Gegensatz zu herkömmlichen Modellen, die sich auf vordefinierte Regeln und historische Kreditdaten stützen, können KI-Modelle eine Vielzahl von Informationen, einschließlich nicht-traditioneller Datenquellen, verarbeiten, um eine umfassendere Bewertung der Kreditwürdigkeit einer Person zu erstellen und sicherzustellen, dass ein breiteres Spektrum an finanziellen Verhaltensweisen berücksichtigt wird. AI bringt eine beispiellose Anpassungsfähigkeit mit sich: Wenn sich die wirtschaftlichen Bedingungen ändern und das Verbraucherverhalten sich weiterentwickelt, können AI-gestützte Modelle sich schnell anpassen und aus neuen Daten lernen. Der Aspekt des kontinuierlichen Lernens gewährleistet, dass die Kreditwürdigkeitsprüfung angesichts der sich ständig verändernden Finanzlandschaft relevant und effektiv bleibt. Die häufigsten Einwände von Banken gegen den Verzicht auf KI bei der Kreditbewertung sind Transparenz und Erklärbarkeit bei Kreditentscheidungen. Die inhärente Komplexität einiger KI-Modelle, insbesondere von Deep-Learning-Algorithmen, kann zu Problemen bei der Bereitstellung klarer Erklärungen für Kreditentscheidungen führen. Glücklicherweise haben sich die Transparenz und Interpretierbarkeit von KI-Modellen erheblich verbessert. Techniken wie SHAPley Additive exPlanations (SHAP) Werte und Local Interpretable Model-Agnostic Explanations (LIME) Plots und verschiedene andere Fortschritte im Bereich der Explainable AI (XAI) ermöglichen es uns nun zu verstehen, wie ein Modell zu bestimmten Kreditentscheidungen kommt. Dies stärkt nicht nur das Vertrauen in den Kreditbewertungsprozess, sondern richtet sich auch gegen die gängige Kritik, dass KI-Modelle „Black Boxes“ seien. Finanzinstitute haben erkannt, wie wichtig es ist, alternative Daten zu nutzen, die oft in einem halb- oder unstrukturierten Format vorliegen. Sie arbeiten mit MongoDB, um ihre Kreditantragsprozesse durch eine schnellere, einfachere und flexiblere Methode für Zahlungen und Kreditangebote zu verbessern: Die Amar Bank, Indonesiens führende digitale Bank , bekämpft Vorurteile, indem sie Mikrokredite an Menschen vergibt, die von traditionellen Banken keine Finanzdienstleistungen erhalten können („unbanked and underserved“). Herkömmliche Underwriting-Prozesse waren für Kunden ohne Kredithistorie oder Sicherheiten unzureichend, so dass sie die Kreditentscheidungen durch die Nutzung unstrukturierter Daten optimiert haben. Mithilfe von MongoDB Atlas entwickelten sie ein prädiktives Analysemodell, das strukturierte und unstrukturierte Daten zur Bewertung der Kreditwürdigkeit von Kreditnehmern integriert. Die Skalierbarkeit von MongoDB und die Fähigkeit, verschiedene Datentypen zu verwalten, waren entscheidend für die Erweiterung und Optimierung des Kreditgeschäfts. Für die große Mehrheit der Inder ist es aufgrund der strengen Vorschriften und des Mangels an Kreditdaten schwierig, einen Kredit zu bekommen. Durch den Einsatz moderner Underwriting-Systeme trägt Slice , ein führender Innovator im indischen Fintech-Ökosystem, dazu bei, den Zugang zu Krediten in Indien zu erweitern, indem es den KYC-Prozess für ein reibungsloseres Krediterlebnis optimiert. Durch den Einsatz von MongoDB Atlas in verschiedenen Anwendungsfällen, u. a. als Echtzeitspeicher für ML-Funktionen, konnte Slice den Onboarding-Prozess umgestalten und die Verarbeitungszeiten auf unter eine Minute reduzieren. Slice nutzt den Echtzeit-Feature-Store mit MongoDB und ML-Modellen zur sofortigen Berechnung von über 100 Variablen und ermöglicht so die Bestimmung der Kreditwürdigkeit in weniger als 30 Sekunden. Die Kreditbewertung mit generativer KI transformieren Neben der Verwendung von alternativen Daten und KI bei der Kreditwürdigkeitsprüfung hat GenAI das Potenzial, die Kreditwürdigkeitsprüfung und -bewertung zu revolutionieren, da sie in der Lage ist, synthetische Daten zu erstellen und komplizierte Muster zu verstehen, was einen nuancierteren, adaptiven und prädiktiven Ansatz ermöglicht. Die Fähigkeit von GenAI, verschiedene Datensätze zu synthetisieren, adressiert eine der wichtigsten Einschränkungen der traditionellen Kreditwürdigkeitsprüfung – die Abhängigkeit von historischen Kreditdaten. Durch die Erstellung synthetischer Daten, die das reale Finanzverhalten widerspiegeln, ermöglichen GenAI-Modelle eine umfassendere Bewertung der Kreditwürdigkeit. Dieser Wandel fördert die finanzielle Inklusivität und öffnet einer breiteren Bevölkerungsschicht die Türen für den Zugang zu Kreditmöglichkeiten. Anpassungsfähigkeit spielt eine entscheidende Rolle, wenn es darum geht, die Dynamik der wirtschaftlichen Bedingungen und das sich ändernde Verbraucherverhalten zu steuern. Im Gegensatz zu herkömmlichen Modellen, die sich nur schwer an unvorhergesehene Störungen anpassen können, sorgt die Fähigkeit von GenAI, kontinuierlich zu lernen und sich anzupassen, dafür, dass die Kreditwürdigkeitsprüfung in Echtzeit effektiv bleibt und ein belastbareres und reaktionsfähigeres Instrument zur Bewertung des Kreditrisikos bietet. Zusätzlich zu ihren Vorhersagefähigkeiten kann GenAI zu Transparenz und Interpretierbarkeit bei der Kreditwürdigkeitsprüfung beitragen. Modelle können Erklärungen für ihre Entscheidungen liefern, die einen besseren Einblick in die Kreditwürdigkeitsprüfung ermöglichen und das Vertrauen zwischen Verbrauchern, Regulierungsbehörden und Finanzinstituten stärken. Ein Hauptproblem bei der Verwendung von GenAI ist jedoch das Problem der Halluzinationen, bei denen das Modell Informationen präsentieren kann, die entweder unsinnig oder schlichtweg falsch sind. Es gibt verschiedene Techniken, um dieses Risiko zu mindern. Eine davon ist der RAG-Ansatz ( Retrieval Augment Generation ). RAG minimiert Halluzinationen, indem es die Antworten des Modells auf sachliche Informationen aus aktuellen Quellen stützt und so sicherstellt, dass die Antworten des Modells die aktuellsten und genauesten verfügbaren Informationen widerspiegeln. Patronus AI beispielsweise nutzt RAG mit MongoDB Atlas , um Ingenieuren die Möglichkeit zu geben, die Leistung großer Sprachmodelle (LLMs) in realen Szenarien zu bewerten und zu benchmarken, gegnerische Testfälle in großem Umfang zu generieren und Halluzinationen und anderes unerwartetes und unsicheres Verhalten zu überwachen. Dies kann dazu beitragen, LLM-Fehler in großem Umfang zu erkennen und KI-Produkte sicher und vertrauensvoll einzusetzen. Ein weiterer Technologiepartner von MongoDB ist Robust Intelligence . Die KI-Firewall dieses Unternehmens schützt LLMs in der Produktion, indem sie Eingaben und Ausgaben in Echtzeit validiert. Es bewertet und mindert operationelle Risiken wie Halluzinationen, ethische Risiken wie Modellverzerrungen und toxische Ergebnisse sowie Sicherheitsrisiken wie Sofortinjektionen und -extraktionen personenbezogener Daten (Personal Identifiable Information, PII). Da die generative KI immer weiter reift, verspricht ihre Integration in die Kreditwürdigkeitsprüfung und die breiteren Kreditantragssysteme nicht nur einen technologischen Fortschritt, sondern einen grundlegenden Wandel in der Art und Weise, wie wir Kredite bewerten und vergeben. Ein entscheidender Moment in der Geschichte des Kredits Die Konvergenz von alternativen Daten, künstlicher Intelligenz und generativer KI verändert die Grundlagen der Kreditwürdigkeitsprüfung und markiert einen entscheidenden Moment in der Finanzbranche. Die Herausforderungen traditioneller Modelle werden durch die Einführung alternativer Kreditbewertungsmethoden überwunden, die eine umfassendere und nuanciertere Bewertung bieten. Generative KI stellt zwar die potenzielle Herausforderung der Halluzination dar, ist aber ein Vorreiter der Innovation. Sie revolutioniert nicht nur die technologischen Möglichkeiten, sondern definiert auch die Art und Weise, wie Kredite bewertet werden, grundlegend neu und fördert so eine neue Ära der finanziellen Inklusivität, Effizienz und Fairness. Wenn Sie mehr über die Erstellung von KI-angereicherten Anwendungen mit MongoDB erfahren möchten, werfen Sie einen Blick auf die folgenden Ressourcen: Digitalisierung des Kredit- und Leasinggeschäfts mit MongoDB Versehen Sie KI-gestützte Apps mit den richtigen Sicherheitskontrollen und in der Größe und Leistung, die vom Benutzer erwartet wird Entdecken Sie, wie Slice für Millionen von Menschen eine Kreditgenehmigung in weniger als einer Minute ermöglicht

February 20, 2024

Reduzindo o viés na pontuação de crédito com IA generativa

A pontuação de crédito desempenha um papel fundamental na determinação de quem tem acesso ao crédito e em quais condições. No entanto, apesar de sua importância, os sistemas tradicionais de pontuação de crédito há muito tempo são afetados por uma série de problemas críticos, desde vieses e discriminação até a consideração limitada de dados e desafios de escalabilidade. Por exemplo, um estudo sobre empréstimos nos EUA mostrou que as minorias cobraram taxas de juros mais altas (+8%) e rejeitaram empréstimos com mais frequência (+14%) do que os mutuários de grupos mais privilegiados. A natureza rígida dos sistemas de crédito significa que eles podem ser lentos para se adaptar às mudanças nos cenários econômicos e à evolução dos comportamentos dos consumidores, deixando algumas pessoas desassistidas e negligenciadas. Para superar esse problema, os bancos e outros credores estão procurando adotar a inteligência artificial para desenvolver modelos cada vez mais sofisticados para avaliar o risco de crédito. Neste artigo, exploraremos os fundamentos da pontuação de crédito, os desafios que os sistemas atuais apresentam e nos aprofundaremos em como a inteligência artificial (IA), em especial a IA generativa (genAI), pode ser aproveitada para mitigar vieses e melhorar a precisão. Desde a incorporação de fontes de dados alternativas até o desenvolvimento de modelos de aprendizado de máquina (ML), descobriremos o potencial transformador da IA para remodelar o futuro da pontuação de crédito. Confira nossa página de recursos de IA para saber mais sobre como criar aplicativos baseados em IA com o MongoDB. O que é pontuação de crédito? A pontuação de crédito é um aspecto integral do cenário financeiro, servindo como um indicador numérico da capacidade de crédito de um indivíduo. Essa métrica vital é empregada pelos credores para avaliar o risco potencial associado à concessão de crédito e aos empréstimos a pessoas ou empresas. Tradicionalmente, os bancos se baseiam em regras predefinidas e modelos estatísticos, geralmente construídos por meio de regressão linear ou regressão logística. Os modelos são baseados em dados históricos de crédito, concentrando-se em fatores como histórico de pagamentos, utilização de crédito e duração do histórico de crédito. No entanto, a avaliação de novos solicitantes de crédito representa um desafio, levando à necessidade de um perfil mais preciso. Para atender aos segmentos carentes ou não atendidos, tradicionalmente discriminados, as fintechs e os bancos digitais estão incorporando cada vez mais informações além do histórico de crédito tradicional, com dados alternativos para criar uma visão mais abrangente do comportamento financeiro de um indivíduo. Desafios da pontuação de crédito tradicional As pontuações de crédito são parte integrante da vida moderna porque servem como um determinante crucial em várias transações financeiras, incluindo a obtenção de empréstimos, o aluguel de um apartamento, a obtenção de seguros e, às vezes, até mesmo em exames de emprego. Como a busca de crédito pode ser uma jornada labiríntica, aqui estão alguns dos desafios ou limitações dos modelos tradicionais de pontuação de crédito que, muitas vezes, obscurecem o caminho para a aprovação da solicitação de crédito. Histórico de crédito limitado: muitas pessoas, especialmente aquelas que são novas no jogo do crédito, encontram um obstáculo significativo – histórico de crédito limitado ou inexistente. Os modelos tradicionais de pontuação de crédito dependem muito do comportamento de crédito anterior, o que torna difícil para indivíduos sem um histórico de crédito sólido comprovar sua capacidade de crédito. Cerca de 45 milhões de americanos não têm pontuação de crédito simplesmente porque esses dados não existem para eles. Renda inconsistente: a renda irregular, típica do trabalho de meio período ou freelancer, representa um desafio para os modelos tradicionais de pontuação de crédito, rotulando potencialmente os indivíduos como de maior risco e levando a recusas de aplicação ou limites de crédito restritivos. Em 2023, nos Estados Unidos , as fontes de dados divergem sobre a quantidade de pessoas autônomas. Uma fonte mostra que mais de 27 milhões de americanos apresentaram documentos fiscais do Schedule C, que cobrem a renda líquida ou a perda de um negócio – destacando a necessidade de métodos diferentes de pontuação de crédito para os autônomos. Alta utilização do crédito existente: a forte dependência do crédito existente é frequentemente percebida como um sinal de possível tensão financeira, influenciando as decisões de crédito. As solicitações de crédito podem ser rejeitadas ou aprovadas com termos menos favoráveis, refletindo preocupações sobre a capacidade do solicitante de obter crédito adicional de forma criteriosa. Falta de clareza nos motivos da rejeição: a compreensão dos motivos por trás das rejeições impede que candidatos abordem as causas principais – no Reino Unido, um estudo entre abril de 2022 e abril de 2023 mostrou que os principais motivos para a rejeição incluíam "histórico de crédito ruim" (38%), "não podia arcar com os pagamentos" (28%), "ter muitos outros créditos" (19%) e 10% disseram que não foram informados do motivo. Os motivos, mesmo quando apresentados, costumam ser muito vagos, o que deixa os solicitantes no escuro, dificultando a solução da causa principal e o aprimoramento de sua capacidade de crédito para futuras aplicações. A falta de transparência não é apenas um problema para os clientes, mas também pode levar a uma penalidade para os bancos. Por exemplo, um banco de Berlim foi multado em 300 mil euros em 2023 por falta de transparência ao recusar uma aplicação de cartão de crédito. Falta de flexibilidade: as mudanças no comportamento do consumidor, especialmente entre as gerações mais jovens que preferem as transações digitais, desafiam os modelos tradicionais. Fatores como o aumento da economia do bico, empregos não tradicionais, dívidas de empréstimos estudantis e altos custos de vida complicam a avaliação da estabilidade da renda e da saúde financeira. As previsões tradicionais de risco de crédito são limitadas durante interrupções sem precedentes, como a COVID-19, não levando isso em consideração nos modelos de pontuação. O reconhecimento desses desafios destaca a necessidade de modelos alternativos de pontuação de crédito que possam se adaptar à evolução dos comportamentos financeiros, lidar com fontes de dados não tradicionais e fornecer uma avaliação mais inclusiva e precisa da capacidade de crédito no dinâmico cenário financeiro atual. Pontuação de crédito com dados alternativos A pontuação de crédito alternativa se refere ao uso de fontes de dados não tradicionais (também conhecidos como dados alternativos) e métodos para avaliar a capacidade de crédito de um indivíduo. Embora a pontuação de crédito tradicional dependa muito do histórico de crédito das principais agências de crédito, a pontuação de crédito alternativa incorpora uma gama mais ampla de fatores para criar um quadro mais abrangente do comportamento financeiro de uma pessoa. Abaixo estão algumas das fontes de dados alternativas populares: Pagamentos de serviços públicos: Além do histórico de crédito, os pagamentos consistentes de serviços públicos, como eletricidade e água, oferecem um indicador poderoso de responsabilidade financeira e revelam um compromisso com o cumprimento das obrigações financeiras, fornecendo insights cruciais além das métricas tradicionais. Histórico de aluguel: para aqueles que não têm uma hipoteca, o histórico de pagamento de aluguel surge como uma fonte de dados alternativa importante. A demonstração de pagamentos consistentes e pontuais de aluguéis mostra um quadro abrangente de disciplina e confiabilidade financeira. Padrões de uso de celulares: a onipresença dos telefones celulares revela uma grande variedade de dados alternativos. A análise dos padrões de chamadas e mensagens de texto fornece insights sobre a rede, a estabilidade e as conexões sociais de um indivíduo, contribuindo com informações valiosas para avaliações de crédito. Comportamento de compras on-line: o exame da frequência, do tipo e do valor gasto em compras on-line oferece informações valiosas sobre o comportamento de gastos, contribuindo para uma compreensão mais detalhada dos hábitos financeiros. Histórico educacional e profissional: a pontuação de crédito alternativa considera o histórico educacional e de emprego de um indivíduo. Indicadores positivos, como histórico escolar e emprego estável, desempenham um papel fundamental na avaliação da estabilidade financeira. Essas fontes de dados alternativas representam uma mudança em direção a uma abordagem mais inclusiva, matizada e holística das avaliações de crédito. À medida que a tecnologia financeira continua avançando, a utilização desses conjuntos de dados alternativos garante uma avaliação mais abrangente da capacidade de crédito, marcando uma etapa transformadora na evolução dos modelos de pontuação de crédito. Pontuação de crédito alternativa com inteligência artificial Além do uso de dados alternativos, o uso de IA como um método alternativo surgiu como uma força transformadora para enfrentar os desafios da pontuação de crédito tradicional, por vários motivos: Capacidade de atenuar a parcialidade: assim como os modelos estatísticos tradicionais, os modelos de IA, inclusive os LLMs, treinados em dados históricos enviesados herdarão as tendências presentes nesses dados, levando a resultados discriminatórios. Os LLMs podem se concentrar mais em determinados recursos do que em outros ou podem não ter a capacidade de entender o contexto mais amplo da situação financeira de um indivíduo, o que leva a uma tomada de decisão tendenciosa. No entanto, existem várias técnicas para mitigar o viés dos modelos de IA: Estratégias de mitigação: as iniciativas começam com o uso de dados de treinamento diversificados e representativos para evitar o reforço de vieses existentes. Estratégias de mitigação inadequadas ou ineficazes podem resultar em resultados tendenciosos que persistem nos modelos de pontuação de crédito de IA. A atenção cuidadosa aos dados coletados e ao desenvolvimento do modelo é fundamental para mitigar esse viés. A incorporação de dados alternativos para pontuação de crédito desempenha um papel crucial na redução de vieses. Ferramentas rigorosas de detecção de vieses, restrições de equidade e técnicas de regularização durante o treinamento aprimoram a responsabilidade do modelo: o equilíbrio da representação de recursos e o emprego de técnicas de pós-processamento e algoritmos especializados contribuem para a mitigação de vieses. Avaliação de modelos inclusivos, monitoramento contínuo e melhoria iterativa, juntamente com a aderência a diretrizes éticas e práticas de governança, completam uma abordagem multifacetada para reduzir o viés em modelos de IA. Isso é particularmente importante para tratar de preocupações relacionadas a vieses demográficos ou socioeconômicos que possam estar presentes em dados históricos de crédito. Auditorias regulares de viés: realize auditorias regulares para identificar e mitigar vieses em LLMs. Isso pode envolver a análise dos resultados do modelo quanto a disparidades entre grupos demográficos e o ajuste adequado dos algoritmos. Transparência e explicabilidade: aumente a transparência e a explicabilidade nos LLMs para entender como as decisões são tomadas. Isso pode ajudar a identificar e abordar processos decisórios enviesados. O Trade Ledger , uma ferramenta de software como serviço (SaaS) para empréstimos, usa uma abordagem orientada por dados para tomar decisões informadas com maior transparência e rastreabilidade, reunindo dados de várias fontes com diferentes esquemas em uma única fonte de dados. Capacidade de analisar conjuntos de dados vastos e diversificados: ao contrário dos modelos tradicionais que se baseiam em regras predefinidas e dados históricos de crédito, os modelos de IA podem processar uma infinidade de informações, inclusive fontes de dados não tradicionais, para criar uma avaliação mais abrangente da capacidade de crédito de um indivíduo, garantindo que uma gama mais ampla de comportamentos financeiros seja considerada. A IA traz uma adaptabilidade inigualável: à medida que as condições econômicas mudam e os comportamentos dos consumidores evoluem, os modelos alimentados por IA podem se ajustar rapidamente e aprender com novos dados. O aspecto do aprendizado contínuo garante que a pontuação de crédito permaneça relevante e eficaz diante de cenários financeiros em constante mudança. As objeções mais comuns dos bancos para não usar IA na pontuação de crédito são a transparência e a explicabilidade nas decisões de crédito. A complexidade inerente de alguns modelos de IA, especialmente os algoritmos de aprendizagem profunda, pode levar a desafios no fornecimento de explicações claras para as decisões de crédito. Felizmente, a transparência e a interpretabilidade dos modelos de IA têm visto avanços significativos. Técnicas como os valores SHAP (SHapley Additive exPlanations) e os gráficos LIME (Local Interpretable Model-Agnostic Explanations) e vários outros avanços no domínio da XAI (Explainable AI) agora nos permitem entender como o modelo chega a decisões de crédito específicas. Isso não apenas aumenta a confiança no processo de pontuação de crédito, mas também aborda a crítica comum de que os modelos de IA são "caixas pretas." Compreendendo a importância de aproveitar dados alternativos que geralmente vêm em um formato semi ou não estruturado, as instituições financeiras trabalham com o MongoDB para aprimorar seus processos de aplicação de crédito com uma maneira mais rápida, simples e flexível de fazer pagamentos e oferecer crédito: O Amar Bank, principal banco digital da Indonésia , está combatendo vieses através do fornecimento de microempréstimos para pessoas que não seriam capazes de obter serviços financeiros de bancos tradicionais (desbancarizados e mal servidos). Os processos tradicionais de subscrição eram inadequados para clientes sem histórico de crédito ou garantias, portanto, eles simplificaram as decisões de empréstimo aproveitando dados não estruturados. Utilizando o MongoDB Atlas, eles desenvolveram um modelo de análise preditiva integrando dados estruturados e não estruturados para avaliar a capacidade de crédito do mutuário. A escalabilidade e a capacidade do MongoDB de gerenciar diversos tipos de dados foram fundamentais para expandir e otimizar suas operações de empréstimo. Para a grande maioria dos indianos, a obtenção de crédito é normalmente um desafio devido a regulamentações rigorosas e à falta de dados de crédito. Por meio do uso de sistemas modernos de subscrição, a Slice , uma inovadora líder no ecossistema de fintech da Índia, está ajudando a ampliar a acessibilidade ao crédito na Índia, simplificando o processo de KYC para uma experiência de crédito mais tranquila. Ao utilizar o MongoDB Atlas em diferentes casos de uso, inclusive como um armazenamento de recursos de ML em tempo real, a slice transformou seu processo de integração, reduzindo o tempo de processamento para menos de um minuto. O slice usa o armazenamento de recursos em tempo real com MongoDB e modelos de ML para calcular mais de 100 variáveis instantaneamente, permitindo a determinação da elegibilidade de crédito em menos de 30 segundos. Transformando a pontuação de crédito com IA generativa Além do uso de dados alternativos e IA na pontuação de crédito, a GenAI tem o potencial de revolucionar a pontuação e a avaliação de crédito com sua capacidade de criar dados sintéticos e entender padrões complexos, oferecendo uma abordagem mais matizada, adaptativa e preditiva. A capacidade da GenAI de sintetizar diversos conjuntos de dados aborda uma das principais limitações da pontuação de crédito tradicional – a dependência de dados históricos de crédito. Ao criar dados sintéticos que espelham os comportamentos financeiros do mundo real, os modelos GenAI permitem uma avaliação mais inclusiva da capacidade de crédito. Essa mudança transformadora promove a inclusão financeira, abrindo portas para que um grupo demográfico mais amplo tenha acesso a oportunidades de crédito. A adaptabilidade desempenha um papel crucial na navegação pela natureza dinâmica das condições econômicas e na mudança dos comportamentos do consumidor. Ao contrário dos modelos tradicionais, que lutam para se ajustar a interrupções imprevistas, a capacidade da GenAI de aprender e se adaptar continuamente garante que a pontuação de crédito permaneça eficaz em tempo real, oferecendo uma ferramenta mais resiliente e responsiva para avaliar o risco de crédito. Além de sua capacidade de previsão, a GenAI pode contribuir para a transparência e a interpretabilidade da pontuação de crédito. Os modelos podem gerar explicações para suas decisões, fornecendo percepções mais claras sobre as avaliações de crédito e aumentando a confiança entre consumidores, órgãos reguladores e instituições financeiras. No entanto, uma das principais preocupações ao usar a GenAI é o problema da alucinação, em que o modelo pode apresentar informações sem sentido ou totalmente falsas. Há várias técnicas para mitigar esse risco, e uma delas é usar a abordagem RAG (Retrieval Augment Generation) . O RAG minimiza as alucinações ao fundamentar as respostas do modelo em informações factuais de fontes atualizadas, garantindo que as respostas do modelo reflitam as informações mais atuais e precisas disponíveis. A Patronus AI , por exemplo, utiliza o RAG com o MongoDB Atlas para permitir que os engenheiros pontuem e avaliem o desempenho de grandes modelos de linguagem (LLMs) em cenários do mundo real, gerem casos de teste adversários em escala e monitorem alucinações e outros comportamentos inesperados e inseguros. Isso pode ajudar a detectar erros de LLM em escala e implementar produtos de IA com segurança e confiança. Outro parceiro de tecnologia do MongoDB é o Robust Intelligence . O AI Firewall da empresa protege os LLMs em produção, validando entradas e saídas em tempo real. Ele avalia e mitiga riscos operacionais, como alucinações, riscos éticos, incluindo viés de modelo e resultados tóxicos, e riscos de segurança, como injeções imediatas e extrações de informações de identificação pessoal (PII). À medida que a IA generativa continua a amadurecer, sua integração à pontuação de crédito e aos sistemas mais amplos de aplicação de crédito promete não apenas um avanço tecnológico, mas uma transformação fundamental na forma como avaliamos e concedemos crédito. Um momento crucial na história do crédito A convergência de dados alternativos, inteligência artificial e IA generativa está reformulando os fundamentos da pontuação de crédito, marcando um momento crucial no setor financeiro. Os desafios dos modelos tradicionais estão sendo superados com a adoção de métodos alternativos de pontuação de crédito, oferecendo uma avaliação mais inclusiva e diferenciada. A IA generativa, embora apresente o possível desafio da alucinação, representa a vanguarda da inovação, não apenas revolucionando os recursos tecnológicos, mas redefinindo fundamentalmente a forma como o crédito é avaliado, promovendo uma nova era de inclusão financeira, eficiência e justiça. Se quiser saber mais sobre como criar aplicações aprimoradas com IA com o MongoDB, dê uma olhada nos recursos a seguir: Digitalização da experiência de empréstimo e leasing com o MongoDB Ofereça aplicativos aprimorados com IA com os controles de segurança corretos e dentro da escala e do desempenho esperados pelos usuários Descubra como o Slice permite a aprovação de crédito em menos de um minuto para milhões de pessoas

February 20, 2024

利用生成式 AI 减少信用评分的偏差

信用评分在确定谁获得信贷以及以何种条件获得信贷方面发挥着关键作用。然而,尽管这一点很重要,但传统的信用评分系统长期以来一直受到一系列关键问题的困扰 — 从偏见和歧视到有限的数据考虑和可扩展性挑战。例如,一项针对 美国贷款的研究 表明,与来自特权群体的借款人相比,少数族裔借款人被收取的利率更高 (+8%),被拒绝贷款的频率也更高 (+14%)。 僵化的信贷系统反应迟缓,无法快速适应不断变化的经济形势和消费者行为,这会导致一些人得不到充分服务并被忽视。为了解决这一问题,银行和其他贷款机构正在寻求采用人工智能来开发日益复杂的信用风险评分模型。' 在本文中,我们将了解信用评分的基础知识、当前系统面临的挑战,并深入探讨如何利用人工智能 ( AI ),特别是生成式 AI (genAI) 来减少偏差并提高准确性。从替代数据源的整合到机器学习 (ML) 模型的开发,我们将揭示 AI 在重塑信用评分未来方面的变革潜力。 请查看我们的 AI 资源页面 ,了解有关使用 MongoDB 构建 AI 驱动的应用的更多信息。 什么是信用评分? 信用评分是金融领域不可或缺的一个方面,是衡量个人信用状况的一个数字标准。贷方利用这一重要指标来评估与向个人或企业提供信贷或贷款相关的潜在风险。 传统上,银行依赖于通常使用线性回归或逻辑回归构建的预定义规则和统计模型。这些模型以历史信用数据为基础,重点关注支付历史、信用利用率和信用历史长度等因素。 但是,评估新的信用申请人是一项挑战,因此需要更准确的分析评估。为了满足传统上受到歧视的、得不到充分服务或服务不足的群体的需求,金融科技公司和数字银行正越来越多地将传统信用记录以外的信息与其他数据结合起来,以便更全面地了解个人的金融行为。 传统信用评分面临的挑战 信用评分是现代生活中不可或缺的一部分,因为它在各种金融交易(包括获得贷款、租房、购买保险,甚至是就业筛选)中起着至关重要的决定性作用。追求信用可能是一段迷宫般的旅程,传统信用评分模型存在一些挑战或限制,这些挑战或限制通常会阻碍信用申请的批准。 有限的信用记录: 许多人,尤其是那些刚接触信用游戏的人,都会遇到一个重大障碍 — 信用记录有限或根本不存在。传统的信用评分模型严重依赖于过去的信用行为,这使得没有良好信用记录的个人很难证明自己的信用度。大约有 4,500 万美国人缺乏信用评分,仅仅是因为他们没有这些数据点。 收入不稳定: 非经常性收入(这在兼职工作或自由职业中很常见)对传统的信用评分模型提出了挑战,可能会给个人贴上更高风险的标签,并导致其申请被拒绝或信用额度受到限制。 关于 2023 年美国有多少人从事个体经营,数据来源各不相同。一个数据来源显示,有超过 2,700 万美国人提交了附表 C 纳税文件,其中涵盖了来自一项业务的净收入或损失 — 这突显了那些个体经营者对于不同信用评分方法的需求。 现有信用利用率高: 对现有信用的严重依赖往往被视为潜在财务压力的信号,从而影响信用决策。信用申请可能会面临拒绝或以不太有利的条件获得批准,这反映出对申请人明智地管理额外信用能力的担忧。 拒绝原因不明确: 即使了解申请被拒的原因也无法让申请人从根本上解决问题 — 在英国, 2022 年 4 月至 2023 年 4 月期间的一项研究显示,申请被拒的主要原因包括“信用记录不良”(38%)、“无力偿还贷款”(38%)、“有太多其他信贷”(19%),还有 10% 的人表示没有被告知原因。即使给出了原因,往往也太模糊,让申请人一筹莫展,难以解决根本问题并提高他们未来申请的信用度。缺乏透明度不仅会给客户带来麻烦,还可能导致银行受到处罚。例如,2023 年,柏林一家银行因在拒绝信用卡申请时缺乏透明度而被罚款 30 万欧元。 缺乏灵活性: 消费者行为的转变,尤其是年轻一代对数字交易的青睐,对传统模式提出了挑战。零工经济的兴起、非传统就业、学生贷款债务和高昂的生活成本等因素使评估收入稳定性和财务健康状况变得更加复杂。在像新冠疫情这样前所未有的破坏事件中,传统的信用风险预测是有限的,在评分模型中没有考虑到这一点。 认识到这些挑战,就需要有替代的信用评分模型,以适应不断变化的金融行为,处理非传统的数据来源,并在当今动态变化的金融环境中提供更具包容性和更准确的信用度评估。 使用替代数据进行信用评分 替代信用评分是指使用非传统数据源(又名替代数据)和方法来评估个人信用度。传统的信用评分在很大程度上依赖于主要征信机构的信用记录,而替代信用评分则纳入了更广泛的因素,以更全面地反映个人的金融行为。以下是一些常用的替代数据源: 公用事业付款: 除信用记录外,持续支付水电等公用事业费用也是衡量财务责任的有力指标,显示了履行财务义务的决心,提供了传统指标之外的重要见解。 租赁记录: 对于没有抵押贷款的人来说,租金支付历史记录是一个重要的替代数据来源。持续、及时支付租金的表现全面反映了对财务纪律的遵守和可靠性。 手机使用模式: 手机的普及解锁了大量的替代数据。通过分析通话和短信模式,可以深入了解个人的网络、稳定性和社交关系,为信用评估提供有价值的信息。 网上购物行为: 对网购的频率、类型和金额进行研究,为了解消费行为提供了宝贵的信息,有助于对财务习惯有更细致的了解。 教育和就业背景: 替代信用评分考虑了个人的教育和就业经历。教育成就和稳定就业等积极指标在评估金融稳定性方面发挥着至关重要的作用。 这些替代数据源代表着向更具包容性、更细致入微、更全面的信用评估方法的转变。随着金融技术的不断进步,利用这些替代数据集可确保对信用度进行更全面的评估,标志着信用评分模型的发展迈出了变革性的一步。 使用人工智能进行替代信用评分 除了使用替代数据外,作为一种替代方法,人工智能已成为应对传统信用评分挑战的变革力量,原因有很多: 减少偏见的能力: 与传统的统计模型一样,人工智能模型(包括大型语言模型)在有偏见的历史数据上进行训练后,也会继承这些数据中存在的偏见,从而导致歧视性的结果。大型语言模型可能更关注某些特征而忽略其他一些特征,或者不能从更广泛的背景去理解个人财务状况,从而导致决策存在偏见。但是,有多种技术可以减少 AI 模型的偏见: 缓解策略: 从使用多样化和有代表性的培训数据开始,避免强化现有的偏见。不充分或无效的缓解策略可能会导致 AI 信用评分模型中持续出现有偏见的结果。细心关注收集的数据和模型开发对于减少这种偏见至关重要。将替代数据纳入信用评分在减少偏见方面发挥着关键作用。 在训练过程中,严格的偏见检测工具、公平性约束和正则化技术可增强模型的问责性: 平衡特征表示并采用后处理技术和专门算法有助于减少偏见。对模型进行全面评估、持续监控和迭代改进,同时结合对道德准则和管理规范的遵守,可以从多个层面减少人工智能模型中的偏见。这对于解决与历史信用数据中可能存在的人口或社会经济偏见有关的问题尤为重要。 定期进行偏见审查: 定期进行审查以识别并减少大型语言模型中的偏见。这可能涉及分析模型输出结果,以发现不同人口群体之间的差异,并相应调整算法。 透明度和可解释性: 提高大型语言模型的透明度和可解释性,以了解决策是如何做出的。这可以帮助识别和解决有偏见的决策过程。 Trade Ledger 是一种贷款软件即服务 (SaaS) 工具,它使用数据驱动的方法,通过将具有不同模式的多个来源的数据整合到单个数据源中,以更高的透明度和可追溯性做出明智的决策。 能够分析海量且多样化的数据集: 与依赖预定义规则和历史信用数据的传统模型不同,AI 模型可以处理大量信息,包括非传统数据源,以对个人信用度进行更全面的评估,确保考虑到更广泛的金融行为。 AI 带来了无与伦比的适应性: 随着经济条件的变化和消费者行为的演变,AI 驱动的模型可以快速调整并从新数据中学习。持续学习可确保信用评分在瞬息万变的金融环境中保持相关性和有效性。 对于在信用评分中使用 AI,银行最常见的反对意见与信用决策的透明度和可解释性相关。一些 AI 模型,尤其是深度学习算法,其本身的复杂性可能会导致难以为信用决策提供清晰的解释。幸运的是,AI 模型的透明度和可解释性已经取得了显著的进步。现在, SHAPley Additive exPlanations (SHAP) 值和 Local Interpretable Model-Agnostic Explanations (LIME) 图等技术以及可解释 AI (XAI) 领域的其他一些进步,让我们能够了解模型是如何做出具体信用决策的。这不仅增强了对信用评分过程的信任,还解决了 AI 模型是“黑匣子”的普遍批评。 了解利用通常以半结构化或非结构化格式出现的替代数据的重要性后,金融机构与 MongoDB 合作,以更快、更简单、更灵活的方式进行付款和提供信用,以增强其信用申请流程: 作为印度尼西亚领先的一家数字银行 ,阿马尔银行正在为无法从传统银行获得金融服务(无银行账户和服务支持不足)的人群提供小额贷款,从而消除偏见。由于传统的承保流程不足以涵盖缺乏信用记录或抵押品的客户,因此该银行利用非结构化数据简化了贷款决策。该银行利用 MongoDB Atlas 开发了一个集成结构化和非结构化数据的预测性分析模型,用于评估借款人的信用水平。MongoDB 具备强大的可扩展性和多样化数据类型的管理能力,从而助力该银行扩展和优化贷款业务。 对于绝大多数印度人来说,由于严格的监管和缺乏信用数据,获得信贷批准通常困难重重。通过使用现代承保系统,印度金融科技生态系统的领先创新者 Slice 正在简化其 KYC 流程,以提供更顺畅的信贷体验,从而拓宽印度人获得信贷的渠道。通过在不同的使用案例中使用 MongoDB Atlas (包括作为实时 ML 特征存储),slice 改变了他们的引导流程,将处理时间缩短至不到一分钟。slice 使用具有 MongoDB 和 ML 模型的实时功能存储来即时计算 100 多个变量,从而可以在不到 30 秒的时间内确定信贷资格。 使用生成式 AI 改变信用评分 在信用评分中除了使用替代数据和 AI 外,还有 GenAI,GenAI 具有创建合成数据和理解复杂模式的能力,提供更细致、更具适应性和预测性的方法,因此有可能彻底改变信用评分和评估。 GenAI 综合不同数据集的能力解决了传统信用评分的主要限制之一 — 对历史信用数据的依赖。通过创建反映现实世界金融行为的合成数据,GenAI 模型可以对信用度进行更具包容性的评估。这一变革性转变促进了金融包容性,为更广泛的人群获得信贷机会打开了大门。 适应性在驾驭动态发展的经济条件和不断变化的消费行为方面发挥着举足轻重的作用。传统模型难以适应不可预见的干扰,与之不同的是,GenAI 的持续学习和适应能力可确保信用评分保持实时有效,提供了一个更具弹性和响应能力的信用风险评估工具。除了预测能力之外,GenAI 还可以提高信用评分的透明度和可解释性。模型可以为其决策提供解释,为信用评估提供更清晰的见解,并增强消费者、监管机构和金融机构之间的信任。 然而,在使用 GenAI 的过程中,一个关键问题是幻觉问题,即模型提供的信息可能是毫无意义或完全错误的。有几种技术可以降低这种风险,其中一 种是使用检索增强生成 (RAG) 方法。RAG 通过将模型的响应建立在最新来源的事实信息基础上,确保模型的响应反映最新、最准确的信息,从而最大限度地减少幻觉。 例如, Patronus AI 利用 RAG 和 MongoDB Atlas ,使工程师能够在现实场景中对大型语言模型 (LLM) 性能进行评分和基准测试,大规模生成对抗性测试用例,并监控幻觉及其他意外和不安全的行为。这有助于大规模检测 LLM 错误,并安全、自信地部署 AI 产品。 MongoDB 的另一个技术合作伙伴是 Robust Intelligence 。该公司的 AI 防火墙通过实时验证输入和输出来保护生产中的 LLM。它可以评估并降低幻觉等操作风险、包括模型偏见和有毒输出在内的道德风险,以及提示词注入和个人身份信息 (PII) 提取等安全风险。 随着生成式 AI 的不断成熟,将其融入信用评分和更广泛的信贷申请系统有望带来的不仅仅是技术进步,而是我们评估和发放信贷方式的根本性转变。 信贷史上的关键时刻 替代数据、人工智能和生成式 AI 的融合正在重塑信用评分的基础,标志着金融业进入了一个关键时刻。通过采用替代信用评分方法,提供更具包容性和更细致的评估,传统模式所面临的挑战正在被克服。生成式 AI 虽然会带来幻觉的潜在挑战,但它站在创新的前沿,不仅彻底改变了技术能力,而且从根本上重新定义了信用评估方式,开创了具有金融包容性、效率和公平的新时代。 如果您想了解有关使用 MongoDB 构建 AI 密集型应用程序的更多信息,请查看以下资源: 利用 MongoDB 实现借贷和租赁体验数字化 在适当的安全控制下打造 AI 密集型应用,同时达到用户期望的规模和性能水平 了解 slice 如何在不到一分钟的时间内为数百万人完成信贷审批

February 20, 2024

Reducing Bias in Credit Scoring with Generative AI

This post is also available in: Deutsch , Français , Español , Português , Italiano , 한국어 , 简体中文 . Credit scoring plays a pivotal role in determining who gets access to credit and on what terms. Despite its importance, however, traditional credit scoring systems have long been plagued by a series of critical issues, from biases and discrimination, to limited data consideration and scalability challenges. For example, a study of US loans showed that minority borrowers were charged higher interest rates (+8%) and rejected loans more often (+14%) than borrowers from more privileged groups. The rigid nature of credit systems means that they can be slow to adapt to changing economic landscapes and evolving consumer behaviors, leaving some individuals underserved and overlooked. To overcome this, banks and other lenders are looking to adopt artificial intelligence to develop increasingly sophisticated models for scoring credit risk. In this article, we'll explore the fundamentals of credit scoring, the challenges current systems present, and delve into how artificial intelligence (AI), in particular, generative AI (genAI) can be leveraged to mitigate bias and improve accuracy. From the incorporation of alternative data sources to the development of machine learning (ML) models, we'll uncover the transformative potential of AI in reshaping the future of credit scoring. Check out our AI resource page to learn more about building AI-powered apps with MongoDB. What is credit scoring? Credit scoring is an integral aspect of the financial landscape, serving as a numerical gauge of an individual's creditworthiness. This vital metric is employed by lenders to evaluate the potential risk associated with extending credit or lending money to individuals or businesses. Traditionally, banks rely on predefined rules and statistical models often built using linear regression or logistic regression. The models are based on historical credit data, focusing on factors such as payment history, credit utilization, and length of credit history. However, assessing new credit applicants poses a challenge, leading to the need for more accurate profiling. To cater to the underserved or unserved segments traditionally discriminated against, fintechs and digital banks are increasingly incorporating information beyond traditional credit history with alternative data to create a more comprehensive view of an individual's financial behavior. Challenges with traditional credit scoring Credit scores are integral to modern life because they serve as a crucial determinant in various financial transactions, including securing loans, renting an apartment, obtaining insurance, and even sometimes in employment screenings. Because the pursuit of credit can be a labyrinthine journey, here are some of the challenges or limitations with traditional credit scoring models that often cloud the path to credit application approval. Limited credit history: Many individuals, especially those new to the credit game, encounter a significant hurdle – limited or non-existent credit history. Traditional credit scoring models heavily rely on past credit behavior, making it difficult for individuals without a robust credit history to prove their creditworthiness. Roughly 45 million Americans lack credit scores simply because those data points do not exist for them. Inconsistent income: Irregular income, typical in part-time work or freelancing, poses a challenge for traditional credit scoring models, potentially labeling individuals as higher risk and leading to application denials or restrictive credit limits. In 2023 in the United States , data sources differ on how many people are self-employed. One source shows more than 27 million Americans filed Schedule C tax documents, which cover net income or loss from a business – highlighting the need for different methods of credit scoring for those self-employed. High utilization of existing credit: Heavy reliance on existing credit is often perceived as a signal of potential financial strain, influencing credit decisions. Credit applications may face rejection or approval with less favorable terms, reflecting concerns about the applicant's ability to judiciously manage additional credit. Lack of clarity in rejection reasons: Understanding the reasons behind rejections hinders applicants from addressing the root causes – in the UK, a study between April 2022 and April 2023 showed the main reasons for rejection included “poor credit history” (38%), “couldn’t afford the repayments” (28%), “having too much other credit" (19%) and 10% said they weren’t told why. The reasons even when given are often too vague which leaves applicants in the dark, making it difficult for them to address the root cause and enhance their creditworthiness for future applications. The lack of transparency is not only a trouble for customers, it can also lead to a penalty for banks. For example, a Berlin bank was fined €300k in 2023 for lacking transparency in declining a credit card application. Lack of flexibility: Shifts in consumer behavior, especially among younger generations preferring digital transactions, challenge traditional models. Factors like the rise of the gig economy, non-traditional employment, student loan debt, and high living costs complicate assessing income stability and financial health. Traditional credit risk predictions are limited during unprecedented disruptions like COVID-19, not taking this into account in scoring models. Recognizing these challenges highlights the need for alternative credit scoring models that can adapt to evolving financial behaviors, handle non-traditional data sources, and provide a more inclusive and accurate assessment of creditworthiness in today's dynamic financial landscape. Credit scoring with alternative data Alternative credit scoring refers to the use of non-traditional data sources (aka. alternative data) and methods to assess an individual's creditworthiness. While traditional credit scoring relies heavily on credit history from major credit bureaus, alternative credit scoring incorporates a broader range of factors to create a more comprehensive picture of a person's financial behavior. Below are some of the popular alternative data sources: Utility payments: Beyond credit history, consistent payments for utilities like electricity and water offer a powerful indicator of financial responsibility and reveal a commitment to meeting financial obligations, providing crucial insights beyond traditional metrics. Rental history: For those without a mortgage, rental payment history emerges as a key alternative data source. Demonstrating consistent and timely rent payments paints a comprehensive picture of financial discipline and reliability. Mobile phone usage patterns: The ubiquity of mobile phones unlocks a wealth of alternative data. Analyzing call and text patterns provides insights into an individual's network, stability, and social connections, contributing valuable information for credit assessments. Online shopping behavior: Examining the frequency, type, and amount spent on online purchases offers valuable insights into spending behaviors, contributing to a more nuanced understanding of financial habits. Educational and employment background: Alternative credit scoring considers an individual's educational and employment history. Positive indicators, such as educational achievements and stable employment, play a crucial role in assessing financial stability. These alternative data sources represent a shift towards a more inclusive, nuanced, and holistic approach to credit assessments. As financial technology continues to advance, leveraging these alternative data sets ensures a more comprehensive evaluation of creditworthiness, marking a transformative step in the evolution of credit scoring models. Alternative credit scoring with artificial intelligence Besides the use of alternative data, the use of AI as an alternative method has emerged as a transformative force to address the challenges of traditional credit scoring for a number of reasons: Ability to mitigate bias: Like traditional statistical models, AI models, including LLMs, trained on historical data that are biased will inherit biases present in that data, leading to discriminatory outcomes. LLMs might focus on certain features more than others or may lack the ability to understand the broader context of an individual's financial situation leading to biased decision-making. However, there are various techniques to mitigate the bias of AI models: Mitigation strategies: Initiatives begin with the use of diverse and representative training data to avoid reinforcing existing biases. Inadequate or ineffective mitigation strategies can result in biased outcomes persisting in AI credit scoring models. Careful attention to the data collected and model development is crucial in mitigating this bias. Incorporating alternative data for credit scoring plays a critical role in reducing biases. Rigorous bias detection tools, fairness constraints, and regularization techniques during training enhance model accountability: Balancing feature representation and employing post-processing techniques and specialized algorithms contribute to bias mitigation. Inclusive model evaluation, continuous monitoring, and iterative improvement, coupled with adherence to ethical guidelines and governance practices, complete a multifaceted approach to reducing bias in AI models. This is particularly significant in addressing concerns related to demographic or socioeconomic biases that may be present in historical credit data. Regular bias audits: Conduct regular audits to identify and mitigate biases in LLMs. This may involve analyzing model outputs for disparities across demographic groups and adjusting the algorithms accordingly. Transparency and explainability: Increase transparency and explainability in LLMs to understand how decisions are made. This can help identify and address biased decision-making processes. Trade Ledger , a lending software as a service (SaaS) tool, uses a data-driven approach to make informed decisions with greater transparency and traceability by bringing data from multiple sources with different schemas into a single data source. Ability to analyze vast and diverse datasets: Unlike traditional models that rely on predefined rules and historical credit data, AI models can process a myriad of information, including non-traditional data sources, to create a more comprehensive assessment of an individual's creditworthiness, ensuring that a broader range of financial behaviors is considered. AI brings unparalleled adaptability to the table: As economic conditions change and consumer behaviors evolve, AI-powered models can quickly adjust and learn from new data. The continuous learning aspect ensures that credit scoring remains relevant and effective in the face of ever-changing financial landscapes. The most common objections from banks to not using AI in credit scoring are transparency and explainability in credit decisions. The inherent complexity of some AI models, especially deep learning algorithms, may lead to challenges in providing clear explanations for credit decisions. Fortunately, the transparency and interpretability of AI models have seen significant advancements. Techniques like SHapley Additive exPlanations (SHAP) values and Local Interpretable Model-Agnostic Explanations (LIME) plots</a,> and several other advancements in the domain of Explainable AI (XAI) now allow us to understand how the model arrives at specific credit decisions. This not only enhances trust in the credit scoring process but also addresses the common critique that AI models are "black boxes." Understanding the criticality of leveraging alternative data that often comes in a semi or unstructured format, financial institutions work with MongoDB to enhance their credit application processes with a faster, simpler, and more flexible way to make payments and offer credit: Amar Bank, Indonesia's leading digital bank , is combatting bias by providing microloans to people who wouldn’t be able to get financial services from traditional banks (unbanked and underserved). Traditional underwriting processes were inadequate for customers lacking credit history or collateral so they have streamlined lending decisions by harnessing unstructured data. Leveraging MongoDB Atlas, they developed a predictive analytics model integrating structured and unstructured data to assess borrower creditworthiness. MongoDB's scalability and capability to manage diverse data types were instrumental in expanding and optimizing their lending operations. For the vast majority of Indians, getting credit is typically challenging due to stringent regulations and a lack of credit data. Through the use of modern underwriting systems, Slice, a leading innovator in India’s fintech ecosystem , is helping broaden the accessibility to credit in India by streamlining their KYC process for a smoother credit experience. By utilizing MongoDB Atlas across different use cases, including as a real-time ML feature store, slice transformed their onboarding process, slashing processing times to under a minute. slice uses the real-time feature store with MongoDB and ML models to compute over 100 variables instantly, enabling credit eligibility determination in less than 30 seconds. Transforming credit scoring with generative AI Besides the use of alternative data and AI in credit scoring, GenAI has the potential to revolutionize credit scoring and assessment with its ability to create synthetic data and understand intricate patterns, offering a more nuanced, adaptive, and predictive approach. GenAI’s capability to synthesize diverse data sets addresses one of the key limitations of traditional credit scoring – the reliance on historical credit data. By creating synthetic data that mirrors real-world financial behaviors, GenAI models enable a more inclusive assessment of creditworthiness. This transformative shift promotes financial inclusivity, opening doors for a broader demographic to access credit opportunities. Adaptability plays a crucial role in navigating the dynamic nature of economic conditions and changing consumer behaviors. Unlike traditional models, which struggle to adjust to unforeseen disruptions, GenAI’s ability to continuously learn and adapt ensures that credit scoring remains effective in real-time, offering a more resilient and responsive tool for assessing credit risk. In addition to its predictive prowess, GenAI can contribute to transparency and interpretability in credit scoring. Models can generate explanations for their decisions, providing clearer insights into credit assessments, and enhancing trust among consumers, regulators, and financial institutions. One key concern however in making use of GenAI is the problem of hallucination, where the model may present information that is either nonsensical or outright false. There are several techniques to mitigate this risk and one approach is using the Retrieval Augment Generation (RAG) approach. RAG minimizes hallucinations by grounding the model’s responses in factual information from up-to-date sources, ensuring the model’s responses reflect the most current and accurate information available. Patronus AI , for example, leverages RAG with MongoDB Atlas to enable engineers to score and benchmark large language models (LLMs) performance on real-world scenarios, generate adversarial test cases at scale, and monitor hallucinations and other unexpected and unsafe behavior. This can help to detect LLM mistakes at scale and deploy AI products safely and confidently. Another technology partner of MongoDB is Robust Intelligence . The firm’s AI Firewall protects LLMs in production by validating inputs and outputs in real-time. It assesses and mitigates operational risks such as hallucinations, ethical risks including model bias and toxic outputs, and security risks such as prompt injections and personally identifiable information (PII) extractions. As generative AI continues to mature, its integration into credit scoring and the broader credit application systems promises not just a technological advancement, but a fundamental transformation in how we evaluate and extend credit. A pivotal moment in the history of credit The convergence of alternative data, artificial intelligence, and generative AI is reshaping the foundations of credit scoring, marking a pivotal moment in the financial industry. The challenges of traditional models are being overcome through the adoption of alternative credit scoring methods, offering a more inclusive and nuanced assessment. Generative AI, while introducing the potential challenge of hallucination, represents the forefront of innovation, not only revolutionizing technological capabilities but fundamentally redefining how credit is evaluated, fostering a new era of financial inclusivity, efficiency, and fairness. If you would like to discover more about building AI-enriched applications with MongoDB, take a look at the following resources: Digitizing the lending and leasing experience with MongoDB Deliver AI-enriched apps with the right security controls in place, and at the scale and performance users expect Discover how slice enables credit approval in less than a minute for millions

February 20, 2024

생성형 인공지능으로 신용 평점 편향성 줄이기

신용 대출 대상과 조건을 결정하는 과정에서 신용 평점(credit scoring)의 역할이 중요합니다. 그러나 그 중요성에도 불구하고 기존의 신용 평점 시스템은 편견과 차별, 데이터 제한, 확장성 등 여러 가지 중대한 문제를 겪었습니다. 예를 들어, 미국 대출에 대한 한 연구에 따르면 대출 신청인이 소수 집단에 속한 경우 특권층일 경우보다 이자율이 +8% 높았으며, 대출 승인이 거부되는 빈도도 14% 높았습니다. 신용 시스템의 경직된 특성으로 인해 경제 환경의 변화와 소비자 행동의 진화에 적응하는 속도가 느려 일부 개인이 소외되고 간과될 수 있습니다. 이를 극복하기 위해 은행과 기타 대출 기관은 인공 지능을 채택하여 더욱 정교한 신용 위험 평점 모델을 개발하고자 합니다. 이 문서에서는 신용 평점의 기초와 현재 시스템이 직면하고 있는 문제를 살펴보고 인공 지능( AI ), 특히 생성형 인공지능(GenAI)을 활용하여 편향을 줄이고 정확도를 개선할 수 있는 방법을 자세히 다루겠습니다. 대안적인 데이터 소스의 통합부터 머신 러닝(ML) 모델 개발에 이르기까지 신용 평점의 미래를 재편할 수 있는 AI의 혁신적인 잠재력을 발견할 것입니다. MongoDB로 AI 기반 앱을 구축하는 방법에 관한 자세한 정보는 AI 리소스 페이지를 확인하세요 . 신용 평점이란? 신용 평점은 금융 환경의 필수 양상으로서 개인의 신용도를 수치적으로 측정하는 척도 역할을 합니다. 이 중요한 지표는 대출 기관이 개인이나 기업의 대출 기간을 연장하거나 대출을 승인하는 등의 과정과 관련된 잠재적 위험을 평가하기 위해 사용됩니다. 전통적으로 은행은 선형 회귀 또는 로지스틱 회귀를 사용하여 구축된 사전 정의된 법칙과 통계 모델에 의존합니다. 이러한 모델은 과거의 신용 데이터를 기반으로 지불 내역, 신용 활용률, 신용 이력과 같은 요소를 중점적으로 다룹니다. 그러나 새로운 신용 대출 신청인을 평가하는 것은 어려운 일이므로 보다 정확한 프로파일링이 필요합니다. 핀테크와 디지털 은행은 전통적으로 차별 받던 금융 소외 계층의 필요에 부응하기 위해 기존의 신용 이력을 넘어서는 대안적인 데이터를 통합하여 개인의 금융 행동을 보다 종합적으로 평가하고자 합니다. 기존 신용 평점의 과제 신용 점수는 대출, 아파트 임대, 보험 가입, 때로는 고용 심사를 포함한 다양한 금융 거래를 결정하는 중요한 요인이기 때문에 현대 생활에서 없어서는 안 될 필수 요소입니다. 신용 획득 과정은 미로와 같이 복잡할 수 있으므로, 기존의 신용 평가 모델에는 신용 거래 신청 승인을 혼란스럽게 만들 수 있는 몇 가지 문제 또는 한계가 있습니다. 제한된 신용 이력: 많은 개인, 특히 신용 평가를 처음 시도하는 사람들은 신용 이력이 제한적이거나 존재하지 않는다는 심각한 장애물에 직면합니다. 전통적인 신용 평점 모델은 과거의 신용 행위에 크게 의존하므로 탄탄한 신용 이력이 없는 개인은 자신의 신용도를 입증하기가 어렵습니다. 미국인 중 약 4천5 백만명은 단순히 해당 데이터 포인트가 존재하지 않는다는 이유로 낮은 신용 점수를 보유하고 있습니다. 불규칙한 소득: 파트타임 근무자나 프리랜서들의 소득은 불규칙한 경우가 많은데, 기존의 신용 평점 모델에서는 이들을 고위험으로 분류하여 신용 거래 신청 거부나 제한적인 신용 한도 설정으로 이어질 우려가 있습니다. 데이터 출처에 따라 2023 년 미국의 자영업자 수는 다르게 나타납니다. 한 자료에 따르면 2천칠백만명 이상의 미국인이 사업에서 발생한 순이익 또는 손실에 해당하는 스케줄C(Schedule C) 세금 서류를 제출했으며, 이러한 배경은 자영업자를 위한 다양한 신용 평가 방법이 필요하다는 사실을 강조합니다. 높은 기존 신용 활용도: 기존 신용 의존도가 높으면 종종 잠재적인 금융 부담의 신호로 인식되어 신용 관련 결정에 영향을 미칩니다. 신용 거래 신청인이 추가 신용 거래를 신중하게 관리할 수 있는 능력에 관한 우려를 반영하여 신청 거절 또는 유리하지 않은 대출 조건으로 이어질 수 있습니다. 불명확한 거절 사유: 거절 사유가 신청인의 근본 원인을 해결하는 데 방해가 되고 있습니다. 2022년 4월부터 2023 년 4월까지 영국에서 진행된 연구에 따르면 신용 대출 거절의 주요 이유로는 '신용 이력 미흡'(38%), '상환 능력 부족'(28%), '과도한 다른 신용 거래"(19%)' 등이 있었으며, 10%는 거절 이유를 듣지 못했다고 답했습니다. 이유를 제시하더라도 너무 모호한 경우가 많아 신청인이 근본 원인을 해결하고 향후 신청을 위해 신용도를 높이는 데 어려움을 느낄 수 있습니다. 투명성 부족은 고객에게 문제가 되며 은행에도 불이익을 초래할 수 있습니다. 예를 들어, 신용카드 신청을 거부하는 과정에서 투명성이 부족했다는 이유로 2023년 베를린의 한 은행에 30만 유로의 벌금이 부과되었습니다. 유연성 부족: 특히 디지털 거래를 선호하는 젊은 세대의 소비자 행동 변화는 기존 모델의 교체를 요구하고 있습니다. 일시적인 고용 경향이 커지는 긱 경제(gig economy)의 부상, 비전통적 고용, 학자금 대출, 높은 생활비 등의 요인으로 인해 소득 안정성과 재정 건전성 평가가 복잡해졌습니다. 코로나19와 같은 전례 없는 혼란이 발생하는 기간에는 전통적인 신용 리스크 예측이 제한되며 이를 평점 모델에 고려하지 않습니다. 이러한 과제를 인식하면 진화하는 금융 행동에 적응하고, 비전통적인 데이터 출처를 다루며, 역동적인 오늘날의 금융 환경에서 보다 포괄적이고 정확한 신용도 평가를 제공할 수 있는 대안적인 신용 평점 모델이 필요하다는 사실을 명확히 알 수 있습니다. 대안적인 데이터를 사용한 신용 평점 대안적인 신용 평점이란 개인의 신용도 평가를 위해 비전통적 데이터 출처(즉, 대안적인 데이터) 및 방법을 사용하는 것을 의미합니다. 전통적인 신용 평점은 주요 신용 기관에서 제시하는 신용 이력에 크게 의존하는 반면, 대안적인 신용 평점은 개인의 금융 행동을 더욱 종합적으로 평가하기 위해 더 광범위한 요인을 포함합니다. 다음은 인기 있는 대안 데이터 출처 중 일부를 소개합니다. 공공요금 납부: 신용 이력 외에도 전기 및 수도 등 공공요금을 일관적으로 납부했다는 사실은 재정적 책임 이행에 관한 강력한 지표를 제공하고 재정적 의무를 이행하려는 의지를 드러내며, 기존 지표를 넘어서는 핵심적인 인사이트를 제공합니다. 주택 임차 이력: 주택 담보 대출이 없는 신청인의 경우 임대료 납부 내역을 핵심적인 대체 데이터 출처로 간주할 수 있습니다. 임대료를 일관적으로 기한 내에 지불했다는 사실을 통해 재정적 규율과 신뢰성에 대한 종합적인 인상을 얻을 수 있습니다. 휴대폰 사용 패턴: 휴대폰을 어느 곳에서든 사용한다면 풍부한 대체 데이터를 제공할 수 있습니다. 통화 및 문자 패턴을 분석하면 개인의 네트워크, 안정성 및 사회적 관계에 대한 인사이트를 제공하여 신용 평점을 위한 귀중한 정보를 얻을 수 있습니다. 온라인 쇼핑 행동: 온라인 구매 빈도, 유형 및 지출 금액을 조사하면 지출 행동에 대한 귀중한 인사이트를 얻을 수 있어 더욱 미묘한 재정 습관을 보다 이해하는 데 도움이 됩니다. 교육 및 고용 배경: 대안적인 신용 평점은 개인의 교육 및 고용 이력을 고려합니다. 교육적 성취, 안정적인 고용 상태 등 긍정적인 지표는 재정 안정성을 평가하는 데 중요한 역할을 합니다. 이러한 대안적인 데이터 출처를 이용하면 신용 평가에 더욱 포괄적이고 미묘하며, 총체적인 방향으로 접근할 수 있습니다. 금융 기술이 계속 발전하면서, 이러한 대안적인 데이터 세트를 활용하면 신용도를 더욱 종합적으로 평가할 수 있으며, 이는 신용 평점 모델의 진화를 위한 혁신적인 단계가 될 것입니다. 인공 지능을 이용한 대안적인 신용 평점 AI를 대안적인 방법으로 사용하는 방식은 대안적인 데이터 사용 외에도 여러 가지 이유로 전통적인 신용 평점의 문제를 해결할 수 있는 혁신적 방법으로 부상했습니다. 편향성 완화 가능: 기존 통계 모델과 마찬가지로, 편향된 과거 데이터를 학습한 LLM 등 AI 모델은 해당 데이터에 존재하는 편향을 상속하여 차별적인 결과를 초래할 수 있습니다. LLM은 다른 것보다 특정한 특징을 집중적으로 다루거나 개인의 재무 상황에 대한 광범위한 맥락을 이해하는 능력이 부족하여 편향된 의사 결정을 내릴 수 있습니다. 그러나 AI 모델의 편향을 완화할 수 있는 다양한 기술이 있습니다. 완화 전략: 기존 편향의 강화를 방지하기 위해 다양하고 대표적인 교육 데이터를 사용하는 것부터 계획이 시작됩니다. 완화 전략이 부적절하거나 비효율적인 경우 AI 신용 평점 모델에 편향된 결과가 지속될 수 있습니다. 이러한 편향을 완화하려면 수집된 데이터와 모델 개발에 세심한 주의를 기울이는 것이 핵심적입니다. 신용 평점을 위한 대안적인 데이터를 통합하는 과정은 편향을 줄이기 위한 중요한 역할을 합니다. 교육 중 엄격한 편향 감지 도구, 공정성 제약 조건, 정규화 기법을 적용하면 모델의 책임성이 강화됩니다. 특징 표현의 균형을 맞추고 후처리 기법과 특수 알고리즘을 사용하면 편향성을 완화에 도움이 됩니다. 포괄적인 모델 평가, 지속적인 모니터링, 반복적인 개선과 더불어 윤리 가이드라인 및 거버넌스 관행을 준수함으로써 AI 모델의 편향성을 줄이기 위한 다각적인 접근 방식을 완성할 수 있습니다. 이는 과거 신용 데이터에 존재할 수 있는 인구통계학적 또는 사회경제적 편향과 관련된 문제를 해결하는 과정에서 특히 중요한 역할을 합니다. 정기 편향 감사: LLM의 편향을 식별하고 완화하기 위해 정기적인 감사를 수행합니다. 여기에는 인구통계학적 집단 사이의 차이에 대한 모델 성과를 분석하고 그에 따라 알고리즘을 조정하는 작업이 포함될 수 있습니다. 투명성 및 설명 가능성: LLM의 투명성과 설명 가능성을 높여 의사 결정 방법을 이해합니다. 이는 편향된 의사 결정 프로세스를 식별하고 해결하는 데 도움이 될 수 있습니다. 서비스형 소프트웨어(SaaS) 대출 도구인 Trade Ledger 는 데이터 기반 접근 방식을 사용하여 서로 다른 스키마를 보유한 여러 출처의 데이터를 단일 데이터 출처로 가져와 투명성과 추적성을 높이는 과정을 통해 정보에 기반한 의사 결정을 내릴 수 있습니다. 방대하고 다양한 데이터 세트 분석 능력: 사전 정의된 법칙과 과거 신용 데이터에 의존하는 기존 모델과 달리, AI 모델은 비전통적 데이터 출처를 포함한 무수한 정보를 처리하여 개인의 신용도를 보다 포괄적으로 평가하므로 더욱 광범위한 재정 행동을 고려할 수 있습니다. 타의 추종을 불허하는 AI의 적응성: 경제 여건의 변화의 소비자 행동의 진화에 따라 AI 기반 모델은 새로운 데이터를 빠르게 조정하고 학습할 수 있습니다. 지속적인 학습 양상을 통해 끊임없이 변화하는 금융 환경에서도 신용 평점을 적절하고 효과적으로 평가할 수 있습니다. 신용 평점 평가 과정에서 AI 사용에 반대하는 은행들은 대부분 신용 결정의 투명성과 설명 가능성을 이유로 이 기술에 반대하고 있습니다. 일부 AI 모델, 특히 딥러닝 알고리즘의 경우 내재된 복잡성으로 인해 신용 결정에 대한 명확한 설명을 제공하는 데 어려움을 겪을 수 있습니다. 다행히 AI 모델의 투명성과 해석 가능성이 크게 향상되었습니다. 설명 가능한 AI(XAI) 영역에서 SHAP(SHapley Additive exPlanations) 값, LIME(Local Interpretable Model-Agnostic Explanations) 플롯 및 기타 여러 발전된 기술을 통해 모델이 특정 신용 결정에 어떻게 도달하는지 이해할 수 있게 되었습니다. 이는 신용 평점 프로세스에 대한 신뢰를 향상시킬 뿐만 아니라 AI 모델이 블랙박스( ")라는 일반적인 비판도 해결합니다." 금융 기관은 반정형 또는 비정형 형식의 대안적인 데이터를 활용하는 것이 얼마나 중요한지 잘 알고 있으며, MongoDB와 협력하여 더 빠르고 간단하며 유연한 방식으로 결제 및 신용을 제공하기 위해 신용 거래 신청 프로세스를 개선하고 있습니다: 인도네시아의 선도적인 디지털 은행인 Amar Bank 는 기존 은행에서 금융 서비스를 받을 수 없는 사람들(은행 계좌가 없거나 금융 소외계층)에게 소액 대출을 제공하여 편견에 맞서고 있습니다. 기존의 언더라이팅(underwriting) 프로세스는 신용 이력이나 담보가 부족한 고객에게는 적절하지 않았기 때문에 비정형 데이터를 활용하여 대출 결정을 간소화했습니다. MongoDB Atlas를 활용하여 구조화된 데이터와 구조화되지 않은 데이터를 통합하여 대출 신청인의 신용도를 평가하는 예측 분석 모델을 개발했습니다. MongoDB의 확장성과 다양한 데이터 유형을 관리하는 기능은 대출 운영을 확장하고 최적화하는 과정에서 중요한 역할을 담당했습니다. 대다수의 인도인들은 일반적으로 엄격한 규정과 신용 데이터 부족으로 인해 신용 거래를 승인 받기 어렵습니다. 인도의 핀테크 생태계를 선도하는 혁신 기업 Slice 는 최신 언더라이팅(underwriting) 시스템을 사용하여 보다 원활한 신용 경험을 위한 KYC 프로세스를 간소화함으로써 인도 내 신용 거래 접근성을 확장하는 데 기여하고 있습니다. Slice는 실시간 머신러닝(ML) 기능 저장소 등 다양한 사용 사례 전반에 MongoDB Atlas 를 활용하여 온보딩 과정의 혁신을 진행하여 처리 시간을 1분 내로 단축했습니다. Slice는 MongoDB 및 ML 모델과 함께 실시간 특성 저장소를 사용하여 100개 이상의 변수를 즉시 계산하므로 30초 이내에 신용 자격 여부를 판단할 수 있습니다. 생성형 AI 이용한 신용 평점 혁신 신용 평점에 대안적인 데이터와 AI를 사용하는 것 외에도, GenAI는 합성 데이터를 생성하고 복잡한 패턴을 이해하여 보다 미묘하고 변화에 적응할 수 있으며, 예측적인 접근 방식을 제공하는 능력으로 신용 평점 및 평가에 혁신을 불러올 잠재력을 가지고 있습니다. 다양한 데이터세트를 합성하는 GenAI의 기능은 기존 신용 평점의 주요 한계인 과거 신용 데이터에 의존하는 문제를 해결합니다. GenAI 모델은 실제 금융 행동을 반영하는 합성 데이터를 생성함으로써 더욱 포괄적인 신용도 평가를 실현합니다. 이러한 혁신적인 변화는 금융 포용성을 촉진하여 더 넓은 인구층이 신용 기회에 접근할 수 있는 기회를 창출합니다. 적응성은 경제 여건의 역동적인 특성을 파악하고 변화하는 소비자 행동을 파악하는 데 중요한 역할을 합니다. 예상치 못한 혼란에 적응하는 데 어려움을 겪는 기존 모델과는 달리, GenAI의 지속적인 학습 및 적응 능력은 실시간으로 신용 평점을 효과적으로 유지하여 신용 리스크 평가에 적합한 탄력적이고 반응적인 도구를 제공합니다. 예측 능력 외에도 GenAi는 신용 평점의 투명성과 해석 가능성에 기여할 수 있습니다. 모델은 의사 결정에 대한 설명을 생성하여 신용 평가에 대한 보다 명확한 통찰력을 제공하고 소비자, 규제 당국 및 금융 기관 사이의 신뢰를 강화할 수 있습니다. 그러나 GenAI를 사용할 때 모델이 무의미하거나 완전한 거짓 정보를 제공할 수 있는 할루시네이션(hallucination) 문제가 가장 큰 우려사항입니다. 이러한 리스크를 완화하기 위한 여러 기술이 있으며 검색 증강 생성( Retrieval Augment Generation, RAG )을 사용하는 것이 한 가지 방법입니다. RAG는 최신 출처의 사실 정보를 모델 응답의 근거로 삼아 할루시네이션을 최소화함으로써 모델의 응답이 가장 정확한 최신 정보를 반영하도록 보장합니다. 예를 들어, Patronus AI 는 MongoDB Atlas 와 함께 RAG를 활용하여 엔지니어가 실제 시나리오에서 대규모 언어 모델(LLM)의 성능을 평가 및 벤치마킹하고, 대규모로 적대적 테스트 케이스를 생성하며, 할루시네이션 및 기타 예기치 않은 안전하지 않은 동작을 모니터링할 수 있도록 합니다. 이를 통해 LLM 실수를 대규모로 감지하고 AI 제품을 안전하고 신뢰할 수 있는 방식으로 배포할 수 있습니다. MongoDB의 또 다른 기술 파트너는 Robust Intelligence 입니다. 이 회사의 AI 방화벽은 입력과 출력을 실시간으로 검증하여 프로덕션의 LLM을 보호합니다. 할루시네이션과 같은 운영 리스크, 모델 편향 및 악성 출력 등 윤리적 리스크, 프롬프트 주입(prompt injetion) 및 개인 식별 정보(PII) 추출과 같은 보안 리스크를 평가하고 완화합니다. 생성형AI가 계속 발전하면서, 신용 평점 및 더 넓은 신용 거래 신청 시스템에 통합되면 기술 발전은 물론 신용을 평가하고 연장하는 방식에 근본적인 변화가 일어날 것입니다. 신용 역사에서 중요한 순간 대안적인 데이터, 인공지능, 생성형AI의 융합은 신용 평점의 기초를 재형성하며 금융 산업에 중요한 순간을 나타내고 있습니다. 보다 포괄적이고 미묘한 평가를 제공하는 대안적인 신용 평가 방법이 채택되면서 기존 모델의 과제가 극복되고 있습니다. 생성형AI는 할루시네이션이라는 잠재적 문제를 초래하는 한편 기술 역량의 혁신은 물론 신용 평가 방식을 근본적으로 재정의하여 금융 포용성, 효율성, 공정성의 새로운 시대를 촉진하는 혁신의 최전선에 서 있습니다. MongoDB를 사용하여 AI로 강화된 애플리케이션을 구축하는 방법에 대해 자세히 알아보려면 다음 리소스를 살펴보세요. MongoDB를 통한 대출 및 임대 경험 디지털화 올바른 보안 제어 기능을 갖춘 AI 강화 앱을 사용자가 기대하는 규모와 성능으로 제공하세요 . Slice가 수백만 명의 신용 승인을 1분 이내에 지원하는 방법을 알아보세요 .

February 20, 2024

Ridurre i bias nel credit scoring con l'IA generativa

Il credit scoring svolge un ruolo fondamentale nel determinare chi può ottenere accesso al credito e a quali condizioni. Nonostante la sua importanza, tuttavia, i sistemi di credit scoring tradizionali sono stati a lungo afflitti da una serie di problemi critici dovuti a bias e discriminazione, alla considerazione limitata dei dati e alle sfide di scalabilità. Ad esempio, uno studio sui prestiti statunitensi ha mostrato che ai mutuatari appartenenti a minoranze venivano applicati tassi di interesse più elevati (+8%) e i prestiti più venivano rifiutati spesso (+14%) rispetto ai mutuatari appartenenti a gruppi più privilegiati. La rigidità dei sistemi di credito li rende lenti ad adattarsi ai cambiamenti del panorama economico e all'evoluzione dei comportamenti dei consumatori, lasciando alcune persone non servite e trascurate. Per superare questo problema, le banche e altri istituti di credito stanno cercando di adottare l’intelligenza artificiale per sviluppare modelli sempre più sofisticati con cui valutare il rischio di credito. In questo articolo esploreremo i fondamenti del credit scoring, le sfide dei sistemi attuali e approfondiremo il modo in cui l'intelligenza artificiale (IA), e in particolare l'IA generativa (o genAI), può essere sfruttata per mitigare i pregiudizi e migliorare l'accuratezza. Dall'incorporamento di fonti di dati alternative allo sviluppo di modelli di machine learning (ML), scopriremo il potenziale trasformativo dell'IA nel ridefinire il futuro del credit scoring. Consulta la nostra pagina delle risorse sull'intelligenza artificiale per saperne di più sulla creazione di app basate sull'IA con MongoDB. Che cos'è il credit scoring? Il credit scoring è un aspetto molto importante del panorama finanziario e serve a misurare numericamente l'affidabilità creditizia di una persona. Questo parametro fondamentale viene utilizzato dagli istituti di credito per valutare il rischio potenziale associato alla concessione di un credito o di un prestito di denaro a individui o imprese. Tradizionalmente, le banche si affidano a regole predefinite e modelli statistici spesso costruiti utilizzando la regressione lineare o logistica. I modelli si basano su dati storici relativi credito, concentrandosi su fattori quali la cronologia dei pagamenti, l’utilizzo del credito e la durata dello storico creditizio. Tuttavia, valutare i nuovi richiedenti rappresenta una sfida che richiede una capacità profilazione più accurata. Per soddisfare i segmenti svantaggiati o meno serviti, tradizionalmente discriminati, le fintech e le banche digitali stanno incorporando sempre più informazioni oltre al tradizionale storico creditizio aggiungendo dati alternativi per creare una visione più completa del comportamento finanziario di un individuo. Le sfide del credit scoring tradizionale I punteggi di credito sono parte integrante della vita moderna perché sono un fattore determinante in varie transazioni finanziarie, tra cui la garanzia di prestiti, l'affitto di un appartamento, la sottoscrizione di una polizza e, talvolta, anche nelle selezioni occupazionali. Poiché la ricerca del credito può trasformarsi in un vero e proprio dedalo, ecco alcune delle sfide o delle limitazioni dei tradizionali modelli di credit scoring che spesso si frappongono come ostacoli verso l'approvazione della richiesta di credito. Storico creditizio limitato: molte persone, soprattutto quelle che si avvicinano per la prima volta ai crediti, incontrano un problema significativo: uno storico creditizio limitata o inesistente. I modelli tradizionali di credit scoring si basano fortemente sul comportamento creditizio passato, rendendo difficile per le persone senza un solido trascorso dimostrare la propria affidabilità creditizia. Circa 45 milioni di americani non hanno punteggi di credito semplicemente perché quei punti dati per loro non esistono. Reddito incoerente: un reddito irregolare, tipico delle occupazioni part-time o dei freelance, rappresenta una sfida per i modelli di credit scoring tradizionali, in quanto può essere etichettato come più rischioso e portare al rifiuto delle domande o a limiti di credito restrittivi. Nel 2023, negli Stati Uniti le fonti dei dati differiscono sul numero di persone che lavorano in proprio. Una di queste mostra che più di 27 milioni di americani hanno presentato documenti fiscali Schedule C, che coprono il reddito netto o la perdita di un'impresa, evidenziando la necessità di metodi di credit scoring diversi per i lavoratori autonomi. Elevato utilizzo del credito esistente: il forte affidamento sul credito esistente è spesso percepito come un segnale di potenziale tensione finanziaria, il che influenza le decisioni sul credito. Le domande di credito possono essere respinte o approvate a condizioni meno favorevoli a causa delle preoccupazioni sulla capacità del richiedente di gestire assennatamente il credito aggiuntivo. Mancanza di chiarezza nelle ragioni del rifiuto: una mancata comprensione delle ragioni alla base del rifiuto impedisce ai richiedenti di affrontarne le cause profonde. Nel Regno Unito, uno studio condotto tra aprile 2022 e aprile 2023 ha mostrato che le ragioni principali del rifiuto includevano "storico creditizio scadente" (38%), "non poteva permettersi gli ammortamenti" (28%), "aveva troppi altri crediti" (19%) e il 10% ha affermato che non gli è stato spiegato il motivo. Anche quando le motivazioni vengono fornite, spesso sono troppo vaghe, il che fa sorgere dubbi nei e rende difficile affrontare la causa del rifiuto e migliorare l'affidabilità creditizia per eventuali richieste future. La mancanza di trasparenza non è solo un problema per i clienti, ma può anche comportare una penale per le banche. Ad esempio, una banca di Berlino è stata multata per 300.000 € nel 2023 per la mancata trasparenza mostrata nel rifiuto di una richiesta di carta di credito. Mancanza di flessibilità: i cambiamenti nel comportamento dei consumatori, soprattutto tra le giovani generazioni che preferiscono le transazioni digitali, sfidano i modelli tradizionali. Fattori come l'aumento della gig economy, l'occupazione non tradizionale, il debito studentesco e l'elevato costo della vita complicano la valutazione della stabilità del reddito e dell'integrità finanziaria. Le previsioni tradizionali sul rischio di credito, inoltre, sono limitate in caso di perturbazioni gravi come il COVID-19, poiché non ne tengono conto nei modelli di scoring. Riconoscere queste sfide evidenzia la necessità di modelli di credit scoring alternativi in grado di adattarsi all'evoluzione dei comportamenti finanziari, di gestire fonti di dati non tradizionali e di fornire una valutazione più inclusiva e accurata del merito di credito nel dinamico panorama finanziario odierno. Credit scoring con dati alternativi Con credit scoring alternativo ci si riferisce all'uso di metodi e fonti di dati non tradizionali (i cosiddetti dati alternativi) per valutare l'affidabilità creditizia di un individuo. Mentre il credit scoring tradizionale si basa fortemente sullo storico delle principali agenzie di credito, il credit scoring alternativo incorpora una gamma più ampia di fattori per creare un quadro più completo del comportamento finanziario di una persona. Ecco alcune delle fonti di dati alternative più diffuse: Pagamenti delle utenze: al di là della storia creditizia, la costanza di pagamento per le utenze, come l’elettricità e l’acqua, offrono un forte indicatore di responsabilità finanziaria e rivelano un impegno a soddisfare gli obblighi finanziari, fornendo informazioni cruciali che vanno oltre i parametri tradizionali. Cronologia degli affitti: per chi non ha un mutuo, la cronologia dei pagamenti degli affitti emerge come una fonte di dati alternativa fondamentale. La dimostrazione di costanza e puntualità nel pagamento dell'affitto fornisce un quadro completo della disciplina e dell'affidabilità finanziaria. Modelli di utilizzo dei telefoni cellulari: l'ubiquità dei telefoni cellulari sblocca una vasta gamma di dati alternativi. L'analisi dei modelli di chiamata e messaggistica fornisce informazioni sulla rete, la stabilità e le connessioni sociali di un individuo, che rappresentano informazioni preziose per la valutazione del credito. Comportamento di acquisto online: l'esame della frequenza, del tipo e degli importi spesi per gli acquisti online offre preziose informazioni sui comportamenti di acquisto, contribuendo a una comprensione più puntuale delle abitudini finanziarie. Contesto educativo e lavorativo: il punteggio di credito alternativo considera la storia educativa e lavorativa di un individuo. Gli indicatori positivi, come i risultati scolastici e la stabilità occupazionale stabile, svolgono un ruolo cruciale nella valutazione della stabilità finanziaria. Queste fonti di dati alternative rappresentano un passaggio verso un approccio più inclusivo, sfumato e olistico alle valutazioni del credito. Poiché la tecnologia finanziaria continua a progredire, l'utilizzo di questi set di dati alternativi garantisce una valutazione più completa dell'affidabilità creditizia, segnando un passo trasformativo nell'evoluzione dei modelli di credit scoring. Punteggio di credito alternativo con l'intelligenza artificiale Oltre all'uso di dati alternativi, l'uso dell'IA come metodo alternativo è emerso come forza trasformativa per affrontare le sfide del credit scoring tradizionale per una serie di motivi: Capacità di mitigare i bias: come i modelli statistici tradizionali, i modelli di IA, compresi gli LLM, addestrati su dati storici distorti erediteranno i bias presenti in tali dati, portando a risultati discriminatori. Gli LLM potrebbero concentrarsi su determinate caratteristiche piuttosto che su altre o non essere in grado di comprendere il contesto più ampio della situazione finanziaria di un individuo, portando a un processo decisionale falsato. Tuttavia, esistono varie tecniche per mitigare i bias dei modelli di IA: Strategie di mitigazione: le iniziative iniziano con l'uso di dati di formazione diversi e rappresentativi per evitare di rinforzare i bias esistenti. Strategie di mitigazione inadeguate o inefficaci possono portare alla persistenza di risultati distorti nei modelli di credit scoring esistenti. Un'attenzione particolare ai dati raccolti e allo sviluppo dei modelli è fondamentale per mitigare questo pregiudizio. L'integrazione di dati alternativi per il credit scoring svolge un ruolo fondamentale nel ridurre i bias. Strumenti rigorosi di rilevamento dei bias, vincoli di equità e tecniche di regolarizzazione durante l'addestramento migliorano la responsabilità del modello: il bilanciamento della rappresentazione delle caratteristiche e l'utilizzo di tecniche di post-elaborazione e algoritmi specializzati contribuiscono alla mitigazione dei bias. La valutazione inclusiva dei modelli, il monitoraggio continuo e il miglioramento iterativo, oltre all'adesione alle linee guida etiche e alle pratiche di governance, completano un approccio articolato per ridurre i bias nei modelli di IA. Ciò è particolarmente importante per affrontare le preoccupazioni legate alle distorsioni demografiche o socioeconomiche che possono essere presenti nei dati storici sul credito. Controlli regolari sui bias: conduci controlli regolari per identificare e mitigare i bias negli LLM, che possono comprendere comportare l'analisi degli output del modello per le disparità tra i gruppi demografici e il conseguente adeguamento degli algoritmi. Trasparenza e spiegabilità: aumenta la trasparenza e la spiegabilità negli LLM per comprendere come vengono prese le decisioni e identificare e affrontare processi decisionali distorti. Trade Ledger , uno strumento Software-as-a-Service (SaaS) per il prestito, utilizza un approccio basato sui dati per prendere decisioni informate con maggiore trasparenza e tracciabilità, riunendo i dati provenienti da più fonti con schemi diversi in un'unica fonte di dati. Capacità di analizzare set di dati vasti e diversificati: a differenza dei modelli tradizionali basati su regole predefinite e dati storici sul credito, i modelli di IA possono elaborare una miriade di informazioni, incluse le fonti di dati non tradizionali, per creare una valutazione più completa dell'affidabilità creditizia di un individuo, garantendo una gamma più ampia di comportamenti finanziari. L'IA offre un’adattabilità senza precedenti: man mano che le condizioni economiche cambiano e i comportamenti dei consumatori si evolvono, i modelli basati sull'IA possono adattarsi rapidamente e apprendere dai nuovi dati. Questa capacità di apprendimento continuo garantisce che il credit scoring rimanga rilevante ed efficace anche a fronte della continua evoluzione degli scenari finanziari. Le obiezioni più comuni da parte delle banche al mancato utilizzo dell'IA nel credit scoring riguardano la trasparenza e la spiegabilità nelle decisioni creditizie. La complessità intrinseca di alcuni modelli di IA, e in particolare degli algoritmi di deep learning, può creare difficoltà nel fornire spiegazioni chiare per le decisioni di credito. Fortunatamente, la trasparenza e l'interpretabilità dei modelli di IA hanno registrato progressi significativi. Tecniche come i valori SHapley Additive Explanations (SHAP) e Local Interpretable Model-Agnostic Explanations (LIME) e molti altri progressi nel dominio di Explainable AI (XAI) ci consentono di capire in che modo il modello arriva a specifiche decisioni di credito. Questo non solo aumenta la fiducia nel processo di credit scoring, ma affronta anche la critica comune secondo cui i modelli di AI sono "scatole nere". Comprendendo la criticità dello sfruttamento dei dati alternativi, spesso in formato semi-strutturato o non strutturato, gli istituti finanziari collaborano con MongoDB per migliorare i processi di richiesta di credito con un modo più rapido, semplice e flessibile per effettuare pagamenti e offrire credito: Amar Bank, la principale banca digitale indonesiana , combatte i bias fornendo microprestiti a persone che altrimenti non sarebbero in grado di ottenere servizi finanziari dalle banche tradizionali (quindi a persone prive di servizi bancari o sottoservite). I processi di sottoscrizione tradizionali erano inadeguati per i clienti privi di storico creditizio o di garanzie, per questo hanno semplificato le decisioni di prestito sfruttando i dati non strutturati. Sfruttando MongoDB Atlas, hanno sviluppato un modello di analisi predittiva che integra dati strutturati e non per valutare l'affidabilità creditizia del mutuatario. La scalabilità e la capacità di MongoDB di gestire diversi tipi di dati sono stati fondamentali per espandere e ottimizzare le operazioni di prestito. Per la stragrande maggioranza degli abitanti dell'India, ottenere un credito è solitamente molto difficile a causa di regolamenti severi e della mancanza di dati sul credito. Grazie all'utilizzo di moderni sistemi di sottoscrizione, Slice, uno dei principali innovatori dell'ecosistema fintech indiano , sta contribuendo ad ampliare l'accessibilità al credito in India, semplificando il processo KYC per un'esperienza di credito più agevole. Utilizzando MongoDB Atlas in diversi casi d'uso, anche come archivio di funzionalità di ML in tempo reale, slice ha trasformato il processo di onboarding, riducendo i tempi di elaborazione a meno di un minuto. slice utilizza l'archivio di funzionalità in tempo reale con i modelli MongoDB e ML per calcolare istantaneamente oltre 100 variabili, consentendo la determinazione dell'idoneità al credito in meno di 30 secondi. Trasformare il credit scoring con l'IA generativa Oltre all'uso di dati alternativi e dell'IA nel credit scoring, la GenAI ha il potenziale di rivoluzionare il credit scoring e la valutazione con la sua capacità di creare dati sintetici e comprendere modelli complessi, offrendo un approccio più sfumato, adattivo e predittivo. La capacità della GenAI di sintetizzare diversi set di dati risolve uno dei limiti principali del credit scoring tradizionale: la dipendenza dai dati storici sul credito. Creando dati sintetici che rispecchiano i comportamenti finanziari del mondo reale, i modelli di GenAI consentono una valutazione più inclusiva dell'affidabilità creditizia, una trasformazione che promuove l'inclusività finanziaria e apre le porte delle opportunità di credito a una fascia demografica più ampia. L'adattabilità gioca un ruolo cruciale nell’affrontare la natura dinamica delle condizioni economiche e nel cambiare i comportamenti dei consumatori. A differenza dei modelli tradizionali, che faticano ad adattarsi a interruzioni impreviste, la capacità della GenAI di apprendere e adattarsi continuamente garantisce che il credit scoring rimanga efficace in tempo reale, offrendo uno strumento più resiliente e reattivo per la valutazione del rischio di credito. Oltre alla sua capacità predittiva, la GenAI contribuisce alla trasparenza e all'interpretabilità del credit scoring. I modelli possono generare spiegazioni per le loro decisioni, fornendo informazioni più chiare sulle valutazioni del credito e rafforzando la fiducia tra consumatori, autorità di regolamentazione e istituzioni finanziarie. Tuttavia, una delle principali preoccupazioni nell'uso della GenAI è il problema delle cosiddette allucinazioni, in cui il modello può presentare informazioni prive di senso o completamente false. Esistono diverse tecniche per mitigare questo rischio e un approccio utilizza l'approccio Retrieval Augment Generation (RAG) . Il RAG riduce al minimo le allucinazioni basando le risposte del modello su informazioni fattuali provenienti da fonti aggiornate, garantendo che le risposte del modello riflettano le informazioni più aggiornate e accurate disponibili. Patronus AI , ad esempio, sfrutta il RAG con MongoDB Atlas per consentire agli ingegneri di valutare e confrontare le prestazioni dei modelli linguistici di grandi dimensioni (LLM) in scenari reali, generare casi di test contraddittori su larga scala e monitorare allucinazioni e altri comportamenti imprevisti e pericolosi. Questo aiuta a rilevare gli errori degli LLM su larga scala e a distribuire i prodotti IA in modo sicuro e affidabile. Un altro partner tecnologico di MongoDB è Robust Intelligence . Il firewall AI dell'azienda protegge gli LLM in produzione convalidando input e output in tempo reale. Valuta e attenua rischi operativi come allucinazioni, rischi etici tra cui bias dei modelli e output tossici e rischi per la sicurezza, come le iniezioni dei prompt e le estrazioni di informazioni di identificazione personale (PII). Con il maturare dell'IA generativa, la sua integrazione nel credit scoring e nei sistemi di richiesta di credito più ampi promette non solo un progresso tecnologico, ma una trasformazione radicale nel modo in cui valutiamo e concediamo il credito. Un momento fondamentale nella storia del credito La convergenza di dati alternativi, intelligenza artificiale e IA generativa sta ridefinendo le fondamenta del credit scoring, in quello che rappresenta un vero e proprio punto di svolta nel settore finanziario. Le sfide dei modelli tradizionali vengono superate attraverso l'adozione di metodi di credit scoring alternativi che offrono una valutazione più inclusiva e sfumata. L'IA generativa, pur introducendo la potenziale sfida delle allucinazioni, rappresenta l'avanguardia dell'innovazione non solo rivoluzionando le capacità tecnologiche ma ridefinendo radicalmente il modo in cui viene valutato il credito, favorendo una nuova era di inclusività, efficienza ed equità finanziaria. Se desideri scoprire di più sulla creazione di applicazioni arricchite con l'IA di MongoDB, dai un'occhiata alle seguenti risorse: Digitalizzare l'esperienza di prestito e leasing con MongoDB Crea app con tecnologia IA , attuando gli opportuni controlli di sicurezza e assicurando la scala e le prestazioni che gli utenti si aspettano Scopri come slice consente l'approvazione del credito in meno di un minuto per milioni di utenti

February 20, 2024

인공지능 환경 탐색: 금융 부문에서 생성형 인공지능을 활용하는 방법

끊임없이 진화하는 금융 기술 환경에서 인공지능( AI ), 특히 생성형 AI에 대한 논의가 탄력을 받고 있습니다. AI는 수십 년 동안 금융 환경의 일부였지만 생성형 AI의 발전으로 더 큰 이점과 함께 규제를 받는 산업에서 금융 기관이 고려해야 할 위험도 커지고 있습니다. 생성형 AI의 잠재적 이점은 상당하며 많은 곳에서 도입을 고려하고 있지만, 개념 증명에서 생산 단계로 넘어갈 때는 신중한 접근 방식이 필요합니다. Fintech Finance News Virtual Arena 에서는 HSBC, Capgemini, MongoDB의 주목할 만한 업계 사고 리더 몇 명아 모여 금융 부문에서 생성형 AI를 활용할 수 있는 방법과 금융 기관이 AI 전략에서 고려해야 할 사항을 살펴보았습니다. HSBC, MongoDB, Capgemini가 함께하는 패널 토론 '오늘날 금융 부문에서 생성형 AI를 활용하는 방법'을 시청하세요 . 다음으로부터 들어 보세요. EJ Achtner, HSBC 응용 인공지능 부서 Dan Pears, Capgemini 영국 실무 책임자, 부사장 Wei You Pan, MongoDB 금융 서비스 산업 솔루션 이사 Doug Mackenzie, FF News 최고 콘텐츠 책임자 생성형 AI의 과제 해결 금융 기술자들은 항상 위험 관리 및 거버넌스와 같은 지속적인 문제를 해결해야 했지만, 핀테크에 생성형 AI를 도입하면서 내재된 편견과 윤리적 문제 등 AI 전문가들이 항상 다루어 왔던 새로운 과제가 등장했습니다. 생성형 AI에서 두드러지는 문제 중 하나는 환각으로, 정확하지 않거나 사실과 다르거나 현실 세계를 반영하지 않는 콘텐츠가 생성되는 것입니다. AI 모델은 그럴듯하게 들리지만 전적으로 허구인 정보를 생성할 수 있습니다. 특히 자연어 처리에서 생성형 AI 모델은 일관성 있고 문맥에 적절하지만 사실 정확도가 부족한 텍스트를 생성할 수 있습니다. 이는 잘못된 정보 및 콘텐츠 신뢰성 등 다양한 영역에서 문제를 야기합니다. 이러한 문제나 위험의 예는 다음과 같습니다. 오해의 소지가 있는 재무 계획 조언: 재무 자문 서비스에서 잘못된 정보로 인해 예기치 않은 위험이나 기회를 놓치게 되는 잘못된 조언이 발생할 수 있습니다. 대출에 대한 잘못된 위험 평가: 부정확한 위험 프로필은 대출 신청자에 대한 잘못된 위험 평가로 이어져 금융 기관이 일반적으로 허용하는 것보다 더 높은 채무 불이행 위험에 처한 대출을 승인하게 만들 수 있습니다. 생성된 텍스트의 민감한 정보: 텍스트를 생성할 때 모델이 실수로 학습 데이터의 민감한 정보를 포함할 수 있습니다. 공격자는 학습 말뭉치에 있는 기밀 세부 정보를 노출하는 출력을 생성하도록 모델을 유도하는 입력 프롬프트를 만들 수 있습니다. 따라서 금융 기관이 AI, 특히 생성형 AI 전략과 관련된 기술적 영향, 규모 및 복잡성을 이해하는 것이 무엇보다 중요합니다. 기술, 데이터, 윤리, 조직 준비의 다양한 측면을 아우르는 전략적이고 포괄적인 접근 방식이 중요합니다. 다음은 금융 기관이 이러한 전략을 채택할 때 고려해야 할 몇 가지 주요 고려 사항입니다. 환각 완화: 생성형 AI에서 환각을 완화하는 것은 어려운 작업이지만, 부정확하거나 오해의 소지가 있는 정보를 생성할 위험을 줄이기 위해 몇 가지 전략과 기법을 사용할 수 있습니다. 한 가지 유망한 전략은 검색 증강 생성( RAG ) 접근 방식을 활용하여 생성형 AI 모델의 환각을 완화하는 것입니다. 이 접근 방식에는 정보 검색 메커니즘을 통합하여 생성 프로세스를 개선함으로써 생성된 콘텐츠가 실제 지식에 기반을 두도록 하는 것이 포함됩니다. Vector Search 는 입력 쿼리를 기반으로 관련 문서를 검색하는 벡터 검색을 사용하는 RAG 아키텍처 구현을 지원하기 위해 널리 사용되는 메커니즘입니다. 그런 다음 검색된 문서를 거대 언어 모델(LLM)에 컨텍스트로 제공하여 보다 정확하고 정보에 입각한 응답을 생성하는 데 도움을 줍니다. 데이터 품질 및 가용성: AI를 도입하기 전에 한 걸음 물러서서 AI 학습 및 의사 결정에 사용되는 데이터의 품질, 관련성, 정확성에 실시간으로 액세스할 수 있도록 하세요. 교육: 교육 프로그램에 투자하는 것은 AI의 기술 격차를 해소하고 인력이 AI 기술을 관리, 해석, 협업할 수 있는 역량을 갖추도록 하는 데 핵심적인 역할을 합니다. 성공적인 AI 도입을 위해서는 학습 및 개발 문화가 필수적이며, 개인적 및 전문적 발전을 위해 최고가 되는 데 필요한 도구를 직원들에게 제공해야 합니다. 또한 잠재적 취약성에 대한 인식을 높이고 모델을 지속적으로 개선하여 환각, 편향, 적대적 조작 및 기타 약점에 대한 복원력을 강화하는 것은 생성형 AI 애플리케이션의 성공을 보장하는 데 필수적입니다. 새로운 거버넌스, 프레임워크 및 제어 개발: 출시하기 전에 안전한 방식으로 빠르게 실패할 수 있는 테스트 및 학습을 위한 안전한 환경을 조성하세요. 고객과 직접 접촉하는 프로덕션 환경으로 바로 이동하면 잘못된 거버넌스 방식이 구현될 수 있습니다. 모니터링 및 지속적인 개선: AI 도입과 관련된 재무적 영향, 변화의 영향, 규모, 복잡성을 측정하고 이해하기 위한 강력한 모니터링 시스템을 구현하세요. 확장성 및 통합: 증가하는 데이터 세트와 진화하는 요구 사항을 수용할 수 있도록 확장성 을 염두에 두고 AI 시스템을 설계하세요. 보안 및 개인정보 보호: AI 모델과 해당 모델이 사용하는 데이터를 보호하기 위한 강력한 사이버 보안 조치를 구현하세요. 적대적 학습, 입력 삭제, 개인정보 보호 메커니즘 통합과 같은 기술은 생성형 AI가 실수로 개인 데이터를 노출할 위험을 완화하는 데 도움이 될 수 있습니다. 사고 대응 계획은 사이버 보안 조치의 일부가 되어야 하며 관련 이해관계자를 대상으로 보안 및 개인정보 보호에 대한 정기적인 교육이 이루어져야 합니다. MongoDB가 데이터 문제를 극복하는 데 도움을 주는 방법 데이터를 기반으로 삼아야 하는 AI 및 ML과 같은 첨단 기술을 도입하는 과정에서, 특히 전체 데이터에 대한 정확한 데이터 분석을 위해 플랫폼이 외부 소스와 통합되는 사기 방 지와 같은 사용 사례의 경우 조직은 레거시 시스템에 이러한 혁신을 통합하는 데 어려움을 겪는 경우가 많습니다. 기존 시스템의 유연성이 부족하여 최첨단 기술의 원활한 통합을 방해하는 중대한 문제가 발생합니다. 유연한 문서 모델을 갖춘 운영 데이터 저장소(ODS) 역할을 하는 MongoDB를 통해 금융 기관은 대용량 데이터를 실시간으로 효율적으로 처리할 수 있습니다. MongoDB를 AI/ML 플랫폼과 통합함으로써 기업은 가장 정확한 최신 데이터로 학습된 모델을 개발하여 기술이 진화하는 상황에 따른 적응성과 민첩성에 대한 중요한 요구 사항을 해결할 수 있습니다. 유연성이 떨어지고 수정이 어려운 레거시 시스템은 고객 경험을 향상하고 운영 효율성을 개선하기 위해 AI를 활용하는 데 있어 또 다른 과제를 제시합니다. 특히 시간이 지남에 따라 진화하는 AI 모델의 불확실성으로 인해 확장 가능한 인프라가 필요한 금융 부문에서 통합의 어려움은 지속되고 있습니다. MongoDB의 개발자 데이터 플랫폼은 모든 데이터 구조, 형식 또는 소스를 수용할 수 있는 유연한 데이터 스키마를 통해 비즈니스의 미래를 대비합니다. 이러한 유연성 덕에 다양한 AI/ML 플랫폼과 원활하게 통합할 수 있으므로 금융 기관은 인프라를 광범위하게 수정하지 않고도 AI 환경의 변화에 적응할 수 있습니다. 특히 API를 통해 제3자와 공유되는 고객 데이터의 보안에 대한 우려로 인해 혁신적인 AI 기술의 도입이 더욱 복잡해졌습니다. 레거시 시스템은 오래된 보안 조치로 인해 보안 위협에 더욱 취약한 경우가 많기 때문에 혁신을 방해할 수 있습니다. MongoDB의 최신 개발자 데이터 플랫폼은 모든 데이터에 내장된 보안 제어 기능을 통해 이러한 문제를 해결합니다. 고객 환경에서 관리 하든 완전 관리형 클라우드 서비스인 MongoDB Atlas 를 통해 관리하든, MongoDB는 인증(싱글 사인온 및 다단계 인증), 역할 기반 액세스 제어, 포괄적인 데이터 암호화 등의 기능으로 강력한 보안을 보장합니다. 이러한 보안 조치는 민감한 금융 데이터에 대한 보호 장치 역할을 하여 외부 당사자의 무단 액세스 위험을 완화하고 조직이 AI 및 ML 기술을 안심하고 수용할 수 있도록 지원합니다. MongoDB를 사용하여 AI 강화 애플리케이션을 구축하는 방법에 대해 자세히 알아보려면 다음 리소스를 살펴보세요. Atlas Vector Search, LangChain, OpenAI를 갖춘 RAG를 사용하여 생성형 AI의 환각 완화 적절한 보안 제어 기능을 갖추고 사용자가 기대하는 규모와 성능으로 AI 강화 앱 구현 Atlas for Industries 프로그램에 가입해 솔루션 가속기에 액세스하여 혁신 추진

January 18, 2024


在日新月异的金融技术领域,围绕人工智能 ( AI ),尤其是生成式人工智能的讨论正日益升温。数十年来,AI 一直是金融领域的一部分,但生成式人工智能的发展带来了更大的好处,也带来了金融机构在这样一个受监管的行业中需要考虑的风险。 虽然生成式人工智能的潜在好处是巨大的,并且许多人仍在考虑采用它,然而在将其从概念验证转变为实际生产时,务必审慎选择合适的方法。在 金融科技金融新闻:虚拟竞技场”的一期中 ,来自汇丰银行、凯捷和 MongoDB 的几位著名行业思想领袖齐聚一堂,探讨金融业如何利用生成式人工智能以及金融机构在其 AI 战略中必须考虑哪些因素。 观看汇丰银行、 MongoDB 和凯捷的小组讨论“当今金融业如何利用生成式人工智能 。参与讨论嘉宾如下: 汇丰银行应用人工智能办公室 EJ Achtner 凯捷副总裁兼英国业务主管 Dan Pears MongoDB 金融服务行业解决方案总监 Wei You Pan FF 新闻首席内容官 Doug Mackenzie 应对生成式人工智能挑战 尽管金融科技专家一直以处理风险管理和治理等长期问题为己任,然而生成式人工智能在金融科技中的应用却引发了新的挑战,如固有偏见和伦理困境,这是人工智能专家们所面临的新课题。生成式人工智能面临的一项突出挑战是幻觉,即生成不准确、不真实或无法反映现实世界的内容。人工智能模型可能会产生听起来合理但完全虚构的信息。 生成式人工智能模型,尤其是在自然语言处理领域,可能会产生连贯且情境相符的文本,然而却缺乏准确性和真实性。这带来了不同方向的挑战,包括错误信息和内容可靠性。此类挑战或风险的示例可能包括: 在财务规划建议中的误导性: 财务咨询服务中,虚假信息可能引发误导性建议,导致意外风险或错失良机。 错误的贷款风险评估: 不准确的风险总结可能使得贷款申请者的风险评估失准,进而导致金融机构在高于标准接受范围的违约风险下批准贷款。 敏感信息泄露于生成文本: 在文本生成过程中,模型可能会无意中揭露培训数据中的敏感信息。对手可通过创建输入提示来引诱模型生成结果,从而揭露训练语料库中的机密细节。 因此,金融机构务必要了解与人工智能相关的技术影响、规模和复杂性,尤其是生成式人工智能策略。在制定涵盖技术、数据、伦理和组织准备等多方面的综合战略方法时至关重要。以下是金融机构在实施这类策略时需牢记的一些关键考虑因素: 减少幻觉: 在生成式人工智能领域,减少幻觉可能是一项充满挑战的任务,但可以通过采用多种策略和技术来降低生成不准确或具误导性信息的风险。一种有潜力的方法是采用检索增强生成( RAG )技术来减少生成式人工智能模型中的幻觉。这种方法涉及整合信息检索机制来强化生成过程,以确保生成的内容基于现实世界的知识。 矢量搜索 是支持 RAG 架构实现的流行机制,它利用矢量搜索以根据输入查询来检索相关文档。然后,RAG 会将这些检索到的文档作为上下文提供给大型语言模型 (LLM),以帮助生成更明智、更准确的响应。 数据质量和可用性: 在使用 AI 之前,要先退后一步,确保所用于 AI 训练和决策的数据具有高质量、相关性和准确性,以便实时访问。 教育: 投资于培训计划是弥补AI技能差距的关键,确保员工具备能力来托管、解释 AI 技术并与之协作。要成功应用 AI,树立学习和发展的文化至关重要,为员工提供实现个人和职业发展最佳水平所需的工具。此外,加深对潜在漏洞的认识,并持续完善模型以增强其抵御幻觉、偏见、对抗性操纵等弱点,对确保生成式人工智能应用程序成功至关重要。 开发新的治理、框架和控制措施: 在发布前,建立一个安全可靠的测试和学习环境,让您能够在一个安全的场所迅速试错并吸取教训。在与客户直接接触的情况下直接投入生产,可能会导致实施错误的治理方法。 监控和持续改进: 建立强大的监控系统,以评估和深入理解 AI 对财务、变革、规模和复杂性的影响。 可扩展性和集成性: 在设计 AI 系统时,应思考 可扩展性 ,以应对不断增长的数据集和不断变化的需求。 安全和隐私: 采取强有力的网络安全措施,以保护 AI 模型及其所需数据的安全。对抗性训练、输入清理和结合隐私保护机制等技术可以帮助减轻生成式人工智能无意中泄露私人数据的风险。建立事件响应计划应当是网络安全措施不可或缺的组成部分,同时需要定期对相关利益相关者进行安全和隐私教育。 MongoDB 如何助您克服数据挑战 在采用 AI 和机器学习等需要数据为基础的尖端技术领域,企业常常面临将这些创新技术集成到旧系统中的考验,尤其是在涉及欺诈 预防等 用例时。在这些用例中,为了对完整数据进行准确的数据分析,平台需要与外部来源进行集成。现有系统的不灵活性是一大痛点,阻碍了尖端技术的无缝结合。MongoDB 作为具有灵活文档模型的操作数据存储 (ODS),使金融机构能够高效实时处理大量数据。通过将 MongoDB 与 AI/ML 平台无缝集成,企业得以打造基于最准确和最新数据训练的模型,以满足在技术不断发展的条件下对适应性和敏捷性的迫切需求。 旧系统的固有特性包括缺乏灵活性和修改难度,这为利用 AI 来提升客户体验和提高运营效率带来了另一个难题。在金融领域,集成问题依然棘手,随着时间推移,AI 模型的不确定性不断演变,需要具备可扩展性的基础设施来予以应对。MongoDB 的开发者数据平台凭借其灵活的数据模型,能够应对各种数据结构、格式和来源,为企业提供具备前瞻性的服务。这种灵活性有助于金融机构实现与各种 AI/ML 平台的无缝集成,使其能够灵活应对 AI 环境的变化,而无需大规模修改基础架构。 对客户数据安全性的担忧,尤其是在通过 API 与第三方共享时,为采用创新人工智能技术增添了更多复杂性。旧系统可能成为创新的绊脚石,因为它们往往因为过时的安全措施而更容易受到安全威胁。MongoDB 的现代开发人员数据平台通过针对所有数据的 内置安全控制 来应对这些挑战。MongoDB 提供了身份验证(单点登录和多因素身份验证)、基于角色的访问控制以及全面的数据加密等功能,无论是 在客户环境中管理 还是通过完全托管的云服务 MongoDB Atlas 进行管理,这些功能都能确保强大的安全性。这些安全措施不仅可以有效保护敏感的财务数据,降低外部各方未经授权访问的风险,而且还能使组织放心地采用 AI 和机器学习技术。 如果您想了解有关使用 MongoDB 构建 AI 密集型应用程序的更多信息,请查看以下资源: 通过结合使用 RAG 和 Atlas Vector Search、LangChain 和 OpenAI 来减轻生成式人工智能的幻觉 在适当的安全控制下打造 AI 密集型应用,同时达到用户期望的规模和性能水平 注册加入我们的“Atlas for Industries”计划,获取我们的解决方案加速工具以推动创新

January 18, 2024

Navigare nel panorama dell’intelligenza artificiale: possibili utilizzi dell'IA generativa nel settore finanziario

Nel mutevole panorama della tecnologia finanziaria, si stanno facendo largo le discussioni riguardanti l'intelligenza artificiale (IA) e, più nello specifico, l'IA generativa. L'IA fa parte del panorama finanziario già da decenni, ma con i progressi dell'IA generativa si profilano diversi vantaggi e diversi rischi che gli istituti finanziari devono prendere in considerazione per operare nel loro settore altamente regolamentato. Sebbene i potenziali vantaggi dell'IA generativa siano importanti e la sua adozione sia ancora in fase di considerazione da parte di molti, è necessario utilizzare la massima cautela quando ci si sposta dal Proof-of-Concept alla produzione. In un'edizione della Fintech Finance News Virtual Arena , diversi leader di pensiero importanti del settore, provenienti da HSBC, Capgemini e MongoDB, si sono riuniti per esplorare i possibili utilizzi dell'IA generativa nel settore finanziario, e cosa è bene che gli istituti finanziari prendano in considerazione nella loro strategia IA. Guarda il panel di discussione " In che modo il settore finanziario può utilizzare l'IA generativa", con HSBC, MongoDB e Capgemini . Ascolterai: EJ Achtner, Office of Applied Artificial Intelligence di HSBC Dan Pears, Vicepresidente, UK Practice Lead di Capgemini Wei You Pan, Direttore, Financial Services Industry Solutions di MongoDB Doug Mackenzie, Chief Content Officer di FF News Affrontare le sfide dell'IA generativa Gli esperti di tecnologia finanziaria da sempre hanno dovuto affrontare problemi persistenti, come la gestione del rischio e la governance, ma l'adozione dell'IA generativa nella fintech introduce nuove sfide ben note agli specialisti dell'IA, come i bias intrinseci e preoccupazioni etiche. Una sfida particolarmente di spicco per l'IA generativa è la cosiddetta "allucinazione", ovvero la generazione di contenuti imprecisi, non fattuali e non rappresentativi del mondo reale. I modelli di IA possono produrre informazioni che sembrano plausibili ma che, in verità, sono completamente fittizie. I modelli di IA generativa, specialmente nell'elaborazione del linguaggio naturale, possono generare testi coerenti e adeguati al contesto ma che non hanno precisione fattuale. Questo pone diverse sfide in molti domini, fra cui la disinformazione e l'affidabilità dei contenuti. Alcuni esempi di tali sfide o rischi possono essere: Consulenze di pianificazione finanziaria fuorvianti: nei servizi di consulenza finanziaria, le informazioni contenenti allucinazioni possono portare a consigli fuorvianti i quali, a loro volta, possono aprire le porte a rischi inattesi o a opportunità mancate. Valutazioni del rischio errate per i prestiti: profili di rischio imprecisi possono risultare in una valutazione poco affidabile riguardo ai richiedenti prestito, portando un istituto finanziario ad approvare un mutuo a un rischio di insolvenza più alto di quello che normalmente accetterebbe. Informazioni sensibili all'interno del testo generato: quando si genera un testo, i modelli possono inavvertitamente includere informazioni sensibili sui dati di addestramento. Gli aggressori possono creare prompt di input per indurre il modello a generare output che rivelino le informazioni riservate presenti nel corpus di addestramento. Per questo è fondamentale che gli istituti finanziari comprendano l'impatto tecnologico, la scala e la complessità associati all'IA, e specialmente alla strategia di IA generativa. Un approccio strategico e completo che copra vari aspetti di tecnologia, dati, etica e preparazione organizzativa appare pertanto imprescindibile. Ecco alcune considerazioni chiave che gli istituti finanziari devono tenere a mente quando adottano una strategia di questo tipo: Mitigazione dell'allucinazione: mitigare l'allucinazione nell'IA generativa è un compito difficile, ma è possibile applicare diverse strategie e tecniche per ridurre il rischio di generare informazioni imprecise o fuorvianti. Una di queste, particolarmente promettente, è utilizzare l'approccio RAG ( Retrieval Augmented Generation ) per mitigare l'allucinazione nei modelli di IA generativa. Questo approccio prevede l'incorporamento di meccanismi di recupero delle informazioni per migliorare il processo di generazione, garantendo che i contenuti risultanti si basino su conoscenze del mondo reale. Vector Search è un meccanismo popolare di supporto dell'implementazione dell'architettura RAG che utilizza la ricerca vettoriale per recuperare documenti rilevanti sulla base della query di input, per poi fornirli sotto forma di contesto ai modelli linguistici di grandi dimensioni (LLM) per generare una risposta più informata e precisa. Qualità e disponibilità dei dati: prima di adottare l'IA, fai un passo indietro e controlla che la qualità, la pertinenza e la precisione dei dati utilizzati per l'addestramento dell'IA e il processo decisionale siano accessibili in tempo reale. Formazione: investire in programmi di formazione è fondamentale per ridurre i gap delle competenze nell'IA e garantire che i dipendenti siano preparati per gestire, interpretare e collaborare con le tecnologie di IA. Affinché l'adozione dell'IA abbia successo, è fondamentale costruire una cultura di apprendimento e sviluppo, fornendo ai dipendenti gli strumenti di cui hanno bisogno per raggiungere il massimo sia dal punto di vista personale che da quello professionale. Inoltre, promuovere la consapevolezza sulle potenziali vulnerabilità e affinare continuamente i modelli perché migliorino la loro resilienza ad allucinazioni, bias, manipolazioni avversarie e altre debolezze è necessario per garantire il successo delle applicazioni di IA generativa. Sviluppare nuovi framework, controlli e governance: prima di partire, crea ambienti sicuri e protetti per testare e apprendere, che ti consentano di controllare rapidamente e in modo sicuro gli eventuali errori. Buttarsi a capofitto nella produzione, a diretto contatto con i consumatori, può causare l'implementazione dei metodi di governance sbagliati. Monitoraggio e miglioramento continuo: implementa sistemi di monitoraggio robusti per misurare e comprendere gli impatti finanziari, i cambiamenti, la scalabilità e la complessità associati all'adozione dell'IA. Scalabilità e integrazione: progetta sistemi di IA incentrati sulla scalabilità , in grado di far spazio alla crescita dei set di dati e ai mutamenti dei requisiti. Sicurezza e privacy: implementa solide misure di cybersecurity per proteggere i modelli di IA e i dati su cui si basano. Tecniche come l'addestramento avversario, la sanificazione degli input e l'incorporamento di meccanismi di tutela della privacy possono mitigare il rischio che l'IA generativa riveli inavvertitamente dati privati. Anche i piani di risposta agli incidenti devono far parte delle misure di cybersecurity, così come una formazione regolare delle parti coinvolte pertinenti in materia di sicurezza e privacy. In che modo MongoDB può aiutarti a superare le tue sfide relative ai dati Nell'ambito dell'adozione di tecnologie avanzate come l'IA e il machine learning, che richiedono i dati come base, le organizzazioni si trovano spesso ad affrontare la sfida della loro integrazione all'interno di sistemi legacy, specialmente in casi d'uso come la prevenzione delle frodi , dove la piattaforma è integrata con risorse esterne per un'analisi accurata di dati completi. La poca flessibilità dei sistemi esistenti è un punto di frizione importante che rischia di rallentare l'incorporamento di tecnologie all'avanguardia. MongoDB, utilizzato come data store operativo (ODS) con un document model flessibile, permette agli istituti finanziari di gestire in modo efficiente grandi volumi di dati in tempo reale. Integrando MongoDB con le piattaforme AI/ML, le aziende possono sviluppare modelli addestrati sui dati più accurati e aggiornati, rispondendo così alla necessità critica di adattabilità e agilità di fronte all'evoluzione delle tecnologie. I sistemi legacy, caratterizzati dalla loro rigidità e resistenza alla modifica, presentano un'altra sfida nel tentativo di utilizzare l'IA per migliorare le esperienze dei clienti e l'efficienza operativa. Permangono anche diversi problemi di integrazione, specialmente nel settore finanziario, dove l'incertezza dei modelli di IA in continua evoluzione nel tempo richiede un'infrastruttura scalabile. La piattaforma di dati per sviluppatori MongoDB prepara le imprese per il futuro con il suo schema di dati flessibile in grado di accogliere qualsiasi struttura, formato o origine dei dati. Questa flessibilità facilita un'integrazione fluida con diverse piattaforme AI/ML, consentendo agli istituti finanziari di adattarsi alle modifiche nel panorama dell'IA senza grosse modifiche all'infrastruttura. Le preoccupazioni relative alla sicurezza dei dati dei clienti, specialmente se condivisi con terze parti tramite API, complicano ulteriormente l'adozione di tecnologie innovative di IA. I sistemi legacy possono ostacolare questa innovazione perché spesso sono più vulnerabili alle minacce alla sicurezza a causa di misure di protezione obsolete. La moderna piattaforma di dati per sviluppatori di MongoDB affronta queste sfide con controlli di sicurezza integrati su tutti i dati. Che sia gestito in un ambiente cliente o tramite MongoDB Atlas , un servizio cloud completamente gestito, MongoDB garantisce una sicurezza solida con funzionalità come l'autenticazione (single sign-on e autenticazione a più fattori), i controlli di accesso basati sui ruoli e la crittografia completa dei dati. Si tratta di misure di sicurezza che fungono da protezione per i dati finanziari sensibili, mitigando il rischio di accesso non autorizzato da parte di soggetti esterni e fornendo alle organizzazioni la sicurezza necessaria per abbracciare le tecnologie di IA e ML. Se desideri scoprire di più sulla creazione di applicazioni arricchite con l'IA di MongoDB, dai un'occhiata alle seguenti risorse: Mitiga l'allucinazione dell'IA generativa utilizzando il RAG con Atlas Vector Search, LangChain e OpenAI Crea app con tecnologia IA, attuando gli opportuni controlli di sicurezza e assicurando la scala e le prestazioni che gli utenti si aspettano Iscriviti al nostro programma Atlas for Industries per accedere ai nostri acceleratori di soluzioni e promuovere l'innovazione

January 18, 2024