Belangrijkste lessen uit de discussie met Dr. Sai Zeng, hoofd van AI CoE & Distinguished Engineer bij UBS, op de AI for Financial Services Summit van Artefact - 12 juni 2024.
Vragen van Akhilesh Kale, Partner bij Artefact US.
Over Sai Zeng: Bij UBS geeft ze leiding aan de implementatie van AI-gestuurde strategieën om data management, risicovermindering en operationele efficiëntie in alle groepsfuncties van de bank te verbeteren.
Over UBS: UBS is een wereldwijde financiële dienstverlener organisatie die diensten aanbiedt op het gebied van vermogensbeheer, vermogensbeheer en investeringsbankieren. Het is wereldwijd actief in de belangrijkste financiële centra en biedt financiële oplossingen op maat voor een gevarieerde klantenkring.
Schaalvergroting en talentontwikkeling
Het repliceren van senior data wetenschappers en het integreren van diverse talenten in machine learning, deep learning en NLP zijn cruciaal voor het schalen van AI technologie. Het gezamenlijk ontwikkelen van oplossingen met ontwikkelteams en zakelijke belanghebbenden bevordert een "full stack data scientist" benadering.
AI als uitbreiding van bestaande oplossingen
AI en machine learning worden gezien als uitbreidingen van bestaande producten en oplossingen, niet als op zichzelf staande producten. Dit stimuleert nauwe samenwerking met ontwikkelteams en producteigenaren om AI modellen te integreren in bestaande frameworks.
Evenwicht tussen innovatie en productie
Teams besteden ongeveer 20% van hun capaciteit aan innovatie en experimenten met nieuwe grote taalmodellen (LLM's) en technologieën. Deze gestructureerde aanpak zorgt ervoor dat probleemgedreven experimenten op één lijn liggen met de doelstellingen van de organisatie, waarbij de behoefte aan innovatie wordt afgewogen tegen het leveren van meetbare vooruitgang en waarde.
Concrete gebruikssituaties in juridische en financiële zaken
AI De toepassingen omvatten een zoekfunctie voor juridische documenten die de zoekfunctionaliteit voor 20 miljoen documenten verbetert en een tool voor automatisch commentaar voor financiële controleurs die het samenvoegen van data en het genereren van commentaar automatiseert. Deze tools verbeteren de operationele efficiëntie en spelen in op specifieke bedrijfsbehoeften.
Integratie- en implementatiestrategie
Het aannemen van mensen die AI algoritmen begrijpen en capaciteiten kunnen integreren met productoplossingen is essentieel. Dit houdt een "full stack data scientist"-concept in, waarbij professionals kennis hebben van AI, softwareontwikkeling, implementatie en schaalbaarheid in productie, zodat er vanaf het begin een holistische aanpak is.
Innovatie gedreven door probleemoplossing
Toegewijde tijd voor innovatie wordt gedreven door echte problemen. Na de overname van Credit Suisse bestond een specifieke use case uit HR-vragen over het vergelijken van 401(k)-regelingen. Deze verkenning ging verder dan eenvoudige vragen en leidde tot complexe multi-agent raamwerken, die inspireerden tot verdere verkenning en innovatie.
Efficiëntie en kostenbesparingen
AI in de financiële dienstverlening is gericht op operationele efficiëntie en kostenbesparingen, met voordelen zoals een betere klantervaring en verkoop/marketing. AI toepassingen in interne FAQs chatbots, geautomatiseerde rapportage en automatisering op gebieden zoals anti-witwas (AML) en know-your-customer (KYC) processen worden snel in productie genomen.
Projectbeheer op lange termijn
Een zoekmachine voor juridische documenten stond voor uitdagingen zoals het verwerken van 20 miljoen documenten en het implementeren van toegangscontrole. Het team ontwikkelde een Google-achtige zoekmachine voor juridische documenten, met de nadruk op schaalbaarheid en toegangscontrole. De reis van proof of concept naar productie duurde meer dan een jaar.
Geautomatiseerd financieel commentaar
Een tool voor automatisch commentaar voor financiële controllers automatiseert het samenvoegen van data en het genereren van commentaar. Deze tool stroomlijnt het proces van het toelichten van belangrijke wijzigingen in winst en verlies (P&L), waarbij handmatig sorteren data wordt vervangen door geautomatiseerde oplossingen. Het integreert grote taalmodellen om taalpatronen te ontdekken en dagelijks commentaar te genereren.
Goedkeuring en bestuur
AI Modellen volgen gevestigde goedkeuringsprocessen die vergelijkbaar zijn met risicomodellen. Het leveren van bewijs van invoer, uitvoer en metriek zorgt voor naleving van de governancenormen. Voor grote taalmodellen zijn nieuwe validatiebenaderingen nodig, die de evoluerende aard van AI technologieën weerspiegelen.
Uitdagingen bij hallucinatie aanpakken
Zorgen voor nauwkeurigheid zonder hallucinatie is een uitdaging, vooral in gestructureerde omgevingen data . Oplossingen bestaan uit het gebruik van AI modellen om data te interpreteren en antwoorden samen te stellen, waarbij fouten geminimaliseerd worden. Interactie met grote taalmodellen richt zich op het samenstellen van antwoorden op basis van nauwkeurige data geëxtraheerd via SQL statements.