Forskningsprojekt

AI och finansmarknaderna: Ansvar och juridisk riskhantering

I det här projektet undersöker vi AI-relaterade risker inom finansmarknaderna. Projektet kombinerar handelsrättsliga och företagsekonomiska perspektiv för att undersöka hanteringen av risker (oavsett om de är verkliga eller upplevda) som förknippas med användning av AI-algoritmer i den finansiella sektorn. På individnivå kan det uppstå risk för individuell skada relaterad till användningen av AI. På samhällsnivå frågar vi oss om användningen av AI i den finansiella sektorn kan öka systemriskerna på de finansiella marknaderna?

Medan lagstiftning alltid sker reaktivt, och därför ligger efter den tekniska utvecklingen, måste företag inom den finansiella sektorn agera proaktivt för att hantera risker kopplade till användning av AI. För att göra detta på ett bra sätt måste de också förstå hur den gällande rättsordningen fördelar ansvar för AI-lösningar. Vårt projekt kan bidra till en sådan förståelse. Vi kommer att reda ut den befintliga “infrastrukturen för ansvarsfrågor” avseende AI i den finansiella sektorn, inklusive dess luckor och inkonsekvenser. Genom empiriska studier syftar projektet också till att klargöra hur de drabbade aktörerna faktiskt redan arbetar för att hantera risker kopplade till deras användning av AI. Våra mål inkluderar även en strävan efter att identifiera mer exakta och effektivare sätt att utforma ”infrastrukturen för ansvarsfrågor” avseende AI. Vi kommer också att granska i vilken mån den företagsekonomiska teoribildningen kring riskhantering (risk management) kan bidra till vetenskaplig förståelse när det är fråga om riskhantering med juridiska verktyg, såsom avtal.

Forskargruppen i projektet består av tre seniora forskare och två till tre unga forskare, som kommer att arbeta med en kombination av traditionella juridiska forskningsmetoder och empiriska forskningsmetoder. Rättsligt material och avtal kommer att analyseras med juridiska metoder. Analyserna kommer att kompletteras med kvalitativa intervjuer med nyckelaktörer i branschen. Det kommer att finnas en referensgrupp med företrädare för näringslivet och myndigheter samt forskare inom samhällsvetenskap. Resultaten kommer att spridas genom vetenskapliga publikationer, seminarier och konferenser, men också genom allmänna medier och branschmedier.

I projektet ingår Magnus Strand (projektledare), Annina H. Persson, Malou Larsson Klevhill, Jason Crawford, Johanna Chamberlain, Andreas Kotsios och Ensieh Mahi.

Projektledare: Magnus Strand
Projektperiod: 2021–2023
Finansiering: Marianne och Marcus Wallenbergs Stiftelse

AI-baserad RegTech 

Företag på finansmarknaderna befinner sig mitt i en period av omfattande lagstiftningsverksamhet på flera nivåer i Europa och internationellt. Tendensen i ny lagstiftning har varit att införa allt mer detaljerade krav på kontroll och tillsyn. Faktum är att detaljnivån i reglerna och mängden rapportering som finansföretag måste följa i syfte att rapportera och hantera sin regelefterlevnad har blivit för stor för att kunna hanteras utan automatiserat stöd.

Den här situationen har skapat en kraftig efterfrågan på avancerade datatjänster för efterlevnadskontroll (compliance management). Applikationer för sådan efterlevnad av gällande lagstiftning (men också efterlevnad av uppförandekoder, kontrakt och etiska standarder) har blivit kända som RegTech. De mest avancerade av dessa applikationer inkluderar artificiell intelligens, algoritmer som använder sig av maskininlärning och naturlig språkbehandling. En IBM-rapport från 2018 visade rentav att dessa avancerade algoritmer är de vanligaste förekommande RegTech-produkterna. De vanligaste användningsområdena för sådan AI-baserad RegTech är (enligt en Deloitte-undersökning) efterlevnadskontroll, riskhantering, transaktionsövervakning, obligatorisk rapportering och identifiering.

AI-baserad RegTech erbjuder en mycket attraktiv lösning för företag som kämpar för att hantera omfattande krav på rapportering och övervakning. Det ökar effektiviteten och minskar kostnaderna, genom att till exempel hjälpa banktjänstemän med stora dataanalyser som annars skulle vara enormt tidskrävande. AI-baserad RegTech kan exempelvis upptäcka misstänkta transaktioner som kan utgöra en del av ekonomiska brott som penningtvätt.

AI-baserad RegTech väcker emellertid också frågor och viss oro, kanske framför allt i relation till själva ändamålet med rapportering, dokumentation och intern övervakning. Sådana åtgärder har som sitt främsta syfte att öka den etiska medvetenheten i organisationer, och att utbilda företagsledare om hur man bibehåller kvaliteten på den interna kontroll som behövs för att skydda investerare, konsumenter och skattebetalare. Vi vet att en betydande del av efterlevnadsarbetet redan hanteras av algoritmer. Man kan därför ställa sig frågan om människorna i de här organisationerna egentligen lär sig någonting, eller om algoritmerna är de enda som lär sig? Vissa kritiker säger till och med att algoritmerna är utmärkta för att bocka av alla krav och rapportera oklanderliga data, men att sådana rapporter kan vara vilseledande och dölja en verklighet av finansiellt beslutsfattande som (återigen) accepterar alltför höga risker. Sådana farhågor visar att det är viktigt att studera användningen av AI-baserad RegTech inom den finansiella sektorn, att få teoretiska perspektiv på dess användningsområden inom riskhantering och efterlevnadskontroll, och att fundera över på vilka sätt RegTech faktiskt bidrar till (eller minskar) transparensen och möjligheterna att utkräva ansvar på finansmarknaderna. Genom vår studie kommer vi att kunna presentera empiriska resultat som kan ligga till grund för en informerad diskussion om vilka användningar av AI-baserad RegTech på finansmarknaderna som verkligen tjänar syftena bakom lagstiftningen och etiska policies, och vilka användningar som inte gör det. Vi kan också bidra till att utforma effektivare sätt att främja transparens, tydlig ansvarsfördelning och etisk stringens på finansmarknaderna.

Det förtjänar att understrykas att ovanstående problematik inte är begränsad till finanssektorn. Algoritmbaserad rapportering sker också till exempelvis av skattemyndigheterna och i redovisning; användningsområden som blir allt mer relevanta för komplexa företagsstrukturer oavsett vilken bransch de tillhör. AI påverkar alla komplexa företagsorganisationer. Följaktligen har det här projektet breda teoretiska implikationer för ledarskaps- och organisationsteori, vilket gör det till ett viktigt forsknings- och undervisningsämne.

I projektet ingår Donal Casey (projektledare), Magnus Strand, Peter Thilenius, Subhalagna Choudhury och Karim Nasr.

Projektledare: Donal Casey
Projektperiod: 2021–2026
Finansiering: WASP-HS

Bokprojekt: Legal Accountability in EU Markets for Financial Instruments – The Dual Role of Investment Firms

Den här boken är en av flera publikationer från ett tvärvetenskapligt forskningsprojekt genomfört i samarbete mellan Uppsala universitet och European University Institute i Florens. I projektet har vi studerat moderna mönster för centraliserad normgivning för EU:s inre marknad, med fokus på finansmarknaderna; en uppsättning sektorer inom den inre marknaden där utvecklingen inom normgivning och tillsyn har allmän relevans och erbjuder stora möjligheter för både rättsvetenskapliga och statsvetenskapliga studier.

Boken koncentrerar sig på de rättsliga konsekvenserna av centraliserad normgivning för EU:s styrningsstrukturer, och i synnerhet på ansvarsfrågor. För att möjliggöra en fördjupad studie har vi valt att koncentrera oss på regelverket om marknader för finansiella instrument I boken stipuleras inte någon fast uppfattning om hur begreppen "ansvar" (accountability) eller "styrning" (governance) ska definieras av de medverkande författarna. Detta är en av bokens huvudsakliga styrkor. Det finns många sätt att närma sig innebörden av ansvarsfrågor och i vilka perspektiv de ska förstås. Helt klart är att i grunden finns frågan om huruvida någon är ansvarig för det den gör och kan ge tillfredsställande skäl för sitt agerande. Frågorna som diskuteras i boken, särskilt med avseende på rättsligt ansvar och, i synnerhet, domstolsprövning, rör bland annat i vilket forum och på vilket sätt ansvarsfrågor kan och ska prövas, kriterierna för locus standi (för vilken part), vilken typ av rättsmedel som finns tillgängliga (såsom ogiltigförklaringar, upphävanden, sanktioner för regelöverträdelser, utomobligatoriskt ansvar m.m.) och hur ingående ett tillsyns- eller prövningsförfarande ska vara. En väl fungerande finansmarknad inom EU skyddas av offentliga aktörer – både nationella och överstatliga – som ansvarar för normgivning för och tillsyn över värdepappersföretag. Men EU:s rättssystem är samtidigt beroende av privata aktörers vaksamhet, det vill säga att värdepappersföretag och deras kunder hävdar sina rättigheter och åberopar EU-lagstiftning inför nationella myndigheter och domstolar. Detta innebär att värdepappersföretag har en dubbel roll inom det finansiella ansvarssystemet. De är föremål för tillsyn men kan också agera själva, vilket bidrar till att upprätthålla rättsstaten.

Boken är publicerad på Oxford University Press. Redaktörer för boken är Magnus Strand (Företagsekonomiska institutionen, handelsrätt) och professor Carl Fredrik Bergström (Juridiska institutionen). Bland författarna finns handelsrättens medarbetare Annina H. Persson, Malou Larsson Klevhill och Magnus Strand.

Senast uppdaterad: 2022-02-04