Sagen for skræddersyet, suveræn kunstig intelligens i den offentlige sektor

Agentisk AI er trådt ind på arbejdspladsen på tværs af sektorer, hvilket betyder, at AI-systemer nu i stedet for blot at svare på forespørgsler bruger kontekstteknik til at planlægge, ræsonnere og handle inden for virkelige operationelle arbejdsgange. Denne indtræden er måske mest afgørende og udfordrende i regulerede miljøer (f.eks. finans, biovidenskab, myndigheder, forsvar og offentlige institutioner), hvor tillid, compliance og ansvarlighed er påkrævet.

Selv i den offentlige sektor har organisationer svært ved at implementere agentisk AI korrekt på grund af mangel på værktøjer. Men selvstændige modeller og AI-funktioner, der er blevet tilføjet som et ekstra lag, og som er populære i offentligheden, tager slet ikke højde for de dybe operationelle, styringsmæssige og regulatoriske integrationer, som miljøer i den offentlige sektor kræver.

Mens kommercielle virksomheder kan påtage sig risikoen ved at anvende standardløsninger til grundlæggende arbejdsgange, vil virksomheders CIO'er og ledere i den offentlige sektor ofte opleve, at disse løsninger er uklare med hensyn til, præcis hvilke intelligente produkter de introducerer i følsomme økosystemer. Det er her, suveræn AI – en nations eller organisations evne til at producere og kontrollere sin egen kunstige intelligens ved hjælp af lokalt ejet infrastruktur, data og personale – bliver en afgørende produktfaktor.

Hos deepset afspejler vores open source-arbejde med Haystack bredere ændringer i erhvervslivet og den offentlige sektor. Organisationer bevæger sig væk fra pilotprojekter og færdigpakkede AI-løsninger og fokuserer i stedet på AI-orkestrering til deres transformative anvendelser – processen med at koordinere flere modeller, værktøjer og systemer i samlede arbejdsgange, der leverer ensartede og ansvarlige resultater. I regulerede brancher ser disse løsninger ud som skræddersyede, missionsorienterede systemer og agenter, der leverer målbare resultater, samtidig med at de forbliver i overensstemmelse med reglerne og robuste over for ændringer.

Mens Europa fører an i udviklingen af suveræne AI-økosystemer, har vi bygget Haystack for at muliggøre denne fremtid. Baseret på min erfaring er dette måden, organisationer kan bygge produktionsklare, suveræne og agentiske AI-løsninger til regulerede miljøer på – og grunden til, at tilpasning er nøglen til ansvarligt at opnå pålidelighed og suverænitet.

De tre søjler i suveræne AI-systemer

For produktledere er suveræn AI hverken et politisk standpunkt eller blot et afkrydsningsfelt for compliance, men en produktdriftsmodel til regulerede miljøer. Når agentisk AI introduceres i disse økosystemer, skal den implementeres gennemtænkt på en måde, der imødekommer de eksisterende arbejdsgange.

De tre søjler i suveræn AI er tilpasningsmuligheder, fleksibilitet i implementeringen og et open source-grundlag. Disse principper bør være retningsgivende for enhver AI-implementeringsstrategi i en reguleret branche, uanset hvor geografisk organisationen befinder sig.

●  Tilpasningsmuligheder: Tilpasning af AI-pipelines og agenter til en virksomheds eller offentlig organisations specifikke domæneviden, regler og styringskrav for at skabe pålidelighed.

●  Fleksibilitet i implementeringen: AI'en bør kunne køre hvor som helst, f.eks. i skyen, på sikre lokale systemer, i hybridmiljøer, i en virtuel privat sky eller endda i isolerede miljøer uden netværksforbindelse.

●  Open source-grundlag: Sikring af gennemsigtighed, revisionsmuligheder og frihed fra leverandørafhængighed samt mulighed for at køre systemer på tværs af forskellige suverænitetsgrænser.

Tilsammen gør disse tre søjler det muligt for organisationer at bygge AI, som de kan have tillid til, kontrollere og reelt eje, samtidig med at de fremmer et tættere samarbejde mellem produktteams, slutbrugere, sikkerhedsansvarlige og juridiske interessenter.

Særlige forhold i den offentlige sektor

I regulerede miljøer er der mange risici forbundet med implementering af agentisk AI – sikkerhedsbrud, manglende compliance og beslutninger fra en “sort boks”, som ikke kan revideres. Da organisationer står til ansvar for enhver beslutning, deres AI-agenter træffer, og for alle de følsomme data, disse systemer berører, skal offentlige institutioner prioritere kontrol, compliance og tillid fra første dag af implementeringen.

For yderligere at understøtte processen og forandringsledelsen i organisationen skal disse AI-systemer desuden bidrage til at skabe branchestandarder for lignende arbejdsgange. En enkelt AI-løsning, der passer til alle, fungerer ganske enkelt ikke, når AI og AI-agenter skal operere under forskellige juridiske rammer, dataklassifikationer og ansvarlighedsmodeller. At tage en “standardløsning” ned fra hylden vil påvirke disse regulerede arbejdsgange og kræve, at medarbejderne tilpasser sig, samtidig med at risikoen og ansvaret for dataene og beslutningstagningen er uklare. Derfor er tilpasning afgørende, hvis AI skal lykkes i regulerede brancher.

Tilpasning opfattes ofte som langsom eller dyr. Med de rette niveauer og lag af åben orkestrering kan teams gå fra prototypeudvikling til iterativ test og produktionsimplementering på få uger. Orkestrering gør det muligt for AI-systemer at udvikle sig sikkert og trinvist uden at give afkald på styring. Disse systemer bliver derefter standarder, som andre afdelinger eller niveauer i den offentlige sektor kan tage i brug og tilpasse til deres behov. Virksomhedsarkitekter og platformteams med praktisk erfaring beskriver ofte dette som evnen til at standardisere gentagelige arkitekturer.

Sådan ser tilpassede, suveræne AI-systemer ud

Når man undersøger mulighederne inden for suveræn AI, omfatter vellykkede suveræne AI-systemer:

1. Kontrol over modeller, data og implementering: Modulær orkestrering af AI-pipelines undgår leverandørafhængighed, integrerer følsomme data sikkert og implementeres på selvhostede miljøer.
2. Sikkerhedsfokuseret infrastruktur og revisionsspor: Indbygget logføring, adgangskontroller og understøttelse af overholdelse af krav bidrager til offentlig tillid og gennemsigtighed.
3. Design med mennesket i beslutningssløjfen: Mennesker forbliver ansvarlige for beslutninger, mens AI automatiserer det repetitive arbejde – ikke erstatter medarbejdernes dømmekraft eller eksisterende viden, men i stedet indbygger denne i arbejdsgangene.
4. Forklarbarhed og sporbarhed: Alle resultater skal være synlige og kunne begrundes under revisioner og evalueringer af styringen.

Derfor bevæger offentlige myndigheder sig væk fra store AI-modeller og enkeltstående løsninger og hen imod produktionsklar, sikker infrastruktur, der er specifikt designet til deres arbejdsgange i den virkelige verden.

På grund af hypen omkring AI-agenter har organisationer fokuseret på at finde en AI-model, de kan arbejde med og implementere. Men for at opbygge pålidelige AI-agenter i regulerede miljøer skal teams begynde med orkestrering. Modeller og systemdesign vil naturligt ændre sig.

Modulære orkestreringsplatforme gør det muligt for organisationer at integrere modeller, domænelogik og data som udskiftelige komponenter i styrede AI-pipelines. Disse pipelines er opbygget med detaljerede datakontroller, testprocedurer til brugerfeedback, revisionsspor, identitets- og adgangsstyring samt CI/CD-integration til løbende forbedringer og risikostyring. Det integrerer AI i standardpraksis for softwareudvikling og -implementering, hvilket gør det muligt for arkitekturen at understøtte agenters autonomi, samtidig med at streng overholdelse af krav håndhæves, og arbejdsgangene imødekommes, hvor de er.

Fra politik til praksis med Haystack: Anvendelsestilfælde fra den virkelige verden

Hvis organisationer er usikre på, hvordan specialtilpasset AI kan implementeres, har vi hos deepset arbejdet i regulerede miljøer med høj risiko for at bevise, at specialtilpasset AI-orkestrering er afgørende som et horisontalt styringslag på tværs af infrastrukturen. 

På det tyske forbundsministerium for forskning, teknologi og rumfart havde medarbejderne eksempelvis tidligere svært ved at navigere i en manual på 200 sider, der regulerede finansieringsprogrammer, hvilket medførte forsinkelser og uoverensstemmelser i efterfølgende opgaver. Dette blev løst med et specialtilpasset AI-system bygget på Haystack, som nu leverer verificerede svar på medarbejdernes spørgsmål om manualen på under tre sekunder og med fuld kildeangivelse. Det har forbedret effektiviteten uden at gå på kompromis med overholdelse af krav, sporbarhed og design med mennesket i beslutningssløjfen.

I forsvarssammenhænge har KITCH-projektet, der ledes af  Airbus Defense and Space, anvendt orkestrerede, RAG-baserede agentsystemer til at integrere simuleringer og avancerede værktøjer for at understøtte beslutninger i realtid i situationer, der ændrer sig hurtigt. De har anvendt disse programmer til at udvikle kontekstbevidst indsigt i missionskritiske miljøer, som understøtter hurtigere og mere pålidelige beslutninger for ledere.

På bredere EU-niveau har Europa-Kommissionen bygget sin suveræne AI-platform på Haystack for at muliggøre den tilpasning, der kræves for at imødekomme forskellige afdelingers behov, samtidig med at der sikres kontrol over infrastruktur og arkitekturer, som opfylder standardkrav, og skabes et økosystem for innovation og gentagelighed.

Mod en AI-integreret fremtid i den offentlige sektor

Regulerede brancher har særlige behov for agentisk AI. De skal kunne styre, revidere, tilpasse og have tillid til deres AI, hvilket betyder, at generiske løsninger aldrig vil være tilstrækkelige. Suveræne systemer, der er bygget med fokus på produktionsparathed, vil definere den næste bølge af AI-anvendelse i den offentlige sektor.

I centrum for denne udvikling står AI-orkestrering. Suveræn AI skabes ikke ved at vælge den “rigtige” model. Den skabes ved at designe den rette kontekst gennem et modstandsdygtigt, orkestreret system. Efterhånden som AI udvikler sig på disse arbejdspladser, vil den reelle transformation i regulerede miljøer komme fra platforme, der forbinder agenters autonomi med kontrol, overholdelse af krav, sporbarhed og menneskeligt ansvar. Det er fremtiden for ansvarlig, suveræn AI og den mulighed, der ligger foran offentlige institutioner, som er villige til gennemtænkt at forme fremtiden for deres arbejdsgange.

Hold dig opdateret

Glem ikke at tilmelde dig vores nyhedsbrev for flere ressourcer og vejledninger om produktledelse samt de seneste podcasts, interviews og andre indsigter fra brancheledere og eksperter.