Argumenten för anpassad, suverän AI i offentlig sektor

Agentisk AI har gjort sitt intåg på arbetsplatser inom alla sektorer, vilket innebär att AI-system nu, i stället för att bara svara på instruktioner, använder kontextteknik för att planera, resonera och agera inom verkliga operativa arbetsflöden. Detta intåg är kanske mest betydelsefullt och utmanande i reglerade miljöer (tänk finans, livsvetenskaper, myndigheter, försvar och offentliga institutioner), där förtroende, efterlevnad och ansvarsskyldighet krävs.

Även inom den offentliga sektorn har organisationer svårt att införa agentisk AI på rätt sätt på grund av brist på verktyg. Men fristående modeller och ”påbyggda” AI-funktioner som är populära i allmänhetens ögon misslyckas fullständigt med att hantera de djupa operativa, styrningsmässiga och regulatoriska integrationer som offentliga miljöer kräver.

Medan vinstdrivande företag kan ta risken att införa färdiga lösningar för grundläggande arbetsflöden, upptäcker CIO:er i stora företag och offentliga ledare ofta att dessa lösningar är otydliga när det gäller exakt vilka intelligenta produkter de introducerar i känsliga ekosystem. Det är här suverän AI, en nations eller organisations förmåga att producera och kontrollera sin egen artificiella intelligens med hjälp av lokalt ägd infrastruktur, data och personal, blir en särskiljande faktor i produktutformningen.

På deepset återspeglar vårt arbete med öppen källkod genom Haystack bredare förändringar inom företagsvärlden och den offentliga sektorn. Organisationer går från pilotprojekt och färdigpaketerad AI till att fokusera på AI-orkestrering för sina omvälvande användningsområden – processen att samordna flera modeller, verktyg och system till enhetliga arbetsflöden som ger konsekventa resultat med tydligt ansvar. I reglerade branscher handlar detta om anpassade, uppdragsanpassade system och agenter som ger mätbara resultat samtidigt som de förblir kompatibla med regelverk och motståndskraftiga mot förändringar.

När Europa tar ledningen i utformningen av suveräna AI-ekosystem har vi byggt Haystack för att möjliggöra denna framtid. Baserat på min erfarenhet är detta hur organisationer kan bygga produktionsklara suveräna, agentiska AI-lösningar för reglerade miljöer, och varför anpassning är nyckeln till att på ett ansvarsfullt sätt uppnå tillförlitlighet och suveränitet.

De tre grundpelarna i suveräna AI-system

För produktansvariga är suverän AI varken en politisk ståndpunkt eller bara en kryssruta för regelefterlevnad, utan en produktdriftsmodell för reglerade miljöer. När agentisk AI införs i dessa ekosystem måste den implementeras genomtänkt på ett sätt som möter arbetsflödena där de befinner sig.

De tre grundpelarna i suverän AI är anpassningsbarhet, flexibilitet vid driftsättning och en grund baserad på öppen källkod. Dessa principer bör vägleda alla strategier för AI-implementering i en reglerad bransch, oavsett var geografiskt de befinner sig.

●  Anpassningsbarhet: Att anpassa AI-pipelines och agenter till en företags- eller offentlig organisations specifika domänkunskap, regler och styrningskrav för att skapa tillförlitlighet.

●  Flexibilitet vid driftsättning: AI:n bör kunna köras var som helst, exempelvis i molnet, i säkra lokala system, i hybrida miljöer, i privata virtuella moln eller till och med i miljöer som är helt isolerade från andra nätverk.

●  Grund baserad på öppen källkod: Att säkerställa transparens, granskningsbarhet och frihet från leverantörsberoende samt att köra system över olika suveränitetsgränser.

Tillsammans gör dessa tre grundpelare det möjligt för organisationer att bygga AI som de kan lita på, kontrollera och verkligen äga, samtidigt som ett tätare samarbete främjas mellan produktteam, slutanvändare samt säkerhets- och juridikansvariga.

Särdrag inom offentlig sektor

I reglerade miljöer finns många risker förknippade med införandet av agentisk AI – säkerhetsintrång, bristande regelefterlevnad och ”svarta lådan”-beslut som inte kan granskas. Eftersom organisationer hålls ansvariga för varje beslut deras AI-agenter fattar och alla känsliga data som dessa system hanterar, måste offentliga institutioner prioritera kontroll, efterlevnad och förtroende redan från första dagen av implementeringen.

För att underlätta processen och förändringshanteringen inom organisationen måste dessa AI-system dessutom bidra till att skapa branschstandarder för liknande arbetsflöden. En enda AI-lösning som passar alla fungerar helt enkelt inte när AI och AI-agenter måste verka under olika rättsliga ramverk, dataklassificeringar och ansvarsmodeller. Att ta en ”standardlösning i storformat” från hyllan kommer att påverka dessa reglerade arbetsflöden och kräva att medarbetarna anpassar sig, samtidigt som riskerna och ansvaret för data och beslutsfattande blir otydliga. Därför är anpassning avgörande för att AI ska lyckas i reglerade branscher.

Anpassning uppfattas ofta som långsam eller dyr. Med rätt nivåer och lager av öppen orkestrering kan team gå från prototypframtagning till iterativ testning och produktionsdriftsättning på några veckor. Orkestrering gör det möjligt för AI-system att utvecklas säkert och stegvis utan att styrningen offras. Dessa system blir sedan standarder som andra avdelningar eller nivåer inom den offentliga sektorn kan införa och anpassa efter sina behov. Detta beskrivs ofta av praktiskt verksamma företagsarkitekter och plattformsteam som förmågan att standardisera återanvändbara arkitekturer.

Så ser anpassade, suveräna AI-system ut

Vid en granskning av alternativ för suverän AI omfattar framgångsrika suveräna AI-system följande:

1. Kontroll över modeller, data och driftsättning: Modulär orkestrering av AI-pipelines undviker leverantörsberoende, integrerar känsliga data på ett säkert sätt och driftsätts i miljöer som organisationerna själva hanterar.
2. Säkerhetsfokuserad infrastruktur och granskningsbarhet: Inbyggd loggning, åtkomstkontroller och beredskap för efterlevnad som stöder allmänhetens förtroende och transparens.
3. Design med människan i loopen: Människor förblir ansvariga för besluten, medan AI automatiserar det repetitiva arbetet utan att ersätta medarbetarnas omdöme eller befintliga kunskap, utan snarare bygger in den i arbetsflödena.
4. Förklarbarhet och spårbarhet: Varje utdata måste vara synlig och kunna motiveras under revisioner och granskningar av styrningen.

Det är därför myndigheter går bortom stora AI-modeller och punktlösningar mot produktionsklara, säkra infrastrukturer som är särskilt utformade för deras arbetsflöden i verkligheten.

På grund av hypen kring AI-agenter har organisationer fokuserat på att hitta en AI-modell att arbeta med och driftsätta. För att bygga tillförlitliga AI-agenter i reglerade miljöer måste teamen dock börja med orkestrering. Modeller och systemutformningar kommer naturligt att förändras.

Modulära orkestreringsplattformar gör det möjligt för organisationer att integrera modeller, domänlogik och data som utbytbara komponenter i styrda AI-pipelines. Dessa pipelines byggs med detaljerade datakontroller, testförfaranden för användarfeedback, revisionsspår, identitets- och åtkomsthantering samt CI/CD-integration för kontinuerliga förbättringar och riskhantering. Detta integrerar AI i standardiserade metoder för programvaruutveckling och driftsättning, vilket gör det möjligt för arkitekturen att ge agenter autonomi samtidigt som strikt efterlevnad upprätthålls och arbetsflödena tillgodoses där de faktiskt används.

Från policy till praktik med Haystack: Verkliga användningsfall

Om organisationer är osäkra på i vilken omfattning anpassad AI kan driftsättas har vi på deepset arbetat i reglerade miljöer med höga insatser för att bevisa att anpassad AI-orkestrering är nödvändig som ett horisontellt hanteringslager över infrastrukturen. 

Vid det tyska federala ministeriet för forskning, teknik och rymd hade personalen tidigare svårt att navigera i en manual på 200 sidor som reglerade finansieringsprogram, vilket orsakade förseningar och inkonsekvenser i efterföljande uppgifter. Detta löstes med ett anpassat AI-system byggt på Haystack, som nu levererar verifierade svar på medarbetarnas frågor om manualen på under tre sekunder, med fullständig källhänvisning. Detta har förbättrat effektiviteten utan att kompromissa med efterlevnad, spårbarhet eller design med människan i loopen.

I försvarssammanhang har KITCH-projektet, som leds av  Airbus Defense and Space, använt orkestrerade agentbaserade system baserade på RAG för att integrera simuleringar och avancerade verktyg som stöd för realtidsbeslut i snabbt föränderliga situationer. De har använt dessa program för att utveckla kontextmedvetna insikter i uppdragskritiska miljöer som stöder snabbare och mer tillförlitligt beslutsfattande för ledare.

På en bredare EU-nivå har Europeiska kommissionen byggt sin suveräna AI-plattform på Haystack för att möjliggöra den anpassning som krävs för att möta olika avdelningars behov, samtidigt som kontrollen över infrastruktur och arkitekturer som uppfyller standardkrav säkerställs och ett ekosystem för innovation och återanvändbarhet skapas.

Mot en AI-integrerad framtid i den offentliga sektorn

Reglerade branscher har särskilda behov av agentbaserad AI. De måste kunna styra, granska, anpassa och lita på sin AI, vilket innebär att generiska lösningar aldrig kommer att räcka. Suveräna system som byggs med produktionsberedskap i åtanke kommer att definiera nästa våg av AI-användning i den offentliga sektorn.

I centrum för denna förändring står AI-orkestrering. Suverän AI byggs inte genom att välja den ”rätta” modellen. Den byggs genom att utforma rätt kontext med hjälp av ett motståndskraftigt, orkestrerat system. När AI utvecklas på dessa arbetsplatser kommer verklig omvandling i reglerade miljöer att komma från plattformar som knyter samman agenternas autonomi med kontroll, efterlevnad, spårbarhet och mänskligt ansvar. Det är framtiden för ansvarsfull, suverän AI och den möjlighet som ligger framför offentliga institutioner som är beredda att på ett genomtänkt sätt bygga framtidens arbetsflöden.

Håll dig uppdaterad

Glöm inte att prenumerera på vårt nyhetsbrev för fler resurser och guider om produktledning, samt de senaste poddarna, intervjuerna och andra insikterna från branschledare och experter.