Saken for skreddersydd, suveren KI i offentlig sektor

Agentisk kunstig intelligens har tatt steget inn på arbeidsplassen på tvers av sektorer. Det betyr at KI-systemer nå, i stedet for bare å svare på instruksjoner, bruker kontekstteknikk til å planlegge, resonnere og handle innenfor reelle operative arbeidsflyter. Dette steget er kanskje mest betydningsfullt og utfordrende i regulerte miljøer (som finans, biovitenskap, offentlig forvaltning, forsvar og offentlige institusjoner), der tillit, etterlevelse og ansvarlighet er påkrevd.

Selv i offentlig sektor har organisasjoner problemer med å ta i bruk agentisk KI på riktig måte på grunn av mangel på verktøy. Men frittstående modeller og «påmonterte» KI-funksjoner som er populære i offentligheten, klarer overhodet ikke å håndtere de omfattende operative, styringsmessige og regulatoriske integrasjonene som offentlige miljøer krever.

Mens kommersielle virksomheter kan anta risikoen ved å ta i bruk standardløsninger for grunnleggende arbeidsflyter, vil IT-ledere i større virksomheter og offentlige ledere ofte oppleve at disse løsningene er uklare når det gjelder nøyaktig hvilke intelligente produkter de introduserer i sensitive økosystemer. Det er her suveren KI, en nasjons eller organisasjons evne til å produsere og kontrollere sin egen kunstige intelligens ved hjelp av lokalt eid infrastruktur, data og personell, blir en avgjørende produktegenskap.

Hos deepset gjenspeiler vårt arbeid med åpen kildekode og Haystack bredere endringer i næringslivet og offentlig sektor. Organisasjoner beveger seg bort fra pilotprosjekter og ferdigpakkede KI-løsninger, og mot et fokus på KI-orkestrering for sine omveltende bruksområder – prosessen med å koordinere flere modeller, verktøy og systemer til samordnede arbeidsflyter som leverer konsistente og ansvarlige resultater. I regulerte bransjer innebærer dette skreddersydde, oppdragsorienterte systemer og agenter som leverer målbare resultater, samtidig som de overholder regelverket og er motstandsdyktige mot endringer.

Ettersom Europa tar ledelsen i utformingen av økosystemer for suveren KI, har vi utviklet Haystack for å muliggjøre denne fremtiden. Basert på min erfaring er dette hvordan organisasjoner kan bygge produksjonsklare, suverene og agentiske KI-løsninger for regulerte miljøer, og hvorfor tilpasning er nøkkelen til å oppnå pålitelighet og suverenitet på en ansvarlig måte.

De tre grunnpilarene i suverene KI-systemer

For produktledere er suveren KI verken et politisk standpunkt eller bare en avkrysningsboks for etterlevelse, men en produkt- og driftsmodell for regulerte miljøer. Når agentisk KI innføres i disse økosystemene, må den implementeres på en gjennomtenkt måte som møter arbeidsflytene der de befinner seg.

De tre grunnpilarene i suveren KI er tilpasningsmuligheter, fleksibel utrulling og et grunnlag med åpen kildekode. Disse prinsippene bør styre enhver strategi for implementering av KI i en regulert bransje, uansett hvor i verden organisasjonen befinner seg.

●  Tilpasningsmuligheter: Å skreddersy KI-pipelines og agenter til en virksomhets eller offentlig organisasjons spesifikke domenekunnskap, regler og styringskrav for å oppnå tillit.

●  Fleksibel utrulling: KI-en bør kunne kjøre hvor som helst, for eksempel i skyen, på sikre lokale systemer, i hybride miljøer, i en virtuell privat sky eller til og med i fysisk isolerte miljøer.

●  Grunnlag med åpen kildekode: Å sikre åpenhet, etterprøvbarhet og frihet fra leverandørbinding, slik at systemer kan kjøres på tvers av ulike suverenitetsgrenser.

Til sammen gjør disse tre grunnpilarene det mulig for organisasjoner å bygge KI de kan stole på, kontrollere og virkelig eie, samtidig som de fremmer tettere samarbeid mellom produktteam, sluttbrukere, sikkerhets- og juridiske interessenter.

Særtrekk ved offentlig sektor

I regulerte miljøer følger det mange risikoer med å ta i bruk agentisk KI – sikkerhetsbrudd, manglende etterlevelse og «svarte bokser»-avgjørelser som ikke kan revideres. Ettersom organisasjoner står ansvarlige for hver beslutning KI-agentene deres tar, og for alle sensitive data disse systemene berører, må offentlige institusjoner prioritere kontroll, etterlevelse og tillit fra første dag av implementeringen.

For å støtte prosessen og endringshåndteringen i organisasjonen må disse KI-systemene dessuten bidra til å skape bransjestandarder for tilsvarende arbeidsflyter. Én enkelt KI-løsning som passer for alle, fungerer ganske enkelt ikke når KI og KI-agenter må operere under ulike juridiske rammeverk, dataklassifiseringer og ansvarsmodeller. Å hente en «standardløsning» fra hyllen vil påvirke disse regulerte arbeidsflytene og kreve at de ansatte tilpasser seg, samtidig som risikoen og ansvaret knyttet til dataene og beslutningstakingen er uklare. Derfor er tilpasning avgjørende for at KI skal lykkes i regulerte bransjer.

Tilpasning oppfattes ofte som langsomt eller kostbart. Med riktige nivåer og lag av åpen orkestrering kan team gå fra prototyping til iterativ testing og produksjonsutrulling på noen få uker. Orkestrering gjør det mulig for KI-systemer å utvikle seg trygt og trinnvis uten at styringen svekkes. Disse systemene blir deretter standarder som andre avdelinger eller nivåer i offentlig sektor kan ta i bruk og tilpasse til sine behov. Dette beskrives ofte av praktisk orienterte virksomhetsarkitekter og plattformteam som evnen til å standardisere repeterbare arkitekturer.

Slik ser tilpassede, suverene KI-systemer ut

Ved vurdering av alternativer for suveren KI omfatter vellykkede suverene KI-systemer:

1. Kontroll over modeller, data og distribusjon: Modulær orkestrering av KI-pipelines unngår leverandørbinding, integrerer sensitive data på en sikker måte og distribueres på selvhostede miljøer.
2. Sikkerhetsfokusert infrastruktur og etterprøvbarhet: Innebygd logging, tilgangskontroller og samsvarsberedskap som støtter offentlig tillit og åpenhet.
3. Utforming med mennesket i loopen: Mennesker har fortsatt ansvaret for beslutninger, mens KI automatiserer det repetitive arbeidet, uten å erstatte de ansattes vurderingsevne eller erfaringsbaserte kunnskap, men heller bygger dette inn i arbeidsflytene.
4. Forklarbarhet og sporbarhet: Alle resultater må være synlige og kunne begrunnes under revisjoner og gjennomganger av styring og etterlevelse.

Det er derfor offentlige etater beveger seg bort fra store KI-modeller og punktløsninger og over mot produksjonsklar, sikker infrastruktur som er utviklet spesifikt for deres virkelige arbeidsflyter.

På grunn av KI-agenters «hype» har organisasjoner fokusert på å finne en KI-modell å arbeide med og distribuere. For å bygge KI-agenter man kan stole på i regulerte miljøer må teamene imidlertid begynne med orkestrering. Modeller og systemutforminger vil naturlig endre seg.

Modulære orkestreringsplattformer gjør det mulig for organisasjoner å integrere modeller, domenelogikk og data som utskiftbare komponenter i styrte KI-pipelines. Disse pipeline-ene bygges med detaljerte datakontroller, testprosedyrer for tilbakemeldinger fra brukere, revisjonsspor, identitets- og tilgangsstyring samt CI/CD-integrasjon for kontinuerlig forbedring og risikostyring. Dette bringer KI inn i standard praksis for programvareutvikling og -distribusjon, noe som gjør det mulig for arkitekturen å legge til rette for agentautonomi samtidig som strenge krav til etterlevelse håndheves og arbeidsflytene ivaretas.

Fra retningslinjer til praksis med Haystack: Eksempler fra virkeligheten

Hvis organisasjoner er usikre på hvordan spesialtilpasset KI kan distribueres, har vi i deepset arbeidet i regulerte situasjoner med høy risiko for å bevise at spesialtilpasset KI-orkestrering er avgjørende som et horisontalt styringslag på tvers av infrastrukturen. 

Ved det tyske føderale departementet for forskning, teknologi og romfart hadde de ansatte for eksempel tidligere problemer med å navigere i en 200-siders håndbok som regulerte finansieringsprogrammer, noe som førte til forsinkelser og uoverensstemmelser i påfølgende oppgaver. Dette ble løst med et spesialtilpasset KI-system bygget på Haystack, som nå leverer verifiserte svar på de ansattes spørsmål om håndboken på under tre sekunder, med full kildeangivelse. Dette har forbedret effektiviteten uten å ofre etterlevelse, sporbarhet og utforming med mennesket i loopen.

I forsvarssammenhenger har KITCH-prosjektet, ledet av  Airbus Defense and Space, brukt orkestrerte, RAG-baserte agentsystemer til å integrere simuleringer og avanserte verktøy for å støtte beslutninger i sanntid i situasjoner som endrer seg raskt. De har brukt disse programmene til å utvikle kontekstbevisst innsikt i oppdragskritiske miljøer som støtter raskere og mer pålitelige beslutninger for ledere.

På et bredere EU-nivå har Europakommisjonen bygget sin suverene KI-plattform på Haystack for å muliggjøre den tilpasningen som kreves for å møte behovene til ulike avdelinger, samtidig som den sikrer kontroll over infrastruktur og arkitekturer som oppfyller kravene i standardene, og skaper et økosystem for innovasjon og gjenbruk.

Mot en KI-integrert fremtid i offentlig sektor

Regulerte bransjer har særskilte behov for agentisk KI. De må kunne styre, revidere, tilpasse og stole på KI-en sin, noe som betyr at generiske løsninger aldri vil være tilstrekkelige. Suverene systemer bygget med produksjonsberedskap i tankene vil definere den neste bølgen av KI-adopsjon i offentlig sektor.

Sentrum for denne endringen er KI-orkestrering. Suveren KI bygges ikke ved å velge den «riktige» modellen. Den bygges ved å utforme den riktige konteksten gjennom et robust, orkestrert system. Etter hvert som KI utvikler seg på disse arbeidsplassene, vil reell transformasjon i regulerte miljøer komme fra plattformer som knytter agentautonomi til kontroll, etterlevelse, sporbarhet og menneskelig ansvarlighet. Dette er fremtiden for ansvarlig, suveren KI og muligheten som ligger foran offentlige institusjoner som er villige til å bygge fremtidens arbeidsflyter på en gjennomtenkt måte.

Hold deg oppdatert

Ikke glem å abonnere på nyhetsbrevet vårt for flere ressurser og veiledninger om produktledelse, i tillegg til de nyeste podkastene, intervjuene og annen innsikt fra bransjeledere og eksperter.