De zaak voor aangepaste, soevereine AI in de publieke sector
Agentische AI heeft in verschillende sectoren haar intrede gedaan op de werkvloer. Dat betekent dat AI-systemen niet langer alleen op prompts reageren, maar nu contextontwerp gebruiken om binnen echte operationele werkstromen te plannen, te redeneren en te handelen. Deze intrede is wellicht het meest ingrijpend en uitdagend in gereguleerde omgevingen (denk aan financiën, levenswetenschappen, de overheid, defensie en publieke instellingen), waar vertrouwen, naleving en verantwoordingsplicht vereist zijn.
Zelfs in de publieke sector hebben organisaties moeite om agentische AI correct te implementeren vanwege een gebrek aan hulpmiddelen. Maar zelfstandige modellen en “aangeplakte” AI-functies die populair zijn bij het grote publiek, schieten volledig tekort bij het aanpakken van de diepgaande operationele, bestuurlijke en regelgevende integraties die publieke omgevingen vereisen.
Terwijl commerciële bedrijven het risico van het invoeren van kant-en-klare oplossingen voor basiswerkstromen kunnen accepteren, zullen CIO's van ondernemingen en leiders in de publieke sector deze oplossingen vaak onduidelijk vinden over welke intelligente producten ze precies in gevoelige ecosystemen introduceren. Hier wordt soevereine AI, het vermogen van een land of organisatie om zijn eigen kunstmatige intelligentie te produceren en te beheren met behulp van lokaal beheerde infrastructuur, gegevens en personeel, een onderscheidende productfactor.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Bij deepset weerspiegelt ons opensourcewerk met Haystack bredere verschuivingen binnen het bedrijfsleven en de publieke sector. Organisaties bewegen weg van pilots en voorverpakte AI en richten zich op AI-orkestratie voor hun transformatieve toepassingen: het proces waarbij meerdere modellen, hulpmiddelen en systemen worden gecoördineerd tot uniforme werkstromen die consistente en verantwoordbare resultaten opleveren. In gereguleerde sectoren gaat het hierbij om aangepaste, op de missie afgestemde systemen en agenten die meetbare resultaten opleveren en tegelijkertijd conform de regelgeving en veerkrachtig blijven bij veranderingen.
Nu Europa het voortouw neemt bij het definiëren van ecosystemen voor soevereine AI, hebben wij Haystack gebouwd om deze toekomst mogelijk te maken. Op basis van mijn ervaring is dit de manier waarop organisaties productieklare soevereine, agentische AI-oplossingen voor gereguleerde omgevingen kunnen bouwen, en waarom maatwerk de sleutel is tot het op verantwoorde wijze bereiken van betrouwbaarheid en soevereiniteit.
De drie pijlers van soevereine AI-systemen
Voor productleiders is soevereine AI geen politieke stellingname en ook niet slechts een vinkje voor naleving, maar een operationeel productmodel voor gereguleerde omgevingen. Wanneer agentische AI in deze ecosystemen wordt geïntroduceerd, moet deze doordacht worden geïmplementeerd op een manier die aansluit op de bestaande werkstromen.
De drie pijlers van soevereine AI zijn aanpasbaarheid, flexibiliteit in implementatie en een opensourcebasis. Deze principes moeten elke AI-implementatiestrategie in een gereguleerde sector sturen, ongeacht de geografische locatie.
● Aanpasbaarheid: AI-pijplijnen en agenten afstemmen op de specifieke domeinkennis, regels en vereisten voor governance van een onderneming of publieke organisatie, zodat ze betrouwbaar zijn.
● Flexibiliteit in implementatie: De AI moet overal kunnen draaien, bijvoorbeeld in de cloud, op beveiligde lokale systemen, in een hybride omgeving, in een virtuele private cloud of zelfs in omgevingen zonder netwerkverbinding.
● Opensourcebasis: Transparantie, controleerbaarheid en vrijheid van leveranciersafhankelijkheid waarborgen, waarbij systemen over verschillende soevereiniteitsgrenzen heen kunnen draaien.
Samen stellen deze drie pijlers organisaties in staat om AI te bouwen die ze kunnen vertrouwen, beheren en echt bezitten, en bevorderen ze tegelijkertijd nauwere samenwerking tussen productteams, eindgebruikers, beveiligings- en juridische belanghebbenden.
Onderscheidende kenmerken van de publieke sector
In gereguleerde omgevingen brengt de invoering van agentische AI veel risico's met zich mee – beveiligingsinbreuken, tekortkomingen in de naleving en “zwarte-doos”-beslissingen die niet kunnen worden gecontroleerd. Omdat organisaties verantwoordelijk zijn voor elke beslissing die hun AI-agenten nemen en voor alle gevoelige gegevens die deze systemen aanraken, moeten publieke instellingen vanaf de eerste dag van de implementatie prioriteit geven aan controle, naleving en vertrouwen.
Om het proces en verandermanagement binnen de organisatie te ondersteunen, moeten deze AI-systemen bovendien helpen om industrienormen te creëren voor vergelijkbare werkstromen. Eén uniforme AI-oplossing werkt eenvoudigweg niet wanneer AI en AI-agenten moeten functioneren onder verschillende juridische kaders, gegevensclassificaties en verantwoordingsmodellen. Een “alles-in-éénoplossing” van de plank halen zal deze gereguleerde werkstromen beïnvloeden en vereisen dat medewerkers zich aanpassen, terwijl de risico's en aansprakelijkheid rond de gegevens en besluitvorming onduidelijk blijven. Daarom is maatwerk essentieel voor het succes van AI in gereguleerde sectoren.
Maatwerk wordt vaak gezien als traag of duur. Met de juiste niveaus en lagen van open orkestratie kunnen teams binnen enkele weken van prototypen naar iteratief testen en implementatie in productie gaan. Orkestratie stelt AI-systemen in staat zich veilig en stapsgewijs te ontwikkelen, zonder governance op te offeren. Deze systemen worden vervolgens standaarden die andere afdelingen of overheidsniveaus kunnen overnemen en aan hun behoeften kunnen aanpassen. Praktijkgerichte bedrijfsarchitecten en platformteams beschrijven dit vaak als het vermogen om herhaalbare architecturen te standaardiseren.
Hoe aangepaste, soevereine AI-systemen eruitzien
Bij het onderzoeken van opties voor soevereine AI omvatten succesvolle soevereine AI-systemen het volgende:
- Controle over modellen, gegevens en implementatie: Modulaire orkestratie van AI-pijplijnen voorkomt afhankelijkheid van leveranciers, integreert gevoelige gegevens veilig en wordt geïmplementeerd in zelfgehoste omgevingen.
- Infrastructuur en controleerbaarheid met beveiliging als uitgangspunt: Ingebouwde logboekregistratie, toegangscontroles en gereedheid voor naleving ondersteunen het vertrouwen van het publiek en transparantie.
- Ontwerp met de mens in de lus: Mensen blijven verantwoordelijk voor beslissingen, waarbij AI het repetitieve werk automatiseert zonder het beoordelingsvermogen of de bestaande kennis van medewerkers te vervangen, maar deze juist in werkstromen integreert.
- Uitlegbaarheid en traceerbaarheid: Elke uitvoer moet zichtbaar en te rechtvaardigen zijn tijdens audits en beoordelingen van governance.
Daarom gaan overheidsinstanties verder dan grootschalige AI-modellen en puntoplossingen en kiezen ze voor productierijpe, veilige infrastructuur die specifiek is ontworpen voor hun werkelijke werkstromen.
Door de “hype” rond AI-agenten hebben organisaties zich gericht op het vinden en implementeren van een AI-model. Om betrouwbare AI-agenten in gereguleerde omgevingen te bouwen, moeten teams echter beginnen met orkestratie. Modellen en systeemontwerpen zullen natuurlijk veranderen.
Modulaire orkestratieplatforms stellen organisaties in staat om modellen, domeinlogica en gegevens als verwisselbare componenten binnen beheerde AI-pijplijnen te integreren. Deze pijplijnen zijn gebouwd met fijnmazige gegevenscontroles, testprocedures voor gebruikersfeedback, audittrail, identiteits- en toegangsbeheer en CI/CD-integratie voor voortdurende verbetering en risicobeheer. Hierdoor wordt AI onderdeel van de standaardpraktijk voor softwareontwikkeling en -implementatie. Dit maakt het mogelijk dat de architectuur de autonomie van agenten ondersteunt, terwijl strikte naleving wordt afgedwongen en wordt aangesloten op de bestaande werkstromen.
Van beleid naar praktijk met Haystack: toepassingen uit de echte wereld
Als organisaties niet zeker weten op welke manier aangepaste AI kan worden ingezet, hebben we bij deepset in gereguleerde omgevingen met grote belangen gewerkt om aan te tonen dat aangepaste AI-orkestratie essentieel is als horizontale beheerlaag binnen de infrastructuur.
Bij het Duitse federale ministerie van Onderzoek, Technologie en Ruimtevaart hadden medewerkers bijvoorbeeld eerder moeite om hun weg te vinden in een handleiding van 200 pagina's voor financieringsprogramma's, wat vertragingen en inconsistenties bij daaropvolgende taken veroorzaakte. Dit werd opgelost met een aangepast AI-systeem dat op Haystack is gebouwd. Dit systeem levert nu binnen drie seconden geverifieerde antwoorden op vragen van medewerkers over de handleiding, inclusief volledige bronvermelding. Hierdoor is de efficiëntie verbeterd zonder in te leveren op naleving, traceerbaarheid en een ontwerp met de mens in de lus.
In defensiecontexten hebben de deelnemers aan het door Airbus Defense and Space geleide KITCH-project georkestreerde, op RAG gebaseerde agentsystemen gebruikt om simulaties en geavanceerde hulpmiddelen te integreren ter ondersteuning van realtimebeslissingen in snel veranderende situaties. Ze hebben deze programma's gebruikt om contextbewuste inzichten te ontwikkelen in bedrijfskritieke omgevingen, die leiders ondersteunen bij het nemen van snellere en betrouwbaardere beslissingen.
Op het bredere niveau van de EU heeft de Europese Commissie haar soevereine AI-platform op Haystack gebouwd om de benodigde aanpassing aan de behoeften van verschillende afdelingen mogelijk te maken, terwijl de controle over infrastructuur en architecturen die aan de normen voldoen wordt gewaarborgd en een ecosysteem voor innovatie en herhaalbaarheid wordt gecreëerd.
Op weg naar een AI-geïntegreerde toekomst in de publieke sector
Gereguleerde sectoren hebben specifieke behoeften op het gebied van AI-agenten. Ze moeten hun AI kunnen besturen, auditen, aanpassen en vertrouwen, wat betekent dat generieke oplossingen nooit zullen volstaan. Soevereine systemen die zijn gebouwd met productierijpheid als uitgangspunt zullen de volgende golf van AI-adoptie in de publieke sector bepalen.
AI-orkestratie vormt het middelpunt van deze verschuiving. Soevereine AI wordt niet gebouwd door het “juiste” model te kiezen. Het wordt gebouwd door de juiste context te ontwerpen binnen een veerkrachtig, georkestreerd systeem. Naarmate AI zich op deze werkplekken ontwikkelt, zal echte transformatie in gereguleerde omgevingen voortkomen uit platforms die de autonomie van agenten verbinden met controle, naleving, traceerbaarheid en menselijke verantwoordelijkheid. Dat is de toekomst van verantwoorde, soevereine AI en de kans die voor publieke instellingen ligt die bereid zijn de toekomst van hun werkstromen zorgvuldig vorm te geven.
Blijf op de hoogte
Vergeet niet je te abonneren op onze nieuwsbrief voor meer hulpmiddelen en handleidingen voor productleiders, evenals de nieuwste podcasts, interviews en andere inzichten van leiders en experts uit de sector.
Haak 1: De huidige stand van agentische AI
Haak 2: Uitdagingen voor de publieke sector
Haak 3: Drie pijlers van soevereine AI-systemen
Haak 4: Het profiel van aangepaste AI-systemen
Haak 5: Resultaten uit de praktijk
